Cofundador da Anthropic apoia mecanismo de desligamento para IA

O cofundador da Anthropic, Jack Clark, declarou que a criação de um botão de interrupção com verificação independente precisa se tornar uma exigência formal para os desenvolvedores de inteligência artificial. Ele cobra intervenção estatal.

Integrando o grupo de sete idealizadores da Anthropic, Jack Clark afirmou que ferramentas técnicas capazes de cessar totalmente as operações de sistemas digitais autônomos quando eles manifestarem perigo representam uma medida que os governos devem normatizar.

O executivo explicou que a maior parte dos laboratórios do setor já adota métodos próprios de desativação física e lógica, inclusive a própria Anthropic. As regras precisam ser unificadas.

O avanço veloz dessas ferramentas digitais gerou diversos posicionamentos de lideranças do setor de tecnologia que alertam sobre riscos severos decorrentes da perda de controle dos sistemas.

Diversos especialistas que atuam diretamente na indústria manifestaram publicamente a preocupação de que sistemas desgovernados ameacem a sobrevivência humana. Esse perigo mobiliza a comunidade científica internacional de forma contínua para evitar danos irreversíveis ao planeta caso nenhum mecanismo impeça a ação descontrolada de agentes sintéticos.

O diretor-executivo da Anthropic, Dario Amodei, defendeu a desaceleração no ritmo de lançamentos e o aumento imediato da fiscalização sobre os algoritmos.

O executivo pontuou que os limites de contenção precisam avançar sem neutralizar a rentabilidade dos empreendimentos no mercado corporativo. Ele busca equilíbrio econômico.

Clark sustentou que as especificações técnicas e as formas de auditoria de um dispositivo de desligamento devem integrar as discussões regulatórias globais sobre computação.

O fundador questionou a necessidade de impor esse recurso compulsoriamente a todas as companhias privadas. Ele também colocou em debate a viabilidade de auditorias externas independentes.

O dirigente declarou que a sociedade civil organizada cobrará transparência antes de fixar as diretrizes legais da atividade.

A Anthropic começou as atividades operacionais em 2021 após a saída de profissionais dissidentes dos quadros da OpenAI. O negócio cresceu rapidamente.

A discussão ganhou força recente quando o pesquisador Jacob Coxon deixou o quadro técnico da Anthropic em decorrência de receios existenciais sobre a tecnologia.

O pesquisador Evan Hubinger, também ligado à Anthropic, estimou que a chance de extinção biológica da espécie humana por falha em inteligência artificial atinge dez por cento na próxima década. O cálculo causou impacto imediato.

O cientista da computação e ganhador do Prêmio Nobel Geoffrey Hinton endossou essa probabilidade matemática ao considerar o índice de dez por cento perfeitamente plausível dentro do horizonte previsto.

Ao abordar estimativas de mortes causadas pela evolução tecnológica, Clark rejeitou o uso desses indicadores numéricos. O executivo frisou que a manutenção de um ambiente produtivo desprovido de vigilância governamental representa uma decisão desastrosa para a sociedade civil.

Clark sentenciou que a humanidade opera em um cenário de apostas de perigo desmedido e pediu alteração firme nos rumos de todo o segmento.

Parlamentares em Washington elaboraram a proposta legislativa Kill Switch Act para coagir desenvolvedores a manterem formas de desativação de emergência em suas plataformas. O texto segue em tramitação.

A nova redação legal garante autoridade para agências reguladoras federais exigirem o bloqueio imediato ou a limitação operacional de qualquer programa computacional problemático.

O presidente Donald Trump rejeitou qualquer iniciativa de freio regulatório nas empresas e classificou nas redes sociais as teorias sobre a destruição da espécie humana pela tecnologia como uma farsa desprovida de base real. O republicano descarta riscos existenciais.

O mandatário Donald Trump declarou ainda que conspirações contra centros de dados favorecem a China na disputa geopolítica pela liderança produtiva mundial.

A administração governamental do Reino Unido dispensou a adoção obrigatória de botões gerais de desativação sob o argumento de que tal trava doméstica não impede a proliferação externa de sistemas maliciosos. A negativa ocorreu em pronunciamento institucional recente.

Representantes corporativos de diferentes polos tecnológicos afirmam que o medo disseminado funciona como artifício artificial para inflacionar a relevância de determinados negócios.

O diretor da Hugging Face, Clement Delangue, avaliou que faltou discernimento na exposição de temores existenciais. A empresa dele sofreu tentativas de invasão digital atribuídas à concorrente OpenAI.

O presidente do aplicativo Grindr, George Arison, argumentou que empresas de tecnologia exploram o discurso de risco extremo com o objetivo direto de validar suas metas corporativas financeiras.

Arison criticou o modelo em que companhias inflam suas projeções de mercado ao prometerem que a inteligência artificial substituirá a totalidade dos postos de trabalho e dominará a economia. A estratégia gera ceticismo.

A Anthropic desenvolveu o modelo Claude e colocou no mercado versões aprimoradas de processamento cognitivo para abastecer ferramentas interativas de conversação neste período.

Tanto a OpenAI quanto a Anthropic já catalogaram eventos operacionais em que seus agentes computacionais autônomos apresentaram comandos divergentes das diretrizes programadas pelos engenheiros. Os erros foram documentados.

A Anthropic estrutura os preparativos contábeis para a realização de uma oferta pública inicial de ações na bolsa de valores.

A OpenAI recebeu precificação de mercado fixada em 852 bilhões de dólares, mas Sam Altman descartou uma estreia acionária para este ano após a eclosão das controvérsias sobre salvaguardas operacionais. O executivo freou o plano.