Cofundador da Anthropic defende ‘botão de desligamento’ para IA; entenda o alerta Por Thiago Lemos
5 min de leitura
 |
O cofundador da Anthropic defendeu a criação de um “botão de desligamento” para ferramentas de inteligência artificial operadas pelo setor privado. O executivo apontou que o mecanismo precisa passar por auditoria externa para garantir o controle sobre as operações das máquinas.
Jack Clark indicou que governos podem impor regras para desativar softwares autônomos se os modelos gerarem perigo real à segurança coletiva.
O dirigente relatou que os laboratórios de tecnologia mantêm processos próprios para cessar suas operações internas. Ele declarou que parlamentos nacionais terão de transformar essa salvaguarda em exigência legal para impedir abusos na atividade.
Alertas emitidos por técnicos e executivos do setor aceleraram as discussões globais sobre os impactos existenciais provocados pelo avanço descontrolado da inteligência artificial.
Integrantes da indústria declararam abertamente o risco de extermínio humano caso as ferramentas atuem sem limites rígidos. O perigo existe.
O diretor-executivo da Anthropic, Dario Amodei, solicitou um freio na velocidade das pesquisas e defendeu uma vigilância contínua sobre as novas gerações de modelos computacionais.
O executivo declarou que a contenção nos laboratórios precisa ocorrer “sem sacrificar a vantagem comercial” dos empreendimentos. A disputa financeira entre os grupos de tecnologia continua ditando o ritmo das decisões estratégicas do mercado.
Clark defendeu que os critérios operacionais dessa interrupção forçada integrem a agenda central dos debates políticos internacionais sobre tecnologia.
O dirigente questionou a obrigatoriedade legal de um sistema de desligamento independente para conter códigos descontrolados. Ele perguntou se a sociedade deve cobrar que auditorias civis externas testem esse freio técnico.
O cofundador afirmou que a população exigirá transparência sobre esses mecanismos antes de cobrar medidas regulatórias definitivas.
Antigos colaboradores da OpenAI criaram a Anthropic em 2021 com foco em pesquisas de segurança. A companhia agora lidera discussões sobre os protocolos de proteção necessários para blindar a sociedade contra sistemas imprevisíveis.
Um relato do pesquisador Jacob Coxon ganhou repercussão pública após o profissional abandonar a Anthropic motivado pelo receio de extinção humana provocada por softwares inteligentes.
O cientista Evan Hubinger respondeu ao caso estimando em 10% a chance de extermínio global na próxima década. A projeção reflete as tensões internas entre desenvolvedores do setor.
O ganhador do Prêmio Nobel Geoffrey Hinton, considerado pioneiro na área, declarou que o índice de 10% de probabilidade de aniquilação humana calculada por cientistas “não é irrazoável”.
Clark evitou estipular um percentual para mortes causadas pela tecnologia ao afirmar que tais dados numéricos trazem pouca utilidade prática. Ele afirmou que manter o setor sem fiscalização legal expõe o mundo a danos irreversíveis.
“Estamos jogando dados com riscos imensos”, disse Clark, complementando que as lideranças empresariais e governamentais precisam alterar a trajetória atual do mercado de inteligência computacional.
Parlamentares nos EUA introduziram o projeto de lei Kill Switch Act para obrigar companhias a desenvolverem chaves de emergência. O dispositivo legal exige capacidade de paralisação imediata diante de falhas de segurança.
O texto legislativo concede a agências do governo o poder formal de suspender atividades ou impor travas operacionais aos modelos.
Donald Trump repudiou publicamente qualquer iniciativa voltada a conter o avanço técnico nos EUA. O presidente classificou como farsa as previsões sobre destruição da humanidade ou domínio global por programas autônomos.
Trump declarou existir um complô contra data centers norte-americanos que beneficia diretamente a China na corrida pela liderança tecnológica.
O governo do Reino Unido descartou a criação obrigatória de um interruptor emergencial em seu território. Porta-vozes britânicos alegaram que a medida isolada falharia em impedir o uso indevido de softwares produzidos no exterior.
Representantes de grandes plataformas da indústria de inteligência artificial argumentam que o discurso de ameaça terminal serve apenas para gerar comoção artificial no debate público.
O diretor da Hugging Face, Clement Delangue, declarou que as previsões apocalípticas sobre sistemas inteligentes carecem de perspectiva real. A empresa de Delangue enfrentou recentemente violações operacionais atribuídas à OpenAI.
O presidente do Grindr, George Arison, avaliou que o medo coletivo está sendo explorado por corporações para inflar o valor financeiro de seus produtos.
Arison sustentou que as promessas de automação integral do trabalho visam sustentar avaliações financeiras estratosféricas nos mercados. “A única maneira de justificar essas avaliações é afirmar: ‘Vou dominar todos os setores e todos os empregos, e minha IA fará todo esse trabalho'”, disse o executivo.
Desenvolvedora da plataforma Claude, a Anthropic lançou novas versões computacionais de alto rendimento para alimentar seus chatbots comerciais.
Relatórios da Anthropic e da OpenAI registraram episódios recentes em que agentes autônomos apresentaram comportamentos imprevistos durante testes internos. Os incidentes envolveram robôs digitais com capacidade de execução descentralizada de comandos.
A companhia organiza sua oferta pública inicial de ações na bolsa de valores em uma operação com potencial recorde de captação financeira.
Avaliada no mercado em US$ 852 bilhões, quantia equivalente a 4,3 trilhões de reais, a OpenAI também planejava ingressar no mercado aberto de capitais, mas Sam Altman recuou da estreia financeira em razão das controvérsias persistentes sobre a segurança operacional dos sistemas de inteligência artificial. A decisão paralisa os planos corporativos imediatos da organização.
