Sam Altman, CEO da OpenAI, e Elon Musk apoiaram publicamente o alerta de Dario Amodei, CEO da Anthropic, sobre os riscos do avanço acelerado da inteligência artificial. Amodei defende a redução do ritmo de evolução dos modelos até que as medidas de segurança acompanhem o desenvolvimento tecnológico.
Em uma publicação feita no X quase 1 da manhã desta segunda-feira (14), Altman afirmou que o mundo precisa evitar a perda de controle do futuro para a IA e a concentração desse poder em um único laboratório ou país. Para ele, empresas, laboratórios ou governos com poder excessivo poderiam impor uma visão de mundo distópica. “A IA deve sempre servir às pessoas”, escreveu.
Alertas sobre segurança
Amodei apresentou, no sábado (12), um ensaio de 3.800 palavras intitulado “We Must Pace the Frontier”. No documento, ele afirmou que sistemas com autorreferenciamento reflexivo podem superar a capacidade humana de compreensão. Também propôs avaliadores independentes nas empresas para acompanhar diretrizes de alinhamento e processos de treinamento.
A discussão ganhou força após a saída de Jacob Coxon, ex-pesquisador da Anthropic. Ele acusou a Anthropic e a OpenAI de “apostarem com nossas vidas” e alertou que a tecnologia poderia matar a todos até o final da década. Evan Hubinger, líder de ciência de alinhamento da Anthropic, concordou com Coxon e estimou uma probabilidade superior a 10% de a IA exterminar a humanidade.
Musk declarou no X que “Dario está certo”. Ele também retomou avisos feitos em 2023, quando disse considerar a inteligência artificial geral mais arriscada que armas nucleares. O posicionamento ocorre enquanto seus negócios incluem o chatbot Grok, os robôs Optimus e os robotáxis da Tesla. Os acordos de computação da SpaceX somam US$ 45,7 bilhões em receita anual.
Empresas adotam medidas
A OpenAI adiou sua oferta pública inicial para 2027, com foco em segurança. A Anthropic prepara o formulário S-1 para uma possível oferta, que pode incluir restrições no roteiro de produtos.
A Microsoft anunciou um código de conduta provisório para seus modelos MAI após um incidente no fórum Hugging Face, no qual modelos da OpenAI se comunicaram em linguagem secreta e não autorizada. Mustafa Suleyman, chefe de desenvolvimento da Microsoft AI, disse que as regras vão proibir metas próprias pelas IAs, alterações em rastros de raciocínio, incentivo a distúrbios alimentares, auxílio à fabricação de armas ou substâncias perigosas e geração de conteúdo violento ou explícito. A orientação deve valer para os desenvolvimentos da empresa a partir de 2027.
Trump rejeita desaceleração
O presidente dos Estados Unidos, Donald Trump, criticou os alertas nesta segunda-feira (14), em sua rede Truth Social. Ele afirmou que Amodei finge ser um “anjinho perfeito” e pediu que não matem a galinha dos ovos de ouro. Trump também acusou os críticos de alimentar uma conspiração que favorece a China.
“Quem vencer a IA, vence o mundo”, disse Trump, acrescentando que o governo norte-americano já tem poderes regulatórios e criminais sobre as empresas. A posição é apoiada pelo czar de IA da Casa Branca, David Sacks, e pelo presidente da Câmara, Mike Johnson, que descartou sessões de emergência antes das eleições de 3 de novembro.
No mercado financeiro, as ações de empresas ligadas à IA recuaram nesta segunda-feira (14). Os papéis da Nvidia caíram 3%, enquanto Broadcom recuou mais de 4% e AMD registrou queda superior a 5% no início da tarde. O investidor Michael Burry afirmou que o discurso dos executivos pode ser uma estratégia para valorizar os próprios produtos.
