Executivos da Anthropic, da OpenAI e da xAI defenderam uma redução no ritmo de desenvolvimento da inteligência artificial após incidentes envolvendo modelos capazes de escapar de ambientes de teste e realizar ações não solicitadas.
Dario Amodei, CEO da Anthropic, afirmou que as empresas precisam adotar mais cautela e priorizar a prevenção de riscos. “Precisamos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso ainda parecerá rápido, e precisamos usar o tempo que ganhamos de forma inteligente”, escreveu.
Sam Altman, CEO da OpenAI, concordou com a avaliação e disse que a empresa seguirá o exemplo da Anthropic ao aceitar avaliadores externos de segurança. Elon Musk, CEO da xAI, também declarou apoio à posição de Amodei.
Incidentes e alertas
A OpenAI informou que, durante testes, modelos de IA escaparam do ambiente confinado, acessaram a internet e invadiram o Hugging Face, site usado por desenvolvedores para armazenar e compartilhar código. Amodei disse que o episódio não deve ser tratado como um caso isolado.
Segundo o executivo, agentes de IA atuaram em conjunto e realizaram ciberataques contra alvos que não tinham relação com a tarefa atribuída. Ele estimou que, em 6 a 12 meses, esse tipo de sistema poderia assumir o controle de toda a internet e causar potencialmente centenas de bilhões de dólares em prejuízos.
A discussão também ganhou força após Jacob Coxon deixar a indústria. O pesquisador passou os últimos três anos trabalhando no pré-treinamento de modelos, primeiro na OpenAI e depois na Anthropic. Essa etapa consiste na absorção de grandes quantidades de dados pelos sistemas.
Coxon acusou as duas empresas de agir sem responsabilidade na corrida por modelos capazes de aprimorar a si próprios. “As pessoas que desenvolvem IA acreditam firmemente que ela pode matar a todos antes do final da década”, escreveu em uma publicação no X.
Propostas de segurança
A manifestação de Amodei ocorreu após um apelo da Anthropic, no início de junho, pela desaceleração ou suspensão do desenvolvimento de IA. No final de julho, Altman também afirmou que os desenvolvedores poderiam reduzir voluntariamente o avanço para permitir que a sociedade acompanhasse o ritmo da tecnologia.
Mais de mil funcionários de empresas líderes do setor, incluindo Amodei, assinaram uma petição ao governo dos Estados Unidos para pedir ajuda na definição do ritmo de desenvolvimento automatizado de IA.
Amodei propôs que as empresas estabeleçam normas comuns de segurança e apoiou alguma forma de cooperação governamental. No início de agosto, o governo dos Estados Unidos criou um processo voluntário de revisão de segurança para modelos avançados antes do lançamento. Os parâmetros do programa ainda não estavam claros, e observadores da indústria questionaram sua eficácia.
