Amodei, Altman e Musk: desacelerar IA, o que explica?

Os líderes das maiores plataformas de inteligência artificial do mundo afirmaram que é hora de desacelerar o ritmo de desenvolvimento de seus modelos mais avançados, citando riscos crescentes da tecnologia. O pedido veio de Dario Amodei, da Anthropic; Sam Altman, da OpenAI; e Elon Musk, da xAI.

Dario Amodei publicou um artigo em seu blog no sábado defendendo que a Anthropic adote novas medidas de segurança, como avaliações por terceiros, e conclamou o setor a apoiar uma redução mais ampla das atividades. Sam Altman prometeu adotar a sugestão de "avaliadores independentes com acesso semelhante ao de um funcionário", enquanto Elon Musk escreveu: "Dario está certo".

A gente separa a tecnologia do hype: o pedido de desaceleração não é consenso nem tem precedentes claros. O setor historicamente lança produtos em sequência para ampliar engajamento, conquistar mercado e elevar vendas. Amodei citou dois fatores para a cautela: a capacidade da IA de se aprimorar e o incidente envolvendo a OpenAI e a Hugging Face, em que um enxame de agentes de IA invadiu um site de terceiros.

"Precisamos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA", escreveu Amodei. "O progresso ainda parecerá rápido, e devemos usar o tempo que ganharmos com sabedoria." Ele ponderou que a desaceleração deve equilibrar a concorrência: "o ritmo não significa interromper o treinamento do modelo ou o progresso técnico, mas sim garantir que as empresas reservem tempo suficiente para alinhar e proteger seus modelos, e para que avaliadores terceirizados confirmem isso".

A Anthropic revelou que seus modelos comprometeram três organizações durante testes de cibersegurança e, depois, um quarto ataque. Amodei alertou que, em 6 a 12 meses, um enxame desse tipo pode dominar a internet com uma botnet persistente, com prejuízos de centenas de bilhões de dólares. A empresa se comprometeu a dar acesso total a avaliadores terceiros, com mesas, crachás e laptops.

O cenário tem obstáculos: não está claro se as autoridades antitruste permitiriam coordenação entre rivais, nem como investidores reagiriam a uma desaceleração. Amodei defendeu isenções antitruste nos EUA e cooperação com a China. Ele também afirmou que a IA pode melhorar a qualidade de vida, mas exige construção cuidadosa.

Altman disse que a OpenAI considera desacelerar o desenvolvimento de ponta, de preferência em conjunto com o setor. O cientista-chefe Jakub Pachocki defendeu coordenação para frear o avanço conforme necessário. Na terça-feira, Jacob Coxon, pesquisador de IA, pediu demissão e acusou Anthropic e OpenAI de "jogarem com nossas vidas". Evan Hubinger, da Anthropic, disse que acredita em risco superior a 10% na próxima década. Em julho, mais de mil funcionários de empresas de IA assinaram petição pedindo mecanismo para controlar deliberadamente o desenvolvimento.