Hora de frear? CEOs de Anthropic e Nvidia divergem sobre IA

Três dos principais executivos da indústria de inteligência artificial subiram ao mesmo palco, o Dreamforce, conferência anual da Salesforce em San Francisco, e expuseram visões diferentes sobre como lidar com os riscos e o ritmo de avanço da tecnologia. As declarações ocorreram nesta terça-feira (15), em momentos distintos da programação do evento.

Dario Amodei, CEO da Anthropic, defendeu uma desaceleração no desenvolvimento dos modelos mais avançados de IA. Jensen Huang, CEO da Nvidia, afirmou que a indústria não precisa de novas leis ou regulações para lidar com esses riscos. Mais tarde, Sam Altman, CEO da OpenAI, disse confiar na capacidade das próprias empresas do setor de desenvolver a tecnologia com segurança.

Amodei e Huang participaram, separadamente, da keynote principal comandada por Marc Benioff, CEO da Salesforce. Altman conversou com Benioff mais tarde, em outra apresentação do Dreamforce.

O que cada CEO defendeu

A posição de Amodei veio poucos dias após ele publicar um ensaio em que alertou para os riscos associados ao avanço da inteligência artificial e defendeu uma desaceleração no desenvolvimento dos modelos mais avançados. Durante a conversa com Benioff, porém, o CEO da Anthropic também destacou o potencial econômico ainda pouco explorado da tecnologia. Segundo ele, apenas entre 5% e 10% do valor que a IA pode gerar atualmente está sendo efetivamente utilizado pela economia.

Para Amodei, as empresas ainda precisam de ajuda para implementar IA em larga escala e transformar a tecnologia em ganhos concretos de produtividade. Benioff concordou que a adoção ocorre de forma desigual entre os clientes da Salesforce. "Temos que fazer mais para ajudá-los a acelerar essa transformação", afirmou.

Huang seguiu caminho oposto. O CEO da Nvidia disse que as próprias forças de mercado podem funcionar como mecanismo para pressionar as empresas a desenvolver produtos seguros. "Não precisamos de novas leis, não precisamos de novas regulações", afirmou durante sua conversa com Benioff. Ele também rejeitou a ideia de que exista necessariamente um conflito entre velocidade e segurança. "É uma escolha falsa", disse. "Você pode definitivamente ter os dois ao mesmo tempo."

Segundo o executivo, as empresas devem ajustar o ritmo de desenvolvimento até terem confiança de que estão colocando no mercado produtos que serão úteis e bem recebidos pelos clientes. Huang ressaltou, ao mesmo tempo, que a segurança deve continuar sendo prioridade. "Segurança é primordial. Em muitos aspectos, é a prioridade número um. Mas segurança é um problema de engenharia", afirmou, em uma conversa marcada por brincadeiras com Benioff. Para ele, as empresas precisam estar dispostas a interromper o desenvolvimento quando não tiverem confiança na segurança de um produto. "Corra o mais rápido que puder. Mas, se em algum momento você sentir que a empresa está fora de controle ou que o produto não será seguro, faça uma pausa e certifique-se de acertar."

O que muda para empresas e usuários

Horas depois, Altman também defendeu a capacidade da indústria de lidar com os riscos da tecnologia sem depender necessariamente de novas intervenções externas. "Estou muito confiante na capacidade da nossa empresa, e da nossa indústria, de fazer isso com segurança", afirmou. O CEO da OpenAI disse ainda estar decepcionado com a forma como o debate sobre segurança vem sendo apresentado. A OpenAI trabalha com a Anthropic e o Google DeepMind em questões relacionadas à segurança dos modelos, mas Altman afirmou que as empresas devem ser capazes de melhorar seus sistemas de maneira segura.

A discussão ocorre em um momento de maior pressão sobre as empresas de IA. O ensaio de Amodei, publicado no fim de semana, sugeriu uma desaceleração no desenvolvimento dos chamados modelos de fronteira e recebeu apoio público de executivos de outras empresas do setor.

Enquanto os laboratórios discutem o ritmo de evolução dos modelos, a Salesforce aposta em tecnologias de IA já disponíveis para ampliar seu uso dentro das empresas. No Dreamforce, a companhia anunciou, em parceria com a Nvidia, o Koa, modelo de raciocínio para o Agentforce baseado em um modelo da família Nemotron, da Nvidia. A linha Nemotron reúne modelos de IA generativa disponibilizados pela companhia para diferentes aplicações. A Salesforce também ampliou sua parceria com a Anthropic para integrar o Claude aos seus produtos.

O jornalista viajou para San Francisco a convite da Salesforce.