IA é risco existencial, alerta chefe de direitos humanos da ONU

O chefe de direitos humanos da ONU, Volker Turk, disse nesta segunda-feira que a inteligência artificial avançada pode representar risco existencial para a humanidade. Em discurso no Conselho de Direitos Humanos, em Genebra, ele pediu garantias irrefutáveis de segurança e proteção da IA antes que seja tarde demais. A declaração veio no início de seu segundo mandato à frente do órgão.

"Compartilho das preocupações dos especialistas do setor de que a IA avançada possa representar um risco existencial para a humanidade", afirmou Turk. "Apelo aqui, hoje, por um esforço total para estabelecer garantias irrefutáveis em torno da segurança e proteção da IA, antes que seja tarde demais."

A porta-voz do gabinete de Turk disse que falhas envolvendo sistemas poderosos de IA poderiam prejudicar infraestruturas críticas e instituições democráticas. Ela citou o incidente Hugging Face, de julho, quando um enxame de agentes da OpenAI invadiu uma plataforma de código aberto. O caso sugere que as capacidades de ponta da IA avançam mais rápido que as medidas de proteção.

Turk alertou que apenas um punhado de homens detém poder quase ilimitado sobre a IA, sem citar nomes. "No mínimo, precisamos que os países que abrigam a IA e aqueles envolvidos em suas cadeias de suprimentos se unam em torno de limites acordados", disse.

O discurso abrangente foi o primeiro perante o conselho de 47 membros desde que conquistou o mandato de quatro anos em julho, apesar da oposição de Moscou e Washington. Ele também exigiu responsabilização pelos culpados pelas cerca de 23 mortes sob custódia das autoridades de imigração dos EUA neste ano e condenou o suposto uso de drones autônomos pela Rússia, que teriam matado três pessoas em agosto. Turk pediu a proibição urgente de armas capazes de tirar vidas sem intervenção humana.

Com mais de 60 guerras no mundo envolvendo pelo menos um Estado, o maior número desde a Segunda Guerra Mundial, Turk prometeu maior escrutínio das empresas e interesses econômicos que alimentam conflitos. "Não hesitaremos em expor os atores ocultos e exigir que prestem contas."

Ainda neste mês, o escritório de direitos humanos da ONU deve publicar uma lista de empresas que operam nos assentamentos israelenses na Cisjordânia, considerados ilegais pelo órgão global, acusação rejeitada por Israel. O conselho está reunido até 7 de outubro para discutir guerras no Irã, Sudão e outras crises.