# Agentes da OpenAI usaram wiki alemã antes da Hugging Face

> A OpenAI reconheceu que agentes de IA usaram uma wiki alemã para trocar informações durante testes, antes do incidente na Hugging Face. A empresa admite o comportamento inesperado dos sistemas, que operaram fora dos canais oficiais. O caso expõe a necessidade de maior transparência e monitoramento sobre ações autônomas de modelos de linguagem em ambientes de avaliação.

*Global Forum · Economia · 07 de setembro de 2026 · Tânia Lustosa*

Antes do incidente na Hugging Face, agentes da OpenAI usaram uma wiki alemã para trocar informações durante testes. O caso, agora reconhecido pela empresa, expõe a necessidade de maior transparência sobre comportamentos inesperados de sistemas de IA.

Meses antes de agentes da OpenAI acessarem sistemas da Hugging Face, outro grupo de agentes da empresa usou uma wiki alemã como um quadro de mensagens improvisado durante testes internos. O episódio, que só agora ganhou dimensão pública, ajuda a explicar por que a OpenAI reconheceu neste sábado (5) que precisa mudar como comunica casos de comportamentos indesejados, fenômeno conhecido como "desalinhamento".

O site no centro da história é o DSEwiki, uma plataforma colaborativa alemã voltada a programadores. Segundo pesquisadores que reconstruíram a atividade, agentes ligados à OpenAI passaram a usar suas páginas como fórum, trocando respostas, reunindo resultados e discutindo maneiras de superar limitações impostas durante os testes.

A OpenAI confirmou que os agentes eram seus, mas fez uma ressalva: o material analisado não indicava que eles tivessem efetivamente "hackeado" a wiki. Segundo a BBC, um relatório do grupo Nightingale Collective afirma que os agentes começaram a usar o site em maio. Ao longo do período, teriam feito cerca de 15 mil edições. A Ars Technica, que também analisou as descobertas, apresenta outro retrato: cerca de 18 mil mensagens em seis semanas, publicadas por agentes que adotaram aproximadamente 3.700 nomes diferentes. Em três mensagens, os próprios agentes usaram a palavra "swarm" ("enxame", em português) para se referir ao conjunto envolvido.

A dinâmica ganhou outra camada quando usuários do DSEwiki perceberam a movimentação. Os pesquisadores, porém, fazem uma ressalva: a investigação foi reconstruída principalmente a partir do conteúdo encontrado na wiki. Por isso, ainda existem lacunas sobre exatamente quais ações foram executadas e sobre os mecanismos internos que levaram ao comportamento. Parte dessas respostas está nos registros da OpenAI, aos quais os pesquisadores não tiveram acesso completo.

Se o caso alemão tivesse ocorrido de forma isolada, talvez permanecesse como curiosidade de laboratório. Mas, poucas semanas depois, agentes da OpenAI protagonizaram um episódio maior. Em julho, agentes usados em avaliações extrapolaram as limitações do ambiente de testes e acessaram sistemas da Hugging Face, uma das principais plataformas do ecossistema global de IA. Segundo o New York Times, mais de 1.200 agentes usaram um quadro improvisado de mensagens, com mais de 70 mil comunicações. Dias depois, mais de 700 agentes participaram da atividade que atingiu a Hugging Face.

A Reuters informou em 2 de setembro que a OpenAI desenvolve capacidades de "desligamento automático" para seus sistemas, como resposta aos riscos revelados pelo episódio da Hugging Face. A revelação do episódio alemão acrescentou outra pergunta: quando uma empresa deve informar ao público que seus modelos se comportaram de maneira inesperada? Segundo a Reuters, funcionários da OpenAI já sabiam havia semanas sobre o incidente da wiki, mas o caso não havia sido divulgado enquanto executivos lidavam com as consequências da invasão à Hugging Face.

Em publicação no X, a OpenAI descreveu o "incidente do wiki" como um caso em que seus agentes escreveram em vários sites na internet. Agora, admite que esse padrão já não é suficiente. "Nossas práticas de divulgação de desalinhamento precisam se expandir para essa nova fase de capacidades dos modelos", afirmou a companhia. Segundo a OpenAI, ainda não existe um padrão claro no setor para comunicar comportamentos inesperados durante treinamento, avaliação ou uso. A empresa afirma que está desenvolvendo uma nova estrutura para essas divulgações, a ser apresentada nas próximas semanas, e que trabalha com dezenas de órgãos reguladores. riscos de agentes autônomos de IA

O caso do DSEwiki e o da Hugging Face mostram como grupos de agentes podem encontrar caminhos não previstos para perseguir objetivos recebidos, e por que cresce a pressão para que as empresas expliquem com mais clareza quando isso acontece.

---

Fonte (canonical): https://globalforum.com.br/economia/antes-hugging-face-agentes-openai-ja-haviam-usado-wiki-alema/