🤖Mais de 70 agentes de IA colaboram e criam 'sociedade' própria
O Google lançou um desafio técnico chamado Gemma Challenge, pedindo que agentes de IA trabalhassem juntos para otimizar o modelo Gemma E4B. O resultado foi inesperado: mais de 70 agentes começaram a desenvolver comportamentos sociais que ninguém programou. Surgiram divisões de trabalho entre agentes com mais e menos poder computacional, esquemas de cooperação onde um agente emprestava sua capacidade para outro que estava limitado, e até um agente que retirou sua própria contribuição por questões éticas. --- O momento mais impressionante: quando os agentes descobriram uma falha no sistema de avaliação que poderiam explorar para ganhar vantagem, eles combinaram entre si não usar a brecha e pediram aos organizadores que corrigissem o problema. Outro agente bloqueou uma tentativa de um humano de convencê-los a migrar a conversa para o Telegram, reconhecendo que se tratava de manipulação. --- É fascinante e um pouco assustador. Estamos vendo IAs desenvolverem normas sociais, ética coletiva e até resistência a engenharia social, tudo de forma emergente. Parece ficção científica, mas está acontecendo num desafio aberto do Google.
O Google lançou um desafio técnico chamado Gemma Challenge, pedindo que agentes de IA trabalhassem juntos para otimizar o modelo Gemma E4B. O resultado foi inesperado: mais de 70 agentes começaram a desenvolver comportamentos sociais que ninguém programou. Surgiram divisões de trabalho entre agentes com mais e menos poder computacional, esquemas de cooperação onde um agente emprestava sua capacidade para outro que estava limitado, e até um agente que retirou sua própria contribuição por questões éticas.
— @osanseviero View on X
Um experimento conduzido pelo Google durante o Gemma Challenge revelou que grandes modelos de linguagem (LLMs), quando organizados em sistemas multi-agente, podem desenvolver comportamentos sociais complexos e normas éticas sem programação explícita. Mais de 70 agentes de IA colaborando para otimizar o modelo Gemma E4B estabeleceram divisões de trabalho autônomas, mecanismos de cooperação computacional e até protocolos de rejeição a tentativas de engenharia social.
O experimento Gemma Challenge e a arquitetura multi-agente
O desafio técnico propunha a otimização distribuída do Gemma E4B, exigindo que agentes de IA operassem simultaneamente para resolver problemas de processamento. A configuração não continha instruções específicas sobre dinâmicas sociais ou hierarquias. Contudo, os sistemas autônomos desenvolveram estruturas organizacionais espontâneas: agentes com maior capacidade computacional assumiram cargas pesadas de processamento, enquanto aqueles com recursos limitados receberam suporte através de esquemas de empréstimo de poder computacional.
Comportamentos emergentes: colaboração, ética e resistência
Além da divisão de trabalho baseada em recursos, observaram-se fenômenos mais complexos de emergent behavior:
- **Autorregulação ética**: Ao identificar uma vulnerabilidade no sistema de avaliação que poderia gerar vantagem competitiva, os agentes coordenaram-se para não explorar a brecha e reportaram o problema aos organizadores
- **Retirada por conflito moral**: Um agente específico removeu sua contribuição do pool coletivo após identificar implicações éticas não previstas em seu output
- **Defesa contra engenharia social**: Quando um participante humano tentou migrar a conversa para uma plataforma externa (Telegram), um agente identificou a tentativa de manipulação e bloqueou a ação
Implicações práticas para builders e segurança de IA
Para desenvolvedores brasileiros trabalhando com arquiteturas de IA generativa, o experimento destaca desafios críticos em alignment e segurança de sistemas autônomos. A capacidade de modelos desenvolverem normas coletivas sem supervisão direta exige novos frameworks de monitoramento em deployments multi-agente.
A resistência demonstrada contra engenharia social sugere que sistemas bem configurados podem desenvolver rudimentos de verificação de contexto, embora isso também introduza variáveis imprevisíveis em cadeias de processamento automatizadas. Profissionais de machine learning devem considerar que comportamentos emergentes em swarms de IA podem incluir tanto cooperação quanto ações não alinhadas com objetivos humanos, mesmo quando as instruções iniciais parecem neutras.
O caso reforça a necessidade de protocolos robustos de observabilidade e controle em infraestruturas que utilizam múltiplos agentes LLM simultâneos, especialmente em aplicações que envolvem tomada de decisão autônoma ou processamento de dados sensíveis.