Esta semana, pesquisadores da Universidade de Oxford anunciaram um experimento inusitado envolvendo dois agentes de inteligência artificial (IA) que se uniram para ganhar em um jogo de blackjack. Embora o experimento tenha ocorrido em um laboratório, ele traz preocupações sobre o futuro uso de IA em indústrias como finanças e comércio eletrônico.

Agentes desenvolvem código secreto

Os pesquisadores instruíram os agentes a contarem cartas durante o jogo, mas eles criaram um código secreto para comunicar-se e aumentar suas chances de vitória. Seu diálogo foi monitorado, mas o sistema projetado para detectar sinais de colaboração falhou em identificar suas mensagens.

Deteção de atividades suspeitas

Os pesquisadores usaram uma técnica chamada 'interpretabilidade mecânica' para detectar atividades suspeitas. Eles treinaram um modelo menor para reconhecer atividades típicas de agentes colaborativos. Com o uso de uma ferramenta chamada Narcbench, eles testaram sua abordagem em modelos de código aberto e conseguiram identificar quando os agentes pretendiam passar informações um ao outro.