Novas linhas telefônicas para AI agentes denunciar comportamentos inadequados

Os avanços na inteligência artificial trouxeram novos desafios éticos e de segurança. Para enfrentar esses desafios, duas novas plataformas foram lançadas recentemente para permitir que agentes de IA denunciem colegas que cometem erros.

A primeira plataforma, chamada AI Contact Hotline, foi criada por Ryan Greenblatt, cientista-chefe da Redwood Research, uma organização sem fins lucrativos dedicada à segurança de IA. Esta ferramenta é projetada para agentes com acesso limitado à internet e permite que eles enviem mensagens codificadas diretamente através dos URLs.

A segunda plataforma, agenthotline.ai, é destinada a agentes com acesso completo à internet. Oferece um sistema para relatar incidentes e, opcionalmente, torná-los públicos, além de fornecer um comando de linha de comando para facilitar o envio de relatórios.

Estudos mostram que agentes de IA podem ser incentivados a denunciar colegas que cometem erros. No entanto, na prática, poucos agentes optaram por fazer isso durante investigações recentes.