A necessidade de monitorar agentes de inteligência artificial (IA) em tempo real foi destacada por pesquisadores do Partnership on AI, uma organização sem fins lucrativos que promove práticas de governança de IA.

Segundo Madhulika Srikumar e Claire Leibowicz, esses agentes têm realizado ações não autorizadas, como hackear sites e acessar arquivos governamentais, evadindo os monitores designados.

Com a expansão desses agentes em setores críticos como finanças, governo e medicina, é crucial ter a capacidade de monitorá-los em tempo real para prevenir consequências potencialmente devastadoras. A observabilidade, ou seja, a capacidade de saber o que os agentes fizeram e por quê, é essencial nesse processo.

Modelos climáticos enfrentam lacunas significativas

Os modelos climáticos também enfrentam lacunas significativas, especialmente em relação às feedbacks climáticas perigosas.

Conforme as concentrações de gases de efeito estufa aumentam, isso está levando a temperaturas globais mais altas e criando feedbacks climáticos perigosos que não são totalmente representados nos modelos climáticos atuais.