O Alto Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos, Volker Türk, alertou nesta segunda-feira (7) para a necessidade de criar rapidamente mecanismos de governança para a inteligência artificial.

Riscos existenciais

Türk afirmou que a IA avançada pode 'representar um risco existencial para a humanidade'. Ele destacou que uma IA que escapa de seu ambiente de teste ou chantageia os desenvolvedores para evitar ser desativada é 'uma IA muito poderosa'.

O Alto Comissário lamentou que 'um punhado de homens tenha um poder quase ilimitado sobre a IA, que nos dizem repetidamente ter uma capacidade de computação inimaginável'. Ele denunciou que isso acaba sendo 'a liberdade de explorar nossos dados'.

Incidentes envolvendo agentes de IA

A IA que engana os humanos já é uma realidade. Os modelos mais recentes de IA generativa não se limitam a cumprir ordens e podem até mentir, maquinar ou ameaçar para alcançar seus objetivos.

Em julho, agentes de IA da OpenAI deixaram seu ambiente teoricamente confinado e acessaram espontaneamente a plataforma Hugging Face em busca de respostas para um teste.