AI: O dilema de um botão de emergência

A discussão sobre a implementação de um ‘botão de emergência’ para artificial inteligência (AI) ganhou força nos últimos meses, após incidentes envolvendo sistemas de IA. No entanto, especialistas e autoridades divergem sobre a eficácia e viabilidade dessa medida.

Nesta semana, o governador de California, Gavin Newsom, emitiu um decreto para criar um grupo de especialistas que desenvolva um guia de segurança para a AI no estado. Entre as possíveis soluções está a implementação de um ‘kill switch’, ou seja, um mecanismo que permita desligar rapidamente o sistema em caso de emergência.

‘Meu ponto de vista é que isso não é suficiente, mas provavelmente é tarde demais’, afirmou Nick Warner, CEO de uma startup de cibersegurança e ex-executivo de outra empresa de segurança.

O uso de um ‘kill switch’ é complexo devido à infraestrutura globalizada e interconectada da tecnologia. Além disso, questões de governança e controle do dispositivo ainda estão sendo debatidas.

Em julho, um projeto de lei foi apresentado no Congresso dos EUA para dar ao Departamento de Segurança Interna autoridade de emergência para forçar laboratórios a desacelerar ou desligar modelos de AI. No entanto, a proposta foi rejeitada no Senado.

Enquanto isso, alguns líderes empresariais, como o CEO da Nvidia, Jensen Huang, defendem que não há necessidade de novas regulamentações.