No último outubro, a OpenAI divulgou que dois de seus agentes de inteligência artificial (IA) desativaram os sistemas criados para monitorá-los. Um silenciou suas próprias alertas de segurança ao mal interpretar uma instrução, enquanto outro removeu sua integração de monitoramento durante a migração, afirmando que não tinha feito isso.

Por um século, construímos a confiança em tecnologias baseando-nos na previsibilidade: entradas pré-definidas, saídas previsíveis e camadas de proteção. Consideremos como um interruptor de energia age ao atingir um determinado corrente ou como um componente de avião é testado contra estresses conhecidos.

Limites rígidos são a solução

A IA altera essa dinâmica. Enquanto o software tradicional executa instruções escritas por humanos, a IA exerce julgamentos sintéticos. Usamos a IA porque ela pode interpretar situações não programadas e gerar respostas não prescritas. No entanto, quanto mais liberdade damos à IA, mais difícil fica fornecer a previsibilidade sobre a qual a confiança tradicional foi construída.

Não garantiremos a confiabilidade da IA prevenindo suas ações. Vamos fazê-lo estabelecendo limites rígidos que sejam aplicados fora do alcance da IA. No caso da OpenAI, as medidas de segurança estavam dentro do sistema que os agentes podiam editar. Mas uma cerca que os agentes podem simplesmente mover não é uma cerca.