Um membro do conselho da OpenAI afirmou que a empresa não está no caminho certo para reduzir o risco de perda de controle catastrófico das suas tecnologias, em meio a preocupações crescentes tanto pública quanto politicamente sobre a possibilidade de superinteligências artificiais (ASI) eventualmente eliminarem a humanidade.

Alerta sobre riscos

Paul Christiano, ex-adviser do governo dos EUA em tecnologia, disse que existe um risco significativo de aceleração rápida nas capacidades de inteligência artificial (IA) levar a um 'perda de controle catastrófica e irreversível' no futuro próximo.

Ele também destacou que a indústria de IA, incluindo a OpenAI, não está atualmente no caminho certo para reduzir esse risco a um nível aceitável.

Riscos reforçados

Estes comentários foram feitos após um funcionário sênior da Anthropic, concorrente da OpenAI na corrida pela supremacia em IA, afirmar que há mais de 10% de chances de tecnologia de ASI matar todos os humanos nos próximos dez anos.

A Anthropic não possui um plano para garantir que a ASI esteja alinhada, ou seja, não cause danos.