Na sexta-feira, a Anthropic anunciou a escolha da Accenture como o primeiro avaliador embutido, passo concreto para implementar a proposta do CEO Dario Amodei de reduzir o ritmo de desenvolvimento de inteligência artificial.

A Anthropic e a Accenture concordaram em investir pelo menos US$ 1 bilhão nos próximos cinco anos para 'construir capacidade nessa área', segundo comunicado. No entanto, a Anthropic afirmou que, dada a 'importância e urgência', financiará diretamente o trabalho da Accenture.

A Anthropic enfatizou que ainda é responsável pela segurança dos seus modelos e que trabalhar com avaliadores embutidos não diminuirá sua responsabilidade.

Proposta de Amodei

Dario Amodei publicou um plano de três etapas para moderar o progresso rápido de empresas de IA em seus modelos mais avançados no sábado. Ele disse que a Anthropic 'unilateralmente' se comprometeu com essa parte da proposta e encorajou outras empresas de IA a fazerem o mesmo.

A Anthropic anunciou que inicialmente permitirá que funcionários da Faculty, divisão especializada em IA da Accenture, sejam inseridos na empresa para testar medidas de segurança, realizar red teaming e avaliar se os modelos se comportam conforme os valores humanos.