O CEO da Anthropic, Dario Amodei, publicou um artigo no sábado sugerindo que as empresas de IA devem moderar o ritmo de melhoria das capacidades dos seus modelos. A proposta surge em meio a crescentes preocupações entre pesquisadores sobre o impacto potencial negativo da IA.

Amodei apresentou um plano em três etapas que visa acelerar o desenvolvimento de IA de forma responsável, sem comprometer a vantagem comercial ou a liderança dos EUA nesta área. A Anthropic já se comprometeu unilateralmente com a primeira etapa, que inclui acesso a avaliadores independentes aos níveis de funcionários para verificar práticas de segurança e relatar incidentes.

Conversões de risco

A proposta de Amodei foi feita após um pesquisador da Anthropic anunciar sua saída do emprego, expressando preocupações sobre o risco potencial da IA. O pesquisador, Jacob Coxon, afirmou que a empresa está 'jogando nossas vidas em jogo'.

Amodei argumenta que pausar ou retardar o desenvolvimento de IA só faz sentido se os modelos já tivessem capacidades suficientes para agir no mundo real ou serem capazes de fraudes significativas, manipulações ou ataques cibernéticos.

Ele enfatiza que a IA pode melhorar significativamente a qualidade de vida humana, mas isso só será possível se a tecnologia for construída corretamente.