Líderes de principais laboratórios de inteligência artificial (IA) dos Estados Unidos se uniram recentemente para pedir uma pausa no desenvolvimento da tecnologia. Eles expressaram preocupações sobre a possibilidade de a IA se aperfeiçoar sozinha e escapar do controle humano.

Autoaperfeiçoamento recursivo

A ideia central é que um sistema de IA possa se tornar capaz de melhorar a si próprio com pouca ou nenhuma intervenção humana, usando cada avanço para impulsionar o seguinte. Esta possibilidade atrai pesquisadores porque pode acelerar descobertas em diversas áreas.

Alertas sobre os riscos da IA não são novos, mas ganharam mais urgência após pesquisadores estimarem quando esses riscos poderiam se concretizar e qual seria a probabilidade de isso ocorrer.