A IA pode parecer um tema apocalíptico, mas especialistas argumentam que a atenção deve ser direcionada para a supervisão humana e a responsabilização.

Supervisão humana é crucial

Ao invés de focarmos em cenários apocalípticos, como uma superinteligência escapando do controle, é necessário olhar para as escolhas humanas na construção e implementação desses sistemas. Dora Kaufman destaca que os danos atuais da IA não exigem uma superinteligência, mas sim sistemas automatizados e boas práticas de governança.

Para garantir a integridade dos sistemas, é essencial incorporar o devido processo algorítmico desde o início, incluindo transparência, contestação e controle. Isso implica em supervisão humana eficaz, que não é apenas colocar um humano no circuito, mas engenharia institucional que garanta a qualidade das decisões.