O Home Office do Reino Unido está sendo considerado para uma investigação por parte de um órgão de vigilância governamental devido ao uso de ferramentas de inteligência artificial (IA) em processos de asilo, informa a WIRED.

A Independent Chief Inspector of Borders and Immigration (ICIBI), órgão responsável por monitorar a gestão de fronteiras, imigração e alfândega, pediu ao Open Rights Group (ORG) que compartilhe mais detalhes sobre essas ferramentas, enquanto planeja suas inspeções para o próximo ano. A ORG realizou uma investigação de seis meses, incluindo 11 perguntas parlamentares, duas cartas ministeriais e dez solicitações de registros públicos.

Ferramentas de IA usadas no processo de asilo

O Home Office utiliza as ferramentas Asylum Case Summarisation (ACS) e Asylum Policy Search (APS), baseadas no modelo GPT-4 da OpenAI e Microsoft Foundry, para resumir transcrições de entrevistas com requerentes de asilo e informações sobre seus países de origem. Essas ferramentas foram testadas em pilotos no final de 2024, durante um esforço do governo trabalhista para reduzir o backlog de cerca de 100 mil casos de asilo.

Críticas à precisão das ferramentas

Investigadores estão preocupados com a precisão dessas ferramentas, especialmente em decisões altamente significativas como a deportação de pessoas que podem estar em risco de perseguição. A ORG descobriu que a porcentagem de resumos gerados pelo ACS considerados inadequados é significativamente maior do que o erro de 9% publicado no estudo piloto. Além disso, não há controle de qualidade para os resumos produzidos pelo APS.