O governador de Califórnia, Gavin Newsom, sancionou várias leis recentemente, com foco em proteger os jovens do estado das práticas potencialmente prejudiciais nas redes sociais e chatbots.

Restrições a chatbots e redes sociais

As novas leis incluem restrições sobre como os jovens podem interagir com chatbots de empresas de inteligência artificial, como limites de tempo e obrigatoriedade de implementação de recursos de saúde mental. As empresas de IA também serão obrigadas a realizar auditorias independentes de segurança infantil e avaliações de risco anuais.

A medida mais controversa proíbe empresas de redes sociais de permitir que usuários menores de 16 anos acessem recursos potencialmente aditivos, como autoplay de vídeos e feeds de conteúdo personalizado. A definição de 'aditivo' abrange uma ampla gama de funcionalidades.

Criticidade e outras medidas

Criticos, como a Electronic Frontier Foundation, argumentam que essa medida é uma forma de banimento das redes sociais para jovens. O diretor associado de Assuntos Estatais da EFF, Rindala Alajaji, afirma que tal política forçará todos os usuários de redes sociais a revelarem mais informações pessoais para comprovar sua idade, criando riscos adicionais de privacidade.

Outras leis sancionadas visam proteger os jovens de aplicações tecnológicas potencialmente perigosas, incluindo uma expansão da definição de exploração sexual infantil para incluir imagens geradas por IA ou alteradas digitalmente. Também há novas proteções contra publicidade alvo e regulamentações sobre o uso de dados de estudantes de ensino fundamental e médio por sistemas de IA.