Nos últimos anos, a discussão sobre violência algorítmica tem ganhado destaque, especialmente entre acadêmicos e influenciadores. O influenciador digital e professor Christian Gonzatti, de 33 anos, é um dos que denuncia como os algoritmos das redes sociais frequentemente restringem a visibilidade de conteúdos LGBTQIA+, sem oferecer transparência sobre as regras de moderação.
Gonzatti, que iniciou seu canal Viado Nerd, relatou que a palavra 'viado' foi mal interpretada pelos algoritmos, levando a sua página a ser considerada um espaço de discursos de ódio. Mesmo após rebatizar seu projeto para Diversidade Nerd, ele afirma que posts com termos como 'gay' ou 'lésbica' têm seu alcance reduzido.
A violência algorítmica não se limita a redes sociais. Ela se manifesta, por exemplo, quando sistemas de reconhecimento facial discriminam etnias não brancas, ou quando algoritmos de aplicativos de transporte forçam motoristas a trabalhar por longas horas sem pausa. O cientista da computação Alexandre Gonçalves descreve isso como uma forma de violência que ignora os limites humanos.
O conceito de violência algorítmica, que começou a ser utilizado por volta de 2010, abrange não apenas os algoritmos de redes sociais, mas também sistemas de vigilância e inteligência artificial. O professor Daniel Trielli, da Universidade de Maryland, destaca que esse tipo de violência amplifica desigualdades sociais já existentes.
No Brasil, as desigualdades sociais se entrelaçam com a tecnologia, criando um cenário preocupante. A antropóloga Larissa Pelúcio aponta que a violência algorítmica intensifica problemas como racismo e discriminação contra populações marginalizadas. O uso de dados tendenciosos para treinar algoritmos pode resultar em decisões injustas e reforçar o racismo estrutural.
Embora o Brasil tenha reconhecido a proteção de dados pessoais como um direito fundamental, especialistas afirmam que é necessária uma combinação de educação e regulação para enfrentar esses desafios e promover uma cidadania digital mais consciente.
