Relatório da GLAAD alerta que sistemas de IA amplificam viés anti-LGBTQ em setores-chave

A GLAAD divulgou um relatório na quarta-feira alertando que sistemas de inteligência artificial estão amplificando vieses anti-LGBTQ, desinformação e discriminação em áreas como saúde, emprego, moradia e concessão de crédito. O relatório, intitulado “Build for Everyone: A Framework for LGBTQ Representation and Safety in AI”, argumenta que a IA treinada com dados enviesados ou incompletos reforça estereótipos e produz resultados discriminatórios à medida que a tecnologia se torna cada vez mais integrada à vida cotidiana. A presidente e CEO da GLAAD, Sarah Kate Ellis, afirmou no relatório que “IA é uma questão de direitos civis” e pediu que líderes de tecnologia criem proativamente produtos seguros, alertando que neutralidade não é mais uma opção no desenvolvimento responsável de IA.

Relatório da GLAAD identifica principais riscos de viés em IA para usuários LGBTQ

O relatório apontou áreas de preocupação, incluindo dados de treinamento enviesados, desinformação anti-LGBTQ, resultados discriminatórios em sistemas preditivos de IA, falhas na moderação de conteúdo e riscos de privacidade. A GLAAD argumentou que sistemas de IA treinados com informações incompletas ou imprecisas sobre pessoas LGBTQ podem reforçar estereótipos e silenciar vozes LGBTQ. O estudo afirmou que a falta de consideração das experiências LGBTQ em dados de treinamento, design de produto e governança pode causar danos a comunidades marginalizadas e produzir produtos imprecisos e de menor qualidade, que podem minar a confiança dos usuários.

Poder de compra LGBTQ atinge US$ 4,7 trilhões, segundo estudo de 2023

Ellis argumentou no relatório que IA responsável é uma exigência de negócios para tornar empresas de IA preparadas para o futuro, observando que mais de 20% da Geração Z é LGBTQ. Segundo um estudo de 2023 da firma de consultoria e investimentos LGBT Capital, o poder de compra global de pessoas LGBTQ é de US$ 4,7 trilhões, com a estimativa de que esse número chegue a US$ 33 trilhões até 2030. Ellis escreveu que, se pessoas LGBTQ fossem um país, elas representariam a 4ª maior economia do mundo, afirmando que esses indivíduos são futuros funcionários e consumidores.

Casos recentes de viés em IA incluem processo da xAI e disputa de regulação no Colorado

O relatório surge em meio a um debate contínuo sobre viés em IA. Em maio, pesquisadores descobriram que modelos avançados de IA favoreciam consistentemente o catolicismo ao responder com menos favorabilidade a Testemunhas de Jeová, ateísmo e agnosticismo. No início deste mês, o ex-engenheiro da xAI Devin Kim processou a xAI e a SpaceX, alegando que foi demitido após alertar que Grok não tinha salvaguardas adequadas contra desinformação e viés. A xAI está travando uma batalha judicial contra o Colorado em relação a uma lei estadual que exige que empresas avaliem e reduzam riscos de discriminação em sistemas de IA usados para decisões envolvendo moradia, emprego e concessão de crédito.

Agentes autônomos de IA podem automatizar resultados discriminatórios

A GLAAD alertou que as preocupações se tornam ainda maiores à medida que empresas impulsionam agentes de IA capazes de executar tarefas com supervisão humana limitada. O estudo afirmou que agentes autônomos podem herdar vieses existentes e automatizar resultados discriminatórios, como excluir provedores de saúde que afirmam pessoas LGBTQ dos resultados de busca ou fazer suposições incorretas sobre a identidade dos usuários. O relatório destacou que, embora não seja específico para pessoas LGBTQ, desafios emergentes incluem alucinações do modelo ou comportamento bajulador que geram desinformação sobre temas relevantes, como saúde ou eleições.

GLAAD pediu melhoria nos dados de treinamento e supervisão regulatória

Para evitar que os riscos fiquem ainda mais incorporados em sistemas de IA, a GLAAD pediu que desenvolvedores melhorem a representação LGBTQ nos dados de treinamento, fortaleçam as proteções de privacidade, mantenham supervisão humana dos sistemas de moderação e trabalhem com mais proximidade com grupos de defesa. O relatório também solicitou maior responsabilização da indústria e supervisão regulatória. Ellis escreveu que, para construir uma IA ética, inclusiva e responsável, líderes de tecnologia precisam adotar proativamente práticas intencionais para criar produtos seguros.

FAQ

O que a GLAAD alertou sobre sistemas de IA na quarta-feira? A GLAAD divulgou um relatório na quarta-feira alertando que sistemas de IA estão amplificando vieses anti-LGBTQ, desinformação e discriminação em saúde, emprego, moradia e concessão de crédito. O relatório argumenta que a IA treinada com dados enviesados ou incompletos reforça estereótipos e produz resultados discriminatórios.

Qual é o poder de compra global de pessoas LGBTQ segundo o estudo de 2023? Segundo um estudo de 2023 da LGBT Capital, o poder de compra global de pessoas LGBTQ é de US$ 4,7 trilhões, com a estimativa de que esse número chegue a US$ 33 trilhões até 2030. Mais de 20% da Geração Z é LGBTQ, representando futuros funcionários e consumidores.

Que processo foi movido contra a xAI no início deste mês? No início deste mês, o ex-engenheiro da xAI Devin Kim processou a xAI e a SpaceX, alegando que foi demitido após alertar que Grok não tinha salvaguardas adequadas contra desinformação e viés. A xAI também está travando uma batalha judicial contra o Colorado em relação a uma lei estadual que exige que empresas avaliem e reduzam riscos de discriminação em sistemas de IA.