Звіт GLAAD попереджає, що AI-системи підсилюють анти-LGBTQ упередження в ключових секторах

GLAAD у середу оприлюднив звіт, у якому попередив, що системи штучного інтелекту посилюють анти-LGBTQ упередженість, дезінформацію та дискримінацію в різних сферах, зокрема в медицині, працевлаштуванні, житлі та кредитуванні. Звіт під назвою «Build for Everyone: A Framework for LGBTQ Representation and Safety in AI» стверджує, що ШІ, навчений на упереджених або неповних даних, підсилює стереотипи й дає дискримінаційні результати в міру того, як технологія все більше вбудовується в повсякденне життя. Президент і генеральний директор GLAAD Сара Кейт Елліс заявила у звіті, що «AI — це питання громадянських прав», і закликала технологічних лідерів проактивно створювати безпечні продукти, попередивши, що нейтральність більше не є варіантом у відповідальному розвитку AI.

Звіт GLAAD визначає ключові ризики упередженості ШІ для користувачів LGBTQ

У звіті визначено сфери, що викликають занепокоєння, зокрема упереджені навчальні дані, анти-LGBTQ дезінформація, дискримінаційні результати в прогностичних системах ШІ, збої модерації контенту та ризики для приватності. GLAAD стверджував, що системи ШІ, навчений на неповній або неточній інформації про людей LGBTQ, може підсилювати стереотипи й придушувати голоси LGBTQ. У дослідженні зазначено, що неспроможність врахувати досвід людей LGBTQ у навчальних даних, дизайні продуктів і управлінні може спричинити шкоду для маргіналізованих спільнот і призвести до неточних, низькоякісних продуктів, які можуть підірвати довіру користувачів.

Купівельна спроможність LGBTQ сягає $4,7 трильйона за даними дослідження 2023 року

Елліс у звіті заявила, що відповідальний AI є вимогою для бізнесу для «майбутньої стійкості» компаній у сфері AI, зазначивши, що понад 20% покоління Gen Z є LGBTQ. За даними дослідження 2023 року консалтингової та інвестиційної фірми LGBT Capital, глобальна купівельна спроможність людей LGBTQ становить $4,7 трильйона, а очікується, що до 2030 року вона зросте до $33 трильйонів. Елліс написала, що якби люди LGBTQ були країною, вони представляли б 4-ту за величиною економіку у світі, зазначивши, що ці люди є майбутніми працівниками та споживачами.

Нещодавні випадки упередженості ШІ включають позов xAI та боротьбу за регулювання у Колорадо

Звіт виходить на тлі триваючих дискусій щодо упередженості ШІ. У травні дослідники виявили, що провідні моделі ШІ послідовно надають перевагу католицизму, тоді як реагують менш прихильно на Свідків Єгови, атеїзм і агностицизм. На початку цього місяця колишній інженер xAI Девін Кім подав позов проти xAI та SpaceX, стверджуючи, що його звільнили після попередження про те, що Grok не має достатніх запобіжників проти дезінформації та упереджень. xAI також веде судову боротьбу з Колорадо через закон штату, який вимагає від компаній оцінювати й зменшувати ризики дискримінації в системах AI, що використовуються для рішень, пов’язаних із житлом, працевлаштуванням і кредитуванням.

Автономні агенти ШІ можуть автоматизувати дискримінаційні результати

GLAAD попередив, що ці застереження стають суттєвішими, коли компанії просувають агентів AI, здатних виконувати завдання за обмеженого людського нагляду. У дослідженні зазначено, що автономні агенти можуть успадкувати наявні упередження й автоматизувати дискримінаційні результати, наприклад виключати постачальників медичних послуг, які підтверджують цінність LGBTQ, із результатів пошуку або робити неправильні припущення про ідентичність користувачів. У звіті зазначено, що хоча ці проблеми не є специфічними для людей LGBTQ, нові виклики включають «галюцинації» моделей або «підлабузницьку» поведінку, що генерує дезінформацію щодо вагомих тем, як-от здоров’я чи вибори.

GLAAD закликав до покращення навчальних даних і регуляторного нагляду

Щоб запобігти тому, аби ризики стали ще більш вбудованими в системи AI, GLAAD закликав розробників покращити представлення людей LGBTQ у навчальних даних, посилити захист приватності, підтримувати людський нагляд за системами модерації та працювати тісніше з групами захисту прав. У звіті також закликано до посилення відповідальності галузі та регуляторного нагляду. Елліс написала, що для створення етичного, інклюзивного та відповідального AI технологічні лідери мають проактивно впроваджувати навмисні практики, щоб створювати безпечні продукти.

FAQ

Про що GLAAD попередив щодо систем AI в середу? GLAAD оприлюднив звіт у середу, попередивши, що системи AI посилюють анти-LGBTQ упередженість, дезінформацію та дискримінацію в медицині, працевлаштуванні, житлі та кредитуванні. У звіті стверджується, що ШІ, навчений на упереджених або неповних даних, підсилює стереотипи й дає дискримінаційні результати.

Яка глобальна купівельна спроможність людей LGBTQ за даними дослідження 2023 року? За дослідженням 2023 року від LGBT Capital, глобальна купівельна спроможність людей LGBTQ становить $4,7 трильйона, а очікується, що ця цифра зросте до $33 трильйонів до 2030 року. Понад 20% Gen Z є LGBTQ, що представляє майбутніх працівників і споживачів.

Який позов було подано проти xAI раніше цього місяця? На початку цього місяця колишній інженер xAI Девін Кім подав позов проти xAI та SpaceX, стверджуючи, що його звільнили після попередження про те, що Grok не має достатніх запобіжників проти дезінформації та упереджень. xAI також веде судову боротьбу з Колорадо через закон штату, який вимагає від компаній оцінювати й зменшувати ризики дискримінації в системах AI.