GLAAD выпустила отчёт в среду, предупредив, что системы искусственного интеллекта усиливают антиист-ЛГБТК предвзятость, дезинформацию и дискриминацию в сферах здравоохранения, занятости, жилья и кредитования. В отчёте под названием «Build for Everyone: A Framework for LGBTQ Representation and Safety in AI» утверждается, что ИИ, обученный на предвзятых или неполных данных, закрепляет стереотипы и даёт дискриминационные результаты по мере всё более глубокого встраивания технологии в повседневную жизнь. Президент и генеральный директор GLAAD Сара Кейт Эллис заявила в отчёте, что «ИИ — это вопрос гражданских прав», и призвала технологических лидеров заранее создавать безопасные продукты, предупредив, что нейтралитет больше не является вариантом в ответственном развитии ИИ.
Отчёт GLAAD выявляет ключевые риски предвзятости ИИ для пользователей ЛГБТК
В отчёте указаны области, вызывающие обеспокоенность, включая предвзятые обучающие данные, антиист-ЛГБТК дезинформацию, дискриминационные результаты в предиктивных ИИ-системах, сбои модерации контента и риски для приватности. GLAAD утверждала, что ИИ-системы, обученные на неполной или неточной информации о представителях ЛГБТК, могут закреплять стереотипы и подавлять голоса ЛГБТК. В исследовании говорится, что если не учитывать опыт ЛГБТК в обучающих данных, дизайне продуктов и управлении, это может привести к вреду для маргинализированных сообществ и создать неточные, менее качественные продукты, которые могут подрывать доверие пользователей.
Покупательная способность ЛГБТК достигает $4,7 трлн по данным исследования за 2023 год
В отчёте Эллис утверждала, что ответственная ИИ — это требование бизнеса для «защиты от будущего» компаний, работающих с ИИ, отметив, что более 20% представителей поколения Gen Z — ЛГБТК. По данным исследования 2023 года консалтинговой и инвестиционной фирмы LGBT Capital, глобальная покупательная способность ЛГБТК людей составляет $4,7 трлн, при этом эта цифра, как оценивается, вырастет до $33 трлн к 2030 году. Эллис написала, что если бы люди ЛГБТК были страной, они представляли бы 4-ю по величине экономику в мире, подчеркнув, что эти люди — будущие сотрудники и потребители.
Недавние случаи предвзятости ИИ включают иск xAI и спор с регулированием в Колорадо
Отчёт выходит на фоне продолжающихся дискуссий о предвзятости ИИ. В мае исследователи обнаружили, что ведущие модели ИИ последовательно отдавали предпочтение католицизму при ответах, которые были менее благоприятными для Свидетелей Иеговы, атеизма и агностицизма. Ранее в этом месяце бывший инженер xAI Девин Ким подал в суд на xAI и SpaceX, утверждая, что его уволили после предупреждения о том, что Grok не имеет достаточных защит от дезинформации и предвзятости. xAI ведёт также судебную тяжбу с Колорадо по поводу закона штата, который требует от компаний оценивать и снижать риски дискриминации в ИИ-системах, используемых для решений, связанных с жильём, занятостью и кредитованием.
Автономные ИИ-агенты могут автоматизировать дискриминационные результаты
GLAAD предупредила, что проблемы становятся более значимыми, когда компании продвигают ИИ-агентов, способных выполнять задачи при ограниченном человеческом надзоре. В исследовании говорится, что автономные агенты могут унаследовать существующие предвзятости и автоматизировать дискриминационные результаты, например исключать провайдеров здравоохранения, поддерживающих ЛГБТК, из результатов поиска или делать неверные предположения о личности пользователей. В отчёте отмечено, что хотя это не специфично для людей ЛГБТК, возникающие трудности включают галлюцинации моделей или слащавое поддакивание, которые генерируют дезинформацию о значимых темах вроде здоровья или выборов.
GLAAD призвала улучшить обучающие данные и усилить регуляторный надзор
Чтобы предотвратить закрепление рисков в ИИ-системах, GLAAD призвала разработчиков улучшать представительство ЛГБТК в обучающих данных, усиливать защиту приватности, сохранять человеческий надзор за системами модерации и теснее сотрудничать с правозащитными группами. В отчёте также содержится призыв к усилению отраслевой ответственности и регуляторного надзора. Эллис написала, что для создания этичного, инклюзивного и ответственного ИИ технологические лидеры должны заранее внедрять намеренные практики, чтобы создавать безопасные продукты.
FAQ
О чём GLAAD предупредила об ИИ-системах в среду?
GLAAD выпустила отчёт в среду, предупредив, что системы ИИ усиливают антиист-ЛГБТК предвзятость, дезинформацию и дискриминацию в сферах здравоохранения, занятости, жилья и кредитования. В отчёте утверждается, что ИИ, обученный на предвзятых или неполных данных, закрепляет стереотипы и даёт дискриминационные результаты.
Какова глобальная покупательная способность ЛГБТК людей по данным исследования 2023 года?
По данным исследования 2023 года LGBT Capital, глобальная покупательная способность ЛГБТК людей составляет $4,7 трлн, при этом эта цифра оценивается как $33 трлн к 2030 году. Более 20% представителей Gen Z — ЛГБТК, что означает будущих сотрудников и потребителей.
Какой иск был подан против xAI ранее в этом месяце?
Ранее в этом месяце бывший инженер xAI Девин Ким подал в суд на xAI и SpaceX, утверждая, что его уволили после предупреждения о том, что Grok не имеет достаточных защит от дезинформации и предвзятости. xAI также ведёт судебную тяжбу с Колорадо из-за закона штата, который требует от компаний оценивать и снижать риски дискриминации в ИИ-системах.
