GLAADは水曜日、人工知能（AI）システムがヘルスケア、雇用、住宅、融資の分野で反LGBTQの偏見、誤情報、差別を増幅していると警告するレポートを発表した。同レポートは「Build for Everyone: A Framework for LGBTQ Representation and Safety in AI」という題名で、偏った、または不十分なデータで訓練されたAIは、技術が日常生活にますます組み込まれていくにつれて、固定観念を強化し、差別的な結果を生み出すと主張している。GLAADの会長兼CEOであるSarah Kate Ellisはレポートの中で「AIは公民権の問題だ」と述べ、技術リーダーに対し、安全な製品を積極的に作るよう求め、責任あるAI開発においては「中立」はもはや選択肢ではないと警告した。
GLAADレポート、LGBTQ利用者にとっての主要なAIバイアスのリスクを特定
同レポートは、偏った学習データ、反LGBTQの誤情報、予測型AIシステムにおける差別的な結果、コンテンツモデレーションの失敗、プライバシーのリスクなど、懸念領域を挙げた。GLAADは、LGBTQの人々について不完全または不正確な情報で訓練されたAIシステムは固定観念を強め、LGBTQの声を抑え込む可能性があると主張した。研究では、訓練データ、製品設計、ガバナンスの中でLGBTQの経験を考慮できない場合、周縁化されたコミュニティに害が生じ、ユーザーの信頼を損なうおそれのある、誤りの多い質の低い製品が生まれうると述べている。
LGBTQの購買力は2023年の調査によれば4.7兆ドルに到達
Ellisはレポートで、責任あるAIはAI企業を将来に備えて「時代対応」するためのビジネス上の必須条件だと論じ、Gen Zの20パーセント超がLGBTQだと指摘した。LGBT Capitalという助言・投資会社による2023年の調査によれば、LGBTQの人々の世界的な購買力は4.7兆ドルで、その数は2030年までに33兆ドルに達すると見積もられている。Ellisは、もしLGBTQの人々が一つの国であれば世界第4位の経済規模になるとして、これらの人々は将来の従業員であり消費者だと書いている。
最近のAIバイアス事例にはxAIの訴訟やコロラド州の規制闘争が含まれる
同レポートは、AIバイアスをめぐる継続的な議論の中で出てきた。5月、研究者らは主要なAIモデルがカトリックを一貫して好む一方、エホバの証人、無神論、不可知論に対してはより好意的に応答しないことを見つけた。今月初め、元xAIエンジニアのDevin Kimは、Grokに誤情報やバイアスへの十分なセーフガードがないと警告した後に解雇されたと主張し、xAIとSpaceXを訴えた。xAIは、住宅、雇用、融資に関する意思決定に用いられるAIシステムにおいて、企業が差別リスクを評価し、低減することを求める州法をめぐり、コロラド州と法的な争いをしている。
自律型AIエージェントは差別的な結果を自動化し得る
GLAADは、人がほとんど監督しない状態でタスクを実行できるAIエージェントを企業が推し進めるほど、懸念はより大きくなると警告した。その研究では、自律型エージェントは既存のバイアスを引き継ぎ、例えば検索結果からLGBTQを肯定する医療提供者を除外したり、利用者のアイデンティティについて誤った前提を置いたりするなど、差別的な結果を自動化しうると述べている。同レポートでは、LGBTQの人々に特化したものではないものの、差し迫った課題として、モデルのハルシネーション（作り話）や迎合的な振る舞いが、健康や選挙のような重大なテーマについて誤情報を生み出すことが挙げられていると指摘した。
GLAADはより良い訓練データと規制監督の改善を求めた
リスクがAIシステムにこれ以上組み込まれてしまうのを防ぐために、GLAADは開発者に対し、訓練データにおけるLGBTQの表現を改善し、プライバシー保護を強化し、モデレーション・システムへの人による監督を維持し、権利擁護団体とより密接に協働するよう求めた。また同レポートは、業界の説明責任をより強くし、規制監督も強化することを求めている。Ellisは、倫理的で包括的で責任あるAIを作るには、技術リーダーが安全な製品を生み出すための意図的な取り組みを、積極的に取り入れなければならないと書いた。
よくある質問（FAQ）
水曜日、GLAADはAIシステムについて何を警告したのですか？
GLAADは水曜日、AIシステムがヘルスケア、雇用、住宅、融資の各分野にわたり反LGBTQの偏見、誤情報、差別を増幅していると警告するレポートを発表した。同レポートでは、偏った、または不十分なデータで訓練されたAIは固定観念を強め、差別的な結果を生み出すと述べています。
2023年の調査によれば、LGBTQの人々の世界的な購買力はいくらですか？
LGBT Capitalによる2023年の調査によれば、LGBTQの人々の世界的な購買力は4.7兆ドルで、その数は2030年までに33兆ドルに達すると見積もられている。Gen Zの20パーセント超がLGBTQであり、将来の従業員であり消費者を意味する。
今月初めにxAIに対して提起された訴訟は何でしたか？
今月初め、元xAIエンジニアのDevin Kimは、Grokに誤情報やバイアスへの十分なセーフガードがないと警告した後に解雇されたと主張し、xAIとSpaceXを訴えた。xAIはまた、AIシステムが行う運用上の意思決定に関して、企業が差別リスクを評価し低減することを求める州法をめぐり、コロラド州に対して法的闘争も行っています。
