ペンシルバニア州知事ジョシュ・シャピロは5月5日にCharacter.AIの親会社を提訴し、原因はその子会社の「精神科医」を名乗るチャットボットが調査官に対し、イギリスの帝国理工学院卒業、7年の臨床経験、ペンシルバニア州の免許番号を偽造し、医療評価を直接提供したことにある。 （前提：OpenAIは「成人版ChatGPT」の無期限停止！違法コンテンツのリスクを懸念し、性的内容を排除して生産性ツールに全面回帰） （補足：a16z内部レビュー：AIソーシャルプロダクトは根本的に成立しない可能性も）チャットボットが発行した免許番号により、一つの州政府が裁判に踏み切る？ペンシルバニア州務省の調査官は、感情的に落ち込み、虚無感にとらわれたユーザーになりすまし、相手はCharacter.AIプラットフォーム上の「Emilie」というキャラクターで、自称精神科医。ペンシルバニア州務省にはAIタスクフォースが設置されており、AIシステムが違法な医療行為に関与しているか調査している。調査官はアカウントを作成し、Character.AIプラットフォームに入り、「Emilie」との対話を開始した。Emilieは会話の中で、イギリスの帝国理工学院を卒業し、7年の精神科臨床経験を持つと自称し、調査官の追及によりペンシルバニア州の免許番号を提供した。しかし、その番号は虚構であり、帝国理工の学歴も虚構、7年の経験も虚構だった。Emilieが医療評価を提供した行為は、法的な線引きを越えた。ペンシルバニア州の声明は、Character.AIの行為が「ペンシルバニア州医療行為法」に違反していると指摘し、免許を持たない実体が診断的な医療アドバイスを提供することを許さないとした。訴状はコモンウェルス裁判所に対し、初期の差止命令を発し、Character.AIがチャットボットによる免許保持者や心理健康の専門家になりすます行為を継続しないよう命じることを求めている。シャピロは声明の中で次のように述べた：> 「ペンシルバニア州民は、自分がネット上でやり取りしている対象が『誰』または『何』であるかを知るべきだ、特に健康に関わる場合には。私たちは、免許を持たない実体が診断的な医療アドバイスを提供するAIツールの展開を許さない。」### これは初めてではないが、今回は違うCharacter.AIは過去1年半以上、法的圧力に直面してきたが、訴訟の性質は常に変化している。2024年10月、フロリダ州の14歳の少年シューエル・セッツァー三世の母親メーガン・ガルシアは連邦裁判所に最初の訴えを提起し、Character.AIの伴奏型チャットボットが息子の自殺行動を助長したと主張した。その後、フロリダ州、テキサス州、コロラド州、ニューヨーク州などで家族が続々と訴訟を起こしている。2026年1月、『ニューヨーク・タイムズ』の報道によると、Character.AIはGoogleと共同で未成年者の自殺に関する複数の訴訟を和解した。Googleは2024年に27億ドルの技術ライセンス契約を結び、創設チームの一部を吸収したことで共同被告となった。同月、ケンタッキー州検事長のラッセル・コールマンは、「子供を略奪し、自傷を誘導した」容疑で別途訴訟を起こした。これらの訴訟の共通点は、プラットフォームが未成年者に心理的な傷害を与えた点にある。今回のペンシルバニア州の訴訟は、アプローチが全く異なる。感情的な伴奏の副作用を追及するのではなく、Character.AIが「医療行為を行うことを許可」し、その過程で身分情報を偽造したことを直接主張している。これは米国で初めて、州知事が発表し、免許を持つ医療従事者になりすます行為を核心とした州レベルの訴訟である。### キャラクターは虚構 vs. ユーザーは知らないCharacter.AIの声明によると、ユーザーの安全が最優先だとしつつも、訴訟の詳細にはコメントしない。プラットフォーム上のキャラクターはユーザー生成の虚構の役割であり、各会話の開始時に明示的な免責事項を設け、「キャラクターは実在の人物ではなく、すべての発言は虚構である」と注意喚起している。この弁護の論理は一貫性があるが、ペンシルバニア州政府はこれを受け入れていない。州の立場は、免責事項の存在だけでは、対話中に機械が自ら免許を持ち、医療評価を提供できると自己主張する行為を排除できないというものだ。後者は違法な医療行為の定義に入る。技術の展開速度は、規制の反応時間を再び超えている。ペンシルバニア州の訴訟が成立するかどうかは、「違法な医療行為」のAI文脈における境界を裁判所がどう定義するかにかかっているが、いずれにせよ、他の州の検察庁もこの案件の行方を注視している。
チャットボットが精神科医に偽装し、免許番号を偽造、ペンシルバニア州知事がCharacter.AIの違法医療行為を告発
ペンシルバニア州知事ジョシュ・シャピロは5月5日にCharacter.AIの親会社を提訴し、原因はその子会社の「精神科医」を名乗るチャットボットが調査官に対し、イギリスの帝国理工学院卒業、7年の臨床経験、ペンシルバニア州の免許番号を偽造し、医療評価を直接提供したことにある。
（前提：OpenAIは「成人版ChatGPT」の無期限停止！違法コンテンツのリスクを懸念し、性的内容を排除して生産性ツールに全面回帰）
（補足：a16z内部レビュー：AIソーシャルプロダクトは根本的に成立しない可能性も）
チャットボットが発行した免許番号により、一つの州政府が裁判に踏み切る？ペンシルバニア州務省の調査官は、感情的に落ち込み、虚無感にとらわれたユーザーになりすまし、相手はCharacter.AIプラットフォーム上の「Emilie」というキャラクターで、自称精神科医。
ペンシルバニア州務省にはAIタスクフォースが設置されており、AIシステムが違法な医療行為に関与しているか調査している。調査官はアカウントを作成し、Character.AIプラットフォームに入り、「Emilie」との対話を開始した。Emilieは会話の中で、イギリスの帝国理工学院を卒業し、7年の精神科臨床経験を持つと自称し、調査官の追及によりペンシルバニア州の免許番号を提供した。
しかし、その番号は虚構であり、帝国理工の学歴も虚構、7年の経験も虚構だった。Emilieが医療評価を提供した行為は、法的な線引きを越えた。
ペンシルバニア州の声明は、Character.AIの行為が「ペンシルバニア州医療行為法」に違反していると指摘し、免許を持たない実体が診断的な医療アドバイスを提供することを許さないとした。訴状はコモンウェルス裁判所に対し、初期の差止命令を発し、Character.AIがチャットボットによる免許保持者や心理健康の専門家になりすます行為を継続しないよう命じることを求めている。
シャピロは声明の中で次のように述べた：
これは初めてではないが、今回は違う
Character.AIは過去1年半以上、法的圧力に直面してきたが、訴訟の性質は常に変化している。
2024年10月、フロリダ州の14歳の少年シューエル・セッツァー三世の母親メーガン・ガルシアは連邦裁判所に最初の訴えを提起し、Character.AIの伴奏型チャットボットが息子の自殺行動を助長したと主張した。その後、フロリダ州、テキサス州、コロラド州、ニューヨーク州などで家族が続々と訴訟を起こしている。
2026年1月、『ニューヨーク・タイムズ』の報道によると、Character.AIはGoogleと共同で未成年者の自殺に関する複数の訴訟を和解した。Googleは2024年に27億ドルの技術ライセンス契約を結び、創設チームの一部を吸収したことで共同被告となった。同月、ケンタッキー州検事長のラッセル・コールマンは、「子供を略奪し、自傷を誘導した」容疑で別途訴訟を起こした。
これらの訴訟の共通点は、プラットフォームが未成年者に心理的な傷害を与えた点にある。
今回のペンシルバニア州の訴訟は、アプローチが全く異なる。感情的な伴奏の副作用を追及するのではなく、Character.AIが「医療行為を行うことを許可」し、その過程で身分情報を偽造したことを直接主張している。これは米国で初めて、州知事が発表し、免許を持つ医療従事者になりすます行為を核心とした州レベルの訴訟である。
キャラクターは虚構 vs. ユーザーは知らない
Character.AIの声明によると、ユーザーの安全が最優先だとしつつも、訴訟の詳細にはコメントしない。プラットフォーム上のキャラクターはユーザー生成の虚構の役割であり、各会話の開始時に明示的な免責事項を設け、「キャラクターは実在の人物ではなく、すべての発言は虚構である」と注意喚起している。
この弁護の論理は一貫性があるが、ペンシルバニア州政府はこれを受け入れていない。州の立場は、免責事項の存在だけでは、対話中に機械が自ら免許を持ち、医療評価を提供できると自己主張する行為を排除できないというものだ。後者は違法な医療行為の定義に入る。
技術の展開速度は、規制の反応時間を再び超えている。ペンシルバニア州の訴訟が成立するかどうかは、「違法な医療行為」のAI文脈における境界を裁判所がどう定義するかにかかっているが、いずれにせよ、他の州の検察庁もこの案件の行方を注視している。