Pennsylvania kiện Character.AI về chatbot giả danh bác sĩ tâm thần có giấy phép

Tóm tắt ngắn gọn

• Pennsylvania đang kiện Character.AI, cáo buộc chatbot giả danh bác sĩ tâm thần có giấy phép sử dụng số giấy phép không hợp lệ.
• Bang tuyên bố chatbot trình bày giấy chứng nhận y tế giả mạo.
• Vụ kiện góp phần vào sự kiểm tra pháp lý đối với nền tảng này, vốn đã đối mặt với nhiều vụ kiện tụng ngày càng gia tăng.

Pennsylvania đã đệ đơn kiện nhà phát triển AI tạo sinh Character.AI, cáo buộc công ty cho phép chatbot tự giới thiệu là các chuyên gia y tế có giấy phép và cung cấp thông tin gây hiểu lầm cho người dùng. Hành động này, được Thống đốc Josh Shapiro công bố vào thứ Ba, theo sau một cuộc điều tra phát hiện một chatbot tự xưng là bác sĩ tâm thần có giấy phép tại Pennsylvania và cung cấp số giấy phép không hợp lệ. Bang cho biết hành vi này vi phạm Luật Thực hành Y tế và đang yêu cầu lệnh cấm tạm thời để ngăn chặn nó. Character.AI từ chối đề cập đến các chi tiết của vụ kiện, viện dẫn các vụ kiện đang diễn ra, nhưng nói với Decrypt rằng “ưu tiên hàng đầu của chúng tôi là an toàn và phúc lợi của người dùng.”

Người phát ngôn bổ sung rằng các nhân vật trên nền tảng là do người dùng tạo ra, hư cấu, và nhằm mục đích giải trí và nhập vai, với “các tuyên bố rõ ràng trong mỗi cuộc trò chuyện” rằng chúng không phải là người thật và không nên dựa vào để nhận lời khuyên chuyên nghiệp.  “Character.ai ưu tiên phát triển sản phẩm có trách nhiệm và có các quy trình đánh giá nội bộ và kiểm tra rủi ro mạnh mẽ để đánh giá các tính năng liên quan,” người phát ngôn nói. Vụ kiện đến trong bối cảnh công ty đang đối mặt với các thách thức pháp lý khác liên quan đến nền tảng chatbot của mình. Năm 2024, một người mẹ ở Florida đã kiện công ty sau khi con trai tuổi teen của bà tự tử sau nhiều tháng tương tác với một chatbot dựa trên nhân vật Daenerys Targaryen trong “Game of Thrones”. Vụ kiện cáo buộc nền tảng góp phần gây tổn thương tâm lý. Cuối cùng, vụ kiện đã được giải quyết vào tháng Giêng vừa qua.

Công ty cũng đã đối mặt với các phàn nàn về các bot do người dùng tạo ra bắt chước người thật. Trong một trường hợp, một chatbot đã sử dụng hình ảnh của một nạn nhân vụ giết người tuổi vị thành niên trước khi bị gỡ bỏ sau phản đối từ gia đình nạn nhân. Để đối phó với các vụ kiện, Character AI đã giới thiệu các biện pháp an toàn mới, bao gồm hệ thống phát hiện các cuộc trò chuyện có hại và hướng người dùng đến các nguồn hỗ trợ. Nó cũng hạn chế một số tính năng đối với người dùng nhỏ tuổi hơn. Chính quyền Pennsylvania cho biết vụ kiện là một phần của nỗ lực rộng hơn nhằm thực thi các luật hiện hành khi các công cụ AI ngày càng phổ biến. Bang đã thành lập một nhóm thực thi AI và hệ thống báo cáo các vi phạm tiềm năng. Trong đề xuất ngân sách năm 2026-27, Shapiro kêu gọi các nhà lập pháp thông qua các quy định mới cho các bot đồng hành AI, bao gồm xác minh tuổi và sự đồng ý của cha mẹ, các biện pháp bảo vệ để phát hiện và chuyển các báo cáo về tự gây hại hoặc bạo lực đến cơ quan chức năng, nhắc nhở thường xuyên rằng người dùng không đang tương tác với người thật, và cấm nội dung khiêu dâm hoặc bạo lực liên quan đến trẻ vị thành niên. “Người dân Pennsylvania xứng đáng được biết họ đang tương tác với ai—hoặc cái gì—trực tuyến, đặc biệt là liên quan đến sức khỏe của họ,” Shapiro nói trong một tuyên bố. “Chúng tôi sẽ không cho phép các công ty triển khai các công cụ AI gây hiểu lầm khiến mọi người tin rằng họ đang nhận lời khuyên từ một chuyên gia y tế có giấy phép.”