Khối thịnh vượng chung Pennsylvania đã đệ đơn kiện Character.AI, cho rằng một trong những chatbot của công ty đã giả dạng bác sĩ tâm thần, vi phạm các quy tắc cấp phép y tế của tiểu bang.
Thống đốc Josh Shapiro cho biết: “Người dân Pennsylvania xứng đáng được biết ai – hoặc cái gì – họ đang tương tác trực tuyến, đặc biệt là khi liên quan đến sức khỏe của họ”. “Chúng tôi sẽ không cho phép các công ty triển khai các công cụ AI nhằm đánh lừa mọi người rằng họ đang nhận được lời khuyên từ một chuyên gia y tế được cấp phép.”
Theo hồ sơ của tiểu bang, một chatbot Character.AI có tên Emilie đã tự giới thiệu mình là một bác sĩ tâm thần được cấp phép trong quá trình kiểm tra của Điều tra viên Hành vi Chuyên nghiệp của tiểu bang, vẫn giả vờ ngay cả khi điều tra viên tìm cách điều trị chứng trầm cảm. Khi được hỏi liệu cô có được cấp phép hành nghề y ở tiểu bang hay không, Emilie nói rằng cô có giấy phép hành nghề y và cũng làm giả số sê-ri cho giấy phép hành nghề y của tiểu bang. Theo vụ kiện của tiểu bang, hành vi đó vi phạm Đạo luật Hành nghề Y tế của Pennsylvania.
Đây không phải là vụ kiện đầu tiên liên quan đến Character.AI. Đầu năm nay, công ty đã giải quyết một số vụ kiện oan sai liên quan đến người dùng chưa đủ tuổi chết do tự tử. Vào tháng 1, Bộ trưởng Tư pháp bang Kentucky, Russell Coleman đã đệ đơn kiện công ty với cáo buộc rằng họ đã “săn lùng trẻ em và khiến chúng tự làm hại bản thân”.
Hành động của Pennsylvania là hành động đầu tiên đặc biệt tập trung vào các chatbot tự nhận mình là chuyên gia y tế.
Khi được đưa ra bình luận, đại diện của Character.AI tuyên bố rằng an toàn của người dùng là ưu tiên cao nhất của công ty, nhưng công ty không thể bình luận về vụ kiện tụng đang chờ xử lý.
Ngoài ra, người đại diện còn nhấn mạnh tính chất hư cấu của các Nhân vật do người dùng tạo ra. Người đại diện cho biết: “Chúng tôi đã thực hiện các bước mạnh mẽ để làm rõ điều đó, bao gồm các tuyên bố từ chối trách nhiệm nổi bật trong mỗi cuộc trò chuyện để nhắc nhở người dùng rằng Nhân vật không phải là người thật và mọi thứ mà Nhân vật nói phải được coi là hư cấu”. “Ngoài ra, chúng tôi bổ sung các tuyên bố từ chối trách nhiệm mạnh mẽ để làm rõ rằng người dùng không nên dựa vào Nhân vật để nhận bất kỳ loại lời khuyên chuyên môn nào.”
Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi.