Trong những gì có thể đánh dấu thỏa thuận pháp lý quan trọng đầu tiên của ngành công nghệ đối với tác hại liên quan đến AI, Google và công ty khởi nghiệp Character.AI đang đàm phán các điều khoản với các gia đình có thanh thiếu niên chết vì tự tử hoặc tự làm hại mình sau khi tương tác với những người bạn đồng hành trong chatbot của Character.AI. Các bên đã thoả thuận về nguyên tắc giải quyết; bây giờ đến công việc khó khăn hơn để hoàn thiện các chi tiết.
Đây là một trong những giải pháp đầu tiên trong các vụ kiện cáo buộc các công ty AI làm hại người dùng, một biên giới pháp lý khiến OpenAI và Meta phải lo lắng theo dõi từ cánh khi họ tự bảo vệ mình trước các vụ kiện tương tự.
Character.AI được thành lập vào năm 2021 bởi các kỹ sư cũ của Google, những người đã quay trở lại công ty cũ của họ vào năm 2024 trong một thỏa thuận trị giá 2,7 tỷ USD, mời người dùng trò chuyện với các nhân vật AI. Vụ án ám ảnh nhất liên quan đến Sewell Setzer III, người ở tuổi 14 đã thực hiện các cuộc trò chuyện mang tính khiêu dâm với robot “Daenerys Targaryen” trước khi tự sát. Mẹ của anh, Megan Garcia, đã nói với Thượng viện rằng các công ty phải “chịu trách nhiệm pháp lý khi cố tình thiết kế các công nghệ AI có hại gây tử vong cho trẻ em”.
Một vụ kiện khác mô tả một thanh niên 17 tuổi có chatbot khuyến khích việc tự làm hại bản thân và cho rằng việc giết cha mẹ mình là hợp lý để hạn chế thời gian sử dụng thiết bị. Character.AI đã cấm trẻ vị thành niên vào tháng 10 năm ngoái, nó nói với TechCrunch. Các thỏa thuận dàn xếp có thể sẽ bao gồm các thiệt hại bằng tiền, mặc dù không có trách nhiệm pháp lý nào được thừa nhận trong hồ sơ tòa án được công bố hôm thứ Tư.
TechCrunch đã liên hệ với cả hai công ty.