Một bài đăng lan truyền trên Reddit cáo buộc gian lận từ một ứng dụng giao đồ ăn hóa ra là do AI tạo ra

Một người dùng Reddit tự xưng là người tố giác một ứng dụng giao đồ ăn đã bị coi là giả mạo. Người dùng đã viết một bài đăng lan truyền cáo buộc rằng công ty mà anh ta làm việc đang khai thác trình điều khiển và người dùng của họ.

“Các bạn luôn nghi ngờ các thuật toán được gian lận để chống lại bạn, nhưng thực tế thực sự đáng buồn hơn nhiều so với các thuyết âm mưu,” người được cho là đã viết.

Anh ta khai rằng mình đang say rượu và đến thư viện để sử dụng Wi-Fi công cộng, nơi anh ta đang viết bài báo dài dòng này về cách công ty khai thác các lỗ hổng pháp lý để ăn trộm tiền boa và tiền lương của tài xế mà không bị trừng phạt.

Thật không may, những tuyên bố đó là đáng tin cậy – DoorDash thực sự đã từng là bị kiện vì ăn trộm tiền boa của tài xế, dẫn đến khoản bồi thường 16,75 triệu USD. Nhưng trong trường hợp này, người đăng đã bịa ra câu chuyện của mình.

Mọi người nói dối trên internet mọi lúc. Nhưng hiếm khi những bài đăng như vậy xuất hiện trên trang nhất của Reddit, thu hút hơn 87.000 lượt tán thành và được đăng chéo lên các nền tảng khác như X, nơi nó nhận được thêm 208.000 lượt thích và 36,8 triệu lượt hiển thị.

Casey Newton, nhà báo của Platformer, đã viết rằng anh ấy đã liên hệ với người đăng Reddit, người sau đó đã liên hệ với anh ấy trên Signal. Redditor đã chia sẻ thứ trông giống như một bức ảnh chụp huy hiệu nhân viên UberEats của anh ấy, cũng như một “tài liệu nội bộ” dài 18 trang nêu rõ việc công ty sử dụng AI để xác định “điểm tuyệt vọng” của từng tài xế. Nhưng khi Newton cố gắng xác minh rằng tài khoản của người tố giác là hợp pháp, anh nhận ra rằng mình đang bị dụ vào một trò lừa bịp AI.

Newton viết: “Trong phần lớn sự nghiệp của tôi cho đến thời điểm này, tài liệu mà người tố giác chia sẻ với tôi có vẻ rất đáng tin cậy phần lớn vì sẽ mất rất nhiều thời gian để tập hợp lại”. “Ai lại dành thời gian biên soạn một tài liệu kỹ thuật dài 18 trang chi tiết về động lực thị trường chỉ để troll một phóng viên? Ai lại gặp rắc rối khi tạo ra một huy hiệu giả?”

Luôn có những kẻ xấu tìm cách đánh lừa các phóng viên, nhưng sự phổ biến của các công cụ AI khiến việc kiểm tra tính xác thực càng đòi hỏi sự nghiêm ngặt hơn.

Các mô hình AI tổng hợp thường không phát hiện được liệu hình ảnh hoặc video có phải là tổng hợp hay không, khiến việc xác định xem nội dung có phải là thật hay không là một thách thức. Trong trường hợp này, Newton đã có thể sử dụng Gemini của Google để xác nhận rằng hình ảnh được tạo bằng công cụ AI, nhờ hình mờ SynthID của Google, có thể chịu được việc cắt xén, nén, lọc và các nỗ lực khác để thay đổi hình ảnh.

Max Spero – người sáng lập Pangram Labs, một công ty sản xuất công cụ phát hiện văn bản do AI tạo ra – làm việc trực tiếp với vấn đề phân biệt nội dung thật và giả.

Spero nói với TechCrunch: “Sự trượt dốc của AI trên Internet đã trở nên tồi tệ hơn rất nhiều và tôi nghĩ một phần nguyên nhân là do việc sử dụng LLM ngày càng tăng cũng như các yếu tố khác”. “Có những công ty có doanh thu hàng triệu USD có thể trả tiền cho ‘sự tương tác tự nhiên’ trên Reddit, thực ra họ sẽ cố gắng lan truyền trên Reddit bằng các bài đăng do AI tạo ra có đề cập đến tên thương hiệu của bạn.”

Các công cụ như Pangram có thể giúp xác định xem văn bản có phải do AI tạo ra hay không, nhưng đặc biệt khi nói đến nội dung đa phương tiện, những công cụ này không phải lúc nào cũng đáng tin cậy — và ngay cả khi một bài đăng tổng hợp được chứng minh là giả mạo, nó có thể đã lan truyền trước khi bị vạch trần. Vì vậy, hiện tại, chúng ta đang lướt mạng xã hội như thám tử, suy đoán xem bất cứ điều gì chúng ta thấy có phải là sự thật hay không.

Trường hợp cụ thể: Khi tôi nói với một biên tập viên rằng tôi muốn viết về “trò lừa bịp giao đồ ăn bằng AI lan truyền trên Reddit vào cuối tuần này”, cô ấy nghĩ rằng tôi đang nói về điều gì khác. Có – đã có nhiều hơn một “trò lừa bịp giao đồ ăn bằng AI lan truyền trên Reddit vào cuối tuần này”.