Khi nội dung AI tràn ngập internet, Pangram huy động được 9 triệu USD để phát hiện nội dung đó

Công ty khởi nghiệp phát hiện AI Pangram có trụ sở tại New York đang thực hiện sứ mệnh chống lại sự phá hoại của AI đang lan rộng trên internet và họ vừa huy động được 9 triệu đô la khi đặt cược rằng nhu cầu về các công cụ phân biệt nội dung do con người tạo ra với văn bản do AI tạo ra sẽ chỉ tăng lên.

Cuộc gây quỹ của Pangram — do Menlo Ventures dẫn đầu, với sự tham gia của Haystack, ScOp, Script Capital và Cadenza — diễn ra khi công ty khởi nghiệp này cũng ra mắt mô hình phát hiện văn bản AI thế hệ tiếp theo, Pangram 4 và mô hình phát hiện hình ảnh AI, Pangram Image.

Pangram cho biết mô hình phát hiện văn bản mới có độ chính xác hơn 99% trong việc tìm kiếm văn bản được AI hỗ trợ và nội dung hỗn hợp giữa con người với AI, đồng thời nó có thể dễ dàng phát hiện các chương trình nhân bản AI hơn. Trình phát hiện hình ảnh AI hiện chỉ khả dụng thông qua bản xem trước nghiên cứu; Pangram có kế hoạch phát hành nó rộng rãi hơn trong những tuần tới.

Max Spero và Bradley Emi, sinh viên tốt nghiệp ngành AI và học máy của Stanford, đã ra mắt Pangram khoảng hai năm trước, sau khi ra mắt ChatGPT đã mở ra cánh cổng cho một mạng Internet chứa đầy bot, nội dung sai lệch về SEO do AI tạo ra và cái mà Spero gọi là “các chiến dịch đưa thông tin sai lệch do Nga cung cấp bởi LLM và các chiến dịch chịu ảnh hưởng của UAE trên Twitter”.

Spero nói với TechCrunch: “Tôi nghĩ việc biết liệu thứ bạn đang xem có phải là thứ do AI tạo ra hay không là điều vô cùng quý giá”. “Đặc biệt là văn bản bạn đang đọc, vì nó thay đổi cách mọi người tiếp cận văn bản. Đây có phải là điều mà tôi sẽ phải để ý đến ảo giác và nhảy vào một cách đầy hoài nghi, hay đây là điều mà tôi tin tưởng đã được nghiên cứu kỹ lưỡng từ một nhà báo thực tế?”

Hệ thống phát hiện AI của Pangram về cơ bản là một mô hình học máy lớn được đào tạo trên hàng chục triệu tài liệu đã biết của con người. Sau đó, công ty khởi nghiệp này đã tạo ra một “tấm gương tổng hợp” cho mỗi tài liệu, sao chép chủ đề, độ dài và giọng điệu nhưng được viết bởi một LLM biên giới.

Spero cho biết: “Mô hình của chúng tôi đang tìm hiểu sự khác biệt về phong cách và các lựa chọn mà AI đưa ra một cách nhất quán và có thể sử dụng điều đó để tìm hiểu điều gì tạo nên thứ gì đó do AI tạo ra với độ tin cậy cao”. Ông nói thêm rằng trình phát hiện AI không dựa vào siêu dữ liệu sao chép-dán hoặc hình mờ ẩn.

Đối với Pangram, việc phát hiện AI không chỉ liên quan đến việc liệu một đoạn văn bản có được viết hoàn toàn bởi AI hay không. Đó cũng là việc phân biệt giữa các mức độ hỗ trợ của AI – như trong trường hợp ai đó tự viết nội dung nào đó nhưng sau đó yêu cầu AI chỉnh sửa hoặc dọn dẹp nó. Spero tin rằng sự hỗ trợ của AI có thể được chấp nhận, miễn là người viết tiết lộ việc sử dụng AI của họ.

Sự xuất hiện của Pangram xuất hiện vào thời điểm việc sử dụng AI đang trở nên phổ biến hơn. Trong một số trường hợp, chẳng hạn như chính trị gia người Canada đọc to lời nhắc của AI trong bài phát biểu trước các nhà lập pháp, những sai lầm sẽ dẫn đến sự chế giễu. Trong các trường hợp khác, chẳng hạn như trường hợp một số luật sư đưa ra trường hợp của họ bằng cách sử dụng các trích dẫn giả do ChatGPT tạo ra, hậu quả có thể là các biện pháp trừng phạt và phạt tiền.

Phản ứng dữ dội đó không chỉ khiến các cá nhân phải bối rối hoặc bị trừng phạt – nó còn bắt đầu xuất hiện trong các quy định của thể chế.

Kho lưu trữ truy cập mở arXiv đã giới thiệu một chính sách thực thi mới trong năm nay, nêu rõ rằng các nội dung gửi có chứa bằng chứng cho thấy các tác giả đã không xem xét kết quả LLM (chẳng hạn như các tài liệu tham khảo gây ảo giác hoặc các nhận xét meta chẳng hạn như “Bạn có muốn tôi thực hiện bất kỳ thay đổi nào không?”) có thể gây ra lệnh cấm gửi một năm.

Pangram không phải là công ty duy nhất đặt cược rằng khả năng phát hiện AI sẽ được săn đón nhiều hơn. Các đối thủ cạnh tranh như Winston AI, Originality.ai, Copyleaks và GPTZero đang theo đuổi cùng một nhu cầu, mỗi hãng đều xây dựng máy dò riêng của mình.

Công nghệ của Pangram, mặc dù không hoàn hảo, nhưng có thể giúp thúc đẩy sự phản đối việc chấp nhận nội dung do AI tạo ra tràn ngập internet, phòng xử án và các bài báo học thuật.

Người dùng có thể truy cập Pangram thông qua đăng ký 20 USD mỗi tháng trên web hoặc tải xuống tiện ích mở rộng Chrome, tiện ích này tự động gắn nhãn các bài đăng theo thời gian thực trên X, LinkedIn, Substack, Reddit và Medium. Nó cũng cung cấp điểm số về tình trạng nguồn cấp dữ liệu với tỷ lệ phần trăm phân tích nội dung con người so với nội dung AI trên màn hình của bạn.

Pangram cũng cung cấp công nghệ của mình thông qua API. Đáng chú ý, Substack gần đây đã tích hợp công nghệ của Pangram vào nền tảng của nó để cho độc giả thấy tác giả yêu thích nào của họ viết bản tin bằng AI. Các khách hàng API khác bao gồm Quora, trường học và trường đại học, nhà xuất bản và đại lý cũng như nhà tuyển dụng, cùng những người khác, theo Spero.

Pangram có hoạt động không?

Spero cho biết khoảng 1 trong 10.000 tài liệu của con người bị gắn nhãn sai là AI với mô hình của Pangram, vì vậy tôi quyết định đưa nó vào thử nghiệm. Mô hình phát hiện văn bản rất ấn tượng nhưng chưa hoàn hảo. Nó dễ dàng gắn cờ các bài báo hoàn toàn do AI tạo ra được viết bởi cả ChatGPT và Claude và hiếm khi bị đánh lừa bởi những nỗ lực của tôi nhằm chỉnh sửa văn bản do AI tạo ra để nghe giống con người hơn. Đồng thời, Pangram đã gắn cờ các câu mà tôi viết lại hoàn toàn là do AI viết. Pangram cũng không hề bị lừa bởi nỗ lực của tôi nhằm nhắc ChatGPT và Claude trốn tránh các máy dò AI khi tạo nội dung.

Tôi cũng đưa cho ChatGPT và Claude một trong những bài viết của riêng tôi và yêu cầu họ trau chuốt nó. Pangram cho nó điểm hỗ trợ AI là 13%, có thể gần chính xác, nhưng mô hình này có thể phát hiện những thay đổi tinh vi trong cách lựa chọn từ trong một số câu và bỏ qua chúng ở những câu khác. Nó cũng gắn cờ một số câu được AI hỗ trợ khi chúng được viết bởi con người. Điều đó thật đáng chú ý vì khi tôi đưa cho Pangram toàn bộ bài viết đó, như tôi đã viết, nó đã nhận được 100% điểm con người.

Có lẽ vấn đề là các bài báo có thể hơi khô khan và dễ nghe giống AI. Vì vậy tôi đã thử một chiến thuật khác. Tôi đã thử nghiệm Pangram trên nội dung bản tin Substack cá nhân, có giọng nói hơn của riêng mình, dán nửa đầu văn bản vào Pangram rồi yêu cầu ChatGPT và Claude sao chép phong cách của tôi và viết nửa sau. Trong hầu hết các trường hợp, Pangram dễ dàng phát hiện văn bản do con người viết và văn bản do AI viết.

Thử nghiệm giới hạn của tôi về mô hình phát hiện hình ảnh mới của Pangram hóa ra cũng ấn tượng không kém.

Hệ thống phát hiện hình ảnh AI của Pangram hứa hẹn sẽ phát hiện các hình ảnh do AI tạo ra trên các mô hình AI, không giống như các kiểm tra dựa trên hình mờ của OpenAI hoặc Google DeepMind, vốn chủ yếu phát hiện đầu ra của chính chúng. Nó hoạt động trên các phân bố cấp độ pixel, tìm hiểu sự khác biệt thống kê tinh tế giữa ảnh thật và hình ảnh do AI tạo ra. Spero cho biết mô hình này thậm chí có thể phát hiện hình ảnh AI xuất hiện bên trong bức ảnh thế giới thực.

Trong thử nghiệm của tôi, mô hình này dễ dàng phát hiện hình ảnh do AI tạo ra, cho dù đó là hình ảnh chân thực hay hoạt hình. Tôi cũng có thể xác nhận rằng mô hình có thể phát hiện hình ảnh AI xuất hiện trong một bức ảnh trong thế giới thực – bản đồ nhiệt Pangram cung cấp ánh sáng rõ ràng trên hình ảnh – mặc dù trong một trường hợp, nó đã gắn nhãn không chính xác một bức ảnh của hình ảnh do AI tạo ra là nội dung của con người.

Spero nói rằng anh ấy không muốn công nghệ của mình thúc đẩy cuộc săn lùng phù thủy chống lại những người sử dụng AI để viết, nhưng cần phải có một số loại cơ chế để chống lại sự trượt dốc.

Spero nói: “Tương lai mà tôi nhìn thấy là nội dung AI sẽ tiếp tục phát triển. “Chúng ta đang có GPU mới nhanh hơn tốc độ số người mới ra đời. Nếu chúng ta không tích cực phân biệt đối xử ủng hộ nội dung của con người, thì chúng ta sẽ ngày càng thấy nhiều AI hơn và nó sẽ át đi mọi tín hiệu của con người mà chúng ta có.”