Ai quyết định những gì AI nói với bạn? Campbell Brown, từng là giám đốc tin tức của Meta, có suy nghĩ

Campbell Brown đã dành sự nghiệp của mình để theo đuổi thông tin chính xác, đầu tiên là với tư cách là một nhà báo truyền hình nổi tiếng, sau đó là giám đốc tin tức tận tâm đầu tiên và duy nhất của Facebook. Giờ đây, khi chứng kiến ​​AI định hình lại cách mọi người tiếp nhận thông tin, cô thấy lịch sử đang có nguy cơ lặp lại. Lần này, cô không đợi người khác sửa nó.

Công ty của cô, Forum AI – mà cô đã thảo luận gần đây với Tim Fernholz của TechCrunch tại một buổi tối StrictlyVC ở San Francisco – đánh giá cách các mô hình nền tảng hoạt động theo những gì cô gọi là “các chủ đề có tính rủi ro cao” – địa chính trị, sức khỏe tâm thần, tài chính, tuyển dụng – những chủ đề “không có câu trả lời có hoặc không rõ ràng, nơi nó u ám, nhiều sắc thái và phức tạp”.

Ý tưởng là tìm kiếm các chuyên gia hàng đầu thế giới, yêu cầu họ đánh giá kiến ​​trúc, sau đó đào tạo các thẩm phán AI để đánh giá các mô hình trên quy mô lớn. Đối với công việc địa chính trị của Diễn đàn AI, Brown đã tuyển dụng Niall Ferguson, Fareed Zakaria, cựu Ngoại trưởng Tony Blinken, cựu Chủ tịch Hạ viện Kevin McCarthy và Anne Neuberger, người lãnh đạo an ninh mạng trong chính quyền Obama. Mục tiêu là giúp các giám khảo AI đạt được sự đồng thuận khoảng 90% với các chuyên gia về con người đó, một ngưỡng mà cô cho rằng Forum AI đã có thể đạt tới.

Brown truy tìm nguồn gốc của Diễn đàn AI, được thành lập cách đây 17 tháng tại New York, cho đến thời điểm cụ thể. “Tôi đã ở Meta khi ChatGPT lần đầu tiên được phát hành công khai,” cô nhớ lại, “và tôi thực sự nhớ ra ngay sau khi nhận ra đây sẽ là kênh mà mọi thông tin đều chảy qua. Và nó không tốt lắm.” Những hàm ý đối với những đứa con của cô khiến khoảnh khắc này gần như tồn tại. “Các con tôi sẽ thực sự ngu ngốc nếu chúng tôi không tìm ra cách khắc phục điều này,” cô nhớ lại và nghĩ.

Điều khiến cô thất vọng nhất là sự chính xác dường như không được ai ưu tiên. Cô cho biết, các công ty theo mô hình nền tảng “cực kỳ tập trung vào mã hóa và toán học”, trong khi tin tức và thông tin thì khó hơn. Nhưng khó hơn, cô lập luận, không có nghĩa là tùy chọn.

Thật vậy, khi Diễn đàn AI bắt đầu đánh giá các mô hình hàng đầu, kết quả thu được không thực sự đáng khích lệ. Cô trích dẫn Gemini lấy từ các trang web của Đảng Cộng sản Trung Quốc “vì những câu chuyện không liên quan gì đến Trung Quốc” và lưu ý rằng có khuynh hướng chính trị thiên tả trên hầu hết các mô hình. Cô nói, cũng có rất nhiều thất bại tinh vi hơn, bao gồm thiếu bối cảnh, thiếu quan điểm, lập luận vô căn cứ mà không được thừa nhận. “Còn một chặng đường dài để đi,” cô nói. “Nhưng tôi cũng nghĩ rằng có một số cách khắc phục rất dễ dàng có thể cải thiện đáng kể kết quả.”

Brown đã dành nhiều năm làm việc tại Facebook để theo dõi điều gì sẽ xảy ra khi một nền tảng tối ưu hóa sai mục đích. Cô nói với Fernholz: “Chúng tôi đã thất bại ở rất nhiều thứ mà chúng tôi đã thử. Chương trình xác minh sự thật do cô xây dựng không còn tồn tại. Bài học, ngay cả khi mạng xã hội đã nhắm mắt làm ngơ, đó là việc tối ưu hóa mức độ tương tác đã gây ra tác hại tồi tệ cho xã hội và khiến nhiều người ít hiểu biết hơn.

Hy vọng của cô là AI có thể phá vỡ chu kỳ đó. “Ngay bây giờ mọi chuyện có thể diễn ra theo một trong hai cách,” cô nói; các công ty có thể cung cấp cho người dùng những gì họ muốn hoặc họ có thể “cung cấp cho mọi người những gì có thật, những gì trung thực và những gì trung thực.” Cô thừa nhận phiên bản lý tưởng của điều đó – AI tối ưu hóa sự thật – nghe có vẻ ngây thơ. Nhưng cô ấy nghĩ rằng doanh nghiệp có thể không phải là đồng minh ở đây. Các doanh nghiệp sử dụng AI để đưa ra quyết định tín dụng, cho vay, bảo hiểm và tuyển dụng quan tâm đến trách nhiệm pháp lý và “họ sẽ muốn bạn tối ưu hóa để thực hiện đúng”.

Nhu cầu của doanh nghiệp đó cũng là điều mà Diễn đàn AI đang đặt cược vào hoạt động kinh doanh của mình, mặc dù việc biến lợi ích tuân thủ thành doanh thu ổn định vẫn là một thách thức, đặc biệt khi phần lớn thị trường hiện tại vẫn hài lòng với kiểm tra hộp kiểm và các tiêu chuẩn tiêu chuẩn hóa mà Brown cho là không thỏa đáng.

Cô ấy nói, bối cảnh tuân thủ là “một trò đùa”. Khi Thành phố New York thông qua luật thiên vị trong tuyển dụng đầu tiên yêu cầu kiểm tra AI, cơ quan kiểm soát của bang nhận thấy hơn một nửa đã vi phạm mà không bị phát hiện. Cô cho biết, việc đánh giá thực sự đòi hỏi kiến ​​thức chuyên môn về miền để xử lý không chỉ các tình huống đã biết mà cả các trường hợp phức tạp “có thể khiến bạn gặp rắc rối mà mọi người không nghĩ tới.” Và công việc đó cần có thời gian. “Những người tổng quát thông minh sẽ không cắt giảm nó.”

Brown – công ty mà mùa thu năm ngoái đã huy động được 3 triệu USD do Lerer Hippeau đứng đầu – được định vị độc đáo để mô tả sự mất kết nối giữa hình ảnh bản thân của ngành AI và thực tế đối với hầu hết người dùng. Cô nói: “Bạn nghe lãnh đạo của các công ty công nghệ lớn nói rằng ‘Công nghệ này sẽ thay đổi thế giới’, ‘nó sẽ khiến bạn mất việc’, ‘nó sẽ chữa khỏi bệnh ung thư’”. “Nhưng với một người bình thường chỉ sử dụng chatbot để đặt những câu hỏi cơ bản, họ vẫn nhận được rất nhiều câu trả lời cẩu thả và sai.”

Niềm tin vào AI ở mức cực kỳ thấp và cô cho rằng sự hoài nghi trong nhiều trường hợp là chính đáng. “Cuộc trò chuyện gần như đang diễn ra ở Thung lũng Silicon xoay quanh một vấn đề và một cuộc trò chuyện hoàn toàn khác đang diễn ra giữa những người tiêu dùng.”