Vấn đề giống nhau đằng sau những menu kém hấp dẫn do AI tạo ra

Lisle nói rằng cách xây dựng các mô hình này có thể giúp giải thích lý do tại sao các hình minh họa dường như có tính thẩm mỹ cụ thể đến vậy – hình ảnh mà mỗi muỗng kem đều có hình tròn hoàn hảo và hình ảnh con tôm dường như đã được biến đổi gen để ăn đuôi của chính chúng, tạo ra “nỗi kinh hoàng về đồ ăn kiểu Lovecraft” mới.

Các mô hình ngôn ngữ lớn (LLM) và mô hình khuếch tán – các loại mô hình AI tạo ra các chatbot và trình tạo hình ảnh dường như toàn trí như ChatGPT và Midjourney – được đào tạo trên số lượng lớn dữ liệu. Sau đó, các mô hình sẽ xác định các mẫu trong bộ dữ liệu để dự đoán những gì người dùng đang tìm kiếm khi họ yêu cầu những điều như “Tạo cho tôi thực đơn cho một nhà hàng bánh mì kẹp thịt”.

Lisle nói: “Rất nhiều thứ này trông giống như thực đơn của Chili từ năm 2015, và có lý do cho điều đó”. “Đó là tập hợp công việc mà từ đó (các mô hình) rút ra chức năng của chúng.”

Dữ liệu đào tạo mới là vô giá đối với các công ty xây dựng mô hình AI – Amazon thậm chí còn bị phát hiện tìm nguồn sách hiếm để quét và thêm vào dữ liệu đào tạo của mình, nhưng chỉ hủy những cuốn sách đó sau khi chúng được tải lên. Không thể tránh khỏi việc một số nội dung do AI tạo ra sẽ xâm nhập vào các tập dữ liệu lớn đến mức khó hiểu này. Nhưng khi các mô hình AI đào tạo quá nhiều nội dung do AI tạo ra, chúng có nguy cơ sụp đổ mô hình.

Lisle giải thích: “Sự sụp đổ của mô hình gần giống như bệnh bò điên… khi bạn đưa các đầu ra từ một mô hình trở lại chính mô hình đó, cuối cùng thì cận huyết trở nên quá nhiều và toàn bộ mọi thứ sẽ sụp đổ”. “Những gì chúng ta thấy ở đây là sự hội tụ, không nhất thiết là sự sụp đổ của mô hình.”

Sự hội tụ ít cực đoan hơn một chút, làm giảm chất lượng đầu ra của AI mà không khiến nó hoàn toàn vô dụng.

Nếu ai đó yêu cầu mô hình AI tạo thực đơn cho một nhà hàng thức ăn nhanh, mô hình đó có thể sẽ tham khảo thực đơn của Wendy’s, Burger King, McDonald’s hoặc một chuỗi cửa hàng nổi tiếng khác. Các menu này đã có chung một kiểu, có nghĩa là các đầu ra do AI tạo ra sẽ bắt chước kiểu đó, chỉ để củng cố thêm kiểu đó nếu menu do AI tạo lại xuất hiện trong dữ liệu đào tạo.

Nhưng thực đơn và quảng cáo đồ ăn sẽ luôn trông đẹp hơn thực tế, giống như một chiếc Big Mac trong quảng cáo của McDonald’s, nơi mỗi lớp bánh sandwich được một nhà thiết kế phụ kiện sắp xếp để trông ngon miệng nhất. Hiệu ứng này có thể còn trở nên rõ rệt hơn trong các kết quả đầu ra của AI.

Lee Rainie, Giám đốc Trung tâm Tưởng tượng Tương lai Kỹ thuật số tại Đại học Elon, nói với TechCrunch: “Việc tối ưu hóa các tập dữ liệu là để mang lại sự hài lòng hoặc bạn biết đấy, không gây khó chịu và do đó, có một cách dẫn đến sự đồng nhất hóa”. “Những gì AI được biết là làm được cả về hình ảnh và ngôn ngữ là loại bỏ các góc cạnh.”

Ở quy mô cục bộ hơn, việc làm mịn hình ảnh này dường như xảy ra khi bạn sử dụng trình tạo hình ảnh AI để tạo menu và áp dụng các chỉnh sửa cho nó. Trên X, một người dùng có tên Labtec đã cho thấy điều gì sẽ xảy ra khi bạn tạo một thực đơn trong ChatGPT, sau đó chỉnh sửa nó 100 lần để xem món ăn ngày càng trông giống như bình thường như thế nào. (Chúng tôi đã lặp lại thí nghiệm và tìm thấy kết quả tương tự.)

Labtec viết: “Kết quả cuối cùng thực sự khiến tôi không thoải mái.

Các nhà hàng có thể trở thành nạn nhân của vấn đề này, họ phải sửa đổi thực đơn do AI tạo ra để thay đổi nhiều lần các chi tiết nhỏ, như giá cả hoặc tên món ăn. Có vẻ như sau mỗi lần chỉnh sửa, hình ảnh món ăn trở nên tròn trịa và mượt mà hơn một chút.

Rainie nói: “Mọi người có một cảm giác gần như không thể giải thích được khi họ nhìn vào thứ gì đó do AI tạo ra, so với thứ có thật ngay từ đầu. “Có một sự nhạy cảm mà đôi khi mọi người cảm thấy khó diễn đạt, nhưng họ gần như biết điều đó khi nhìn thấy và tôi nghĩ đó là một trong những lý do tại sao một số câu chuyện ban đầu về phản ứng dữ dội (chống lại các nhà hàng sử dụng thực đơn AI) lại rõ ràng như vậy.”

Có khoa học đằng sau sự ác cảm của chúng ta đối với những menu AI này. Các nhà nghiên cứu tại Đại học Duisburg-Essen ở Đức phát hiện ra rằng hình ảnh đồ ăn do AI tạo ra thể hiện hiệu ứng “thung lũng kỳ lạ”, trong đó hình ảnh đồ ăn trông gần như thật gây ra cảm giác ghê tởm và khó chịu hơn so với những hình ảnh rõ ràng là giả. Sự khó chịu đó chỉ càng tăng lên trong bối cảnh văn hóa xung quanh AI.

Nếu mọi người phản ứng tiêu cực với những hình ảnh này thì đó có lẽ là lý do đủ để các nhà hàng ngừng cố gắng làm cho thực đơn AI hoạt động. Nhưng những vấn đề khiến chúng ta có được những chiếc bánh hamburger chín vàng hoàn hảo còn vượt xa cả bàn ăn tối.

Lisle nói: “Việc nhìn và nghe luôn mang tính tin tưởng, đến mức ngay cả hệ thống tòa án của chúng ta cũng hoàn toàn tuân theo ý tưởng rằng tiêu chuẩn vàng về bằng chứng là ghi âm lời thú tội và bằng chứng được quay video”. “Điều đó không còn xảy ra nữa. Thế giới về cơ bản đã thay đổi, dù tốt hay xấu.”