Hệ thống SynthID của Google đã được sử dụng để vạch trần một hình ảnh lừa đảo nổi tiếng do AI tạo ra, đây là một chiến thắng hiếm hoi nhưng có ý nghĩa quan trọng đối với hệ thống.
Đầu tuần này, một bức ảnh được lan truyền trên mạng dường như cho thấy Thượng nghị sĩ bang Kentucky Mitch McConnell được quấn ống trên giường bệnh trong tình trạng vô cùng đau khổ. Hình ảnh đã được chia sẻ rộng rãi trên Reddit và X, nhưng đến thứ Tư, trang web xác minh tính xác thực uy tín Snopes đã vạch trần hình ảnh đó, lưu ý rằng khi được kiểm tra, hình ảnh sẽ ghi nhận có chứa hình mờ SynthID do Google thiết kế để xác định hình ảnh do AI tạo ra.
Nói tóm lại, hình mờ hoạt động chính xác như mong đợi để mang lại chiến thắng cho công nghệ chống deepfake.
Sức khỏe của Thượng nghị sĩ McConnell đã trở thành chủ đề được đồn đoán nhiều kể từ khi ông nhập viện sau cuộc gọi khẩn cấp vào ngày 14 tháng 6. Kể từ thời điểm đó, ông gần như vắng bóng trước công chúng, làm dấy lên suy đoán rằng sức khỏe của ông có thể đang suy yếu. Tuy nhiên, trong trường hợp này, bằng chứng được chứng minh là hoàn toàn giả mạo.
Ra mắt tại hội nghị nhà phát triển I/O của Google vào năm 2025, SynthID hoạt động như một chữ ký vô hình, hiển thị đối với các thuật toán SynthID nhưng được thiết kế để người quan sát bình thường không thể nhận ra. Vì chữ ký được tích hợp vào chính hình ảnh nên nó vẫn tồn tại ngay cả khi hình ảnh được chụp màn hình trên nhiều nền tảng, như hình ảnh McConnell.
Hạn chế chính của SynthID là nó chỉ có thể được sử dụng khi có công cụ tạo hình ảnh tham gia tích cực vào chương trình. Các mô hình Gemini đã đưa hình mờ kể từ khi chương trình ra mắt vào năm 2025. OpenAI tham gia vào tháng 5 năm 2026, như một phần trong nỗ lực rộng lớn hơn nhằm chống lại việc tạo ra hình ảnh độc hại. Nhân Mã không tham gia chương trình.
Người dùng có thể kiểm tra xem hình ảnh có chứa hình mờ hay không bằng cách hỏi người mẫu Gemini hoặc tải chúng lên công cụ xác minh hình ảnh công khai của OpenAI.