Anthropic cho biết phòng thí nghiệm sinh học của họ đã tìm thấy thứ gì đó lớn lao

Tuần trước, Anthropic xác nhận rằng họ đang vận hành một phòng thí nghiệm sinh học ẩm ướt ở Vùng Vịnh, nơi họ sử dụng các mô hình AI của mình để thực hiện các thí nghiệm vật lý. Tuần này, gã khổng lồ AI thông báo rằng phòng thí nghiệm này đã thực hiện được điều mà họ tin là một khám phá lớn: một “hệ thống” enzyme mới có một số “đặc tính gợi nhớ đến CRISPR”, như Anthropic mô tả.

CRISPR là một hệ thống miễn dịch tự nhiên được vi khuẩn sử dụng để chống lại virus. CRISPR đã trở thành công nghệ chỉnh sửa gen được các nhà nghiên cứu sử dụng rộng rãi.

Về cơ bản, những gì Anthropic cho biết họ tìm thấy là một hệ thống enzyme chưa được biết đến trước đây ẩn trong DNA của thực khuẩn, là những loại virus lây nhiễm và nhân lên bên trong vi khuẩn. Các nhà nghiên cứu của Anthropic cho biết hệ thống này hoạt động tương tự CRISPR ở chỗ nó có thể “thực hiện các hoạt động như cắt, sao chép và dán DNA”.

Cộng đồng nghiên cứu rộng lớn hơn sẽ phải xác nhận mức độ lớn hoặc mới của khám phá này thực sự. Giám đốc điều hành của Anthropic Dario Amodei thừa nhận rằng phát hiện này dựa trên công trình của những người khác và một nhóm từ Stanford trước đó đã phát hiện ra một hệ thống “về mặt nào đó tương tự như hệ thống mà Claude đã tìm thấy”, ông viết trên X.

Nhưng Amodei và Anthropic không chỉ nhấn mạnh vào việc khám phá. Họ đang chào hàng rằng nó đã được tìm thấy “hầu hết, mặc dù không hoàn toàn, bởi Claude,” CEO viết.

Một mặt, điều đó thật đáng kinh ngạc. Phòng thí nghiệm này chỉ mới được thành lập vào mùa xuân năm nay (mặc dù Anthropic từ chối cung cấp thông tin cụ thể hơn về việc nó đã mở cửa được bao nhiêu tháng). Một khám phá chỉ trong vài tháng ngắn ngủi sẽ là công việc đủ nhanh chóng, nhưng nhóm nghiên cứu cho biết thực tế chỉ mất 21 giờ nỗ lực phối hợp của Claude. Claude đã tìm kiếm thông qua dữ liệu bằng cách sử dụng khoảng 950 đại lý đã đốt hết 210 triệu mã thông báo.

Tuy nhiên, tiết lộ rằng Anthropic đang tiến hành các thí nghiệm sinh học được đưa ra ngay sau khi các CEO AI, bao gồm cả Amodei, công khai thừa nhận rằng các mô hình đã trở nên có khả năng và tiềm ẩn nguy hiểm đến mức ngành phải chậm lại và phát triển các quy trình kiểm tra an toàn. Điều này xảy ra sau khi một số nhân viên của anh ấy công khai tuyên bố vào đầu tháng này rằng có nguy cơ AI có thể giết chết tất cả chúng ta.

Bản thân Amodei đã nói một trong những điều ông lo sợ nhất là AI có thể được sử dụng cho mục đích khủng bố sinh học. Nhưng ông cũng tin rằng AI sẽ “chữa khỏi hầu hết các bệnh trong 5-10 năm nữa”, ông viết. Vì vậy Anthropic đã quyết định rõ ràng phần thưởng xứng đáng với rủi ro.

Do đó, có lẽ tiết lộ lớn nhất trong tin tức này không phải là bản thân phát hiện này mà là phòng thí nghiệm sinh học đã không để Claude mất tự do. Các thí nghiệm vật lý được thực hiện bởi con người.

“Phòng thí nghiệm của chúng tôi, nằm ở Vùng Vịnh, trông giống như một phòng thí nghiệm sinh học phân tử điển hình. Chúng tôi thực hiện nghiên cứu chỉ liên quan đến mức độ rủi ro an toàn sinh học ở mức thấp hơn (BSL-1 và BSL-2) và chúng tôi không xử lý các mầm bệnh có thể lây nhiễm cho con người. Tất cả công việc trong phòng thí nghiệm đều do các nhà khoa học con người thực hiện.”

Cũng đúng là nghiên cứu sinh học được hỗ trợ bởi AI hầu như không chỉ có ở Anthropic. Các nhà nghiên cứu từ Stanford vừa xuất bản một bài báo về công việc họ đang thực hiện với LLM và CRISPR. Các nhà nghiên cứu tại UC San Francisco đã sử dụng AI để thiết kế enzyme từ đầu. Google đã ra mắt công cụ nghiên cứu sinh học hỗ trợ AI đầu tiên, AlphaFold, vào năm 2020. Vì vậy, AI rõ ràng đã bước vào nghiên cứu sinh học ngoài việc các phòng thí nghiệm AI tự theo đuổi nó.

Tuy nhiên, Amodei không loại trừ khả năng sẽ có một phòng thí nghiệm sinh học hoàn toàn tự động trong tương lai. Ông nói: “Cuối cùng, chính Claude thậm chí có thể thực hiện các thí nghiệm một cách an toàn bằng cách tự động điều khiển thiết bị phòng thí nghiệm với các biện pháp bảo vệ thích hợp, nhưng ngày nay chúng tôi không làm điều đó”.

.