Nhà nghiên cứu Anthropic từ chức sau ba năm tham gia huấn luyện mô hình tại OpenAI và Anthropic, cho rằng cuộc đua phát triển hệ thống tự cải tiến đang nhanh hơn năng lực kiểm soát rủi ro.
Jacob Coxon, 27 tuổi, thông báo rời Anthropic và tạm dừng công việc trong lĩnh vực trí tuệ nhân tạo. Trong bài đăng trên mạng xã hội X ngày 9/9, ông cho biết quyết định được đưa ra sau thời gian làm việc với các mô hình AI quy mô lớn tại hai phòng thí nghiệm hàng đầu của Mỹ.
Coxon không phản đối toàn bộ hướng phát triển AI. Mối lo của ông tập trung vào kịch bản các hệ thống tương lai có thể tự cải thiện năng lực, thúc đẩy một cuộc đua công nghệ mà doanh nghiệp và cơ quan quản lý không kịp kiểm soát. Đây là cảnh báo cá nhân của một nhà nghiên cứu trong ngành, chưa phải bằng chứng rằng hệ thống như vậy đã tồn tại.
Vì sao nhà nghiên cứu Anthropic từ chức?
Tại Anthropic, Coxon tham gia mảng tiền huấn luyện, giai đoạn mô hình học từ lượng dữ liệu rất lớn để hình thành năng lực ngôn ngữ và suy luận cơ bản. Công việc này có ảnh hưởng trực tiếp đến quy mô và khả năng của các mô hình nền tảng trước khi chúng được tinh chỉnh cho từng sản phẩm cụ thể.
Theo Coxon, cả Anthropic lẫn OpenAI đều đang chịu sức ép phải liên tục nâng năng lực mô hình. Nếu một công ty chủ động giảm tốc nhưng đối thủ vẫn tiếp tục, lợi thế thương mại và công nghệ có thể nhanh chóng thay đổi. Cơ chế cạnh tranh này khiến quyết định thận trọng của từng doanh nghiệp riêng lẻ trở nên khó duy trì.
Nhà nghiên cứu cho rằng rủi ro lớn nhất không nằm ở chatbot hiện nay, mà ở thế hệ hệ thống có thể hỗ trợ nghiên cứu AI, viết mã, tìm lỗ hổng và tự động hóa nhiều bước phát triển tiếp theo. Khi chu kỳ cải tiến rút ngắn, con người có thể mất khả năng đánh giá đầy đủ hậu quả trước khi một phiên bản mạnh hơn được triển khai.
Tranh luận về siêu trí tuệ tự cải tiến
Khái niệm “siêu trí tuệ tự cải tiến” mô tả một hệ thống vượt con người ở nhiều nhiệm vụ nhận thức, đồng thời có khả năng góp phần thiết kế thế hệ kế tiếp của chính nó. Đây vẫn là kịch bản được tranh luận. Giới nghiên cứu chưa thống nhất về thời điểm, con đường kỹ thuật hay xác suất nó trở thành hiện thực.
Coxon cảnh báo một hệ thống đủ mạnh có thể khai thác lỗ hổng máy tính, tác động đến hạ tầng quan trọng hoặc tìm cách giành thêm tài nguyên để hoàn thành mục tiêu. Nguy cơ sẽ lớn hơn nếu mục tiêu của hệ thống không phù hợp với lợi ích của con người và các lớp bảo vệ bị vượt qua.
Tuy nhiên, những hậu quả nghiêm trọng nói trên là dự báo rủi ro, không phải mô tả khả năng của các sản phẩm AI đang được cung cấp rộng rãi. Việc phân biệt hai lớp thông tin này đặc biệt quan trọng: cảnh báo giúp thúc đẩy phòng ngừa, nhưng không nên được trình bày như một sự kiện chắc chắn sẽ xảy ra.
Cảnh báo từ chính đội ngũ an toàn Anthropic
Quan điểm của Coxon nhận được sự đồng tình công khai từ Evan Hubinger, người đứng đầu nhóm khoa học căn chỉnh tại Anthropic. Hubinger từng đưa ra ước tính cá nhân rằng xác suất AI gây ra thảm họa ở quy mô tuyệt chủng trong thập kỷ tới là trên 10%.
Con số này không phải dự báo chính thức của Anthropic và cũng không đại diện cho sự đồng thuận khoa học. Nó cho thấy mức độ nghiêm trọng mà một bộ phận chuyên gia an toàn AI gán cho các kịch bản có tác động thấp nhưng hậu quả đặc biệt lớn.
Hubinger cho rằng Anthropic đang dành nhiều nguồn lực cho an toàn, song ngành công nghiệp vẫn chưa có kế hoạch được kiểm chứng để kiểm soát một hệ thống thông minh hơn con người trên nhiều lĩnh vực. Theo ông, các mô hình hiện tại có mức rủi ro thấp hơn đáng kể so với kịch bản tự cải tiến, nhưng khoảng thời gian chuyển tiếp có thể ngắn hơn dự kiến.
OpenAI cũng kêu gọi thận trọng
Lo ngại không chỉ xuất hiện tại Anthropic. Jakub Pachocki, nhà khoa học trưởng của OpenAI, từng kêu gọi cách tiếp cận đặc biệt thận trọng khi các mô hình tiến gần những năng lực mới. Ông đề cập hai hướng ứng phó: phát triển phương pháp căn chỉnh để AI phục vụ lợi ích con người, hoặc giảm tốc nếu biện pháp bảo vệ chưa theo kịp.
Điểm chung giữa các cảnh báo là yêu cầu đánh giá năng lực trước khi triển khai, theo dõi hành vi ngoài dự kiến và chuẩn bị cơ chế tạm dừng. Khác biệt nằm ở cách ước lượng tốc độ tiến bộ của AI, mức rủi ro có thể chấp nhận và việc một cam kết tự nguyện có đủ hiệu quả hay không.
Anthropic hồi tháng 6 cũng đề xuất các phòng thí nghiệm AI hàng đầu xây dựng cơ chế phối hợp. Theo định hướng này, doanh nghiệp có thể cùng giảm tốc hoặc tạm dừng nâng năng lực nếu khả năng tự cải tiến của mô hình vượt quá năng lực quản trị rủi ro của xã hội.
Vì sao một công ty khó tự giảm tốc?
AI tiên tiến đòi hỏi lượng vốn, dữ liệu, chip và nhân lực lớn. Doanh nghiệp đầu tư mạnh có động lực sớm đưa năng lực mới ra thị trường để thu hồi chi phí và giữ vị thế. Trong môi trường cạnh tranh toàn cầu, lời hứa tự hạn chế có thể yếu đi nếu không có tiêu chuẩn chung và cơ chế giám sát độc lập.
Đây là lý do Coxon cho rằng giải pháp có thể phải vượt ra ngoài phạm vi từng công ty. Những biện pháp thường được giới chính sách thảo luận gồm chuẩn đánh giá bắt buộc cho mô hình mạnh, báo cáo sự cố, kiểm tra bảo mật bởi bên thứ ba và ngưỡng năng lực yêu cầu phê duyệt trước khi triển khai.
Một số đề xuất còn nhắm tới hạ tầng tính toán, bởi các mô hình lớn phụ thuộc vào cụm chip chuyên dụng. Theo dõi các đợt huấn luyện quy mô rất lớn có thể giúp cơ quan quản lý nhận biết sớm dự án có mức rủi ro cao. Đổi lại, biện pháp này cần được thiết kế để không cản trở nghiên cứu quy mô nhỏ hoặc tạo lợi thế độc quyền cho một số doanh nghiệp.
Từ chức không đồng nghĩa rủi ro đã được chứng minh
Quyết định của một nhà nghiên cứu có giá trị như tín hiệu từ người trực tiếp tham gia phát triển mô hình, nhưng không tự chứng minh rằng AI sắp vượt khỏi tầm kiểm soát. Các dự báo dài hạn phụ thuộc vào nhiều giả định về thuật toán, sức mạnh tính toán, dữ liệu, khả năng tự chủ và chất lượng của hệ thống bảo vệ.
Trong cộng đồng AI, có chuyên gia ưu tiên rủi ro hiện hữu như thông tin sai lệch, gian lận, thiên lệch thuật toán, mất việc và tập trung quyền lực. Nhóm khác cho rằng các nguy cơ dài hạn cần được chuẩn bị ngay vì hậu quả có thể rất lớn, kể cả khi xác suất chưa thể tính chính xác.
Hai hướng tiếp cận không nhất thiết loại trừ nhau. Các công cụ đánh giá, kiểm toán độc lập, minh bạch dữ liệu và bảo mật mô hình có thể đồng thời giảm tác hại hiện tại và tạo nền tảng giám sát những hệ thống mạnh hơn trong tương lai.
Bài toán kiểm soát bước vào giai đoạn thực tế
Tranh luận quanh việc nhà nghiên cứu Anthropic từ chức phản ánh một câu hỏi ngày càng khó né tránh: ai có quyền quyết định khi nào một mô hình đủ an toàn để phát hành? Nếu chỉ dựa vào doanh nghiệp phát triển, lợi ích thương mại có thể xung đột với yêu cầu thận trọng. Nếu quy định quá sớm và quá cứng, đổi mới có thể bị chậm lại hoặc dịch chuyển sang nơi ít giám sát hơn.
Một cơ chế khả thi cần kết hợp trách nhiệm của nhà phát triển, chuẩn kỹ thuật có thể đo lường và sự giám sát của cơ quan độc lập. Các ngưỡng can thiệp cũng phải dựa trên năng lực thực tế của mô hình, thay vì chỉ dựa vào tên gọi như AI tổng quát hay siêu trí tuệ.
Việc Coxon rời vị trí không kết thúc cuộc tranh luận, nhưng tạo thêm sức ép để các phòng thí nghiệm công khai hơn về cách đánh giá rủi ro và điều kiện kích hoạt biện pháp giảm tốc. Trong cuộc đua mà năng lực AI thay đổi theo từng tháng, khả năng phối hợp trước khi xảy ra sự cố có thể quan trọng không kém tốc độ tạo ra mô hình mới.