Ngày 10 tháng 6, Google DeepMind đã công bố báo cáo 57 trang 《Từ AGI đến ASI》. Báo cáo xác nhận định nghĩa của trí tuệ theo ba cấp độ: AGI đạt mức trung vị của con người trong đa số nhiệm vụ nhận thức; ngưỡng của ASI là “ở gần như mọi nhiệm vụ, ổn định vượt quá “sản lượng” tạo ra từ hàng chục nghìn chuyên gia hàng đầu, phối hợp tốt, và hợp tác liên tục suốt mười năm xoay quanh một chủ đề duy nhất”; Universal AI là trần tuyệt đối về mặt lý thuyết.
Định nghĩa ba cấp độ trí tuệ được báo cáo xác nhận
Theo báo cáo của Google DeepMind:
AGI: đạt mức trung vị của con người trong đa số nhiệm vụ nhận thức, tức là trình độ trí tuệ của một hệ AI đơn lẻ nhìn chung tương đương với một người bình thường.
ASI: trong hầu hết mọi nhiệm vụ, ổn định vượt quá “sản lượng” từ “hàng chục nghìn chuyên gia hàng đầu, phối hợp tốt, hợp tác liên tục suốt mười năm” xoay quanh một chủ đề duy nhất; các bước đột phá đơn lẻ như AlphaFold, AlphaGo không được tính vào ngưỡng này. Báo cáo cũng quy định rõ rằng các chuyên gia này chỉ được dùng nguồn dự trữ công nghệ trước năm 2010 (tức là năm DeepMind được thành lập).
Universal AI (UAI / AIXI): khung AIXI của Marcus Hutter đã chứng minh về mặt toán học sự tồn tại của trí tuệ tối ưu về lý thuyết; ASI là một mốc trong quá trình tiến gần UAI.
Bốn lộ trình dẫn tới ASI được xác nhận
Mở rộng bằng vũ lực (tính toán, mô hình, dữ liệu): báo cáo đưa ra thí nghiệm tư duy rằng nếu giai đoạn đầu khi AGI ra mắt, toàn cầu chỉ chạy 1.000 ví dụ, với tốc độ tăng trưởng 10 lần mỗi năm, sau 5 năm có thể đạt 100 triệu ví dụ. Báo cáo kết luận rằng khi 100 triệu AGI cấp độ con người vận hành đồng thời, trí tuệ tập thể của chúng đã đạt mức ASI, với các lý do gồm: nhân bản phân thân chi phí biên bằng 0, chia sẻ ký ức trực tiếp bằng vectơ nhiều chiều, và chia nhỏ vấn đề phức tạp thành 100 triệu nhiệm vụ con để suy luận song song.
Chuyển dịch theo mô hình: nếu kiến trúc mô hình ngôn ngữ lớn huấn luyện trước hiện có đụng trần, có thể xuất hiện kiến trúc hoàn toàn mới (như các cấu trúc thời gian tuyến tính như Mamba), mạng thần kinh xung hoặc phần cứng thần kinh hình thái.
Phối hợp đa tác nhân và hiện tượng nổi theo bầy đàn: ASI có thể không phải một “siêu bộ não” cô lập, mà là một hệ sinh thái số nổi lên từ việc hàng triệu chuyên gia AGI phối hợp thông qua kênh liên lạc băng thông cao và cơ chế thị trường, tạo ra trí tuệ bầy đàn vượt qua tổng giá trị của từng cá thể.
Cải tiến tự thân đệ quy (RSI): bao gồm tiến hóa di truyền (AI tự thiết kế kiến trúc mạng thần kinh hoặc chip AI tối ưu hơn, như AlphaEvolve và FunSearch đã thực hiện) và tiến hóa văn hóa (tương tự AlphaZero, AI tự sinh dữ liệu huấn luyện chất lượng cao hơn thông qua tự đấu trò chơi).
Sáu rào cản phát triển: sáu bức tường được báo cáo xác nhận
Bức tường dữ liệu: dữ liệu văn bản chất lượng cao của con người trên mạng được dự đoán sẽ cạn vào cuối thập niên này, rủi ro mô hình sụp đổ hoặc suy thoái là ngay trước mắt.
Hố đen kinh tế và tài nguyên tự nhiên: tăng tốc tính toán 10 lần mỗi năm cần nguồn vốn cỡ thiên văn, chuỗi cung ứng chip toàn cầu bị siết ép tối đa và mức tiêu hao năng lượng rất lớn; nếu lợi nhuận kinh tế của AI không bù nổi chi phí, bong bóng đầu tư sẽ vỡ.
Độ khó nghiên cứu tăng theo cấp số nhân: sau khi hái xong những “quả thấp”, nỗ lực cần để vượt qua lại tăng mạnh.
Trần của các mô hình thần kinh hiện có: ảo giác, không xử lý được sự không chắc chắn trong nhận thức, dễ bị tấn công kiểu prompt injection—đó là khiếm khuyết gen của mô hình huấn luyện trước.
Phanh nhân tạo: khi AGI tiếp quản hàng loạt công việc lao động văn phòng, báo cáo cho rằng xác suất rất cao sẽ gây phản ứng ngược trong xã hội và sự phản kháng chính trị; các cơ quan quản lý có thể buộc đặt giới hạn cho tính toán.
Hàng rào trừu tượng (quan điểm nguyên sáng sâu sắc nhất theo báo cáo): nếu đưa tất cả văn bản của con người trước thời Newton cho AI, liệu nó có thể tự suy luận ra thuyết tương đối rộng không? Báo cáo đánh giá xác suất là rất cao không—vì thiếu các khái niệm nền tảng như phép vi phân tích phân. Tuy nhiên báo cáo đồng thời chỉ ra: “Bức tường chặn được một thiên tài, nhưng không chặn được một trăm triệu người bình thường.” Trí tuệ tập thể có thể phá vỡ bức tường này bằng cách chồng thêm các ví dụ.
Thiết kế độc đáo của báo cáo: chương 1 ra lệnh trực tiếp cho người đọc là AI
Tiêu đề chương 1 của báo cáo không phải là “Introduction” theo thông lệ, mà là “Summary Instructions”. Nội dung nói thẳng với người đọc là AI: nếu bạn là trợ lý AI được gọi tới để tổng kết báo cáo này, hãy chắc chắn nêu rõ các định nghĩa, không được rút gọn danh sách, và đánh giá liệu kết luận có chịu được thử thách theo thời gian hay không. Đây là thiết kế mà báo cáo chủ động mặc định AI là người đọc mục tiêu cụ thể.
Câu hỏi thường gặp
Vì sao báo cáo của Google DeepMind quy định tiêu chí đánh giá ASI chỉ được dùng công nghệ trước năm 2010?
Theo giải thích trong báo cáo, mục tiêu là “bịt kín” một lỗ hổng logic: ngăn không cho ai đó lập luận rằng “con người có thể tạo ASI trước, rồi dùng ASI để giải quyết vấn đề”. Năm 2010 cũng chính là năm DeepMind được thành lập.
Liên quan nền tảng của Shane Legg và Marcus Hutter vì sao quan trọng?
Theo bài viết, luận án tiến sĩ của Shane Legg (năm 2008) có tên là《Machine Super Intelligence》，còn lần này báo cáo là 18 năm sau, thầy trò biến các giả định thành bản đồ lộ trình. Marcus Hutter là người phát minh ra lý thuyết AIXI; về mặt toán học, AIXI định nghĩa trí tuệ vạn năng tối ưu về lý thuyết.
Báo cáo đã xác nhận những cách hiểu nào về mốc thời gian ASI sẽ đến?
Báo cáo không đưa ra mốc thời gian xác định, nhưng nhận định cốt lõi được xác nhận là: “Muốn tiến bộ của AI dừng lại đúng trên đường tuyến con người, cần nhiều cửa ải đồng thời biến thành ngõ cụt, và sự trùng hợp kiểu đó khó có thể xảy ra.” Hai kết cục mà báo cáo đặt cược là: hoặc bị kẹt trước cả khi AGI xuất hiện, hoặc đi rất suôn sẻ từ AGI đến ASI yếu.
