Cất cánh đề cập đến mức độ nhanh chóng mà các hệ thống AI trở nên mạnh mẽ hơn đáng kể so với hiện tại và gây ra những thay đổi xã hội lớn. Điều này liên quan đến, nhưng khác biệt với, các khung thời gian AI (thời gian cần thiết để phát triển AI tiên tiến). Trong khi các khung thời gian cho biết khi nào AI biến đổi có thể xuất hiện, tốc độ bùng nổ cho biết điều gì xảy ra sau khi nó xuất hiện - liệu năng lực và tầm ảnh hưởng của AI có tăng dần theo năm hay bùng nổ trong vài ngày hoặc vài tuần?
Làm thế nào để chúng ta có thể xem xét các tốc độ bùng nổ khác nhau? Khi phân tích các kịch bản bùng nổ khác nhau, chúng ta có thể xem xét một số yếu tố chính:
Trong phần tiếp theo, chúng ta sẽ thảo luận về một trong những yếu tố này, thường được bàn luận nhiều nhất - tốc độ cất cánh. Các yếu tố còn lại được giải thích trong phụ lục.
Khởi động chậm là gì? Trong kịch bản khởi động chậm, năng lực của AI cải thiện dần dần trong vòng vài tháng hoặc vài năm. Chúng ta có thể thấy mô hình này trong lịch sử gần đây - quá trình chuyển đổi từ GPT-3 sang GPT-4 mang lại những cải tiến đáng kể về khả năng suy luận, lập trình và kiến thức tổng quát, nhưng những tiến bộ này diễn ra trong vài năm thông qua những bước tiến nhỏ. Paul Christiano mô tả cất cánh chậm tương tự như Cách mạng Công nghiệp nhưng "nhanh gấp 10-100 lần" (Davidson, 2023). Các thuật ngữ như "cất cánh chậm" và "cất cánh nhẹ" thường được sử dụng thay thế cho nhau.
Trong thuật ngữ toán học, các kịch bản "slow takeoff" thường thể hiện mô hình tăng trưởng tuyến tính hoặc theo cấp số nhân. Với tăng trưởng tuyến tính, năng lực tăng lên với cùng một lượng tuyệt đối mỗi năm - hãy tưởng tượng một hệ thống AI tăng thêm một số kỹ năng cố định hàng năm. Thường gặp hơn là tăng trưởng theo cấp số nhân, nơi năng lực tăng lên với một tỷ lệ phần trăm cố định, tương tự như cách chúng ta đã thảo luận về định luật mở rộng quy mô trong các phần trước. Giống như hiệu suất mô hình cải thiện một cách có thể dự đoán được với khả năng điện toán và dữ liệu, khởi đầu chậm cho thấy năng lực sẽ tăng trưởng với tốc độ ổn định nhưng có thể kiểm soát được. Điều này có thể thể hiện qua GDP tăng trưởng ở mức 10-30% hàng năm trước khi tăng tốc mạnh hơn.
Lợi thế chính của sự phát triển chậm là nó cung cấp thời gian để thích ứng và phản ứng. Nếu chúng ta phát hiện ra vấn đề với các biện pháp an toàn hiện tại, chúng ta có thể điều chỉnh chúng trước khi AI trở nên mạnh mẽ hơn đáng kể. Điều này liên quan trực tiếp đến những gì chúng ta sẽ thảo luận trong các chương sau về quản trị và giám sát - sự phát triển chậm cho phép tinh chỉnh lặp đi lặp lại các biện pháp an toàn và tạo điều kiện cho sự phối hợp giữa các cá nhân và cơ quan khác nhau.
Một minh họa về sự phát triển chậm và liên tục (Martin & Eth, 2021).
Khởi động nhanh là gì? Khởi động nhanh mô tả các tình huống mà năng lực của AI tăng đột biến trong thời gian rất ngắn - có thể là vài ngày hoặc thậm chí vài giờ. Thay vì sự cải thiện dần dần như từ GPT-3 đến GPT-4, hãy tưởng tượng một hệ thống AI đạt được mức tiến bộ đó mỗi ngày. Điều này có thể xảy ra thông qua quá trình tự cải thiện đệ quy, nơi hệ thống AI trở nên giỏi hơn trong việc tự cải thiện bản thân, tạo ra một vòng phản hồi gia tốc.
Về mặt toán học, "fast takeoff" liên quan đến sự tăng trưởng siêu mũ hoặc hyperbol, nơi tốc độ tăng trưởng chính nó cũng tăng theo thời gian. Thay vì năng lực tăng gấp đôi mỗi năm như trong tăng trưởng mũ, chúng có thể tăng gấp đôi mỗi tháng, rồi mỗi tuần, rồi mỗi ngày. Điều này liên quan đến những gì chúng ta đã thảo luận trong việc mở rộng quy mô về các vòng phản hồi tiềm năng trong phát triển AI - nếu các hệ thống AI có thể cải thiện hiệu quả của chính nghiên cứu AI, chúng ta có thể chứng kiến loại tiến bộ gia tốc này.
Tốc độ đột biến của sự bùng nổ nhanh tạo ra những thách thức an toàn độc đáo. Như chúng ta sẽ khám phá trong chương về chiến lược, nhiều phương pháp an toàn hiện tại dựa vào việc thử nghiệm hệ thống, phát hiện vấn đề và cải thiện. Nhưng trong kịch bản bùng nổ nhanh, chúng ta có thể chỉ có một cơ hội để làm đúng. Nếu một hệ thống AI bắt đầu tự cải thiện nhanh chóng, chúng ta cần các biện pháp an toàn hoạt động ổn định ngay từ đầu, vì chúng ta sẽ không có thời gian để sửa chữa vấn đề một khi chúng xuất hiện.
Các thuật ngữ như "cất cánh nhanh", "cất cánh mạnh" và "FOOM" thường được sử dụng thay thế cho nhau.
Một minh họa về sự tăng trưởng liên tục nhanh chóng, thường được hiểu là tăng trưởng siêu mũ hoặc tăng trưởng hyperbol. Tốc độ tăng trưởng chính nó cũng tăng lên (Martin & Eth, 2021).
Tại sao tốc độ cất cánh lại quan trọng đối với rủi ro từ AI? Tốc độ cất cánh AI định hình cơ bản thách thức trong việc làm cho AI an toàn. Điều này liên quan trực tiếp đến những gì chúng ta đã thảo luận về định luật mở rộng quy mô và xu hướng mở rộng quy mô - nếu tiến bộ tuân theo các mô hình dự đoán như hiểu biết hiện tại của chúng ta cho thấy, chúng ta có thể có nhiều cảnh báo và thời gian để chuẩn bị. Nhưng nếu các cơ chế mới như tự cải thiện đệ quy tạo ra các vòng phản hồi nhanh hơn, chúng ta cần các chiến lược khác.
Một ví dụ đơn giản giúp minh họa điều này: Hiện nay, khi chúng ta phát hiện ra rằng các mô hình ngôn ngữ có thể bị "jailbreak" theo một số cách, chúng ta có thể vá các lỗ hổng này trong phiên bản tiếp theo. Trong một quá trình phát triển chậm, mô hình này có thể tiếp tục - chúng ta sẽ có thời gian để phát hiện và khắc phục các vấn đề an toàn khi chúng nảy sinh. Nhưng trong một quá trình phát triển nhanh, chúng ta có thể cần giải quyết tất cả các lỗ hổng "jailbreak" tiềm ẩn trước khi triển khai, vì hệ thống có thể trở nên quá mạnh mẽ để có thể sửa đổi an toàn trước khi chúng ta có thể triển khai các bản vá.
So sánh giữa quá trình phát triển chậm và nhanh. Cho thấy rằng mặc dù được mô tả là chậm hơn về mặt ngôn ngữ so với quá trình phát triển nhanh, nhưng nó tuyệt đối không chậm (Christiano, 2018).
Hiểu rõ sự khác biệt giữa nhanh và chậm giúp bạn nắm bắt được bản chất của cuộc tranh luận về giai đoạn khởi động, nhưng còn có nhiều yếu tố khác như tính liên tục, tính tương đồng và tính đối lập có thể ảnh hưởng. Nếu muốn tìm hiểu thêm, bạn có thể đọc các chi tiết tùy chọn về những yếu tố này trong phụ lục.
Luận điểm "Overhang". Có thể có những tình huống mà một khía cạnh của hệ thống AI, như phần cứng hoặc dữ liệu, đã có những tiến bộ đáng kể hoặc sẵn có, nhưng phần mềm hoặc thuật toán tương ứng để tận dụng hết các tài nguyên này chưa được phát triển. Thuật ngữ "overhang" được sử dụng vì những tình huống này ngụ ý một loại tiềm năng "lưu trữ" hoặc "tiềm ẩn". Khi phần mềm hoặc thuật toán bắt kịp với phần cứng hoặc dữ liệu, tiềm năng này có thể được giải phóng đột ngột, dẫn đến một bước nhảy vọt nhanh chóng trong năng lực của AI. Overhangs cung cấp một lập luận khả dĩ cho lý do tại sao chúng ta có thể ủng hộ sự cất cánh AI không liên tục hoặc nhanh chóng. Có hai loại overhang thường được thảo luận:
Dữ liệu dư thừa cũng được sử dụng như một lập luận phản bác lý do tại sao việc tạm dừng phát triển AI không ảnh hưởng đến cất cánh AI. Một lập luận phản bác đối với lập luận về dữ liệu dư thừa là nó dựa trên giả định rằng trong thời gian chúng ta tạm dừng phát triển AI, tốc độ sản xuất chip sẽ giữ nguyên. Có thể lập luận rằng các công ty sản xuất chip sẽ không sản xuất nhiều chip nếu các trung tâm dữ liệu không mua chúng. Tuy nhiên, lập luận này chỉ có hiệu lực nếu thời gian tạm dừng đủ dài, nếu không các trung tâm dữ liệu có thể tích trữ chip. Cũng có thể tiến bộ trong thiết kế chip cải tiến mà không cần sản xuất nhiều trong thời gian tạm dừng. Tuy nhiên, trong cùng thời gian tạm dừng, chúng ta cũng có thể tiến bộ trong các kỹ thuật an toàn AI (Elmore, 2024).
Lập luận về Tăng trưởng Kinh tế. Các mô hình tăng trưởng kinh tế lịch sử, được thúc đẩy bởi sự gia tăng dân số con người, gợi ý tiềm năng cho cất cánh AI chậm và liên tục. Lập luận này cho rằng khi AI tăng cường dân số kinh tế hiệu quả, chúng ta có thể chứng kiến sự gia tăng dần dần của tăng trưởng kinh tế, tương tự như các đợt mở rộng trong quá khứ nhưng có thể với tốc độ nhanh hơn nhờ tự động hóa do AI hỗ trợ. Những hạn chế trong khả năng tự động hóa của AI đối với một số tác vụ, cùng với các ràng buộc xã hội và pháp lý (ví dụ: dịch vụ y tế hoặc pháp lý chỉ có thể được cung cấp bởi con người), có thể dẫn đến sự mở rộng chậm hơn của năng lực AI. Ngược lại, tăng trưởng có thể vượt xa các tỷ lệ lịch sử. Sử dụng lập luận tương tự cho sự cất cánh AI dựa trên tiềm năng của AI trong việc tự động hóa lao động con người trên quy mô lớn, dẫn đến sự gia tăng kinh tế chưa từng có.
Một biểu đồ minh họa thứ hạng của các lập luận ủng hộ và phản đối sự tăng trưởng kinh tế bùng nổ. Bởi Epoch AI (Erdil & Besiroglu, 2024).
Lập luận về cất cánh AI tập trung vào khả năng điện toán. Lập luận này, tương tự như báo cáo Bio Anchors, giả định rằng khả năng điện toán sẽ đủ để phát triển AI biến đổi. Dựa trên giả định này, báo cáo năm 2023 của Tom Davidson về cất cánh AI tập trung vào khả năng điện toán thảo luận về các vòng phản hồi có thể góp phần vào động lực cất cánh.
Tùy thuộc vào sức mạnh và tương tác của các vòng phản hồi này, chúng có thể tạo ra một tiên đoán trọn vẹn, dẫn đến sự bùng nổ nhanh chóng nếu các quy định không hạn chế các khía cạnh của các vòng phản hồi này, hoặc sự bùng nổ chậm nếu các vòng phản hồi yếu hơn hoặc bị cân bằng bởi các yếu tố khác. Toàn bộ mô hình được hiển thị trong sơ đồ bên dưới:
Tóm tắt về những gì khung khổ tập trung vào khả năng điện toán nói về tốc độ bùng nổ (Davidson, 2024)
Lập luận về việc tự động hóa nghiên cứu. Các nhà nghiên cứu có thể thiết kế thế hệ tiếp theo của các mô hình học máy (ML) nhanh hơn bằng cách giao một phần công việc cho các mô hình hiện có, tạo ra một vòng phản hồi với tiến bộ ngày càng nhanh chóng. Lập luận sau đây được đưa ra bởi Ajeya Cotra:
Hiện tại, các nhà nghiên cứu con người chịu trách nhiệm cho hầu hết tiến bộ trong nghiên cứu AI, nhưng đang bắt đầu giao một phần nhỏ công việc cho các mô hình ngôn ngữ lớn. Điều này giúp việc thiết kế và đào tạo thế hệ mô hình tiếp theo trở nên dễ dàng hơn một chút.
A. Hình này minh họa một vòng lặp tự củng cố (màu đỏ). Nó thể hiện cách các hệ thống AI được triển khai nội bộ được sử dụng để tự động hóa nghiên cứu và phát triển AI, ban đầu cùng với các nhà nghiên cứu con người. Các nỗ lực nghiên cứu và phát triển AI này dẫn đến một hệ thống AI có năng lực cao hơn, có thể được triển khai như một nhà nghiên cứu tự động mới và cải tiến. Vòng lặp này tiếp tục lặp lại, tạo ra một vòng lặp tự củng cố (Stix et al., 2025)
Thế hệ tiếp theo có thể xử lý các tác vụ khó khăn hơn và nhiều loại tác vụ khác nhau hơn, do đó các nhà nghiên cứu con người giao phó nhiều công việc hơn cho chúng. Điều này làm cho việc đào tạo thế hệ tiếp theo trở nên dễ dàng hơn đáng kể. Việc sử dụng mô hình mang lại sự tăng cường lớn hơn nhiều so với lần trước.
Mỗi vòng của quá trình này khiến toàn bộ lĩnh vực phát triển ngày càng nhanh hơn. Trong mỗi vòng, các nhà nghiên cứu con người giao phó mọi nhiệm vụ có thể giao phó một cách hiệu quả cho thế hệ mô hình hiện tại — và càng mạnh mẽ, các mô hình này càng đóng góp nhiều hơn cho nghiên cứu, từ đó giúp năng lực AI cải thiện nhanh hơn (Cotra, 2023).
Trước khi chúng ta chứng kiến một sự bùng nổ trí tuệ tái diễn, chúng ta sẽ thấy một lượng ngày càng tăng của toàn bộ quá trình R&D được giao phó cho AI. Đến một thời điểm nào đó, thay vì phần lớn nghiên cứu và thiết kế được thực hiện bởi các trợ lý AI với tốc độ vượt trội so với con người, thì tất cả nghiên cứu và thiết kế cho AI sẽ được thực hiện bởi các trợ lý AI với tốc độ vượt trội so với con người.
Tại thời điểm này, có khả năng điều này có thể dẫn đến một sự bùng nổ trí tuệ tự động hóa hoàn toàn.
Lập luận về Sự Bùng Nổ Trí Tuệ. Khái niệm về "sự bùng nổ trí tuệ" cũng là trung tâm của cuộc thảo luận về sự bùng nổ đột ngột. Nó xuất phát từ luận án của I.J. Good, cho rằng trí tuệ máy móc đủ tiên tiến có thể tạo ra một phiên bản thông minh hơn của chính nó. Phiên bản thông minh hơn này có thể tiếp tục tạo ra một phiên bản thông minh hơn nữa, và cứ thế tiếp tục, tạo ra một chu kỳ có thể dẫn đến trí tuệ vượt xa năng lực của con người (Yudkowsky, 2013).
Trong báo cáo năm 2012 về bằng chứng cho sự bùng nổ trí tuệ, Muehlhauser và Salamon đã phân tích các ưu điểm mà trí tuệ máy móc có được so với trí tuệ con người, giúp thúc đẩy sự gia tăng trí tuệ nhanh chóng (Muehlhauser, 2012). Các ưu điểm này bao gồm:
