Công nghệ AI tiên tiến có thể cho phép những người tạo ra nó, hoặc những người khác kiểm soát nó, cố gắng và đạt được quyền lực xã hội chưa từng có. Trong một số trường hợp nhất định, họ có thể sử dụng các hệ thống này để kiểm soát toàn bộ nền kinh tế, quân đội và chính phủ.
Việc một cá nhân hoặc một nhóm nhỏ giành quyền lực như vậy sẽ gây ra mối đe dọa lớn cho toàn nhân loại.
Công nghệ mới có thể thay đổi đáng kể cán cân quyền lực trong xã hội. Ví dụ, sự thống trị sớm của Anh trong Cách mạng Công nghiệp đã giúp củng cố đế chế toàn cầu của nước này.
Với sự phát triển nhanh chóng của công nghệ trí tuệ nhân tạo (AI), nguy cơ nó có thể dẫn đến sự tranh giành quyền lực toàn cầu trở nên nghiêm trọng hơn ngày càng hiện hữu.
AI tiên tiến đặc biệt nguy hiểm vì nó có thể bị kiểm soát bởi một số ít người, hoặc thậm chí chỉ một người. AI có thể được sao chép vô hạn, và với cơ sở hạ tầng máy tính đủ mạnh và hệ thống đủ mạnh, một người có thể kiểm soát một đội quân ảo hoặc đội quân thực sự gồm các thực thể AI.
Và vì AI tiên tiến có khả năng kích hoạt sự tăng trưởng bùng nổ trong nền kinh tế, công nghệ và trí tuệ, bất kỳ ai có quyền kiểm soát đơn phương đối với các hệ thống mạnh mẽ nhất có thể thống trị phần còn lại của nhân loại.
Một yếu tố làm tăng mối đe dọa này là khả năng tồn tại lòng trung thành bí mật. Người ta có thể chế tạo ra các hệ thống AI tưởng chừng có lợi cho xã hội nhưng thực chất chỉ trung thành với một người hoặc một nhóm nhỏ.2 Khi các hệ thống này được triển khai diện rộng trong nền kinh tế, chính phủ và quân đội, chúng có thể liên tục tìm kiếm cơ hội để thúc đẩy lợi ích của chủ nhân thực sự của mình.
Dưới đây là ba con đường có thể dẫn đến việc AI tạo ra sự tranh giành quyền lực chưa từng có:
Các nhà phát triển AI nắm quyền kiểm soát — trong kịch bản này, các cá nhân trong một công ty hoặc tổ chức phát triển hệ thống AI tiên tiến sử dụng công nghệ của họ để nắm quyền kiểm soát. Điều này có thể xảy ra nếu họ triển khai hệ thống của mình để sử dụng rộng rãi trong nền kinh tế, quân sự và chính phủ trong khi vẫn giữ bí mật về lòng trung thành của hệ thống đối với họ. Hoặc họ có thể tạo ra các hệ thống đủ mạnh mẽ trong nội bộ để thu thập đủ tài sản và nguồn lực để tiến hành một cuộc tiếp quản thù địch đối với các trung tâm quyền lực khác.
Cuộc đảo chính quân sự — khi quân đội tích hợp AI để tạo lợi thế cạnh tranh, họ đồng thời cũng tạo ra những lỗ hổng mới. Các hệ thống vũ khí điều khiển bằng AI và thiết bị quân sự tự động có thể được thiết kế để tuân theo mệnh lệnh bất chấp, mà không có sự kiểm soát quyền lực (chính thức lẫn không chính thức) mà quân đội thường thực hiện — chẳng hạn như nguy cơ nổi loạn khi nhận mệnh lệnh bất hợp pháp. Một nhà lãnh đạo quân sự hoặc cá nhân khác (bao gồm cả các chính phủ nước ngoài có thể thù địch) có thể tìm cách đảm bảo AI quân sự trung thành với họ và sử dụng nó để khẳng định quyền kiểm soát sâu rộng.
Chế độ độc tài — các nhà lãnh đạo chính trị có thể sử dụng các hệ thống AI tiên tiến để củng cố quyền lực của mình. Họ có thể được bầu hoặc không được bầu khi bắt đầu nhiệm kì, nhưng dù thế nào đi nữa, họ có thể sử dụng các hệ thống AI tiên tiến để làm suy yếu bất kỳ đối thủ chính trị tiềm năng nào. Ví dụ, họ có thể sử dụng giám sát và thi hành pháp luật được tăng cường để đàn áp phe đối lập.
Quyền lực cực đoan tập trung trong tay một số ít người sẽ đe dọa nghiêm trọng đến lợi ích của phần còn lại của thế giới. Nó thậm chí có thể làm suy yếu tiềm năng của một tương lai thịnh vượng, vì diễn biến sự kiện có thể phụ thuộc vào ý muốn của những người có tham vọng độc tài.
Cũng có những cách mà AI có thể được sử dụng để nâng cao hiệu quả quản lý nhà nước, nhưng các kịch bản mà AI cho phép các thế lực thù địch hoặc bất hợp pháp chiếm quyền lực sẽ là điều xấu cho tương lai của nhân loại vẫn có thể xảy ra.
Chúng tôi mong muốn thấy nhiều nỗ lực hơn nữa để tìm ra các phương pháp tốt nhất nhằm giảm thiểu rủi ro AI bị lợi dụng để giành quyền lực. Một số phương pháp hữu ích có thể bao gồm:
Thiết lập các biện pháp an toàn cho việc sử dụng nội bộ: Thực hiện giám sát chặt chẽ việc sử dụng hệ thống AI trong các công ty tiên phong, hạn chế quyền truy cập vào các mô hình "chỉ hỗ trợ" mà không có bất kỳ giới hạn nào trong việc tuân theo các chỉ thị.
Minh bạch về thông số kỹ thuật của mô hình: Công bố thông tin chi tiết về cách hệ thống AI được thiết kế để hoạt động, bao gồm các biện pháp bảo vệ và hạn chế đối với hành động của chúng, cho phép giám sát từ bên ngoài và xác định các lỗ hổng tiềm ẩn.
Chia sẻ năng lực rộng rãi: Đảm bảo rằng các năng lực AI mạnh mẽ được phân bổ cho nhiều bên liên quan thay vì tập trung vào tay một vài cá nhân hoặc tổ chức. Điều này tạo ra sự kiểm soát và cân bằng, khiến việc tranh giành quyền lực trở nên khó khăn hơn. Tuy nhiên, cần lưu ý rằng việc phân bổ rộng rãi các năng lực AI mạnh mẽ cũng có rủi ro, do đó cần cân nhắc cẩn thận các yếu tố cạnh tranh.
Kiểm tra lòng trung thành bí mật: Phát triển các phương pháp kỹ thuật mạnh mẽ để phát hiện liệu các hệ thống AI có được lập trình với các mục đích ẩn hoặc cửa hậu cho phép chúng phục vụ các lợi ích trái với mục đích đã nêu hay không.
Các biện pháp bảo vệ AI trong quân sự: Yêu cầu các hệ thống AI được triển khai trong bối cảnh quân sự phải có các biện pháp bảo vệ mạnh mẽ để ngăn chặn việc tham gia vào các cuộc đảo chính, bao gồm các nguyên tắc chống tấn công dân thường và các yêu cầu về nhiều sự cho phép độc lập đối với các hành động cực đoan.
