Giảm thiểu rủi ro tuyệt chủng do AI gây ra nên là ưu tiên toàn cầu song song với các rủi ro quy mô xã hội khác như đại dịch và chiến tranh hạt nhân.
- CAIS, Tuyên bố về Rủi ro từ AI (AI) được ký bởi hàng trăm chuyên gia AI (CAIS, 2023)
Chương này cho thấy có nhiều rủi ro tiềm ẩn từ các hệ thống AI. Những tác hại đã được ghi nhận hiện nay đã ảnh hưởng đến hàng nghìn người, và những mối đe dọa tồn vong tiềm tàng có thể ảnh hưởng đến tất cả các thế hệ tương lai. Hiện vẫn còn nhiều tranh cãi và thiếu sự đồng thuận về những vấn đề nghiêm trọng nhất. Những năng lực nguy hiểm đã bắt đầu xuất hiện trong các hệ thống hiện tại. Chúng ta đang chứng kiến những minh chứng thực tế về rủi ro mất căn chỉnh và lợi dụng sai mục đích. Nhiều rủi ro riêng lẻ này có thể tương tác với nhau và gia tăng thông qua các tác động hệ thống - lợi dụng sai mục đích dẫn đến mất căn chỉnh, áp lực cạnh tranh làm trầm trọng thêm các tai nạn, và sự thất bại trong phối hợp ngăn cản các biện pháp bảo vệ tập thể.
Có hy vọng tồn tại - tương lai của AI mang tiềm năng to lớn cho sự phát triển của con người bên cạnh những rủi ro này. Các hệ thống AI được phát triển đúng cách có thể giúp giải quyết những thách thức lớn nhất của nhân loại - chữa bệnh, khắc phục thiệt hại môi trường, xóa đói giảm nghèo, và mở rộng kiến thức và sáng tạo của con người vượt qua giới hạn hiện tại. Những năng lực tương tự tạo ra rủi ro cũng mang lại cơ hội chưa từng có để nâng cao phúc lợi con người, kéo dài tuổi thọ khỏe mạnh, khám phá vũ trụ, và đạt được mức độ thịnh vượng và hiểu biết trước đây không thể tưởng tượng được. Nhiều nhà nghiên cứu làm việc về an toàn AI chính xác vì họ tin rằng tiềm năng tích cực là vô cùng lớn, khiến việc đảm bảo kết quả có lợi xứng đáng với những nỗ lực phòng ngừa rộng rãi. Mục tiêu không phải là ngăn chặn sự phát triển của AI mà là định hướng nó theo các cấu hình tối đa hóa lợi ích đồng thời giảm thiểu rủi ro từ AI.
Mặc dù rủi ro là vô cùng lớn, chúng tôi hy vọng thông điệp về hy vọng tồn tại sẽ khích lệ bạn tham gia vào việc giảm thiểu một số rủi ro này. Tương lai tươi sáng là có thể, nhưng chúng không tự nhiên xảy ra. Chúng đòi hỏi nỗ lực tích cực và chiến lược có kế hoạch. Chúng tôi cho rằng cần phát triển một tiếp cận toàn cầu, đa ngành về an toàn AI, bao gồm các biện pháp kỹ thuật, khung đạo đức vững chắc và hợp tác quốc tế. Sự phát triển của công nghệ AI đòi hỏi sự tham gia của các nhà hoạch định chính sách, nhà đạo đức học, nhà khoa học xã hội và công chúng rộng rãi để đối phó với các tác động luân lý và xã hội của AI.
