Năm 1965, Gordon Moore nhận thấy rằng số lượng transistor bạn có thể tích hợp trên một chip dường như tăng gấp đôi mỗi năm. Ông dũng cảm dự đoán: “Mạch tích hợp sẽ mang lại những kỳ tích như máy tính gia đình, hệ thống điều khiển tự động cho ô tô và thiết bị truyền thông cá nhân di động.”1
Moore sau đó điều chỉnh dự đoán của mình thành mỗi hai năm, nhưng xu hướng tăng gấp đôi vẫn tiếp tục, cuối cùng được biết đến với tên gọi Định luật Moore.
Sự tiến bộ công nghệ trong phần cứng máy tính đã dẫn đến sự tăng gấp đôi liên tục về tốc độ xử lý, dung lượng bộ nhớ và hiệu suất năng lượng. Điều này chỉ có thể đạt được thông qua những cải tiến đáng kinh ngạc về độ phức tạp trong thiết kế và sản xuất. Trong khi Moore đang nghiên cứu các chip có ít hơn 100 transistor, các chip hiện đại có hàng chục tỷ transistor và chỉ có thể được sản xuất bằng một số máy móc phức tạp nhất mà con người đã phát minh.2
Ngoài máy tính cá nhân và điện thoại di động, những tiến bộ khổng lồ về tài nguyên tính toán — “khả năng điện toán” — cũng là yếu tố then chốt cho sự phát triển nhanh chóng của trí tuệ nhân tạo (AI) ngày nay. Việc đào tạo một mô hình AI tiên tiến như GPT-4 của OpenAI đòi hỏi hàng nghìn chip AI chuyên dụng với hàng chục tỷ transistor, mỗi chip có thể có giá hàng chục nghìn đô la.3
Như chúng tôi đã trình bày trong báo cáo về rủi ro AI, chúng tôi cho rằng những nguy cơ từ AI tiên tiến nằm trong số những vấn đề cấp bách nhất của thế giới. Khi phát triển trong thế kỷ này, các hệ thống AI — được tạo ra và vận hành trên phần cứng AI — có thể phát triển các năng lực và tính năng tiên tiến mang theo những rủi ro sâu sắc đối với tương lai của nhân loại.
Để đối phó với những rủi ro này, sẽ cần những nỗ lực quan trọng trong việc dự đoán tiến bộ của AI, nghiên cứu và triển khai các cơ chế quản trị AI, cũng như hỗ trợ các nhà hoạch định chính sách, cùng nhiều hoạt động khác. Chuyên môn về phần cứng AI có thể hữu ích trong tất cả các hoạt động này.
Chúng tôi rất hào hứng với những người có động lực thiện nguyện đã có chuyên môn về phần cứng AI chuyển sang lĩnh vực quản trị AI và chính sách AI trong ngắn hạn. Chúng tôi cũng hào hứng với những người có kỹ năng nền tảng và sự phù hợp cá nhân mạnh mẽ để thành công trong lĩnh vực này, đồng thời tích lũy chuyên môn và kinh nghiệm về phần cứng AI có thể hữu ích sau này.
Sử dụng chuyên môn về phần cứng AI để giảm thiểu rủi ro thảm họa là một lĩnh vực tương đối mới, và hiện nay cần rất nhiều công việc để phát triển nó.
Khó có thể dự đoán lĩnh vực này sẽ phát triển như thế nào, nhưng chúng tôi đoán rằng sẽ tiếp tục có những cách hữu ích để đóng góp trong nhiều năm tới. Đến một thời điểm nào đó, có thể sẽ ít cần thiết hơn trong việc thiết kế các chế độ quản trị và nhiều công việc hơn trong việc triển khai chi tiết các chính sách cụ thể. Vì vậy, chúng tôi cũng khá tự tin khi khuyến nghị mọi người bắt đầu ngay bây giờ để tích lũy kỹ năng và kinh nghiệm liên quan đến phần cứng, có thể hữu ích trong tương lai. Kỹ năng và kinh nghiệm về phần cứng nói chung rất có giá trị, nên con đường này có khả năng mang lại nhiều lựa chọn tốt trong tương lai.
Bạn cũng có thể đọc bài đánh giá nghề nghiệp của chúng tôi về quản trị và phối hợp AI, trong đó thảo luận về giá trị của loại chuyên môn này đối với chính sách.
Giảm thiểu rủi ro từ trí tuệ nhân tạo (AI) là một trong những vấn đề cấp bách nhất trên thế giới, và chúng tôi dự đoán rằng những người có chuyên môn về phần cứng AI và các lĩnh vực liên quan sẽ được săn đón đặc biệt trong lĩnh vực chính sách và nghiên cứu về AI. Đối với những người phù hợp, việc nắm vững và áp dụng kỹ năng phần cứng AI vào công tác quản trị AI nhằm giảm thiểu rủi ro có thể là lựa chọn mang lại tầm ảnh hưởng lớn nhất.
Tuy nhiên, trở thành chuyên gia trong lĩnh vực này không dễ dàng và không phù hợp với đa số mọi người, đồng thời việc xác định một lộ trình rõ ràng trong thế giới phức tạp và đang thay đổi nhanh chóng của các chương trình quản trị AI có thể gặp nhiều thách thức.
Đối với những ai có chuyên môn về phần cứng AI, việc sử dụng kỹ năng này để đóng góp vào các phương pháp quản trị giảm thiểu rủi ro nên là một lựa chọn hàng đầu cho sự nghiệp của bạn. Nếu bạn chưa có kinh nghiệm này, việc phát triển những kỹ năng này có thể đáng xem xét nếu bạn đặc biệt quan tâm đến việc nghiên cứu khoa học máy tính và kỹ thuật, kỹ thuật điện, hoặc các lĩnh vực liên quan. Các lĩnh vực này yêu cầu kỹ năng toán học và khoa học mạnh mẽ.
Chúng tôi khuyên bất kỳ ai quan tâm đến con đường này nên tìm hiểu thêm về quản trị và phối hợp AI.
Nếu bạn phù hợp với nghề nghiệp này, đây có thể là cách tốt nhất để bạn tạo ra tầm ảnh hưởng xã hội.
Dựa trên một cuộc điều tra có độ sâu trung bình
Lý do cơ bản giải thích tại sao trở thành chuyên gia về phần cứng AI có thể có tầm ảnh hưởng lớn là:
Lý do chính tại sao chuyên môn về phần cứng AI có thể giúp giảm rủi ro là vì, bên cạnh dữ liệu và ý tưởng, khả năng điện toán là một yếu tố đầu vào quan trọng cho sự phát triển tổng thể của AI.4
Các nhà nghiên cứu đã xác định định luật mở rộng quy mô cho thấy rằng, khi bạn đào tạo hệ thống AI bằng cách sử dụng nhiều khả năng điện toán và dữ liệu hơn, các hệ thống này sẽ cải thiện đáng kể trên nhiều chỉ số hiệu suất. Kết quả là, hiện nay cần hàng nghìn chip AI đắt tiền chạy trong nhiều tháng để đào tạo một mô hình AI tiên tiến, với chi phí tính toán lên đến hàng chục triệu đô la.5
Lý do cơ bản giải thích tại sao trở thành chuyên gia về phần cứng AI có thể có tầm ảnh hưởng lớn là:
Lý do chính tại sao chuyên môn về phần cứng AI có thể giúp giảm rủi ro là vì, bên cạnh dữ liệu và ý tưởng, khả năng điện toán là một yếu tố đầu vào quan trọng cho sự phát triển tổng thể của AI.4
Các nhà nghiên cứu đã xác định định luật mở rộng quy mô cho thấy rằng, khi bạn đào tạo hệ thống AI bằng cách sử dụng nhiều khả năng điện toán và dữ liệu hơn, các hệ thống này sẽ cải thiện đáng kể trên nhiều chỉ số hiệu suất. Kết quả là, hiện nay cần hàng nghìn chip AI đắt tiền chạy trong nhiều tháng để đào tạo một mô hình AI tiên tiến, với chi phí tính toán lên đến hàng chục triệu đô la.5
Chip AI được thiết kế chuyên biệt để thực hiện các tính toán cụ thể cần thiết cho việc đào tạo và vận hành mô hình AI. Trên thực tế, bạn không thể đào tạo các mô hình tiên tiến bằng chip đa năng — bạn cần chip chuyên dụng.6 Và để theo kịp, bạn cần chip cutting-edge.7 Các công ty và phòng thí nghiệm AI sử dụng chip thế hệ cũ phải chi trả nhiều tiền hơn và mất nhiều thời gian hơn để đào tạo mô hình.
Có thể trong tương lai, khả năng điện toán sẽ trở nên ít tầm quan trọng hơn như một yếu tố đầu vào cho sự phát triển của AI, hoặc phần lớn việc đào tạo AI sẽ được thực hiện bằng phần cứng khác ngoài chip AI.8 Tuy nhiên, có vẻ rất khả năng rằng việc tiếp cận khả năng điện toán hiệu quả chi phí vẫn sẽ cực kỳ quan trọng trong ít nhất năm năm tới, và có thể lâu hơn nữa.9
Một số cách mà các chuyên gia phần cứng có thể góp phần định hình tích cực sự phát triển của AI bao gồm:
Hiện tại, có rất ít chuyên gia phần cứng AI làm việc trong các lĩnh vực này với động lực giảm thiểu rủi ro hiện sinh mà chúng tôi biết đến. Tính đến giữa năm 2023, có khoảng 3–12 nhân lực toàn thời gian (FTEs) tập trung vào rủi ro hiện sinh đang dự báo tiến trình phát triển AI với trọng tâm vào phần cứng, và khoảng 10–20 FTEs làm việc trên các dự án khác liên quan đến quản trị sức mạnh điện toán.11
Khó có thể ước tính chính xác số lượng chuyên gia phần cứng AI bổ sung cần thiết, và con số này có thể thay đổi nhanh chóng — chúng tôi khuyến nghị bạn tự nghiên cứu thêm về vấn đề này và trao đổi với các chuyên gia trong lĩnh vực.
Có những cách mà công việc này có thể dẫn đến kết quả tiêu cực. Ví dụ, hạn chế quyền truy cập vào khả năng điện toán của một số cá nhân có thể làm gia tăng căng thẳng địa chính trị hoặc dẫn đến sự tập trung quyền lực. Hoặc việc phát triển phần cứng AI có thể tạo ra chip rẻ hơn hoặc hiệu quả hơn, đẩy nhanh tiến trình phát triển AI. Hoặc các công cụ quản trị như chế độ giám sát sức mạnh điện toán có thể bị các cá nhân xấu lợi dụng.
Một số đề xuất về quản trị sức mạnh điện toán bao gồm việc giám sát cách các công ty sử dụng chip AI, điều này có thể gây ra lo ngại về quyền riêng tư. Tìm cách triển khai quản trị đồng thời bảo vệ quyền riêng tư cá nhân có thể là công việc có giá trị.
Nếu bạn chọn con đường này, chúng tôi khuyến khích bạn cân nhắc kỹ lưỡng các hậu quả của kế hoạch, lý tưởng nhất là hợp tác với các chuyên gia chiến lược và chính sách cũng tập trung vào việc tạo ra AI an toàn và có lợi. (Xem bài viết của chúng tôi về tổn hại không chủ đích và các mẹo để tránh nó.)
Một nhược điểm tiềm ẩn khác của việc tích lũy chuyên môn về phần cứng AI để giảm thiểu rủi ro thảm khốc là các vị trí trong ngành công nghiệp, nơi tầm ảnh hưởng của bạn có thể mơ hồ hoặc thậm chí tiêu cực, có thể trở nên hấp dẫn hơn theo một số khía cạnh so với các vị trí có tầm ảnh hưởng lớn hơn nhưng lương thấp hơn trong chính sách hoặc nghiên cứu.
Nếu bạn cho rằng việc chuyển từ các vị trí có thu nhập cao trong ngành công nghiệp sang các vị trí có tiềm năng giúp đỡ người khác và giảm rủi ro từ AI cao hơn có thể khó khăn, bạn nên cân nhắc kỹ lưỡng cách giảm thiểu những thách thức này. Bạn có thể tiết kiệm nhiều hơn bình thường trong khi kiếm được thu nhập cao, để phòng trường hợp sau này thu nhập giảm; bạn có thể quyên góp phần thu nhập vượt quá một ngưỡng nhất định; và bạn có thể đảm bảo mình là một phần của một cộng đồng giúp bạn sống đúng với giá trị của mình.
Credit: Epoch AI (2022)
Quản trị AI tập trung vào tính toán là một lĩnh vực hấp dẫn, đang phát triển nhanh chóng với nhiều hoạt động sôi nổi và nhiều câu hỏi mở cần giải quyết. Ngoài ra, còn có các cơ hội chính sách quan trọng đang mở hoặc có khả năng mở ra trong thời gian tới do nhận thức của công chúng về rủi ro từ AI ngày càng tăng.
Loại vai trò phổ biến nhất cho các chuyên gia phần cứng AI là nghiên cứu, tuy nhiên các vai trò có tầm ảnh hưởng khác bao gồm làm nhà hoạch định chính sách hoặc nhân viên chính sách, phân tích chính sách,12 hoặc truyền đạt kết quả nghiên cứu cho nhà hoạch định chính sách hoặc công chúng.
Các vai trò nghiên cứu có thể bao gồm:
Các nghề nghiệp trong chính phủ, đặc biệt là tại Hoa Kỳ, cũng có thể có tầm ảnh hưởng lớn. Tuy nhiên, hiện tại chưa rõ liệu quá trình phát triển chính sách về AI đã tiến triển đến mức chính phủ sẽ hướng đến việc tuyển dụng trực tiếp các chuyên gia về phần cứng AI hay chưa. Có thể đến một thời điểm nào đó, các nhà hoạch định chính sách sẽ nhận ra rằng kiến thức về phần cứng AI là vô cùng quý giá cho việc triển khai chính sách AI, lúc đó các chuyên gia này sẽ được săn đón mạnh mẽ. Chúng tôi có một bài viết riêng về cơ hội tham gia vào chính sách AI của Hoa Kỳ.
Một số người làm việc trong lĩnh vực này hiện nay làm việc cho các viện nghiên cứu có trụ sở tại Washington, DC như:
Bạn cũng có thể xem xét các tổ chức nghiên cứu có ít tập trung vào chính sách hơn, như:
Các cơ hội nghề nghiệp trong ngành công nghiệp (bao gồm làm việc cho các nhà thiết kế chip như Nvidia, các công ty bán dẫn hoặc nhà cung cấp dịch vụ đám mây) và học thuật cũng có thể có giá trị, mặc dù chủ yếu để phát triển vốn nghề nghiệp dưới dạng kỹ năng, mối quan hệ và bằng cấp, và công việc này có thể vô tình thúc đẩy tiến trình phát triển AI.
Kiến thức về phần cứng AI cũng có thể được sử dụng để thực hiện cấp phát tài trợ, xây dựng lĩnh vực và nghiên cứu hoặc công tác chính sách về các vấn đề quản trị AI không tập trung vào phần cứng AI. Tuy nhiên, đối với các con đường này, lợi ích từ việc có chuyên môn sâu về phần cứng AI sẽ giảm đi nhanh chóng hơn.
Mặc dù có thể tích lũy một lượng kiến thức phần cứng khi làm việc như một nhà nghiên cứu về quản trị AI tập trung vào các chủ đề khác, loại chuyên môn cần thiết nhất là loại chỉ có thể đạt được sau một số năm học tập hoặc làm việc với phần cứng.
Các loại kiến thức và kinh nghiệm hứa hẹn bao gồm kiến thức và kinh nghiệm về kiến trúc và thiết kế chip AI, bảo mật phần cứng, mật mã học, an ninh mạng, sản xuất và chuỗi cung ứng bán dẫn, điện toán đám mây, học máy và điện toán phân tán. Đặc biệt có giá trị là những người có kiến thức hữu ích cho quản trị AI hoặc hoạch định chính sách AI một cách rộng hơn, mặc dù điều này không bắt buộc.
