Năm Thượng nghị sĩ Dân chủ nổi bật đã gửi một lá thư tới MởAI Tổng giám đốc điều hành Sam Altman đang tìm kiếm sự rõ ràng về các biện pháp đảm bảo an toàn và tuyển dụng của công ty.
Bức thư – có chữ ký của các Thượng nghị sĩ Brian Schatz, Ben Ray Luján, Peter Welch, Mark R. Warner và Angus S. King, Jr. – được đưa ra để phản hồi lại các báo cáo gần đây đặt câu hỏi về cam kết của OpenAI đối với các mục tiêu đã nêu về phát triển AI an toàn và có trách nhiệm.
Các thượng nghị sĩ nhấn mạnh tầm quan trọng của an toàn AI đối với khả năng cạnh tranh kinh tế quốc gia và vị thế địa chính trị. Họ lưu ý quan hệ đối tác của OpenAI với chính phủ Hoa Kỳ và các cơ quan an ninh quốc gia để phát triển các công cụ an ninh mạng, nhấn mạnh bản chất quan trọng của các hệ thống AI an toàn.
Bức thư nêu rõ: “An ninh quốc gia và kinh tế là một trong những trách nhiệm quan trọng nhất của Chính phủ Hoa Kỳ và các hệ thống AI không an toàn hoặc dễ bị tấn công đều không được chấp nhận”.
Các nhà lập pháp đã yêu cầu thông tin chi tiết về một số lĩnh vực quan trọng trước ngày 13 tháng 8 năm 2024. Bao gồm:
- Cam kết của OpenAI trong việc dành 20% tài nguyên điện toán của mình cho nghiên cứu về an toàn AI.
- Quan điểm của công ty về các thỏa thuận không bôi nhọ danh dự đối với nhân viên hiện tại và trước đây.
- Quy trình để nhân viên nêu lên mối lo ngại về an ninh mạng và an toàn.
- Giao thức bảo mật nhằm ngăn chặn hành vi trộm cắp mô hình AI, nghiên cứu hoặc sở hữu trí tuệ.
- Sự tuân thủ của OpenAI đối với Bộ quy tắc ứng xử dành cho nhà cung cấp liên quan đến chính sách không trả thù và kênh tố giác.
- Kế hoạch thử nghiệm và đánh giá độc lập của các chuyên gia về hệ thống OpenAI trước khi phát hành.
- Cam kết cung cấp các mô hình nền tảng tương lai cho các cơ quan của Chính phủ Hoa Kỳ để thử nghiệm trước khi triển khai.
- Thực hành giám sát sau khi phát hành và bài học kinh nghiệm từ các mô hình đã triển khai.
- Kế hoạch công bố công khai các đánh giá tác động hồi cứu về các mô hình đã triển khai.
- Tài liệu về việc đáp ứng các cam kết tự nguyện về an toàn và an ninh của chính quyền Biden-Harris.
Cuộc điều tra của các thượng nghị sĩ đề cập đến những tranh cãi gần đây xung quanh OpenAI, bao gồm các báo cáo về tranh chấp nội bộ về các hoạt động an toàn và cáo buộc vi phạm an ninh mạng. Họ đặc biệt hỏi liệu OpenAI có “cam kết xóa bỏ bất kỳ điều khoản nào khác khỏi các thỏa thuận tuyển dụng có thể được sử dụng để trừng phạt những nhân viên công khai nêu lên mối quan ngại về các hoạt động của công ty” hay không.
Sự giám sát của quốc hội này diễn ra vào thời điểm cuộc tranh luận về quy định và các biện pháp an toàn AI đang gia tăng. Bức thư đề cập đến các cam kết tự nguyện mà các công ty AI hàng đầu đã đưa ra với Nhà Trắng vào năm ngoái, coi đó là “một bước quan trọng hướng tới việc xây dựng lòng tin” vào sự an toàn và bảo mật của AI.
Kamala Harris có thể là tổng thống Hoa Kỳ tiếp theo sau cuộc bầu cử vào cuối năm nay. Tại Hội nghị thượng đỉnh về An toàn AI ở Anh năm ngoái, Harris đã nói: “Chúng ta hãy nói rõ rằng, có những mối đe dọa bổ sung cũng đòi hỏi chúng ta phải hành động. Những mối đe dọa hiện đang gây hại, và đối với nhiều người cũng cảm thấy hiện hữu… khi mọi người trên khắp thế giới không thể phân biệt được sự thật với hư cấu vì một loạt các huyền thoại và thông tin sai lệch được AI hỗ trợ.”
Chelsea Alves, một cố vấn với UNMissbình luận: “Cách tiếp cận của Kamala Harris đối với AI và quy định về công nghệ lớn vừa kịp thời vừa quan trọng khi bà bước vào cuộc đua tổng thống. Các chính sách của bà có thể đặt ra các tiêu chuẩn mới về cách chúng ta điều hướng sự phức tạp của công nghệ hiện đại và quyền riêng tư của cá nhân.”
Phản hồi của OpenAI cho những câu hỏi này có thể có ý nghĩa quan trọng đối với tương lai của quản trị AI và mối quan hệ giữa các công ty công nghệ và cơ quan giám sát của chính phủ.
(Ảnh chụp bởi Darren Halstead)
Xem thêm: OpenResearch tiết lộ những tác động tiềm tàng của thu nhập cơ bản toàn dân
![](https://www.artificialintelligence-news.com/wp-content/uploads/2022/04/ai-expo-world-728x-90-01.png)
Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ những người đi đầu trong ngành? Thủ tục thanh toán Triển lãm AI & Dữ liệu lớn diễn ra tại Amsterdam, California và London. Sự kiện toàn diện này được tổ chức cùng với các sự kiện hàng đầu khác bao gồm Hội nghị Tự động hóa thông minh, KhốiX, Tuần lễ chuyển đổi sốVà Triển lãm An ninh mạng và Điện toán Cloud.
Khám phá các sự kiện công nghệ doanh nghiệp sắp tới và hội thảo trên web do TechForge cung cấp đây.