OpenAI đang phải đối mặt với làn sóng xung đột nội bộ và những lời chỉ trích từ bên ngoài về hoạt động của nó cũng như những rủi ro tiềm ẩn do công nghệ của nó gây ra.
Vào tháng 5, một số nhân viên cấp cao đã rời công ty, bao gồm Jan Leike, cựu giám đốc nỗ lực “siêu liên kết” của OpenAI nhằm đảm bảo các hệ thống AI tiên tiến vẫn phù hợp với các giá trị của con người. Sự ra đi của Leike diễn ra ngay sau khi OpenAI công bố mẫu GPT-4o hàng đầu mới của mình, được quảng cáo là “kỳ diệu” tại sự kiện Spring Update.
Theo báo cáo, sự ra đi của Leike được thúc đẩy bởi những bất đồng liên tục về các biện pháp an ninh, hoạt động giám sát và việc ưu tiên phát hành các sản phẩm hào nhoáng hơn là cân nhắc về an toàn.
Sự ra đi của Leike đã mở ra chiếc hộp Pandora cho hãng AI. Các cựu thành viên hội đồng OpenAI đã đưa ra cáo buộc lạm dụng tâm lý nhắm vào CEO Sam Altman và ban lãnh đạo công ty.
Tình trạng hỗn loạn nội bộ ngày càng gia tăng tại OpenAI trùng hợp với những lo ngại ngày càng tăng từ bên ngoài về những rủi ro tiềm ẩn do công nghệ AI tổng hợp giống như các mô hình ngôn ngữ của chính công ty gây ra. Các nhà phê bình đã cảnh báo về mối đe dọa hiện hữu sắp xảy ra khi AI tiên tiến vượt qua khả năng của con người, cũng như những rủi ro trước mắt hơn như dịch chuyển công việc và vũ khí hóa AI cho các chiến dịch thao túng và thông tin sai lệch.
Để đáp lại, một nhóm nhân viên hiện tại và cựu nhân viên của OpenAI, Anthropic, DeepMind và các công ty AI hàng đầu khác đã viết một bức thư ngỏ giải quyết những rủi ro này.
“Chúng tôi là nhân viên hiện tại và cựu nhân viên của các công ty AI hàng đầu và chúng tôi tin vào tiềm năng của công nghệ AI trong việc mang lại những lợi ích chưa từng có cho nhân loại. Chúng tôi cũng hiểu những rủi ro nghiêm trọng do những công nghệ này gây ra”, bức thư nêu rõ.
“Những rủi ro này bao gồm từ việc gia tăng thêm sự bất bình đẳng hiện có, đến việc thao túng và thông tin sai lệch, đến việc mất quyền kiểm soát các hệ thống AI Tự vận hành có khả năng dẫn đến sự tuyệt chủng của loài người. Bản thân các công ty AI cũng như các chính phủ trên thế giới và các chuyên gia AI khác đã thừa nhận những rủi ro này”.
Bức thư đã được 13 nhân viên ký tên và được các nhà tiên phong về AI Yoshua Bengio và Geoffrey Hinton xác nhận, nêu ra bốn yêu cầu cốt lõi nhằm bảo vệ người tố cáo và thúc đẩy tính minh bạch và trách nhiệm cao hơn trong việc phát triển AI:
- Rằng các công ty sẽ không thực thi các điều khoản không chê bai hoặc trả thù nhân viên vì nêu lên những lo ngại liên quan đến rủi ro.
- Rằng các công ty sẽ tạo điều kiện thuận lợi cho nhân viên thực hiện quy trình ẩn danh có thể xác minh được để nêu lên mối lo ngại với hội đồng quản trị, cơ quan quản lý và các chuyên gia độc lập.
- Rằng các công ty sẽ ủng hộ văn hóa phê bình cởi mở và cho phép nhân viên chia sẻ công khai những mối quan ngại liên quan đến rủi ro, với sự bảo vệ thích hợp các bí mật thương mại.
- Rằng các công ty sẽ không trả đũa những nhân viên chia sẻ thông tin bí mật liên quan đến rủi ro sau khi các quy trình khác không thành công.
Daniel Kokotajlo, cựu nhân viên của OpenAI, người đã rời đi vì lo ngại về vấn đề này, cho biết: “Họ và những người khác đã áp dụng cách tiếp cận ‘di chuyển nhanh và phá vỡ mọi thứ’ và điều đó trái ngược với những gì cần thiết đối với công nghệ mạnh mẽ nhưng lại kém hiểu biết này”. giá trị của công ty và sự thiếu trách nhiệm.
Các yêu cầu được đưa ra trong bối cảnh có báo cáo rằng OpenAI đã buộc các nhân viên sắp nghỉ việc phải ký các thỏa thuận không tiết lộ thông tin để ngăn họ chỉ trích công ty hoặc có nguy cơ mất vốn sở hữu. Giám đốc điều hành OpenAI, Sam Altman thừa nhận “xấu hổ” trước tình huống này nhưng khẳng định công ty chưa bao giờ thực sự thu hồi vốn chủ sở hữu của bất kỳ ai.
Khi cuộc cách mạng AI tiến về phía trước, xung đột nội bộ và nhu cầu tố cáo tại OpenAI nhấn mạnh những khó khăn ngày càng tăng và những vấn đề đạo đức chưa được giải quyết xung quanh công nghệ.
Xem thêm: OpenAI phá vỡ năm hoạt động ảnh hưởng bí mật
Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Hãy xem AI & Big Data Expo diễn ra ở Amsterdam, California và London. Sự kiện toàn diện này được tổ chức cùng với các sự kiện hàng đầu khác bao gồm Hội nghị Tự động hóa Thông minh, BlockX, Tuần lễ Chuyển đổi số và Triển lãm An ninh Mạng & Cloud.
Khám phá các sự kiện và hội thảo Online về công nghệ doanh nghiệp sắp tới khác do TechForge cung cấp tại đây.
