OpenAI đang tham gia ban chỉ đạo của Liên minh về Chứng minh và Xác thực Nội dung (C2PA) và sẽ tích hợp siêu dữ liệu của tiêu chuẩn mở vào các mô hình AI tổng quát của mình để tăng tính minh bạch xung quanh nội dung được tạo ra.
Tiêu chuẩn C2PA cho phép nội dung kỹ thuật số được chứng nhận bằng siêu dữ liệu chứng minh nguồn gốc của nó, cho dù được tạo hoàn toàn bằng AI, được chỉnh sửa bằng công cụ AI hay được ghi lại theo cách truyền thống. OpenAI đã bắt đầu thêm siêu dữ liệu C2PA vào hình ảnh từ đầu ra mô hình DALL-E 3 mới nhất của mình trong ChatGPT và API OpenAI. Siêu dữ liệu sẽ được tích hợp vào mô hình tạo video Sora sắp tới của OpenAI khi được ra mắt rộng rãi hơn.
OpenAI giải thích: “Mọi người vẫn có thể tạo nội dung lừa đảo mà không có thông tin này (hoặc có thể xóa nó), nhưng họ không thể dễ dàng giả mạo hoặc thay đổi thông tin này, khiến nó trở thành một nguồn tài nguyên quan trọng để tạo dựng niềm tin”.
Động thái này diễn ra trong bối cảnh ngày càng có nhiều lo ngại về khả năng nội dung do AI tạo ra có thể đánh lừa cử tri trước các cuộc bầu cử lớn ở Mỹ, Anh và các quốc gia khác trong năm nay. Việc xác thực phương tiện do AI tạo ra có thể giúp chống lại các nội dung giả mạo sâu và các nội dung bị thao túng khác nhằm vào các chiến dịch thông tin sai lệch.
Mặc dù các biện pháp kỹ thuật có ích nhưng OpenAI thừa nhận rằng việc cho phép xác thực nội dung trong thực tế đòi hỏi phải có hành động tập thể từ các nền tảng, người sáng tạo và người xử lý nội dung để giữ lại siêu dữ liệu cho người tiêu dùng cuối.
Ngoài việc tích hợp C2PA, OpenAI đang phát triển các phương pháp xuất xứ mới như hình mờ chống giả mạo cho các bộ phân loại phát hiện âm thanh và hình ảnh để xác định hình ảnh do AI tạo ra.
OpenAI đã mở các ứng dụng để truy cập vào bộ phân loại phát hiện hình ảnh DALL-E 3 thông qua Chương trình truy cập nhà nghiên cứu. Công cụ này dự đoán khả năng hình ảnh có nguồn gốc từ một trong các mô hình của OpenAI.
Công ty cho biết: “Mục tiêu của chúng tôi là cho phép nghiên cứu độc lập đánh giá hiệu quả của trình phân loại, phân tích ứng dụng trong thế giới thực của nó, đưa ra những cân nhắc liên quan cho việc sử dụng đó và khám phá các đặc điểm của nội dung do AI tạo ra”.
Thử nghiệm nội bộ cho thấy khả năng phân biệt hình ảnh không phải AI với hình ảnh DALL-E 3 có độ chính xác cao, với khoảng 98% hình ảnh DALL-E được xác định chính xác và chưa đến 0,5% hình ảnh không phải AI bị gắn cờ sai. Tuy nhiên, bộ phân loại gặp nhiều khó khăn hơn trong việc phân biệt giữa hình ảnh do DALL-E tạo ra và các mô hình AI tổng hợp khác.
OpenAI cũng đã kết hợp hình mờ vào mô hình giọng nói tùy chỉnh của Voice Engine, hiện ở dạng xem trước hạn chế.
Công ty tin rằng việc tăng cường áp dụng các tiêu chuẩn xuất xứ sẽ dẫn đến siêu dữ liệu đi kèm với nội dung trong toàn bộ vòng đời của nó để lấp đầy “khoảng trống quan trọng trong thực tiễn xác thực nội dung kỹ thuật số”.
OpenAI đang hợp tác với Microsoft để ra mắt quỹ phục hồi xã hội trị giá 2 triệu đô la nhằm hỗ trợ giáo dục và hiểu biết về AI, bao gồm thông qua AARP, International IDEA và Quan hệ đối tác về AI.
OpenAI cho biết: “Mặc dù các giải pháp kỹ thuật như trên cung cấp cho chúng tôi các công cụ tích cực để phòng thủ, nhưng việc cho phép xác thực nội dung một cách hiệu quả trong thực tế sẽ đòi hỏi phải có hành động tập thể”.
“Những nỗ lực của chúng tôi về xuất xứ chỉ là một phần trong nỗ lực rộng lớn hơn của ngành – nhiều phòng thí nghiệm nghiên cứu ngang hàng và các công ty AI tổng hợp của chúng tôi cũng đang thúc đẩy nghiên cứu trong lĩnh vực này. Chúng tôi khen ngợi những nỗ lực này—ngành phải hợp tác và chia sẻ những hiểu biết sâu sắc để nâng cao hiểu biết của chúng ta và tiếp tục thúc đẩy tính minh bạch Online.”
(Ảnh của Marc Sendra Martorell)
Xem thêm: Chuck Ros, SoftServe: Cung cấp các giải pháp AI biến đổi một cách có trách nhiệm
Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Hãy xem AI & Big Data Expo diễn ra ở Amsterdam, California và London. Sự kiện toàn diện này được tổ chức cùng với các sự kiện hàng đầu khác bao gồm Hội nghị Tự động hóa Thông minh, BlockX, Tuần lễ Chuyển đổi số và Triển lãm An ninh Mạng & Đám mây.
Khám phá các sự kiện và hội thảo Online về công nghệ doanh nghiệp sắp tới khác do TechForge cung cấp tại đây.
