Nhóm vận động bảo vệ dữ liệu châu Âu noyb đã đệ đơn khiếu nại OpenAI về việc công ty này không thể sửa thông tin không chính xác do ChatGPT tạo ra. Nhóm cáo buộc rằng việc OpenAI không đảm bảo tính chính xác của dữ liệu cá nhân được dịch vụ xử lý đã vi phạm Quy định bảo vệ dữ liệu chung (GDPR) của Liên minh châu Âu.
“Bản thân việc tạo ra thông tin sai lệch đã là một vấn đề khá khó khăn. Nhưng khi nói đến thông tin sai lệch về cá nhân, có thể gây ra hậu quả nghiêm trọng”, Maartje de Graaf, Luật sư bảo vệ dữ liệu tại noyb cho biết.
“Rõ ràng là các công ty hiện không thể tạo ra các chatbot như ChatGPT tuân thủ luật pháp EU khi xử lý dữ liệu về các cá nhân. Nếu một hệ thống không thể tạo ra kết quả chính xác và minh bạch thì hệ thống đó không thể được sử dụng để tạo dữ liệu về các cá nhân. Công nghệ phải tuân theo các yêu cầu pháp lý chứ không phải ngược lại.”
GDPR yêu cầu dữ liệu cá nhân phải chính xác và các cá nhân có quyền cải chính nếu dữ liệu không chính xác, cũng như quyền truy cập thông tin về dữ liệu được xử lý và nguồn của dữ liệu đó. Tuy nhiên, OpenAI đã công khai thừa nhận rằng họ không thể sửa thông tin không chính xác do ChatGPT tạo ra hoặc tiết lộ nguồn dữ liệu được sử dụng để đào tạo mô hình.
OpenAI lập luận: “Độ chính xác thực tế trong các mô hình ngôn ngữ lớn vẫn là một lĩnh vực đang được nghiên cứu tích cực”.
Nhóm vận động nêu bật một báo cáo của New York Times cho thấy các chatbot như ChatGPT “phát minh ra thông tin ít nhất 3% thời gian – và cao tới 27%”. Trong đơn khiếu nại OpenAI, noyb trích dẫn một ví dụ trong đó ChatGPT liên tục cung cấp ngày sinh không chính xác cho người khiếu nại, một người của công chúng, bất chấp yêu cầu cải chính.
Noyb nêu rõ: “Mặc dù ngày sinh của người khiếu nại do ChatGPT cung cấp không chính xác nhưng OpenAI đã từ chối yêu cầu chỉnh sửa hoặc xóa dữ liệu của người khiếu nại với lý do không thể sửa dữ liệu”.
OpenAI tuyên bố họ có thể lọc hoặc chặn dữ liệu theo một số lời nhắc nhất định, chẳng hạn như tên của người khiếu nại, nhưng không thể ngăn ChatGPT lọc tất cả thông tin về cá nhân đó. Công ty cũng không đáp ứng đầy đủ yêu cầu truy cập của người khiếu nại mà GDPR yêu cầu các công ty phải đáp ứng.
“Nghĩa vụ tuân thủ các yêu cầu truy cập áp dụng cho tất cả các công ty. De Graaf cho biết rõ ràng là có thể lưu giữ hồ sơ về dữ liệu đào tạo đã được sử dụng để ít nhất có ý tưởng về nguồn thông tin. “Dường như với mỗi lần ‘đổi mới’, một nhóm công ty khác lại cho rằng sản phẩm của mình không cần phải tuân thủ luật pháp.”
Các cơ quan giám sát quyền riêng tư của Châu Âu đã xem xét kỹ lưỡng những điểm không chính xác của ChatGPT, trong đó Cơ quan Bảo vệ Dữ liệu của Ý áp đặt hạn chế tạm thời đối với việc xử lý dữ liệu của OpenAI vào tháng 3 năm 2023 và Ủy ban Bảo vệ Dữ liệu Châu Âu đã thành lập một lực lượng đặc nhiệm về ChatGPT.
Trong đơn khiếu nại của mình, noyb đang yêu cầu Cơ quan bảo vệ dữ liệu của Áo điều tra việc xử lý dữ liệu của OpenAI và các biện pháp để đảm bảo tính chính xác của dữ liệu cá nhân được xử lý bởi các mô hình ngôn ngữ lớn của nó. Nhóm vận động cũng yêu cầu cơ quan có thẩm quyền ra lệnh cho OpenAI tuân thủ yêu cầu truy cập của người khiếu nại, đưa quy trình xử lý của nó phù hợp với GDPR và áp dụng mức phạt để đảm bảo tuân thủ trong tương lai.
Bạn có thể đọc toàn bộ đơn khiếu nại đây (PDF)
(Ảnh của Eleonora Francesca Grotto)
Xem thêm: Igor Jablokov, Pryon: Xây dựng tương lai AI có trách nhiệm
Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Hãy xem AI & Big Data Expo diễn ra ở Amsterdam, California và London. Sự kiện toàn diện này được tổ chức cùng với các sự kiện hàng đầu khác bao gồm BlockX, Tuần lễ Chuyển đổi số và An ninh mạng & Triển lãm đám mây.
Khám phá các sự kiện và hội thảo Online về công nghệ doanh nghiệp sắp tới khác do TechForge cung cấp tại đây.
