Sự kết hợp giữa trí tuệ nhân tạo và hoạch định chính sách đôi khi có thể gây ra những hậu quả không lường trước được, như đã thấy gần đây ở Alaska.
Trong một diễn biến bất thường, các nhà lập pháp Alaska được cho là đã sử dụng các trích dẫn do AI tạo ra không chính xác để biện minh cho chính sách được đề xuất cấm điện thoại di động trong trường học. Theo báo cáo của /The Alaska Beacon/, Bộ Giáo dục và Phát triển Mầm non (DEED) của Alaska đã trình bày một dự thảo chính sách có chứa các tài liệu tham khảo về các nghiên cứu học thuật đơn giản là không tồn tại.
Tình huống nảy sinh khi Ủy viên Giáo dục của Alaska, Deena Bishop, sử dụng AI để soạn thảo chính sách điện thoại di động. Tài liệu do AI tạo ra bao gồm các tài liệu tham khảo được cho là mang tính học thuật chưa được xác minh cũng như chưa chính xác, tuy nhiên tài liệu này không tiết lộ việc sử dụng AI trong quá trình chuẩn bị. Một số nội dung do AI tạo ra đã đến tay Ủy ban Giáo dục và Phát triển Mầm non Bang Alaska trước khi được xem xét, điều này có khả năng ảnh hưởng đến các cuộc thảo luận của hội đồng.
Ủy viên Bishop sau đó tuyên bố rằng AI chỉ được sử dụng để “tạo trích dẫn” cho bản dự thảo ban đầu và khẳng định rằng cô ấy đã sửa lỗi trước cuộc họp bằng cách gửi các trích dẫn cập nhật cho các thành viên hội đồng quản trị. Tuy nhiên, “ảo giác” AI—thông tin bịa đặt được tạo ra khi AI cố gắng tạo ra nội dung hợp lý nhưng chưa được xác minh—vẫn hiện diện trong tài liệu cuối cùng đã được hội đồng bỏ phiếu.
Nghị quyết cuối cùng, được công bố trên Site của DEED, chỉ đạo Bộ thiết lập chính sách mẫu về hạn chế sử dụng điện thoại di động trong trường học. Thật không may, tài liệu này bao gồm sáu trích dẫn, bốn trong số đó dường như đến từ các tạp chí khoa học có uy tín. Tuy nhiên, các tài liệu tham khảo hoàn toàn là giả, có URL dẫn đến nội dung không liên quan. Vụ việc cho thấy những rủi ro khi sử dụng dữ liệu do AI tạo ra mà không có sự xác minh phù hợp của con người, đặc biệt là khi đưa ra các phán quyết về chính sách.
Trường hợp của Alaska không phải là trường hợp duy nhất. Ảo giác AI ngày càng phổ biến trong nhiều lĩnh vực chuyên môn. Ví dụ: một số chuyên gia pháp lý đã phải đối mặt với hậu quả khi sử dụng các trích dẫn vụ án hư cấu do AI tạo ra trước tòa. Tương tự, các bài báo học thuật được tạo bằng AI đã bao gồm dữ liệu bị bóp méo và nguồn giả mạo, gây ra những lo ngại nghiêm trọng về độ tin cậy. Khi không được kiểm soát, các thuật toán AI tổng quát, nhằm tạo ra nội dung dựa trên các mẫu thay vì độ chính xác thực tế, có thể dễ dàng tạo ra các trích dẫn sai lệch.
Việc phụ thuộc vào dữ liệu do AI tạo ra trong hoạch định chính sách, đặc biệt là trong giáo dục, mang đến những rủi ro đáng kể. Khi các chính sách được phát triển dựa trên thông tin bịa đặt, chúng có thể phân bổ sai nguồn lực và có khả năng gây hại cho học sinh. Ví dụ: chính sách hạn chế sử dụng điện thoại di động dựa trên dữ liệu bịa đặt có thể chuyển hướng sự chú ý khỏi các biện pháp can thiệp dựa trên bằng chứng, hiệu quả hơn có thể thực sự mang lại lợi ích cho sinh viên.
Hơn nữa, việc sử dụng dữ liệu AI chưa được xác minh có thể làm xói mòn niềm tin của công chúng vào cả quá trình hoạch định chính sách và bản thân công nghệ AI. Những sự cố như vậy nhấn mạnh tầm quan trọng của việc kiểm tra thực tế, tính minh bạch và thận trọng khi sử dụng AI trong các lĩnh vực ra quyết định nhạy cảm, đặc biệt là trong giáo dục, nơi tác động sâu sắc đến học sinh.
Các quan chức Alaska đã cố gắng hạ thấp tình hình, coi các trích dẫn bịa đặt là “giữ chỗ” nhằm mục đích sửa chữa sau này. Tuy nhiên, tài liệu có “giữ chỗ” vẫn được trình lên hội đồng và dùng làm cơ sở để bỏ phiếu, nhấn mạnh sự cần thiết phải giám sát chặt chẽ khi sử dụng AI.
(Ảnh chụp bởi Xưởng sáng tạo Hartono)
Xem thêm: Anthropic kêu gọi điều chỉnh AI để tránh thảm họa
Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Kiểm tra Triển lãm AI & Dữ liệu lớn diễn ra ở Amsterdam, California và London. Sự kiện toàn diện này được tổ chức cùng với các sự kiện hàng đầu khác bao gồm Hội nghị tự động hóa thông minh, BlockX, Tuần lễ Chuyển đổi sốVà An ninh mạng & Triển lãm Cloud.
Khám phá các sự kiện và hội thảo Online về công nghệ doanh nghiệp sắp tới khác do TechForge cung cấp đây.
