Trung tâm Phục hồi Dài hạn (CLTR) đã kêu gọi xây dựng một hệ thống báo cáo sự cố toàn diện để giải quyết khẩn cấp lỗ hổng nghiêm trọng trong kế hoạch quản lý AI.
Theo CLTR, AI có lịch sử thất bại theo những cách không mong muốn, với hơn 10.000 sự cố về an toàn được các hãng tin ghi lại trong các hệ thống AI được triển khai kể từ năm 2014. Khi AI ngày càng hòa nhập với xã hội, tần suất và tác động của những sự cố này có thể sẽ tăng lên. .
Cơ quan cố vấn lập luận rằng chế độ báo cáo sự cố hoạt động tốt là điều cần thiết để quản lý AI hiệu quả, tạo ra sự tương đồng với các ngành quan trọng về an toàn như hàng không và y học. Quan điểm này được sự đồng thuận rộng rãi của các chuyên gia, cũng như chính phủ Mỹ, Trung Quốc và Liên minh châu Âu.
Báo cáo nêu ra ba lợi ích chính của việc triển khai hệ thống báo cáo sự cố:
- Giám sát rủi ro an toàn AI trong thế giới thực để thông báo điều chỉnh quy định
- Phối hợp phản ứng nhanh đến các sự cố lớn và điều tra nguyên nhân gốc rễ
- Xác định cảnh báo sớm về những tác hại tiềm tàng trên quy mô lớn trong tương lai
Hiện tại, quy định về AI của Vương quốc Anh thiếu khung báo cáo sự cố hiệu quả. Khoảng trống này khiến Bộ Khoa học, Đổi mới & Công nghệ (DSIT) không thể nhìn thấy được các sự cố nghiêm trọng khác nhau, bao gồm:
- Các vấn đề với các mô hình nền tảng có khả năng cao
- Các sự cố do chính phủ Anh sử dụng AI trong các dịch vụ công
- Sử dụng sai mục đích hệ thống AI
- Tác hại do bạn đồng hành, gia sư và nhà trị liệu AI gây ra
CLTR cảnh báo rằng nếu không có hệ thống báo cáo sự cố thích hợp, DSIT có thể tìm hiểu về những tác hại mới thông qua các cơ quan báo chí thay vì thông qua các quy trình báo cáo đã được thiết lập.
Để giải quyết khoảng trống này, tổ chức tư vấn khuyến nghị ba bước ngay lập tức cho Chính phủ Vương quốc Anh:
- Hệ thống báo cáo sự cố của chính phủ: Thiết lập hệ thống báo cáo sự cố từ AI được sử dụng trong các dịch vụ công. Đây có thể là phần mở rộng đơn giản của Tiêu chuẩn ghi lại minh bạch thuật toán (ATRS) để bao gồm các sự cố AI trong khu vực công, cung cấp thông tin cho cơ quan chính phủ và có khả năng chia sẻ với công chúng để đảm bảo tính minh bạch.
- Thu hút các cơ quan quản lý và chuyên gia: Các cơ quan quản lý của Ủy ban và tham khảo ý kiến của các chuyên gia để xác định những lỗ hổng đáng lo ngại nhất, đảm bảo xử lý hiệu quả các sự cố ưu tiên và hiểu rõ nhu cầu của các bên liên quan đối với một cơ chế chức năng.
- Xây dựng năng lực DSIT: Phát triển khả năng của DSIT để giám sát, điều tra và ứng phó với các sự cố, có thể thông qua cơ sở dữ liệu sự cố AI thí điểm. Điều này sẽ là một phần chức năng trung tâm của DSIT, ban đầu tập trung vào những khoảng trống cấp bách nhất nhưng cuối cùng sẽ mở rộng để bao gồm tất cả các báo cáo từ các cơ quan quản lý của Vương quốc Anh.
Những khuyến nghị này nhằm mục đích nâng cao khả năng của chính phủ trong việc cải thiện các dịch vụ công một cách có trách nhiệm, đảm bảo đưa tin hiệu quả về các sự cố ưu tiên và phát triển cơ sở hạ tầng cần thiết để thu thập và ứng phó với các báo cáo sự cố AI.
Veera Siivonen, CCO và Đối tác tại Saidot, nhận xét:
“Báo cáo này của Trung tâm Phục hồi Dài hạn được đưa ra vào thời điểm thích hợp. Khi Vương quốc Anh chuẩn bị tiến tới cuộc Tổng tuyển cử, chính sách AI tiếp theo của chính phủ sẽ là nền tảng cho tăng trưởng kinh tế. Tuy nhiên, điều này đòi hỏi sự chính xác trong việc điều hướng sự cân bằng giữa quy định và đổi mới, cung cấp các biện pháp bảo vệ mà không thu hẹp tiềm năng thử nghiệm của ngành. Mặc dù việc triển khai một hệ thống báo cáo sự cố tập trung về việc sử dụng sai mục đích và trục trặc của AI sẽ là bước đầu tiên đáng khen ngợi nhưng vẫn còn nhiều bước nữa cần phải thực hiện.
Chính phủ sắp tới của Vương quốc Anh cần mang lại sự chắc chắn và hiểu biết cho các doanh nghiệp với các yêu cầu quản trị rõ ràng, đồng thời giám sát và giảm thiểu những rủi ro có thể xảy ra nhất. Bằng cách tích hợp nhiều chiến lược quản trị AI với báo cáo sự cố tập trung, Vương quốc Anh có thể khai thác tiềm năng kinh tế của AI, đảm bảo rằng nó mang lại lợi ích cho xã hội đồng thời bảo vệ các quy trình dân chủ và niềm tin của công chúng.”
Khi AI tiếp tục phát triển và thâm nhập vào các khía cạnh khác nhau của xã hội, việc triển khai hệ thống báo cáo sự cố mạnh mẽ có thể chứng tỏ tầm quan trọng trong việc giảm thiểu rủi ro và đảm bảo sự phát triển và triển khai an toàn các công nghệ AI.
Xem thêm: Sếp SoftBank: Quên AGI đi, ASI sẽ có mặt trong vòng 10 năm tới
![](https://www.artificialintelligence-news.com/wp-content/uploads/sites/9/2022/04/ai-expo-world-728x-90-01.png)
Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Hãy xem AI & Big Data Expo diễn ra ở Amsterdam, California và London. Sự kiện toàn diện này được tổ chức cùng với các sự kiện hàng đầu khác bao gồm Hội nghị Tự động hóa Thông minh, BlockX, Tuần lễ Chuyển đổi số và Triển lãm An ninh Mạng & Cloud.
Khám phá các sự kiện và hội thảo Online về công nghệ doanh nghiệp sắp tới khác do TechForge cung cấp tại đây.