Quản trị mạnh mẽ là điều cần thiết để giảm thiểu rủi ro AI và duy trì các hệ thống có trách nhiệm, nhưng phần lớn các công ty vẫn chưa triển khai một khuôn khổ.
Được ủy quyền bởi Chứng minh AI và được tiến hành bởi Phân tích Zogbybáo cáo đã thăm dò ý kiến của hơn 600 CEO, CIO và CTO từ các công ty lớn trên khắp Hoa Kỳ, Vương quốc Anh và Đức. Các phát hiện cho thấy 96% các tổ chức đã sử dụng AI để hỗ trợ hoạt động kinh doanh, với tỷ lệ tương tự có kế hoạch tăng ngân sách AI của họ trong năm tới.
Động lực chính để đầu tư vào AI bao gồm tăng năng suất (82%), nâng cao hiệu quả hoạt động (73%), nâng cao khả năng ra quyết định (65%) và tiết kiệm chi phí (60%). Các use case AI phổ biến nhất được báo cáo là dịch vụ và hỗ trợ khách hàng, phân tích dự đoán cũng như tối ưu hóa tiếp thị và quảng cáo.
Bất chấp sự gia tăng đầu tư vào AI, các nhà lãnh đạo doanh nghiệp nhận thức sâu sắc về rủi ro bổ sung mà AI mang lại cho tổ chức của họ. Tính toàn vẹn và bảo mật dữ liệu nổi lên như những trở ngại lớn nhất trong việc triển khai các giải pháp AI mới.
Các giám đốc điều hành cũng báo cáo gặp phải nhiều vấn đề về hiệu suất AI khác nhau, bao gồm:
- Vấn đề về chất lượng dữ liệu (ví dụ: mâu thuẫn hoặc không chính xác): 41%
- Những thách thức phát hiện và giảm thiểu sai lệch trong thuật toán AI, dẫn đến kết quả không công bằng hoặc phân biệt đối xử: 37%
- Khó khăn trong việc định lượng và đo lường lợi tức đầu tư (ROI) của các sáng kiến AI: 28%
Trong khi 95% số người được hỏi bày tỏ sự tin tưởng vào các biện pháp quản lý rủi ro AI hiện tại của tổ chức họ, báo cáo đã tiết lộ một lỗ hổng đáng kể trong việc triển khai quản trị AI.
Chỉ 5% giám đốc điều hành báo cáo rằng tổ chức của họ đã triển khai bất kỳ khuôn khổ quản trị AI nào. Tuy nhiên, 82% cho rằng việc triển khai các giải pháp quản trị AI là ưu tiên phần nào hoặc cực kỳ cấp bách, với 85% dự định triển khai các giải pháp đó vào mùa hè năm 2025.
Báo cáo cũng cho thấy 82% người tham gia ủng hộ lệnh điều hành quản trị AI để cung cấp khả năng giám sát mạnh mẽ hơn. Ngoài ra, 65% bày tỏ lo ngại về vi phạm sở hữu trí tuệ và bảo mật dữ liệu.
Mrinal Manohar, Giám đốc điều hành của Prove AI, nhận xét: “Các nhà điều hành đang thể hiện rõ: Hiệu quả lâu dài của AI, bao gồm cả việc mang lại lợi nhuận có ý nghĩa cho các khoản đầu tư lớn mà các tổ chức hiện đang thực hiện, phụ thuộc vào khả năng phát triển và cải tiến các chiến lược quản trị AI toàn diện của họ. .
“Làn sóng luật tập trung vào AI có hiệu lực trên toàn thế giới chỉ làm tăng tính cấp bách; để làn sóng đổi mới hiện tại tiếp tục có trách nhiệm, chúng ta cần triển khai các biện pháp bảo vệ rõ ràng hơn để quản lý và giám sát dữ liệu cung cấp thông tin cho các hệ thống AI.”
Khi các quy định toàn cầu như Đạo luật AI của EU sắp ra mắt, báo cáo nhấn mạnh tầm quan trọng của việc giảm thiểu rủi ro cho AI và công việc vẫn cần phải hoàn thành. Việc triển khai và tối ưu hóa các chiến lược quản trị AI chuyên dụng đã nổi lên như một ưu tiên hàng đầu đối với các doanh nghiệp muốn khai thác sức mạnh của AI đồng thời giảm thiểu các rủi ro liên quan.
Những phát hiện của báo cáo này đóng vai trò là lời cảnh tỉnh cho các tổ chức ưu tiên quản trị AI khi họ tiếp tục đầu tư và triển khai các công nghệ AI. Việc triển khai có trách nhiệm và các khuôn khổ quản trị mạnh mẽ sẽ là chìa khóa để khai thác toàn bộ tiềm năng của AI trong khi vẫn duy trì niềm tin và sự tuân thủ.
(Ảnh chụp bởi Rob Thompson)
Xem thêm: Chấm điểm mô hình AI: Endor Labs tiết lộ công cụ đánh giá
Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Kiểm tra Triển lãm AI & Dữ liệu lớn diễn ra ở Amsterdam, California và London. Sự kiện toàn diện này được tổ chức cùng với các sự kiện hàng đầu khác bao gồm Hội nghị tự động hóa thông minh, BlockX, Tuần lễ Chuyển đổi sốVà An ninh mạng & Triển lãm Cloud.
Khám phá các sự kiện và hội thảo Online về công nghệ doanh nghiệp sắp tới khác do TechForge cung cấp đây.
