Sự tiến bộ của trí tuệ nhân tạo tổng hợp (gen AI) đã mở ra những cơ hội thương mại, xã hội và công nghệ mới. Tuy nhiên, sự phát triển của AI sáng tạo ở Singapore là một Whitepaper mới được thực hiện hai lưỡi bởi một tập đoàn bao gồm Cơ quan tiền tệ Singapore (MAS), các tổ chức tài chính, công ty công nghệ và tổ chức tư vấn, nói.
Tài liệu được phát hành vào tháng 5 năm 2024, nêu ra những thách thức liên quan đến AI thế hệ mới và chia sẻ khuôn khổ rủi ro AI thế hệ mới toàn diện để hướng dẫn các tổ chức tài chính sử dụng công nghệ này một cách có trách nhiệm.
Những rủi ro của AI sáng tạo đối với Singapore
Một trong những mối quan tâm chính được nêu rõ trong Whitepaper là sự hiện diện của các thành kiến trong các mô hình AI tổng quát. Ví dụ: khuynh hướng lịch sử hoặc thời gian có thể khiến các mô hình này thiên về các quan điểm từ những khoảng thời gian cụ thể, dẫn đến kết quả đầu ra phản ánh các quan điểm lỗi thời.
Thành kiến chính trị là một mối lo ngại khác, trong đó các hệ thống AI có thể nhấn mạnh một số hệ tư tưởng chính trị nhất định hơn các hệ tư tưởng chính trị khác do dữ liệu đào tạo bị sai lệch. Điều này có thể dẫn đến nội dung nghiêng về quan điểm chính trị cụ thể, loại trừ các quan điểm hợp lệ khác. Hơn nữa, AI tổng quát có thể duy trì các khuôn mẫu và tạo ra thông tin sai lệch, gây bất lợi một cách không công bằng cho một số nhóm nhân khẩu học nhất định.
Nguy cơ tạo ra nội dung có hại, xúc phạm hoặc độc hại, được gọi là độc tính, cũng rất đáng kể với AI thế hệ mới, đặc biệt nếu AI học được ngôn ngữ hoặc hành vi không phù hợp từ dữ liệu đào tạo của nó. Các đầu ra độc hại từ AI thế hệ mới có thể gây ra tác hại đáng kể, bao gồm cả việc phát tán thông tin sai lệch hoặc nội dung xúc phạm.
Một mối quan tâm đạo đức khác được nêu trong báo cáo là tiềm năng của thế hệ AI trong việc tạo ra nội dung giả mạo sâu có tính thuyết phục, có thể dẫn đến thông tin sai lệch.
Hơn nữa, gen AI dựa vào việc sử dụng dữ liệu công khai để đào tạo, thường do bên thứ ba phát triển. Điều này gây ra một số rủi ro về mặt pháp lý và quy định, bao gồm các vấn đề về bản quyền hoặc sở hữu trí tuệ, cũng như các vấn đề về quyền riêng tư. Các thách thức về quyền riêng tư càng trầm trọng hơn khi dữ liệu cá nhân, chẳng hạn như dữ liệu từ phương tiện truyền thông xã hội, được sử dụng trong gen AI.
Gen AI cũng làm tăng các rủi ro bảo mật như nhiễm độc dữ liệu, thao túng mô hình và chèn nhắc nhở. Điều này có thể là do lượng dữ liệu lớn cần cho việc đào tạo, sự phụ thuộc vào mô hình và dữ liệu của nhà cung cấp bên thứ ba cũng như đầu vào có định dạng tự do được chấp nhận và đầu ra được tạo ra. Hơn nữa, gen AI có thể được sử dụng cho mục đích xấu và có thể khuếch đại quy mô, tốc độ và độ tinh vi của các cuộc tấn công mạng và lừa đảo.
Báo cáo cũng chia sẻ kiến trúc tham chiếu AI thế hệ bất khả tri về nền tảng, cung cấp danh sách các khối và thành phần xây dựng mà các tổ chức có thể sử dụng để tạo ra khả năng công nghệ AI thế hệ cấp doanh nghiệp mạnh mẽ. Kiến trúc này nhằm mục đích phục vụ như một khung mẫu thay vì các quy chuẩn để tuân thủ, giúp các tổ chức nhanh chóng bắt đầu giai đoạn thử nghiệm hoặc lên kế hoạch cho quá trình triển khai khi họ áp dụng công nghệ, từ các use case ban đầu đến triển khai doanh nghiệp quy mô đầy đủ.
![Mẫu kiến trúc tham chiếu không phụ thuộc vào nền tảng AI tạo sinh, Nguồn: Dự án MindForge, thông qua Cơ quan tiền tệ Singapore, tháng 5 năm 2024](https://fintechnews.sg/wp-content/uploads/2024/06/Sample-of-Generative-AI-platform-agnostic-reference-architecture-Source-Project-MindForge-via-the-Monetary-Authority-of-Singapore-May-2024.png)
Mẫu kiến trúc tham chiếu không phụ thuộc vào nền tảng AI tạo sinh, Nguồn: Dự án MindForge, thông qua Cơ quan tiền tệ Singapore, tháng 5 năm 2024
Việc áp dụng Generative AI trong lĩnh vực ngân hàng của Singapore vẫn còn ở giai đoạn sơ khai
Whitepaper có tựa đề “Rủi ro mới nổi và cơ hội của AI thế hệ mới cho ngân hàng” được thực hiện bởi MindForge, một tập đoàn được thành lập vào năm 2023 để tìm hiểu những rủi ro và cơ hội của công nghệ AI thế hệ mới dành riêng cho ngành dịch vụ tài chính.
Liên minh bao gồm MAS, Citi, DBS, HSBC, OCBC, Standard Chartered, Hiệp hội các ngân hàng Singapore (ABS) và UOB, cùng các đối tác công nghệ Accenture, Google và Microsoft.
Giai đoạn 1 của Dự án MindForge kết luận vào ngày 15 tháng 11 năm 2023, đã tìm cách phát triển một khuôn khổ rủi ro cho AI thế hệ mới. Trong giai đoạn tiếp theo, liên minh sẽ mở rộng phạm vi của mình để thu hút các tổ chức tài chính từ ngành bảo hiểm và quản lý tài sản, mở rộng khuôn khổ rủi ro AI thế hệ mới của mình cho toàn bộ ngành tài chính và phát triển sổ tay quản trị AI cho ngành.
Gen AI là các hệ thống AI được thiết kế để tự động tạo ra nội dung mới, nguyên bản. Các hệ thống này đã mở rộng nhanh chóng trong những năm qua, được thúc đẩy bởi sự phấn khích sau khi ra mắt ChatGPT của OpenAI vào cuối năm 2022 và các cơ hội tự động hóa các tác vụ thường lệ, cải thiện hiệu quả và nâng cao công cụ đề xuất và trải nghiệm của khách hàng. Trong lĩnh vực ngân hàng, McKinsey ước tính rằng AI thế hệ mới có thể mang lại tiềm năng hàng năm từ 200 tỷ đô la Mỹ đến 340 tỷ đô la Mỹ (tương đương với 9 đến 15% lợi nhuận hoạt động).
Tại Singapore, báo cáo của MindForge lưu ý rằng các tổ chức tài chính vẫn đang trong giai đoạn đầu triển khai các khả năng của thế hệ AI, với các use case ban đầu chủ yếu tập trung vào năng suất nội bộ, giảm thiểu rủi ro, cải thiện hiểu biết sâu sắc và các use case mới nổi nhằm khám phá việc tạo doanh thu và cải thiện tương tác với khách hàng.
Vào tháng 10 năm 2023, UOB đã trở thành ngân hàng đầu tiên tại Singapore thử nghiệm Copilot của Microsoft, một trợ lý hỗ trợ AI, để cải thiện năng suất, khả năng truy cập và cộng tác. Vào tháng 11, Ngân hàng OCBC đã làm theo, phóng một chatbot AI thế hệ mới dành cho 30.000 nhân viên trên toàn cầu để hỗ trợ họ viết, nghiên cứu và lên ý tưởng.
Singapore đã từng là là một trong những khu vực pháp lý đầu tiên trên thế giới nêu rõ các nguyên tắc quản trị AI thông qua việc công bố Khung quản trị AI mẫu (MGF) vào năm 2019. Tài liệu này, được cập nhật vào năm 2020, thúc đẩy việc sử dụng AI truyền thống một cách có trách nhiệm.
Để ứng phó với sự gia tăng của AI thế hệ mới và những rủi ro liên quan, Quỹ AI Verify và Cơ quan Phát triển Truyền thông Infocomm của Singapore đã đề xuất một khuôn khổ mở rộng vào tháng 1 năm 2024. MGF-Gen AI nhằm mục đích giải quyết các mối quan ngại về AI thế hệ mới đồng thời thúc đẩy sự đổi mới và kêu gọi sự hợp tác giữa các nhà hoạch định chính sách, ngành công nghiệp, nhà nghiên cứu và công chúng.
Nguồn Hình Ảnh nổi bật: được chỉnh sửa từ freepik
Nguồn : https://fintechnews.sg/97226/ai/generative-ai-singapore/.
Post by automationbot.