生成式人工智能（GenAI）沙盒第二期：聚焦風險管理與安全性
金融業擁抱GenAI的機遇與挑戰
生成式人工智能（GenAI）正以驚人的速度改變各行各業，金融業也不例外。GenAI在提升效率、改善客戶體驗和創造新產品方面具有巨大潛力。然而，這項技術也帶來了新的風險，包括數據洩露、算法偏見和深度偽造詐騙等。為了在擁抱GenAI的同時有效管理這些風險，香港金融管理局（金管局）與數碼港合作推出了第二期GenAI沙盒計劃。
GenAI沙盒計劃：為金融創新保駕護航
GenAI沙盒計劃旨在為金融機構提供一個風險可控的環境，以開發和測試GenAI解決方案。第一期沙盒計劃於今年1月啟動，業界反應熱烈，共收到超過40個建議方案。在第一期成功的基礎上，第二期將更加注重風險管理、反詐騙措施和客戶體驗。
第二期GenAI沙盒計劃的主要優化措施包括：
- GenAI沙盒協創實驗室：透過一系列實務工作坊，促進銀行與科技供應商早期對接，將問題轉化為實際用例，並於沙盒測試。
- 專題探討AI對抗深度偽造：針對深度偽造詐騙的威脅日益增長，金管局將舉辦協創實驗室工作坊，專題探討如何利用AI對抗深度偽造。
以AI對抗AI：風險管理的創新思路
金管局副總裁阮國恒表示，第二期GenAI沙盒計劃將集中探索「以AI對抗AI」的可能性，鼓勵銀行嘗試將AI技術整合至風險管理的第二及第三道防線，妥善應對衍生的風險及挑戰。這種創新思路有助於金融機構更有效地識別和應對GenAI帶來的潛在風險。
GenAI的安全風險：企業面臨的挑戰
隨著GenAI的廣泛應用，企業面臨著越來越多的安全風險，包括：
- 網絡攻擊威脅加劇：GenAI降低了黑客的進入門檻，使他們能夠快速整合各種網絡攻擊方式，便捷地將攻擊方式「武器化」。
- 企業敏感數據洩露：員工不當的輸入行為可能導致敏感數據留存在GenAI產品的數據庫中，存在數據洩露的風險。
- 生成式AI投毒風險：惡意數據可能對AI算法的結果產生不良影響，導致企業在關鍵問題上做出錯誤的決策。
- 隱私保護問題：GenAI預訓練階段需要大量收集和挖掘數據，其中可能包括客戶和員工的隱私信息，如果不能妥善保護和匿名化這些隱私信息，可能導致隱私洩露。
- 企業安全合規風險：在缺乏有效的管理措施之前，GenAI產品的大量採用或將導致安全合規問題。
降低GenAI安全風險的策略
為了降低GenAI的安全風險，企業需要採取一系列策略，包括：
- 建立針對GenAI的風險管理策略：設立嚴格的訪問管理制度，確保只有授權的人員可以訪問和使用經過企業允許的GenAI產品。
- 加強員工的安全意識和應對能力：對企業員工進行針對GenAI風險管理的培訓，提高他們的安全意識和應對能力。
- 採用隱私設計（Privacy by design）的方法：在研發GenAI應用時，應讓最終用戶清楚他們提供的數據將如何使用以及將保留哪些數據。
- 實施技術審查：評估GenAI系統的技術性能、安全性、可靠性及合規性，確保AI系統不會對用戶造成傷害或侵犯用戶隱私權益。
GenAI的機遇與風險管理：企業成功的關鍵
GenAI為企業帶來了前所未有的機遇，但也伴隨著各種風險。為了成功實施GenAI計劃並取得競爭優勢，企業需要評估該技術可能給全公司帶來的風險，並建立一套風險管理框架。通過採用以風險為導向的方法，企業可以確保在數位化道路上始終符合監管機構、消費者和其他利益相關者的期望，並快速、充分地利用這項改變世界的技术帶來的紅利。
結論：擁抱GenAI，更要負責任
GenAI的發展為金融業帶來了巨大的潛力，但也伴隨著新的風險和挑戰。金管局與數碼港推出的第二期GenAI沙盒計劃，旨在為金融機構提供一個風險可控的環境，以開發和測試GenAI解決方案，並探索「以AI對抗AI」的可能性。企業在擁抱GenAI的同時，必須重視風險管理，採取有效的安全策略，確保GenAI的應用安全、可靠和合規。只有這樣，才能充分利用GenAI的創新潛力，同時有效管控相關風險，實現可持續發展。
