近年來，人工智能（AI）在各行各業的應用日益普遍，香港也不例外。隨著AI技術的快速發展，如何構建安全可靠的AI框架成為了當前的一個重要課題。香港電腦學會在這方面做出了積極的努力，強調從數據治理、透明度、持續監控及倫理合規四大支柱入手，結合技術與管理手段，構建可信賴的AI生態[1]。本文將深入探討香港在AI安全方面的努力，包括相關框架的構建、AI在安全運作中的應用，以及AI安全的重要性。
AI治理是構建安全可靠AI框架的第一支柱。它涉及到對AI系統的設計、開發、部署和使用進行嚴格的管理和監控，以確保AI系統的安全性和可靠性。數據治理則是AI治理的基礎，通過對數據的收集、儲存和使用進行嚴格的管理，來防止數據洩漏和誤用[1]。AI治理的核心不僅僅是技術層面的管控，更涵蓋了倫理、法律以及社會責任等多個維度。一個完善的AI治理框架應當能夠明確權責，建立有效的風險管理機制，並確保AI系統的設計和應用符合社會價值觀。例如，在醫療領域，AI診斷系統的應用必須嚴格遵守醫療倫理規範，保護患者的隱私權益，並確保診斷結果的準確性和可靠性。
在香港，個人資料私隱專員公署已推出《人工智能（AI）：個人資料保障模範框架》，為企業提供了AI應用中的數據保護指引[5]。這些指引幫助企業在使用AI時，能夠有效地保護個人資料，避免數據洩漏等安全問題。此外，香港也在積極探索如何利用區塊鏈技術來增強數據的安全性和透明度。將AI與區塊鏈技術結合，可以構建一個更加安全、可信賴的數據共享平台，從而促進AI在各行業的應用。例如，在金融領域，可以利用區塊鏈技術來驗證交易的真實性，防止欺詐行為，並提高交易的效率。
AI技術在安全運作中發揮著重要作用，特別是在安全運作中心（SOC）。中信國際電訊CPC是香港領先的SOC服務提供商之一，該公司通過積極注入AI技術，提升了SOC服務的能力和質量[2]。AI技術被用於加快為企業客戶設定合適的信息安全規則，並提供自建的SIEM（安全信息和事件管理）技術平台，以更快速、更精準地偵測和歸類異常行為[2]。通過AI技術的應用，SOC可以實現自動化的威脅檢測和響應，從而大大提高安全運營的效率和準確性。AI還可以通過分析大量的安全日誌和事件數據，發現潛在的威脅模式和異常行為，幫助安全團隊及早發現和解決安全問題。
此外，AI技術還被用於「AI攻防」實踐中，通過模擬攻擊來評估企業的IT基礎設施環境與應用的風險，並制定有效的防禦措施，以達到最高的安全保障[2]。這種基於AI的攻防演練可以幫助企業全面評估其安全防禦能力，發現潛在的安全漏洞，並制定有針對性的安全加固措施。同時，AI還可以通過自動化的漏洞掃描和滲透測試，及時發現和修復安全漏洞，從而提高企業的整體安全水平。例如，AI可以用於識別和防禦DDoS攻擊，通過分析網絡流量模式，及時發現異常流量，並採取相應的防禦措施。
隨著AI技術的普及，AI安全問題也日益受到重視。個人資料私隱專員公署將於本月舉行「關注私隱週2025」，以AI安全為主題，透過一系列推廣活動來增進公眾對AI安全的認識[3]。這些活動包括電車宣傳以及針對機構和高等教育界的推廣活動，旨在提高公眾對AI安全的關注度。提高公眾對AI安全的認識不僅可以增強公眾的安全意識，還可以促使企業和機構更加重視AI安全問題，並採取有效的防禦措施。例如，通過舉辦AI安全研討會和培訓課程，可以幫助企業和機構了解最新的AI安全技術和最佳實踐，從而提高其安全防禦能力。
Google Cloud Summit香港2025也聚焦於AI基礎設施和工具如何提升企業效率和優化客戶體驗[4]。這些活動和會議不僅展示了AI技術的潛力，也強調了在AI應用中確保安全和可靠性的重要性。Google Cloud Summit等活動不僅為企業提供了一個了解最新AI技術的平台，也為企業提供了一個交流AI安全經驗的機會。企業可以通過參加這些活動，了解最新的AI安全技術和最佳實踐，並與同行分享其安全經驗，從而共同提高AI安全水平。
構建安全可靠的AI框架對於香港的AI發展至關重要。通過強化AI治理、數據治理、持續監控和倫理合規，香港電腦學會和相關機構正在努力構建一個可信賴的AI生態。AI技術在安全運作中的應用也日益廣泛，特別是在SOC服務中，AI技術被用於提升安全服務的精準度和效率。總而言之，香港在AI安全方面的努力不僅體現在政策制定和技術應用上，更體現在對公眾意識的培養和國際合作的加強上。只有通過多方協作，才能構建一個安全、可信賴的AI生態，從而充分發揮AI技術的潛力，推動社會的發展和進步。
隨著AI技術的快速發展，AI安全問題將繼續受到重視。未來，香港將繼續推動AI安全的相關工作，包括推廣AI安全知識、加強AI治理和數據保護等。這些努力不僅有助於提升公眾對AI安全的認識，也將促進AI技術在香港的健康發展。更進一步，香港可以借鑒國際經驗，加強與國際組織和國家的合作，共同應對AI安全帶來的挑戰。例如，可以與國際標準組織合作，制定AI安全相關的國際標準，推動全球AI安全水平的提高。同時，香港還可以加強與其他國家在AI安全技術方面的交流與合作，共同研發AI安全技術，共同應對AI安全威脅。
資料來源:
[1] today.line.me
[2] itpromag.com
[4] unwire.pro
[5] itpa.hk
Powered By YOHO AI
