政府於今年2月發表的財政預算案中，提出成立由財政司長主持的「AI＋與產業發展策略委員會」（AI＋委員會），足見當局推動「AI（人工智能）產業化、產業AI化」的決心。然而AI發展迅速，亦會引起一連串社會倫理問題。因此，政府需完善治理體系，為AI創新研發和產業應用築起一道穩固防護網。

AI倫理問題加劇 治理體系需加強

事實上，AI衍生的倫理問題正威脅各行各業。數據顯示，全球去年利用AI的詐騙案數目激增逾12倍；預計到2027年，全球銀行及其客戶更會因AI騙案損失高達400億美元（約3100億港元）。

早前騰訊免費為深圳、香港、上海等17個城市的用戶，安裝AI代理OpenClaw（俗稱「龍蝦」），吸引近千人到深圳的騰訊大廈排隊輪候。而這股「養蝦潮」，恰恰揭示香港正面對更為嚴峻的AI治理挑戰。有別於傳統的AI聊天機械人（AI chatbot），AI代理能夠記住用戶過往選擇、理解當下需求，再自行在用戶電腦執行任務。面對AI從單純的內容生成，逐步走向自主執行，我們需要更全面、更具前瞻性的AI治理體系，以應對個人資料外泄、駭客攻擊，以及權限失控（註）等相關潛在風險。

AI治理「軟硬兼施」 教育法律雙線推進

國際間對AI治理有不同政策手段，主要可分為軟性指引和硬性法規。要鼓勵AI創新研發和產業應用，同時為開發商、用戶、企業、僱員等多方持份者提供適切保障，特區政府應「因事制宜」，先審視不同範疇的實際需要，再決定採用軟性抑或硬性治理方式。

早在2021年，聯合國教科文組織便通過全球首份針對AI倫理的規範框架文件——《人工智能倫理問題建議書》，就11個AI治理範疇提出政策建議，涵蓋不同軟性和硬性措施；其中教育和法律兩大範疇，特別值得香港參考。

提升學生AI素養 訂專門法例遏違法行為

首先，就教育層面而言，香港宜全面培養學生的AI素養，確保他們充分了解AI基本原理，以及對道德和社會層面的潛在影響，從而在日常生活負責任地使用AI。

政府現時已將AI納入中小學核心課程框架：去年施政報告宣布預留20億元支援中小學數字教育；早前發表的《中小學數字教育發展藍圖》，包含對AI教育的規劃。因此，為配合AI教育高速發展，確保學生掌握必要的倫理知識，政府可考慮透過教育局轄下課程發展議會，更新課程及評估指引，藉此提升學生的AI素養和倫理認知。

另外，就法律層面而言，政府可研究制訂專門法例，應對近年利用AI工具的新型違法行為。現時本港主要由數字政策辦公室和個人資料私隱專員公署，提供不具法律約束力的指引。以私隱專員公署為例，於今年2月發布《AI生成影像及私隱保障聯合聲明》，提醒所有機構須合法地開發和使用AI系統，同時採取一系列措施保障資料當事人。惟該聲明僅供業界自願遵守。

面對深度偽造（deepfake）詐騙、個人資料外泄等問題愈演愈烈，單靠指引，恐難發揮足夠阻嚇作用。參考韓國做法，當局於去年頒布《AI發展與建立信任基本法》，規定商家利用「高影響力AI」、生成式AI提供產品和服務時，須事先向使用者說明，違者可被處以最高3000萬韓圜（約15萬港元）罰款，並設一年過渡期。本港「AI＋委員會」作為推動香港AI發展的頂層機構，亦可針對各類AI相關違法行為，例如用以製作不雅照片，訂立專門法例及規管安排，做到與時並進。

AI固然便利生活，也創造更多就業機會，但其衍生的社會倫理問題，絕對不容忽視。要確保AI穩健發展，香港需及早完善治理體系，從教育和法律雙線推進，方能有效保障公眾利益。