陈柏珲：香港AI立法不能再等——从深伪诈骗到金融监管的法治缺口

文｜陈柏珲

律政司司长林定国日前透露，香港已成立跨部门工作小组，全面检视现行法律能否应对人工智能的急速发展。这番表态的分量，不在于“研究修例”四个字，而在于它释放了一个明确信号：香港的AI治理，不能再停留在指引、提醒和行业自律的阶段。

过去几年，香港处理AI问题主要靠监管机构发文、业界培训和个案执法。但当深伪声音已能冒充亲友骗取长者积蓄，AI合成的公司高层视频足以诱使财务人员转账，生成式投资建议正被包装成专业意见流向普通投资者——单靠“提醒业界审慎使用”，显然已经不够。

更紧迫的问题在于：这些风险不是未来的假设，而是正在发生的现实。香港现有法律并非真空，《个人资料（私隐）条例》、诈骗罪、版权法和金融监管规则各有覆盖，但它们大多在生成式AI爆发前订立，未必追得上AI带来的新型责任链条。制作深伪的人、提供工具的平台、投放诈骗广告的渠道、拒不下架的运营商，彼此之间的法律责任至今仍不清晰。金融机构用AI做信贷评分和投资建议，一旦出错，客户向谁追责、以什么准则追责，同样缺乏明确答案。

这正是林定国所说“检视现行法律配套”的真正含义：不是香港没有法律，而是现有法律未必接得住AI带来的所有风险。香港AI立法，不能再等。

AI风险已进入法律体系多个角落

AI问题之所以不能只交给科技部门处理，是因为它已经渗透到法律体系的多个角落：银行用AI做信贷评分，企业用AI筛选求职者，律师和法庭也开始面对AI生成证据、AI摘要和AI检索的可靠性问题。一段AI合成的公司高层视频会议，足以诱使财务人员转账；一通仿冒亲友声音的电话，足以令长者受骗；一份由AI生成幷包装成专业意见的投资建议，也可能误导普通投资者。

这些场景的麻烦之处在于，损害发生时往往不是一个人、一个平台、一个系统单独造成的。模型开发者、应用部署者、平台运营者、广告投放者、内容分发者，都可能参与其中。现行法律可以处理部分后果，却未必能清楚回答每个环节应承担什么责任。AI立法之所以变得迫切，正是因为技术把原本相对清楚的责任链条拉长了，也模糊了。

不能照搬他人经验，但要看清制度取舍

面对这些挑战，香港有必要审视其他地区的经验，但更重要的是理解它们各自解决了什么问题，又付出了什么代价。

欧盟的《人工智能法案》是目前最体系化的尝试。它以“风险分级”为核心，明确禁止不可接受风险的AI应用，例如利用潜意识操纵、社会评分、特定情形下公共场所实时远程生物识别等。高风险AI系统——涵盖关键基建、教育、就业、执法和司法等领域——则须承担严格的合规义务，包括风险管理、数据治理、透明度、人类监督和准确稳健性要求。法案还对通用人工智能模型设置透明度、版权尊重和系统性风险评估等义务，并要求深伪内容必须标识。

这套框架的优点在于清晰，且具备“布鲁塞尔效应”：企业只要触及欧洲市场，便不能无视欧盟规则。但它也带来了高昂的合规成本和执行复杂性。对香港而言，最大的启发不是照抄一部AI Act，而是两个方法论：监管必须以风险为本，且监管对象应是具体用途和责任主体，而非笼统地规管“人工智能”这个名词。

新加坡则走了一条完全不同的路。政府没有急于推出一部总括性的AI法律，而是先建立起一套可操作的治理工具。资讯通信媒体发展局和个人资料保护委员会先后推出AI Verify测试框架、第二代《模范人工智能治理框架》以及专门的《生成式人工智能治理框架》，协助企业按透明度、可解释性、公平、安全和问责等原则评估AI系统，并与ISO、NIST等国际标准对接。新加坡还启动了全球AI Assurance Sandbox，让生成式AI应用部署方和测试机构共同验证幻觉、数据泄露、不良内容和对抗性提示等风险。

这套“先建治理能力，再精准立法”的策略，对以金融和专业服务为信任基石的香港，参考价值尤其大。企业真正需要的，不只是原则性的合规口号，而是部署AI前该做哪些测试、采购AI系统时该问供应商什么问题、出现事故后该如何报告和复核。

美国的特色则是标准先行、分散监管。联邦层面没有统一AI法，主要依靠总统行政命令和商务部国家标准与技术研究院发布的《AI风险管理框架》来引导。NIST框架是一套自愿性、共识型的工具，帮助组织识别和管理AI对个人、组织与社会的风险，其生成式AI风险管理的补充文件也已面世。与此同时，各州立法快速补位，例如加州推动训练数据透明、数字肖像保护和深伪内容规范，科罗拉多等地也在就高风险AI系统制定法律。这种模式灵活且鼓励创新，但碎片化也带来合规边界不统一的问题。

中国内地则通过分场景规则逐步构建监管体系。《互联网信息服务深度合成管理规定》对深伪服务提供者设置了审核、数据安全、个人信息保护、反诈骗和标识等制度；《生成式人工智能服务管理暂行办法》强调训练数据合法性、知识产权保护、内容安全和透明度；2025年出台的《人工智能生成合成内容标识办法》更要求对文本、音频、图片、视频等AI生成内容设置显式或隐式标识，并禁止恶意删除、篡改或隐匿标识。在打击深伪诈骗和内容溯源方面，这些规则提供了非常具体的抓手。

香港不能照搬任何一种模式。欧盟给了风险分级的框架，新加坡给了治理工具和沙盒经验，美国保留了创新空间和标准驱动的方法，内地则在深伪和内容标识方面更早落地规则。对香港而言，有价值的不是复制答案，而是看清这些制度各自保住了什么，又牺牲了什么。

香港不是AI法律真空，而是拼图不完整

回到香港自身，这里并非AI法律真空。个人资料私隐专员公署已发布《人工智能：个人资料保障模范框架》，以风险为本为采购和使用AI系统的机构提供建议；《个人资料（私隐）条例》、刑事诈骗相关罪行、知识产权法例、金融监管规则、电子交易和网络安全安排等制度亦在运作。问题在于，它们大多是在生成式AI爆发前形成的，可以处理一部分后果，却难以覆盖AI带来的新型、规模化和跨境化风险。

例如，深伪诈骗发生后，执法部门固然能以诈骗、伪造文书或刑事恐吓等罪名追究，但现行法例未必能充分覆盖“制作、分发、协助传播、提供工具、恶意删除标识、拒不下架”这整条责任链。非自愿性亲密影像的深伪，也需要更明确的刑事责任和更高效的民事救济。在个人资料保护方面，《个人资料（私隐）条例》对纯粹自动化决策的规管仍较薄弱，对于模型训练中的网络爬取、声音和肖像特征、模型记忆泄露和合成数据等问题，更需要细化的规则。

金融监管方面，金管局、证监会和保险业监管局固然各自设有科技风险管理、外包和网络安全指引，但对于生成式AI用于投资建议、信贷评分、反洗钱和客户服务等场景，尚欠缺一套横跨各界的“金融AI模型风险管理守则”。这类守则不应只讲原则，而要回答更具体的问题：AI投资建议误导客户时如何追责？信贷评分模型是否存在歧视，应如何检测？反洗钱模型误判或漏判时，金融机构如何复核？金融机构把客户资料输入第三方模型，是否构成不当披露或资料外泄？

政府采购AI系统和司法机构使用AI，更直接触及行政公正和程序正义的核心。政府若用AI协助审批福利、分配公共资源、分析执法风险或处理市民申请，便不能只把它视为一般资讯科技工具。市民至少应知道AI是否参与了影响其权益的流程，并在必要时获得人工复核。司法领域同样如此。AI可以协助翻译、检索、摘要和案件管理，但不应替代法官作出裁判，也不应令当事人无从理解裁判依据。

所谓“检视现行法律配套”，关键就在这里：香港不是无法可依，而是现有法律未必追得上AI带来的责任链条。下一步不应是仓促宣布一部宏大的AI法，而是先列出最急迫的风险清单，把深伪、金融AI、政府AI和个人资料保护这些缺口逐一补上。

避免两种倾向，聚焦高风险场景

在立法路向上，香港尤其要避免两种倾向。

一种倾向是全盘复制欧盟的《人工智能法案》。香港并非基础模型研发中心，更多是AI应用、金融科技和专业服务的部署地。若对所有AI系统施加重资产式的许可和全面合规要求，很可能扼杀本地初创和中小企业的空间。另一种倾向是继续把所有问题交给指引和宣传教育。指引对负责任的企业有效，但无法阻挡诈骗集团、恶意深伪制作者和跨境灰色平台。AI风险的特点是低成本复制、高速度传播和责任链条分散，没有最低限度的法律义务和罚则，受害者便难以获得快速救济，执法机构也缺乏要求平台协作和保存证据的有效工具。

因此，香港现在不应急著复制一部欧盟式全面AI法。更迫切的，是先为深伪诈骗、金融AI和政府使用AI设定硬性底线。

这并不等于把所有AI应用都纳入强监管。一般商业试验、低风险客服、内部文书辅助、普通办公自动化等场景，仍可主要依靠指引、合同、行业标准和机构内部管治处理。真正需要硬法先行的，是那些一旦出错便会损害个人财产、身份安全、基本权利、市场信任或程序公义的AI应用。

精准立法的几个优先方向

第一，深伪技术应成为首个立法切口。香港应尽快建立深伪专项规则，具体包括：刑事化以欺诈、勒索、诽谤、性剥削或冒充身份为目的，恶意制作和传播深伪内容；设立非自愿性亲密影像深伪的独立罪名及民事救济；要求平台在接获合规通知后迅速下架明显违法深伪内容，并保存相关证据；规定在金融广告、政治传播、身份认证和商业推广等特定场景下，AI生成的音频、视频和图像必须明确标识。同时，须为新闻报道、讽刺、艺术创作和公共利益研究保留合理抗辩空间，避免过度限制表达自由。

第二，金融AI需要联合监管守则。作为国际金融中心，香港应由金管局、证监会、保监局、积金局和私隐专员公署共同制定一套“金融AI模型风险管理守则”。重点不在于禁用AI，而在于要求高风险金融AI系统至少做到可审计、可追责，并在影响客户重大权益时提供人工复核。对于AI投资建议是否误导客户、信贷评分是否存在歧视、反洗钱模型是否过度拦截或漏报、生成式AI会否泄露客户资料、外包给第三方模型供应商时责任如何分配等问题，守则均应作出清晰规定。金融AI一旦出错，损害的往往不只是单个客户，而是香港金融市场赖以维系的信任。

第三，公共部门使用AI必须先立规矩。凡是AI系统会实质影响市民权利、福利、许可、执法或行政决定的，政府部门都应进行AI影响评估，并建立人工复核、申诉和说明机制。政府采购AI系统时，合约条款亦应加入数据安全、模型更新、供应商责任、审计权、源数据合法性、网络安全和退出机制等要求。在司法领域，AI可以用于翻译、检索、摘要和辅助研究，但不应替代法官作出裁判，也不应令当事人无从理解裁判依据。司法AI的核心原则应是：辅助而不替代，提高效率而不损害程序公义，允许技术创新但保留人类裁判的最终责任。

第四，个人资料保护制度需要针对AI补强。香港宜在现行《个人资料（私隐）条例》框架下，补充针对训练数据合法基础、目的相容性、敏感资料和儿童资料处理、网络爬取、匿名化与再识别风险、模型记忆泄露、合成数据，以及纯粹自动化决策的告知、说明和人工复核等规则。香港不宜简单禁止以公开资料训练AI，否则会削弱本地创新和AI应用发展；但对于高风险AI部署者，法律应要求其证明数据来源合法，且相关风险已经经过评估和记录。

第五，知识产权问题宜另作专门咨询。生成式AI对版权法的冲击——包括训练数据是否构成复制、文本与数据挖掘应否设例外、创作者能否选择退出、AI生成作品是否受保护、输出内容侵权由谁负责——牵涉甚广，且在香港普通法环境下更加复杂。较稳妥的做法是单独开展版权与AI咨询，研究文本与数据挖掘例外、授权机制、集体许可和透明度义务，并发挥香港在仲裁和调解方面的优势，发展AI训练数据、模型输出和数字肖像权的争议解决服务。

香港不需要把目标定为“全球最严AI监管地”。AI立法要回答的，无非是几个再具体不过的问题：企业使用AI前知不知道边界？平台和供应商出了问题能不能被追责？监管机构有没有足够工具介入？

香港若能围绕这些问题设计制度，先从深伪诈骗、金融AI和政府使用AI这三个高风险领域入手，把最容易伤人的AI用途管住；同时保留沙盒、测试认证和行业指引，不把一般商业试验和低风险应用一并压住。那么，它不需要照搬或追随任何单一模板。

对香港而言，最好的路径从来不是复制别人，而是守住自己的法治传统、金融监管经验和争议解决能力，在最急迫的地方立下清晰规矩，让创新在可预期的边界内生长。AI不会等香港准备好才来，法律也不应再等。

（作者系亚洲数字经济科学院院长）