网络安全机构Sophos在《2025年亚太及日本网络安全前景》报告中指出，在本地已采用商用人工智能（AI）工具的机构中，79%存在员工私下使用未经授权AI的情况。新加坡的“影子AI”（Shadow AI）普及率达60%，在亚太区仅次于印度。这种脱离监管的技术应用，正悄然取代传统的影子IT，成为企业内部最令人担忧的安全隐患之一。
员工私下借助免费的公共网络或个人注册的AI，无非是为了提高工作效率。殊不知，工作上使用的影子AI，比起公司配备的“合规AI”，除了生成内容可能出现幻觉、虚构或逻辑偏差外，还可能触犯法律法规与合规契约，无形中沦为“内部风险”（Insider Risk）。
由于影子AI完全不在企业的法务审核与治理框架之内，即便在公司数据录入前先关闭“模型训练”，或是启用即用即弃的“临时对话”模式，虽然可以避免相关数据被拿来迭代和升级大模型，数据仍旧传输至不受公司管控的外部服务器，在法律上构成实质上的违约泄密。
以OpenAI为例，即便选择退出训练，其条款仍注明“为了监控违规滥用，所有对话仍可能被后台人员抽检调阅，且数据会缓存30天”。在数据被缓存在外部平台的服务器上的30天期间，这些员工私下上传的数据，有被外部攻击窃取的可能，也可能被拥有权限的内部人员肉眼看见甚至滥用。
按照本地的《个人资料保护法令》（PDPA），公司将个人资料交给外部平台处理时，必须以公司名义签署正式的《数据处理协议》（DPA），而员工个人与公网或消费级AI所达成的协议，仅属个人层面，根本无法代表任职的公司。在这种情况下，不知情的企业，无法交出任何系统审计日志，也无从核查外泄机密的具体范畴与体量，还可能沦为资料泄露的第一责任主体，面临个人资料保护委员会（PDPC）可能开出高达公司年营业额10%或最高100万元的巨额罚金。
此外，个人版工具一律不附带商业级的知识产权侵权损害赔偿及抗辩担保，一旦员工生成的成果引发侵权纠纷，所有的法律诉讼与经济赔偿将依然由不知情的企业承担。被公司查出违规操作的员工，不但得面对严重的违纪处分，还可能被公司或外部第三方索赔。由此可见，使用不合规或不受公司监管的AI工具，将为公司和个人带来巨大的法律与财务风险。
除了员工私用的外部独立工具，影子AI也可能出现在企业”早已批准”的日常办公软件中，比如协同软件内嵌的AI助手、文档工具新上线的生成功能等。任何尚未经过企业安全评估而自动上线的AI新功能，在实质上就是”影子AI”。由于是公司的官方系统，员工容易放下防备，放心把敏感细节交由内嵌AI处理。
比起那些合规的AI，这些潜伏在日常系统里，未被觉察的AI功能，才是企业最大的安全隐患。缺乏可见度是影子AI最大的问题，因为企业无法掌握哪些工具正在被使用，涉及哪些数据，以及数据究竟流向何处。
根据国际公认的美国国家标准与技术研究院的《人工智能风险管理框架》，企业必须遵循“先盘点、再治理”的原则。业界也普遍一致认同，管不了“看不见”的东西。企业可以依靠技术，检查办公网络流量和系统授权记录，摸清到底有哪些AI功能在运行，拦截那些潜伏在企业内部的影子AI。
在厘清员工对智能协作（Intelligent Collaboration）的实际需求后，企业应当统一采购具备数据隐私保障，设有“免训练”与“零数据留存”机制，且附带知识产权侵权抗辩及损害赔偿担保的商业级AI工具，并依法补签具备法律约束力的DPA，作为合规替代渠道。这种疏堵结合的做法，一来能满足员工借助技术提升效率的实际需要，二来也能堵截核心数据资产外泄的合规漏洞。
针对企业面临的AI转型与合规诉求，资讯通信媒体发展局和新加坡企业发展局联合推出专为中小企业定制的“生成式AI沙盒”（GenAI Sandbox）。唯有符合高标准的数据安全、网络防御、隐私保护以及价格透明的供应商，才会被核准列入官方名录。本地中小企业可通过申请“生产力提升计划”，争取最高达50%的资助来采购名单内的工具，以此统一为员工配备安全正规的渠道。
拥抱AI乃大势所趋。与其任由员工在暗处冒险，企业不如尽早预备正规渠道，借助合理的政策扶持与完善的内部规范，将潜在的违规隐患转化为安全高效的生产力。
作者是高级网络安全工程师
