随着两家人工智能（AI）公司先后曝光自家的大模型具备“越狱”能力，突破人为设置的网络安全限制，访问受限的第三方网络，所谓的“AI安全问题”甚嚣尘上。
9月4日的《纽约时报》以《AI全面接管？为什么你应该更担心AI有多危险》这样耸人听闻的标题，以及大量拟人化词汇（如：代理（Agent）、良知、群体心态等等），详述这类安全问题。
在媒体和自媒体的推波助澜下，一时间风声鹤唳，各界一本正经讨论起“AI接管／威胁人类”这个问题，似乎我们离科幻片中描绘的“终结者”已经不远。但笔者认为，此类攻击性AI幻想既非真相，也非问题所在，真正可忧者另有其他。
AI大模型安全问题进入大众视野始于今年7月，美国OpenAI公司的最先进GPT-5.6 Sol大模型，在进行内部安全测试中意外突破测试网络的限制，访问另一家开源大模型共享平台Hugging Face的服务器。据报道，测试中的GPT大模型为了完成一项关于网络操作能力的测试任务（benchmark），试图“走捷径”从HuggingFace的生产服务器集群上查找答案。这被媒体引述为“大模型自主实施网络攻击”。
随后9月18日，谷歌也在《华尔街日报》的报道中提及自家大模型Gemini，也曾在今年5月的测试中意外访问本该被限制访问的三家外部公司的服务器。这些事件引发广泛关注，尤其是此类叙事中反复提及“自主”“攻击”等耸人听闻的敏感词，让人觉得AI已经能匹敌人类智能。然而，这显然是过于夸张——汽车能够随着驾驶员转动方向盘而转向，不代表汽车有人类智能。
OpenAI的GPT-5.6 Sol所谓攻击事件，无非是由于封闭测试网络中的人为软件漏洞，被测试中的AI代理程序扫描到并且利用获取外网连接，并根据统计学上“可能性最大”原则选择Hugging Face；随后利用Hugging Face网站另一个软件漏洞进入它的生产服务器集群，盗用其中的结果。
在Gemini事件中，则是由于测试环境中程序员指定的一个虚拟实体名字，刚好与现实中一家公司一致而导致的误操作，以及另两家公司竟然将企业凭证（未公开详情，笔者猜测可能是登录凭证）写在公开代码库中，被Gemini的AI代理扫描到而泄密。
由此可见，这些所谓“自主”攻击，不过是人为错误被自动化程序扫描到，再被用来进行未获授权的网络操作。它们都是最原始的人为低级错误造成的安全漏洞，有没有AI代理参与，都会被别有用心的人利用。这从来就不是什么新的问题，在2022年11月30日ChatGPT发布之前，我们叫它们“网络黑客”——用程序扫描和攻击互联网漏洞的人类程序员。现在AI代理则能帮助我们大幅提升发现漏洞的效率，给我们绝佳的时机来修补和避免这些漏洞。但在大肆炒作中，反而引发恐慌。
9月16日，联合国秘书长古特雷斯呼吁各国政府不要忽视AI带来的风险，承担起自己的职责，让AI变得“安全、透明、可追责、以人为本”。这是个美好愿望，但在经济利益和政治企图的干扰下，似乎只能停留在呼吁阶段。现阶段AI工具的使用方式，是目前发生安全问题的直接原因：它们包括测试环境中的漏洞、测试目标不明确，以及程序的实时运行监控不足。
今天美国市场上的AI大模型，在建造之初，都持中立立场，并非出于恶意，也不是以攻击性的军事用途为目的。只是在使用过程中，被注入“人的恶意”，才变得不安全。比如，被用来扫描和攻击互联网上的安全漏洞，为自己牟利。
要防止此类事件，AI大模型的研发者必须保持克制，在产品设计时考虑周全，而不是为了打击对手、取悦客户、占领市场而不择手段，用逐利的好胜心去研发新产品，否则就与互联网时代的网络黑客是一丘之貉。
当前，与美国创新公司发布产品的方式不同，作为追随者的中国大模型公司，如阿里巴巴、月之暗面，为了抢夺市场，以开源大模型权重的方式发布产品。这虽然有利于吸引更广泛的用户，基于这些权重进行微调，以适应各自的定制化需求，但也打开潘朵拉的盒子。这些虽然不是最先进，但足够强大的大模型，非常容易被定制成牟利和犯罪工具。笔者认为，以开源大模型权重这种方式发布产品，是值得商榷的。
真正隐患是滥用与认知垄断
总之， 所谓大模型“越狱”，不过是自动化程序扫描软件和系统中的人为漏洞导致的，这与互联网时代的网络黑客并无二致。今天要成为互联网黑客依然需要大量的学习和练习，但是造成黑客级别的破坏则更容易。
使用这些问答式的大模型，不加个人判断就使用其中代码，可能造成连使用者都预料不到的破坏。要获得这些“判断”的能力，需要长时间的学习和训练，这正是部分AI工具使用者想逃避的。软件发布的流程非常复杂，但AI工具的滥用，导致程序员过度依赖AI而掉以轻心，这正是OpenAI以及谷歌大模型事件中所发生的。
笔者身边从小学生到30多岁青年人，“离不开豆包”（中国一款问答式AI应用）的人比比皆是，他们习惯用“豆包”或类似应用查作业的答案或商业信息；不使用这些AI应用，会触发强烈的焦虑感。
美国批评家尼尔·波兹曼（Neil Postman）在《技术垄断：文化向技术投降》一书中说：“技术垄断排斥其他替代方案的方式……它并没有将这些替代方案定为非法，也没有将它们定性为不道德，甚至没有让它们变得不受欢迎。它只是让它们变得不可见，从而彻底变得无关紧要。”当我们热情拥抱这些大模型工具、不加判断地使用它们给出的结果时，我们失去的是对事实本身的判断，以及对信息的选择权。
通过问答式AI查找问题答案，与阅读和检索信息相比，我们得到高度趋同的“正确”答案，却失去研究、讨论问题时犯错的机会，更失去文化的多样性。当我们警惕地关注政府的集权、独裁时，却忽视甚至无视AI技术所隐含的对信息和文化的垄断、独裁。这才是我们须要对AI的使用方式做出深刻思考的原因，也是AI技术给人类社会提出的最严峻课题。
作者是北京金融数据业者
