碧山和汤申一带的宽带网络服务本周曾出现严重故障，约2000名用户上不了网。原因是有多条光纤电缆因建筑工程遭损。抢修工作虽彻夜进行，宽带服务还是从星期二下午1时半开始出现故障，到隔天清晨5时后才全面恢复，对居民和商家用户造成的干扰可想而知。
这只是因第三方承包商在建筑工程期间出状况，倘若是黑客刻意的全岛大范围断网断电袭击，冲击可以是灾难的。新加坡和许多密集城市一样，高度依赖宽带的互联网便利，意外或刻意的大规模断网若也牵涉到医疗、通信与交通等关键服务，一时的瘫痪都影响无数。
放大到国际上最近掀起的新一轮人工智能（AI）风险／威胁争论，就更要了解其中的要害。这要害不仅是超强AI模型的自主能力是否真可以超越人，而是为此争论的科技界各方、政界各方，各利益相关领域的精英领袖，是否能协作理出个头绪来，让AI的无限可能有序有爱。
这一轮AI风险的辩论，因为近月来有至少两个实际情况发生而引起各界极大关注，这些事件让以为是危言耸听的AI超级智能体（AI Super Agent）可摆脱人类管控、自主和独立操控物件的假设已不是虚构；脱缰野马的超强AI会给人类造成毁灭性危害，连美国前沿AI研究公司的大佬都紧张。Anthropic首席执行官达里奥·阿莫迪9月发文呼吁AI公司放慢前沿技术开发步伐；曾在这些前沿AI公司任职的安全研究员雅各布·科克森（Jacob Coxon）也公开警告，在缺乏充分安全保障机制下盲目竞相研发能不断自我增强的AI超级智能，无异于拿人类的生命做赌注。
这些由前沿AI公司掌门人与一线研究员发出的预警，为全球重新审视AI竞速提供了关键视角。辩论焦点正从超强AI风险的抽象未来概念，转向对当下前沿超级AI系统竞速开发与安全责任的深刻反思。
归根究底，就是平衡与失衡的问题。而最需要问责的，是人类本身。
从互联网、数码科技到AI，高科技研发的初心都为解放人类在许多方面的局限与受困：提升医疗研发与突破；促进世界与人类的互联互通；增进人们工作与生活起居的便利与效率，腾出更有价值的时间和精力。本地就有医疗机构在研发用AI分析身体技能的工具，五分钟就可筛查年长者衰弱及跌倒风险，及早识别早期身体衰弱迹象和预测跌倒风险。
然而青少年和儿童沉迷于电玩或网络世界；不良分子利用科技干尽坏事，武器化、恐怖袭击、四处行骗。科技研发的初心被变质，从造福的天使变洪水猛兽，都是人类本身思想行为失衡，判断失误，自律失效。
为何青少年越来越容易成为极端思想洗脑的目标？澳大利亚9月宣布再加强预防青少年上网成瘾受害的措施，要立法要求社媒平台明确告知用户可以选择关闭个性化推荐，只接收所关注的朋友和创写者发布的内容。
防备青少年掉入网络极端内容的毒海，最终还是要青少年本身的自律和心中的价值观，须要走出自我的世界。我的理发师是自由人，隔天有顾客上门，那个晚上就不刷手机，避免影响眼睛和精神。剪刀下的手艺还有赖视线和精神的美好状态。
我刷手机若读到好文章，看到好的视频，会很开心。也经常想，怎么让青少年也能读到好文章，看到好视频。
青少年应该有他们的话语权和表达方式，但不应沦为恐怖分子和极端分子的工具。心中的不平衡要如何能够得到纾解？能不能有一种数码程序，让AI能测试出正在上网的青少年和儿童的心情，并加以推荐有助纾解心情和心灵的内容？恐怖分子可以利用网络渗透失衡失落的心灵世界，为何无数数码科技专才、研发前沿AI系统的精英不能做到？除了限制青少年上网时间，应该有好方法让他们看到读到好的内容和得到心灵慰藉。
最近在社媒上看到一个网红Lewis的《人生路上找一百个人生》视频里，一位叫胡欣的女书。联合国教科文组织创办的《信使》杂志有篇文章《女书：追逐阳光的“眼泪之书”》介绍，女书是世界上唯一一套由女性创作和使用的书写系统，起源于19世纪的中国湖南省江永县。因中国旧封建社会不让女性读书识字，当地女子就发明了只给女生看得懂的文字，作为姊妹妯娌之间的秘密通讯方式。胡欣说，这些女书像一道光，过去看着这些文字，心灵就静了，她们写着写着心灵就亮了。研究女书多年的清华大学赵丽明教授说：“这是一种阳光文化，使女人得到一种话语权，是一种文化抗争。”Lewis说，女书是女性间隐秘的浪漫，也是那个年代里对封建社会最温柔的抵抗。
怎么处理不平和不平衡，人类的智慧足以找出各种方法，但往往选择最方便却有害无利的方式，甚至让全世界承受个人不平衡心理做出的失衡失当行为。无论是AI风险的辩论、地缘政治的冲突与博弈，不从根本上找出各自心理不平衡的症结、一起探出避免失衡失当处理的共识，得出的方案结果，还会是个浑浊不安的世界。
Anthropic前研究员雅各布·科克森说，AI无限竞速的结果是，人类“根本承担不起事后才修补的代价”。这轮辩论的最大启示应是，前沿技术的安全驾驭无法依赖单一企业的自律，也不能只靠事后补救。要让AI速度与安全实现真正的双赢，各方要把关注点锁定在“不可事后修复”的底线风险上，推动前沿开发者、国际政治与AI领袖，共同制定可落实的有序研发有义安全阳光规范。
像女书一样，创造一种阳光文化。
（作者是《联合早报》编务顾问）
