张田勘:AI研发的药物可以服用吗?

著名数学家陶哲轩10月9日在美国加州理工学院发表题为《数学2.0》的公开演讲,将传统的数学研究定义为数学1.0,并系统性地阐述迈向数学2.0的必要性与主要内容,可以概括为一个前提转变、一个核心危机,以及三大转型方向。

演讲最引人关注的部分是提出人工智能(AI)对数学造成的危机。如果继续盲目地将纯粹解题作为AI的优化目标,将对数学的长期健康发展带来实质性的伤害。显然,陶哲轩针对的是最近OpenAI等前沿大模型,在短时间内“暴力轰炸式”地发布数千个数学难题的AI证明。

他认为,AI扔出来的证明往往庞大、晦涩,是人类无法阅读的机器输出。如果数学界只满足于AI帮我们把题做对了,却没有任何人能看懂它的逻辑,数学就会变成纯粹的黑盒。

为了证明这种危机对于人类的伤害,陶哲轩还举了“AI合成抗癌药”的思想实验。如果AI设计了一种药物,能100%杀死所有癌细胞,而你又刚刚被诊断出早期癌症,聊天机器人向你推荐这种AI生成的疗法,而且全世界没有任何一个人类医学专家或数学家,能哪怕是部分理解这个药背后的数学模型和治病机制,你会安心服用吗?

回答这个问题非常简单,可以服用。只要是目前无药可治的癌症病人,都会选择在医生指导下服用。原因不只在于所有人都会陷入病急乱投医的行为模式,更在于人类的认知和科研结果的检验,都会采取渐进方式。

人类的进步和社会的发展,都依赖科技发展和创新。在社会发展过程中,人类可能对大多数创新知其然,但未必知其所以然。因此人类的无知远远甚至永远多于有知,在很多情况下,人类会尝试或毫不犹豫地采用目前已知其然的成果和产品,在使用过程中再逐步弄清所以然。知其所以然是未来很长时间人类须要解决的课题,而且,有些问题是很多年都无法知其所以然的,因此,只要知道结果,并不妨碍人们去利用这些结果。

首先要确定的是,人们在医学领域或其他领域并非盲目使用只知其然的产品,因为这些产品至少是经过生活的检验。陶哲轩在讲述中也明确指出,AI研发的药是经过三期临床试验,证明对(某种)癌症有效的,只是人类还不明白治病的药理(不知其所以然)。

阿司匹林药理70多年后才解开

拜耳公司于1897年人工合成止痛药阿司匹林,但是,人类一直不清楚阿司匹林止痛的药理。直到它上市70多年后的1971年,英国药理学家约翰·范恩(John Vane)才在一系列实验中揭开它止痛的谜团。它之所以能止痛、退烧、抗炎,是因为能阻断人体内一种叫作环氧合酶的活性,从而抑制前列腺素的合成。前列腺素正是引发人体红肿、发热和疼痛的元凶。

这一发现不仅解释了阿司匹林的药理,也开启现代抗炎药如布洛芬,以及心血管预防(低剂量阿司匹林预防心脏病)的全新时代。为此,约翰·范恩被授予1982年的诺贝尔医学奖。

阿司匹林只是无数人类不知其所以然,而又大量服用的经典药物之一,类似药物还有很多,如麻醉剂、大部分抗抑郁药,以及现在新研发的大量抗癌药。从1846年乙醚麻醉公开演示至今近180年,各国医院都在使用乙醚全身麻醉做手术,但是,其中的药理至今仍不知其所以然。“全身麻醉是如何工作的”,也被美国《科学》期刊列为全球125个尚待解答的重大科学问题之一。

从阿司匹林的使用可以看出,科学是经验走在理论前面的,而且对科学的验证是一步接一步的。当第一步证明某种药对癌症有效时,任何一名癌症患者和家属都可能选择使用,专家懂不懂它的药理机制,对病人来说毫无意义。而且,只要经过三期临床试验,结果可重复,效果可验证,就是最坚实的科学和信任基石。

如果按照陶哲轩“必须先完全理解机制才能信任和应用”的逻辑,在1971年以前,人类应该禁止使用阿司匹林。如果真的禁用了,这70年间将有数以亿计的患者会忍受剧烈病痛,甚至死于高热和炎症。

陶哲轩提出的癌症药物思想实验是想说明,在数学上,AI证明某种难题,并不等于被人类理解,如果人类不理解,将失去对数学景观的认知与探索权。但是,这种举例混淆数学与物理、化学和生物医学的检验路径,数学证明是演绎法,从理论到理论;生物医学是归纳法,理论接受实践检验。

今天,在纯数学中,唯一的验证方式是逻辑推理(理论到理论)。如果AI给出的证明长达数万页,人类看不懂,人类只能用另一个AI去验证它。这就变成一个“AI验证AI”的闭环,然而这是否是真实的证明,也值得怀疑,或许人类永远都无法弄懂AI对AI的证明。

要想用数学的知其然还要知其所以然,来推论生物医学的实践检验,是混淆不同学科获得检验的路径。即便在其他领域,也并不是要等弄清原理才能应用结果或产品,如晶片设计早已高度依赖自动化算法,但没有一个人类工程师能看懂现代晶片上百亿个晶体管的全部走向。自动驾驶AI在紧急情况下,为什么往左打方向盘而不是往右,其内部数十亿个参数的协同逻辑,连写出算法的程序员也无法还原。

陶哲轩试图通过成立“人类数学协会”(AHM)来约束AI证明数学原理,其实和当年纺织工人捣毁机器的卢德运动没有太大区别,可能只是一种更高级、更有文化修养的行业自救。

不过,这场争论的本质,是两种价值观的碰撞。陶哲轩认为,科学的终极目的是人类心智的开化与理解。如果人类不理解,科学就会变成盲目的神迹。但生物医学和其他学科的一些研究人员认为,科学的终极目的是解决现实问题,提升生产力。只要AI能研发出产品,并经过实践检验,能指导工程实践,能治病救人,人类那点过时的“理解力”不应该成为生产力爆发的绊脚石。

作者是北京学者

您查看的内容可能不完整,部分内容和推荐被拦截!请对本站关闭广告拦截和阅读模式,或使用自带浏览器后恢复正常。