在《莱顿宣言》中,数学家们发表了一篇论述人工智能如何对数学领域构成挑战的论文。其他领域也应效仿。
今年6月,一群以数学家为主的学者发布了《莱顿宣言:人工智能与数学》。这份宣言阐述了他们在将自动化系统融入数学证明开发实践过程中希望恪守的价值观。之所以有必要这样做,是因为一些前沿的人工智能系统在解决某些高级数学问题方面展现出了惊人的能力,尽管独立测试表明人工智能仍然存在重大局限。
人工智能在解决数学问题方面展现出惊人的能力。图源:AI生成。
严格来说,我(译者注:作者)并不是纯数学圈内人,但该宣言中的许多观点让我深有同感,也与我作为计算生物学家的研究方向密切相关。
令我感到鼓舞的是,数学界决定在AI问题上旗帜鲜明地表态,并成功召集了一大批著名数学家签署这份文件。源自荷兰莱顿大学一次会议的《莱顿宣言》,应当能引发更多类似的倡议,因为对数学而言成立的道理,对几乎所有自称是科学的领域同样适用。数学的创新成果渗透到各种算法和统计方法中,这些方法帮助科学家设计实验、构建模拟模型并分析数据,其应用范围从社会学到统计物理学,乃至更广阔的领域。
我认为,生物学领域也该考虑做点类似的事情了,因为生物学所产生和预测的那类知识,尤其容易被人工智能歪曲和颠覆。
生物学中的DNA双螺旋结构。图源:Pixabay。
数学界就此展开的讨论发人深省,因为这份宣言是对人工智能的强大能力及其风险所作出的协调回应——AI的加速发展,简直像《复仇者联盟》里灭霸的那一记“响指”,瞬间改变了整个宇宙。数学家之所以能如此迅速地感受到其影响,部分原因在于他们的研究方式:原则上,数学证明是透明且可独立验证的,而且(通常)无需任何专有设备即可进行核查。
正如《莱顿宣言》所指出的,自动化技术如今给数学领域带来了一个新的伪造问题:由于数学真理是固定且可验证的,因此只要跟真正的证明一比对,就能识破赝品。然而,生物学却无法提供这样的保证;我们所谓的“真理”往往充满噪声、依赖情境,这使得我们几乎不可能定义“真版本”该是什么样子。一些广受认可的生物学原理(例如孟德尔的遗传定律)更适合被描述为:虽然强大,但适用范围有限,并且存在已经研究得相当清楚的例外——这些例外不仅不会动摇定律本身,反而能完善其应用。许多生物学理论都是如此。边界条件、边缘案例和噪声并非缺陷(bugs),而是自然界运行机制的固有特征(features)。
人工智能在生物领域又将如何合理应用并加以验证?图源:AI生成。
举个例子,一个让某种遗传背景下的病毒产生耐药性的突变,换到另一种遗传背景中,效果可能就大大减弱,变得不好不坏,甚至反而有害——因为它的影响极度依赖周围的遗传环境。生物学家将这一现象称为“上位效应”(epistasis),它并非某种罕见的特例,而是遍及整个生物圈、塑造着基因与生物性状之间关系的一股强大力量。上位效应,仅仅是生物系统中“情境依赖性”的众多例子之一。一个发现在培养皿里成立,进了活生生的身体里可能就完全不灵了;或者在小鼠模型中有效,到了灵长类身上却毫无作用。
面对AI,数学家担心会得出一个伪解。可生物学家,即便是怀着最纯粹的善意,也常常说不清真解究竟该是什么样子。
生物学宣言
尽管数学与生物学差异巨大,但生命科学领域还是应该考虑发起一场至少与《莱顿宣言》类似的行动尝试。退一步讲,生物学版本至少可以借鉴它的结构与抱负。我们应当坚持要求:研究者必须披露自己对自动化工具的使用情况,他们要为自己发现的真实性负责,功劳与责任要落到人身上,而非系统身上。我们还应保护处于职业生涯早期的科学家,不让他们被那种“重产出、轻真知”的激励机制所裹挟。
一份生物学宣言不仅要吸纳这些理念,还应该强调对本领域至关重要的额外条款:根据湿实验(wet lab)结果对AI生成的假设进行对比验证;对源自生物公共资源的训练数据进行管理;以及,任何模型的输出如果最终会触及患者或生态系统,都必须受到更严格的审查。最后一点至关重要:在生物医学领域,人工智能的失误与成功都将体现在活生生的人身上,并伴随相应的生理、情感、伦理和法律后果。
实验室培养皿里成功的案例在活体上却可能无法适用。图源:Pixabay。
一份生物学的《莱顿宣言》必须充分认识到生物学领域中数据和观察结果的本质,以及该领域的其他具体特点。但在负责任地管理人工智能与生命系统之间关系方面,最重要的特征在于所产出成果的持久性。
数学声明可以追求永恒,因为经过验证的证明在几个世纪后依然有效。而生物学的认知却会随时间推移而变化,有时还变化得飞快。一项根据今年夏天模型仓促敲定的政策,到了冬天可能就已经对不上号了。一份指望能管用十年的宣言,恐怕这十年里大部分时间都得花在苦苦追赶现实变化上。
如果我们要为生命科学领域的人工智能制定一份负责任的宣言,它就一定要是可演进的:要有版本号、注明日期、按照既定时间表定期再审查,并由其声称所代表的学术界在公开场合进行修订。而且,由于生物学不同子领域面临着独特的挑战——例如心脏病学与森林生态学——也许我们需要多份宣言(但数量不宜过多)。
《莱顿宣言》纳入了其中一些要素,明确其内容反映的是截至2026年5月的AI技术与数学实践,并承诺会分享后续更新。生物学应该把这种可演进的特质变成宣言的核心架构,把修订机制直接刻入文本,这样一来,更新文件就成了一种积极的行动,而不是一种认错的姿态。
幸运的是,生命科学家完全有能力应对这一任务。我们早就明白,无法随环境变化而改变的结构很少能长久存在。所以,如果起草一份宣言却忽略了这一基本原则,那对我们这门学科来说,可真是一种说不过去的背叛。我们为技术变革制定的政策,必须把生命系统的那份动态活力,放在我们想象生物学未来的正中心。
作者:C. Brandon Ogbunu
翻译:zzz
审校:姬子隰
上一篇:苹果智能、小米澎湃等手机端侧AI获备案!业内人士:AI手机还处于非常早期阶段
下一篇:没有了