什么是“阿西洛马精神”呢?简言之,这种精神就是在探索未知的过程中,需要多个维度去思考未来的可能性,不能让科学单骑突飞猛进,同样也希望全球科学界能够就探索未来的框架达成某种共识。这种共识基于一种朴素的问题意识:哪些可以做?应该怎么做?哪些不能做?
本文来自微信公众号:经济观察报观察家 (ID:eeoobserver),作者:吴晨(著名财经作家,晨读书局创始人),原文标题:《超越遏制:追寻阿西洛马精神——谈谈“江南道路”与“英国模式”》
约五十年前,1975年2月,一群科学家在加州蒙特雷的阿西洛马会议中心召开了一次会议研究重组DNA(也就是现在常说的转基因)技术的潜在危害和未来发展方向,并在会议结束时起草了针对未来研究潜在生物危害的分级方案,为不同级别的实验室提供指导意见。事后,这一会议被视为现代生物技术制度史上的里程碑事件,标志着科学家参与科学政策讨论的新时代来临了。
小五十年后,莱斯大学的科学史专家坎波斯(Luis Campos)教授与斯坦福大学生物工程学院恩迪(Drew Endy)教授组织了另一场阿西洛马会议,为了纪念阿西洛马精神,为了探讨AI时代生物技术的未来。
历史似曾相识。1972年水门事件爆发,1974年尼克松总统辞职,1975年年初美国公众对于权威的信任度降到冰点,高通胀和经济增长停滞让老百姓怨声载道。特朗普再次上台后,他一系列令人目不暇接的举措也让美国许多人对政府失去了信任,通胀再度抬头,经济面临的挑战也似曾相识。
半个世纪前,生物技术的飞跃让普通人感到恐慌,科学家们自己组织起来探讨如何应对未来技术进步可能带来的一系列问题,思考是否需要设置不可触及的红线,并编撰应该共同遵守的做事守则,在事后看来是颇具前瞻性的。
这小五十年来,科学技术带来的改变和复杂程度超乎想象。比特和基因成为当下最重要的显学。基因测序、基因编辑等一系列的科技进步带来巨大的想象空间。mRNA在新冠疫苗中的应用也让定制化医疗变得充满机会。百岁人生成为许多人追寻的梦想,基因编辑的健康宝宝甚至超人宝宝也成为许多人畅想的未来。
AI的进步正在成为生命科学的加速器。生命科学的发展原本受制于生命自身的节奏,比如想要了解基因编辑的胚胎是否能将编辑的基因传递给下一代,需要对几代生物的研究。AI则带来加速:首先,让数字孪生变得越来越逼真,让许多生物实验可以在虚拟数字空间中完成;其次,让筛选变得快速且强大,推动制药创新;第三,类似AlphaFold这样的工具正在创造出自然界没有的蛋白质,类似的无中生有会越来越多。
科技进步充满无穷的可能性。无论改变的速度,还是影响的广度都将超乎我们的想象。但这种加速的进步也带来至少四方面的问题:
首先,由谁来推动科研的发展?传统意义上探索新边疆的科研由政府资助并推动。但AI领域的发展证明富可敌国的高科技企业才是背后真正的金主,能够斥资几十亿上百亿美元购置英伟达显卡的只有它们。
其次,如何处理伦理问题?比如基因编辑的发展引发一系列的讨论。我们是否可以基因编辑人类的胎儿,帮助删除已知的致病基因?我们是否可以添加超能力的基因?删除某种基因是否会带来意想不到的后果?而这样的后果是会代代遗传下去的。
第三,如何避免坏人利用最新科技来制造生化武器?
第四,我们能替代造物主创造新物种吗(Can we Play God)?这在西方语境中尤其突出。
相隔半个世纪,阿西洛马大会再度召开,落脚点仍然是在思考如何为未来技术的发展“上规矩”。但时代的不同也让这种“上规矩”变得更加挑战重重。
美国进入特朗普2.0时代,这个国家弥漫着信任危机和撕裂感,假新闻甚嚣尘上,科学讨论举步维艰。科学家原本是讨论复杂议题的权威,但当下却是一个反权威的时代,他们该如何赢得大众的信任?如何避免自己的研究被妖魔化?现实困难重重。同样,传统媒体是否还能肩负起传播真知、组织辩论、影响舆论的责任,这也是一个巨大的未知数。
如何建立有效的监管框架?“AI+生物技术”的科学发展呈现出三种越发难以控制的情况:首先,改变的速度呈现指数级的增长,让监管的滞后更为突显。其次,跨界意味着需要更多的协同,软件领域内所奉行的法则——快速行动,敢于突破(Move fast and break things,Facebook曾经的座右铭)——应用在生物科技领域显得风险重重。第三,想要在监管与创新之间平衡很有点“鱼和熊掌”不可兼得的味道。在理想的环境中,想推动创新应该尽可能减少监管,想杜绝风险则希望监管得更多些、更细些,两者之间想要谋求平衡并不容易。
时隔多年,300多位来自全球各地不同领域、不同国家、不同世代的专家重新召开阿西洛马会议,探讨五个方面的议题,分别是:病原体研究与生物武器、人工智能与生物技术、合成细胞、超越传统防护措施的生物技术,以及讨论生物技术未来的不同框架。因为涉及的面太广,这次大会的讨论无法像上一次那样得出可以操作的结论。相比之下,让更加多元的人群参与讨论的意义大于实质,因为大家在用实际行动来纪念阿西洛马精神。
那什么是“阿西洛马精神”呢?简言之,这种精神就是在探索未知的过程中,需要多个维度去思考未来的可能性,不能让科学单骑突飞猛进,同样也希望全球科学界能够就探索未来的框架达成某种共识。这种共识基于一种朴素的问题意识:哪些可以做?应该怎么做?哪些不能做?
本次阿西洛马会议的讨论中,涌现出三个值得关注的新话题:
第一个话题是地缘政治与科学研究的关系。在去全球化的当下,在一个安全考量优于效率的时代,科学研究很难不受到地缘政治的影响。科技战的背后是围堵和封锁,是技术上“卡脖子”,是全球科学家群体的协作变得更加困难,虽然恰恰是这样的跨国合作带来了丰硕的成果,也推动了人类集体智慧的飞速发展。
站在中国的视角,安全变得日益重要意味着需要确保科研能自主和自力更生,因为有可能被卡脖子(恰如在芯片领域内正在发生的),也有可能脱钩。过去三十年,中国科技研究的突飞猛进与中国完全融入全球化以及向海外不断学习息息相关。中国科研工作者无法回避的问题是,全球化一旦转向或者原本相对开放的科研对中国研究者关上大门,中国该如何应对?这将是未来很长一段时间内,中国科研工作者“底层思维”的一部分。
外部因素对科研的干扰不仅在地缘政治,也有资金的问题。在美国,这种干扰可能体现在特朗普政府大刀阔斧削减科研开支。以私立的斯坦福大学为例,虽然拥有丰厚的私人捐献,但每年仍能得到20亿美元的政府资助,这种资助一旦断流将给大学运营带来巨大影响,更不用说那些更加依赖政府拨款的公立大学。当美国要求西欧盟国增加国防经费到GDP的5%时,欧洲国家削减的可能是对发展中国家的援助,应对气候变暖和保护生物多样性的援助首当其冲。当美国裁撤对海外援助时,受损的同样是发展中国家的医疗、科研和环境保护项目。
这就很自然地引出了第二个话题:如何平衡科学研究中的理想主义与现实主义?年轻的科学研究者仍在提倡理想主义的目标,这样的理想主义涉及到平权——南北国家之间的平权、原住民的生活和生态的平权——等一系列的议题。但科研不可能脱离现实独立存在,它受到全球的地缘政治、政府资助、高科技公司的资金支持等一系列因素的影响,发展中国家则更加依赖国际援助和慈善捐款。所以,科学研究者需要有务实的态度。构建共通的理想是远大的目标,这一理想可以被简单总结为让科技推动人类的进步,避免科技作恶(相对“科技向善”来说)。但在将这一理想落地时,不可避免地要面对现实。
以对生物经济(BioEconomy)未来的探讨为例。生物经济是一个涵盖很广的范畴,既有对本地生物多样化的保护,又有利用生物制品来替代化石能源的尝试,还涵盖了循环经济、废物处理、环境保护等领域。领域的核心是资金(援助)和市场化。发展中国家希望得到更多来自发达国家的援助,而生物经济是否真正能够可持续,真正依赖的是市场化的推广,让生物产品在价格上逐渐有竞争力。忽略了市场化的生物经济显然难以持续,这就是科研受现实因素影响的例子。
第三个话题,到底如何构建关于未来AI与生物科技发展的叙事框架?如果审视上一次阿西洛马会议,不难发现它有务实的一面也有不智的一面。务实在于科学家通过自己的讨论搭建自我监管(规制)的框架,为生物实验室制订了分级的规则;不智则体现在他们把遏制(containment)作为自己最主要的目标,有一点将生物科学研究自我妖魔化的倾向,让大众对高科技的突破充满了恐惧。
当下,AI与生物科学的发展与转基因可能带来的科技发展相比,无论是潜在的可能性还是影响都要大得多、广得多。在这次阿西洛马会议上,共识很清楚,在科技发展如此迅猛,跨学科交织如此复杂的当下,遏制是不可能完成的任务。超越遏制,需要更多的信息分享,需要鼓励学科内部最佳实践的跨学科分享,也需要充分利用AI的能力——AI既然能加速创新,也必然能够给我们更好趋利避害的手段。