设计生命:合成生物学的安全风险与伦理挑战
李真真1,2 , 董永亮1,2 , 高旖蔚1,2     
1. 中国科学院科技战略咨询研究院 北京 100190;
2. 中国科学院大学 北京 100049
摘要:合成生物学的快速发展引起学界的广泛关注。合成生物学的工程特性赋予其“设计”和“重构”的实践内涵,人为设计的生命得以加入传统的以DNA为基础的生命进化进程,进而引发了一系列安全风险和伦理问题。文章探讨了合成生物学发展历程中的标志性事件所引发的伦理争议,剖析了合成生物学面临的安全风险、伦理困境及其诱因,在借鉴欧美国家监管机制的基础上,提出我国合成生物学伦理监管的思路。
关键词合成生物学    伦理    生物安全    生物安保    监管    
Design Life: Safety Risks and Ethical Challenges in Synthetic Biology
LI Zhenzhen1,2, DONG Yongliang1,2, GAO Yiwei1,2     
1. Institutes of Science and Development, Chinese Academy of Sciences, Beijing 100190, China;
2. University of Chinese Academy of Sciences, Beijing 100049, China
Author: LI Zhenzhen   Professor, Ph.D.Supervisor of Institutes of Science and Development, Chinese Academy of Sciences (CAS); Executive Director of Scientific Norms and Ethics Research Support Center, Academic Divisions of Chinese Academy of Sciences (CASAD).Deputy Managing Editor of Science and Society.Executive Member of Chinese Association for Science of Science and S & T Policy; Chairman of the Sociology of Science Committee; Vice Chairman of Sociology of Science Committee, Chinese Sociological Association (CSA); Chairman of the Research Branch of Contemporary History of Science and Technology, Association of National History of the People's Republic of China (ANHPRC).She specializes in social study of sciences, S & T ethics, and S & T policy and management. E-mail:lzz@casipm.ac.cn
Corresponding author: LI Zhenzhen
Abstract: The rapid development of synthetic biology has aroused widespread concern in the academic community. The engineering properties of synthetic biology individualize it the practical meaning of "design" and "reconstruction". The artificially designed life can be introduced to the traditional DNA-based life evolution process, which may lead to a series of safety risks and ethical arguments. The article explores the controversy caused by the landmark events in the development of synthetic biology, draws in-depth analysis on the safety risks of synthetic biology, as well as the ethical dilemmas and inducements of them. Based on the regulatory mechanism of European countries and U.S., several recommendations were put forward on ethical regulation of synthetic biology in China.
Keywords: synthetic biology     ethics     biosafety     biosecurity     regulation    

合成生物学,就是用人工合成的方法,对天然存在的生物系统进行重新设计和改造,创造自然界不存在的“人造生命” [1]。1979年,诺贝尔化学奖得主Har Gobind Khorana合成了207个碱基对的DNA序列,合成生物学由此发端[2]。2000年之后,生物学研究进入基因组时代,DNA合成的规模和复杂程度快速提高,人工设计与合成全新的功能基因成为可能,合成生物学进入高速发展阶段。然而,从诞生之日起,合成生物学的每一步前沿进展都伴随着人们对于其安全风险和伦理问题的高度关切。

2018年8月1日,Nature在线发表了中国科学院覃重军团队及其合作者的重磅成果。中国科学院覃重军团队采用工程化精准设计方法,使用CRISPR-Cas9基因编辑技术,将酿酒酵母16条染色体的全基因组进行大规模修剪和重新排列,“创造”了几乎将所有遗传信息融合进1条超长线型染色体的酵母细胞,创建了第一个具有单个线性染色体的真核生物(SY14酵母)[3]。这一重大成果使得人类距离实现合成生命的目标更近了一步,相关报道激起公众对于科学家人为创造非自然生命的想象和期待,再次引发了人们对合成生物学安全与伦理问题的广泛关注。

本文首先探讨合成生物学发展历程中的标志性事件所引发的伦理争议,在此基础上,进一步分析合成生物学面临的安全风险和伦理困境,剖析其发生的深层诱因。最后,比较当前国际上的两种主要监管模式,分析和借鉴欧美国家监管机制,提出我国合成生物学伦理监管的思路。

1 历史视角下的伦理争论

从历史上看,合成生物学作为一项颠覆性技术,它的每一步激动人心的进展都伴随着伦理争议与忧思。

20世纪70年代,第一代DNA重组技术出现。1974年,Jaenisch和Mintz将外源基因植入小鼠囊胚中,创造了第一个转基因哺乳动物,这一实验的危险性引起了科学界的担忧。20世纪90年代末,美国生物学家J Craig Venter委托宾夕法尼亚大学的生物伦理学家Arthur Caplan开展合成基因组和合成生命的伦理评估研究[4]。基于该研究,Cho等[5]Science发文并指出,“如果最小基因组的识别与合成被科学家呈现为、被媒体描述为、被公众理解为,生命是可以被简化,或者仅仅等同于DNA,这是非常危险的”;“如果生命只是被以自然科学家的技术发现的方式所解释,将会威胁到生命是特殊的这一观点”。

进入21世纪,合成生物学取得了一系列实质性的合成成果。2002年,Eckard Wimmer等人成功合成人类脊髓灰质炎病毒。当时正处于“9 · 11事件”和“炭疽杆菌事件”的阴影下,Wimmer在公布其成果时特别加入这样一个标题:“在没有天然模板的条件下产生具有感染性的病毒” [6],目的在于给科学界以警示,吸引公众的注意[4]。2010年,J Craig Venter团队合成第一个支原体细胞,取名“辛西娅”(Synthia)。与病毒不同,支原体是可独立生存的最小生命体。该成果颠覆了人类长久以来对于生命本质的看法,让人们重新审视自身和人类在宇宙中的地位[7]。这一事件的巨大影响促使时任美国总统奥巴马要求总统伦理委员会联合其他团体,提交一份关于合成生物学潜在的医学、环境、安保,以及其他利益和风险的研究结果及建议[8]。实际上,“辛西娅”的创造者J Craig Venter在实验前曾请教过许多伦理专家,委托开展伦理评估研究,并向白宫汇报过此事。但这一研究成果仍然招致许多人的批评。反对者认为,人造生命将“打开潘多拉魔盒”,人造的有机体如果扩散到自然界中,可能引发生物基因变化,造成环境灾难,甚至被用来制造生物武器,给人类带来无尽的痛苦和灾难[9]。虽然“辛西娅”并非真正意义上的合成细胞,但公众明显表现出了对于设计和建构人工生命的恐慌。2012年,美国地球之友、国际科技评估(CTA)、ETC集团联合全球111个组织联名发布报告,呼吁在政府对其监管举措修正落实之前,暂停合成生物及其产品的释放和商业使用,以防止对人类和环境的直接或间接伤害[10]。围绕“辛西娅”的伦理争议,使得合成生物学超越了学术界的范畴,进入到了政府和公众的视野。

2011年,人工合成酵母基因组计划(SC2.0)设立。该计划实施以来,合成生物学不断实现了真核生物研究的突破,使得基因组人工设计和合成的尺度大大提升。2017年3月10日,Science发表了7篇关于成功合成人工合成酵母基因5条染色体的论文。尽管在科学家们看来,他们并不是在创造新的生命,而只是进行了驯化,本质上是加速酵母细胞的进化[11],但这一重大进展再次引起公众对生命意义的热议。科学家们认为,目前创造的生命仍然被限制在实验室环境中,并且采取了谨慎的保障措施和严格的审查制度,因而不会对自然环境有过大影响。但人们仍然担忧,一旦通过基因合成的生物进入自然界,可能会带来意想不到的危害,而如果恐怖分子利用这一技术制造出生物武器,将给社会带来更大的危害。合成生物学家大多认为,最终合成人类基因组是一个大概率事件,从技术发展角度出发,仍然有必要实现技术的飞跃[11],但人们仍然担心人造“人”将在某一天成为现实。

2018年,覃重军团队的研究取得重大突破。他们在国际上首次人工创建了单条染色体的真核细胞(SY14酵母),实现了从原核生物到真核生物的技术突破与跨越。这是继人工合成结晶牛胰岛素之后,科学家在合成生物学领域取得的又一具有里程碑意义的突破。这项成果的颠覆性在于:可以通过人工干预方式简化复杂的天然生命结构,或者打破自然生命的界限,甚至可以人工创造全新的生命。它再一次挑战了人们对于生命本质的认识。

合成生物学的前沿进展也进一步引发了人们对车库生物学安全风险的忧虑。车库生物学是指那些由业余生物学爱好者所实施的生物学科技活动,其从事者以游离于科学共同体之外的人士为主体,具有非专业性、私密性、非建制化的特点[12]。相对于建制化的科学研究来说,它的安全风险更难以预防和监管,更容易被生物恐怖主义利用,因而备受争议。

合成生物学的前沿发展重塑着人们对于新技术的伦理认知。回溯历史,不仅可以看到在合成生物学的发展过程中科学家们所具有的责任意识,而且反映了公众对于合成生物学的伦理关切与日俱增。反观合成生物学历史上的相关争论,不难发现,争论的焦点主要集中在合成生物可能引发的安全风险和人为“设计生命”带来的伦理困境及挑战两个方面。

2 安全风险与伦理困境及其诱因

合成生物学作为生命科学领域的前沿技术,在给人类社会带来好处和憧憬的同时,也蕴含巨大的安全风险。合成生物学涉及的安全风险可以分为生物安全(biosafety)和生物安保(biosecurity)两个方面,二者既各有侧重又相互重叠。合成生物学设计和创造“人造生命”的宗旨和工程化实践,是对传统伦理观念的巨大挑战。为了更好地理解争论背后的社会因素,有必要深入分析合成生物学安全风险与伦理困境的内涵及其诱因。

2.1 合成生物的不确定性与生物安全

生物安全一般来讲,是“旨在保护工人和环境不受意外接触有害实验试剂和材料的政策、做法、设备、设施和医疗措施” [8]。其重点是“保护人类、植物、动物和环境免于意外接触那些具有潜在不利影响的病原体或毒素” [13]。具体到合成生物学研究的安全问题,主要包括从设计、制备、存储到运输、应用与环境释放等各环节存在的安全风险。目前较为完善的安全条例,如美国国立卫生研究院(NIH)的《涉及重组DNA研究的生物安全指南》 [14]等,基本保障了合成生物学研究在实验室内的安全性。但是,合成生物产品不受管控的环境释放,仍然存在发生意想不到的后果、不可控制的扩散的可能性,进而威胁生物多样性。

合成生物所引发的安全风险主要由其“不确定”的特性所决定。不确定性主要指合成生物的功能以及进化的不确定。从功能上看,合成生物学的研究涉及活生物体中的未知量,并且使用了可能无法控制的材料,人类对其完整的功能并不具备确定性的认知。从进化的角度看,实验室内的合成生物是在可控的环境中进行的;如果这种人工合成的生物体被释放到环境中,就可能扩散开来,并与周围环境进行不可预知的互动。此外,科学研究的多维性、复杂性、不可预测性,以及环境(事件)的随机性,会导致一些变量超越现有的经验和认知水平,进而导致后果的不确定。

2003年发生在新加坡、中国大陆及台湾地区的实验室SARS病毒泄漏事故[15]令人记忆犹新,表明人们在利用生物技术开展实验研究时,往往会因为无意或者疏忽,造成意外事件的发生;即使是心怀善意的创造和使用,面对技术的复杂性和不确定性,人类对所知世界的认知局限,人类也无法完全掌控技术可能造成的负面影响。所以,应对技术不确定性可能导致的安全风险,主要涉及的是伦理责任问题,包括科学家、政府、企业等不同利益主体的责任分担问题。

2.2 合成生物学的两用性与生物安保

合成生物学技术具有两用性特征,即意图良好的研究可能被善意使用或恶意利用[16],从而带来两用性的困境。它所强调的是,不管出于善意或者恶意,有意或者无意,合成生物学提供的知识、信息、产品或技术一旦被不当使用,都可能对人类社会造成潜在或现实的危害。比如,生物剂是检测、鉴定、预防和治疗等方面的基础资源,但细菌、病毒、真菌、毒素等生物剂也可被恐怖分子利用生物学诱导、基因改构与合成等技术制造成生物武器。

生物安保是指“为了防止未经授权的占有,防止丢失、盗窃、滥用、转移或故意释放,对易引发严重后果的生物制剂和毒素以及关键的生物材料和信息的保护、控制和责任” [8]。生物安保的重点是“防止生物制剂和技术被某些群体滥用” [13],遏制两用性带来的可能危害,是生物安保的重点关注目标。例如,美国科学、工程与医学理事会在其新发布报告Biodefense in the Age of Synthetic Biology中指出,合成生物学扩展了制造新武器的可能性。该报告总结了最为常见的担忧,其中最高级别的担忧包括:“重新制造已知致病病毒”“通过原位合成制备生化化合物”,以及“应用合成生物学增加现有细菌的危险性” [17]

总体讲,针对“两用性”的生物安保往往比生物安全更难以实现,因为并没有一种高度有效的措施能够防止非法合成的发生,这对如何设计生物体,以及如何监管创造和使用过程提出了挑战[2]。由此看来,恶意使用合成生物学技术导致人类面临伦理风险,而如何防止不良企图的应用,避免研究成果被滥用,是合成生物学面临的监管难题。

2.3 合成生物学的利益与风险

合成生物学作为生命科学领域的前沿学科,具有广阔的应用前景,但也可能给人类社会带来巨大的风险。

利益即是好处。合成生物学技术广泛应用于再生能源、医学、农业和环境等领域,将带给人类诸多好处。例如,在提供清洁能源、便宜的药物和新型材料,以及废物降解与环境修复等方面具有重要价值;在药物快速合成、基因改良与人体快速损伤修复等方面具有颠覆性应用前景。

风险是现代社会的一大特征。现代社会中的风险体现了一种以“人为风险”为主导的风险结构[18]。合成生物学技术作为一项颠覆性技术,体现了创造的不可逆性,从而使人类及社会面临不可预知的风险。合成生物学技术所具有的不确定性特征,使得实验室研究无法完全验证知识的正确性,也即人们无法在新技术进入社会前对其潜在危害进行精准预测,需要在实际应用中,不断验证和发现可能引发的风险。社会成为新技术的“实验室”,表明新技术的一些属性和风险特征只有在社会应用过程中才能得以识别和发现[19]

所以,如果过度追求合成生物学研究及其技术应用带来的利益,过早地将新技术引入社会,可能会让公众暴露在技术“试错”风险之下[19]。风险既是实在的,也是社会“建构”的,风险的社会建构通常会导致风险的无限放大。如果过度放大风险,必然会阻碍合成生物学的发展与技术应用。因此,如何在保证获取利益最大化的同时,将风险控制在社会可接受的范围内,是当前人类必须认真面对和解决的伦理问题。

2.4 “设计”生命带来的伦理困境

合成生物学通过标准化、模块化和数字化的工程方法,对天然存在的生物系统进行重新设计和改造,创造自然界不存在的“人造生命” [1]。作为一种“设计”与“重构”的技术,合成生物本身即内在地具有深刻的伦理和道德蕴含。正是这种内在于合成生物学技术的伦理和道德蕴含,使其对社会的公平、正义具有深远影响,并由此引出一系列需要关注和加以探讨的伦理问题:谁拥有设计和重构的权力?设计的依据与重构的标准是什么?人工生物体所带来的影响甚或危害该由谁来负责?等等。这些都是迫切需要人们深思的问题。如果过度地以人类为中心,做出超越伦理的生命设计,终将给整个人类带来极大的风险。因此,负责任地“设计”至关重要。

更深层的问题是,人为设计生命意味着将人的意志和文化嵌入生命的进化之中。它打破了传统以DNA为遗传基础的自然进化历程,挑战了传统的以生物进化的自然法则为基础的生命伦理。一般来讲,文化具有能动性,这是一种文化变迁的内在动力。人的意志和文化的嵌入,甚至成为生命进化的主导,将使人类进化的方向和前途面临更大的不确定性。合成生物学的发展使得人类不得不面对关于生命意义的反思与追问,以及关于“人”的理解的困境。

3 合成生物学监管机制的思考

随着合成生物学的发展,国际社会对其安全风险和伦理问题的关切与日俱增。与之相关,如何应对由此引发的安全风险和伦理问题,成为国际社会共同面对的管理挑战。目前,存在两种不同的监管模式:①基于先行原则(proactionary principle)的监管模式;②基于防范原则(precautionary principle)的监管模式。前者体现了一种技术进步观,认为伦理问题总能随着科学技术的发展得到化解或解决,没有必要对科学技术的发展施加限制,或者“做了再说”。后者奠基于风险社会的理论,正如乌尔里希·贝克所指出的,现代社会风险正在发生结构性改变,即从“自然风险”占主导的风险结构演变为“人为风险”占主导的风险结构;与之相关,现代社会面临冒险取向的制度与安全取向的制度之间的矛盾带来的运转失灵的风险,也即“制度性”风险[18]。基于防范原则的监管模式彰显了这样一种主张,“如果一个行动或政策的存在对公众或对环境有造成伤害的潜在风险,即使对该行动或政策是否有害尚未取得共识,那么,证明其无害的责任应由采取该行动或制定该政策的人来承担” [20]

面对科技的迅速发展以及对人的健康和生存方式的深刻影响,防范原则日益成为构建合成生物学监管机制的基础或框架。如德国、美国和欧盟等一些国家和地区均设有国家伦理委员会或生物安全的监督机构[8, 21, 22],并建立了相应的监管机制[13, 23, 24]

其中,美国的监管机制体现了一种各部门基于其职责的多头监管模式。监管范围从实验室和工作场所扩展到环境和市场,并对接受联邦资金资助的机构和项目设置了特定的安全条件[8]。但是,这种多头监管模式容易引起监管机构的任务不明确等问题,在涉及监管纠纷时,采取的对抗性法律主义也会造成监管问题复杂化[25]。欧盟采取统一法律框架下的国家分散监管方式,对合成生物学的监管主要依靠法令2001/18/EC和2009/41/EU,以及《欧盟监管条例》(Regulation (EU) 428/2009)等。欧盟通过与每个成员国合作的方式将其法令和条例贯彻到各国的立法中[25]。无论美国还是欧盟,在其监管机制中都凸显了政府、工业界和非政府组织间的合作与共享,并且采取“适应性治理”方式,跟踪合成生物学的前沿发展,不断完善其风险评估和监管。这些举措使得欧美国家在应对合成生物学的伦理问题和风险监管方面处于主动地位。

快速发展的技术需要同样快速的决策,对于合成生物学的监管不能停留于对20世纪90年代生物技术的理解[26]。迄今为止,我国的伦理监管仍停留在“做了再说”的基于先行原则的监管模式,相关伦理规范较为欠缺,在国际伦理监管领域更处于失语状态,这使得我国在生物技术研究及应用方面通常会受到来自国际学界的伦理质疑,由此引发的相关决策的滞后问题也在一定程度上阻碍了研究的发展;随之而来的安全风险与伦理问题,已使现有监管模式不能适应我国合成生物学未来发展的需要。

基于国外的经验及我国实际,我国合成生物学的监管模式应当从“先行原则”模式转变为“防范原则”模式,并且可从5个方面出发,重构我国合成生物学的伦理监管机制:①设立专业的国家伦理审查和监督机构,对两用性技术研究的监管应当突破学科界限及学术界限,充分发挥伦理管理对科学研究的监督和保障作用。②建立适当的跨学科研究平台,广泛吸引有可能在合成生物学领域进行研究的科学团体参与对话。③自我管理与政府监管相结合,保持与合成生物学前沿研究团队的沟通和交流,不断讨论技术发展过程中出现的新的安全与伦理问题。④加强对合成生物学研究及应用所有参与人员的伦理教育,提高科研人员的伦理意识。⑤创新科学普及工作,坚持预防性和前瞻性的原则,培育科学、理性的土壤,积极争取公众理解和支持。

4 结语

合成生物学推动了人类从认识生命到设计生命的变革,这种变革既是观念上的也是行动上的。合成生物学的发展具有广阔的应用前景,同时也提出了伦理评估、风险防范与监管的内在要求。

反思合成生物学引发的安全风险和伦理问题,探讨防范风险和化解冲突的策略,我们认为,要保障合成生物学的良性发展:一方面,应当密切跟踪合成生物学的前沿动态,实时评估其可能带来的安全和伦理风险,建立相应的伦理监管机制和风险防控体系,最大限度规避可能的危害,将风险控制在社会可接受的范围之内。另一方面,应当高度重视包括合成生物学在内的前沿技术的科学传播和普及工作,创新传播方式,保证传播内容的完整性,从而避免对风险的无限放大,促进公众对合成生物学的理解与支持。

参考文献
[1]
赵国屏. 合成生物学的科学内涵和社会意义--合成生物学专刊序言[J]. 生命科学, 2011, 23(9): 825.
[2]
Anderson J, Strelkowa N, Stan G B, et al. Engineering and ethical perspectives in synthetic biology:Rigorous, robust and predictable designs, public engagement and a modern ethical framework are vital to the continued success of synthetic biology[J]. EMBO Reports, 2012, 13(7): 584-590. DOI:10.1038/embor.2012.81
[3]
Shao Y, Lu N, Wu Z, et al. Creating a functional singlechromosome yeast[J]. Nature, 2018(560): 331-335.
[4]
克雷格·文特尔.生命的未来: 从双螺旋到合成生命.贾拥民, 译.杭州: 浙江人民出版社, 2016: 102, 107.
[5]
Cho M K, Magnus D, Caplan A L, et al. Ethical considerations in synthesizing a minimal genome[J]. Science, 1999, 286(5447): 2087-2090. DOI:10.1126/science.286.5447.2087
[6]
乔治·丘奇.再创世纪: 合成生物学将如何重新创造自然和我们人类.周东, 译.北京: 电子工业出版社, 2017: 84.
[7]
Nature. Sizing up the 'synthetic cell'.[2010-05-20]. https://www.nature.com/news/2010/100520/full/news.2010.255.html.
[8]
United States, Presidential Commission for the Study of Bioethical Issues. New directions:the ethics of synthetic biology and emerging technologies[J]. Jahrbuch Für Wissenschaft Und Ethik, 2012, 16(1): 557-566.
[9]
华商报.人造生命在美诞生能够自己生长繁殖.[2010-05-23]. http://finance.ifeng.com/money/roll/20100523/2222416.shtml.
[10]
ETC Group, Friends of the Earth, et al. The principles for the oversight of synthetic biology.[2012-12-01]. http://www.etcgroup.org/content/principles-oversight-synthetic-biology.
[11]
Mullin E. Designer chromosomes point to new synthetic lifeforms.[2017-03-09]. https://www.technologyreview.com/s/603815/designer-chromosomes-point-to-new-synthetic-lifeforms/.
[12]
王朝恩, 周爱萍. 车库生物学:挑战与规制[J]. 科学与社会, 2013, 3(1): 86-96.
[13]
Natioanl Science Advisory Board for Biosecurity. Addressing Biosecurity Concerns Related to Synthetic Biology: report of NSABB.[2010-04-01]. https://osp.od.nih.gov/wp-content/uploads/NSABB_SynBio_DRAFT_Report-FINAL-2_6-7-10.pdf.
[14]
Department of Health and Human Services, National Institutes of Health. NIH Guidelines for Research Involving Recombinant or Synthetic Nucleic Acid Molecules (NIH Guidelines).[2016-04-01]. https://osp.od.nih.gov/wp-content/uploads/NIH_Guidelines.html.
[15]
赵鲁.实验室SARS病毒泄漏事故回顾.[2014-07-25]. http://news.sciencenet.cn/htmlnews/2014/7/299630.shtm.
[16]
Selgelid M J. Governance of dual-use research:an ethical dilemma[J]. Bulletin of the World Health Organization, 2009, 87(9): 720-723. DOI:10.2471/BLT.00.000000
[17]
National Academies of Sciences, Engineering, and Medicine. Biodefense in the Age of Synthetic Biology[M]. Washington D C: The National Academies Press, 2018.
[18]
乌尔里希.贝克.风险社会.何博闻, 译.北京: 译林出版社, 2004.
[19]
刘玉强. 社会实验:作为一种技术治理路径--以氟氯烃的社会引入为例[J]. 自然辩证法研究, 2017, 33(4): 63-67.
[20]
翟晓梅, 邱仁宗. 合成生物学:伦理和管治问题[J]. 科学与社会, 2014, 4(4): 48.
[21]
DFG. Synthetic Biology-Opportunities and Risks.[2009-07-27]. http://www.dfg.de/en/service/press/press_releases/2009/pressemitteilung_nr_37a/index.html.
[22]
Capurro R, Kinderlerer J, Silva P D, et al. Ethics of synthetic biology.[2009-11-17]. https://www.erasynbio.eu/lw_resource/datapool/_items/item_15/ege__opinion25_en.pdf.
[23]
Pauwels K, Willemarck N, Breyer D, et al. Synthetic Biology: Latest developments, biosafety considerations and regulatory challenges.[2012-09-01]. https://www.biosafety.be/sites/default/files/120911_doc_synbio_sbb_final.pdf.
[24]
Buhk H J. Synthetic biology and its regulation in the European Union[J]. New Biotechnology, 2014, 31(6): 528-531. DOI:10.1016/j.nbt.2014.02.007
[25]
Trump B D. Synthetic biology regulation and governance:Lessons from TAPIC for the United States, European Union, and Singapore[J]. Health Policy, 2017, 121(11): 1139-1146. DOI:10.1016/j.healthpol.2017.07.010
[26]
ETC Group. Four Steps Forward, One Leap Back on Global Governance of Synthetic Biology[2016-12-19]. http://www.etcgroup.org/content/four-steps-forward-one-leap-back-globalgovernance-synthetic-biology.