人工智能科学与技术的发展日新月异，它直接作用于社会，也将以最直接的方式接收到社会的反馈。它在推动科技、经济、社会的发展中起到的持续性积极作用毋庸置疑，然而如果在其发展过程中没有对社会潜在影响和可持续性进行充分考虑，可能会造成预期之外的负面影响。因此，对人工智能伦理的考量应贯穿于人工智能产品与服务的整个生命周期。

需秉承以人为本及可持续发展的理念

符合人类伦理与价值观的人工智能应秉承以人为本及可持续发展的理念，尊重隐私，促进公平公正，不引入种族、文化等偏见，人工智能技术的发展应做到透明与可解释、安全可控、可验证、可追责，为推动技术普惠各行各业、各个国家与地区，应避免恶意竞争，促进开放合作与包容共享。

倡导和谐发展应当是新一代人工智能伦理与治理的主旋律。一方面为实现通过人工智能增进人类共同福祉这一目标，采用的途径并不唯一，应当始终秉承与实践和而不同、和合向善的发展理念。另一方面应推动人类与技术的和谐共生，避免技术的误用、滥用、恶用对人类权益的伤害，总体愿景应是发展对人类与生态有益的人工智能。

无论采取哪种技术途径实现新一代人工智能，都无法杜绝在发展过程中可能带来的潜在技术与社会风险及对现代科技伦理的潜在冲击。技术发展的途径与方式的多样性使得其所带来的风险也具有不确定性，因此应当在探索新一代人工智能，特别是不同类型的高等智能的过程中，建立对其技术与社会风险的持续战略性前瞻研究，以避免、降低潜在风险带来的负面影响。

在对未来人工智能的潜在风险及应对策略的研究方面，应最大限度地共享对隐患的认识及危机处理方案与经验。只有建立全球共享、群策群力的机制并采取行动，才能保证安全，避免颠覆性技术可能带来的灾难性风险。

多方协作实现发展与治理双轮驱动

作为我国新一代人工智能战略的牵头单位，2019年3月，科技部组建了国家新一代人工智能治理专业委员会。同年6月，该委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，这是我国新一代人工智能战略对发展与治理关系的原则性阐述，也是中国新一代人工智能治理的重要基础。

为了确保中国新一代人工智能向对社会有益的方向发展，新一代人工智能应采取发展与治理双轮驱动的战略。治理的目的并不是阻碍发展，而是保持发展的稳健。

敏捷治理应成为中国人工智能治理重要特征之一。这里敏捷治理可以被解读为有两方面的含义：一方面是人工智能治理随人工智能技术的进展进行自适应，使得治理工作能够更适应发展的特点；另一方面是相关治理工作动作迅速。

与新一代人工智能发展一脉相承，作为中国人工智能发展的重要方面，人工智能治理在中国也应通过多部门联动深度协作的方式进行。政府部门、科研机构、企业等创新单元在人工智能治理工作中应各自承担相应的责任并深度协作，真正从技术和社会等不同视角实现新一代人工智能的敏捷治理。

建立人工智能治理公共服务体系防患于未然

未来，一方面需要政府相关部门、科研机构、产业对人工智能可能存在的风险、安全与伦理隐患加以足够的重视，并对人工智能伦理与治理进行战略性的关注与投入，加强自律自治。另一方面，对于国家和地方相关机构而言，应当推动人工智能治理相关高端智库、执行机构、协作网络的建立，并鼓励公众参与讨论，及时了解公众对技术参与变革社会的思考。

需要指出，新一代人工智能治理工作的重点应当是防患于未然，而不仅仅是事后的警戒、责令整改与惩治。发展与治理的双轮驱动需要将人工智能伦理与治理工作推动为兼服务与监管于一身的公共体系。应鼓励政府相关部门、科研机构、企业及其他创新单元，乃至公众共建新一代人工智能伦理与治理公共体系。应在政府和相关机构的指导下，鼓励新一代人工智能伦理与治理公共服务平台的建设并面向政府、科研机构、企业、公众提供服务，从而负责任地推动并确保新一代人工智能的稳健发展。

（作者系中科院自动化研究所研究员、北京智源人工智能研究院人工智能伦理与安全中心主任）