登录窗口
作者登录 审稿登录 编辑登录 读者登录
订阅 | 旧版入口 | English
 
  • 首页
  • 期刊简介
  • 编委会
  • 作者投稿
  • 订阅指南
  • 联系我们
  • 过刊目录
首页>智库扫描>高文院士:科技伦理审查为科技向善保驾护航
高文院士:科技伦理审查为科技向善保驾护航
发布时间:2023-11-03   
   来源:科技日报   作者:高文
点击数量:227次

前不久,科技部、教育部、工业和信息化部等十部门印发《科技伦理审查办法(试行)》(以下简称《审查办法》),这是我国构建科技伦理治理体系的里程碑文件,也是我国推进科技伦理治理制度体系建设的重要开篇。

自1956年达特茅斯会议提出“人工智能”这一概念以来,人工智能已历经了3次变革,逐步从系统级的知识推理向深度学习发展。当前,以ChatGPT为代表的自然语言处理,助推了通用人工智能(AGI)的演进,也再一次将人工智能技术推向了飞速发展的黄金期,使其迅速成为新的重要使能技术,被广泛应用于经济社会的各个领域,带来新的产品和服务。然而,随着人工智能技术的广泛应用,由此可能引发的AI技术滥用、个人隐私侵犯、算法歧视、伦理道德冲击等诸多科技伦理问题已成为国际社会关注的焦点,亟待认真应对、规范治理。

在通用人工智能掀起全球热潮的同时,《审查办法》恰逢其时地为我国人工智能的健康发展系上了“安全带”,也将有力促进我国加快构建良性健康的数字经济社会秩序。

《审查办法》以“促进负责任创新”为核心理念,以强化科技伦理管理主体责任为抓手,指导开展问题导向的科技伦理治理,推动构建一套发展与安全并重、创新与伦理并行的科技监管与治理机制。在推进这套机制落地的过程中,要兼顾技术的创新发展与安全监管,我认为,有几点工作值得高度重视。

一是创新主体要自觉压实科技伦理管理主体责任,将科技伦理要求贯穿科技活动全过程。科技伦理治理是科技创新能力和水平的重要体现,直接影响科技创新的质量和效率。随着人工智能等新兴数字技术的广泛应用,其带来的伦理风险也愈发复杂多变。创新主体应结合《审查办法》要求,加快优化组织架构和管理流程,构建权责明晰的科技伦理管理体系,建立伦理风险预判机制,在设计、研发和应用等科技活动的各个阶段,要持续地识别、分析与管理伦理风险。同时,压实科技创新管理责任,责任主体既要对科研目标负责,也要对科技伦理负责,提高科研人员的伦理意识,大力宣贯科技伦理道德教育,确保责任主体始终秉持科技向善理念,践行负责任创新。

二是面向科技伦理治理持续开展研究,以技术创新应对科技伦理治理的问题与挑战。科技伦理治理应始终与科研技术的创新发展紧密结合、同频共振,用技术创新解决技术发展中的问题。创新主体应借助技术手段辅助开展科技伦理审查与监管,通过研发或使用新的技术工具、创新技术方法,重点解决技术在公平性、安全性、可解释性、隐私保护等方面面临的挑战。目前,人工智能大模型相关应用加速落地,然而,在人工智能大模型的数据清洗、敏感词判别、合规使用以及基于国外企业和机构提供的大模型底座热启动等方面仍存在不少漏洞和风险,如不加以规范治理,将可能对人类行为、人身健康、社会意识形态等方面造成危害,更有甚者,将严重威胁我国科技创新生态的有序发展。

三是加强国际科技治理合作,把握全球科技治理研究动态,谋划中国科技治理合理路径。科技价值观始终是国际科技治理的核心议题,由于政治体制和民族文化等各不相同,各国科技伦理治理的理念与路线也不尽相同。我们既要积极拥抱国际科技创新网络,在科技治理手段上与国际规范相衔接,推动科技更好地增进人类福祉、为人类社会发展服务。同时,也要立足我国国情,探索形成具有中国特色的治理方案,灵活运用清单动态调整机制,随时准备应对新问题、新挑战。此外,要积极发起全球科技伦理治理交流与对话,大力宣传中国科技伦理治理的创新实践,进一步增强我国科技创新的传播力和影响力。

在可预见的未来,智能技术向“强人工智能”逐步演进,科学智能(AI for Science)、具身智能等新方向也不断涌现,智能技术、数字技术对经济社会的作用与影响将会越来越突出,这一过程必将伴随着成倍增长的技术挑战,科技伦理治理问题也将变得更加突出、更加紧迫。总之,科技伦理治理是一项复杂的系统性工程,既需要政府、学界、产业界等多方通力合作,也需要科技工作者的潜心研究和不懈努力,相信在不久的将来我们会在科技伦理治理方面取得更丰硕的成果。

(作者系国家科技伦理委员会委员、中国工程院院士)





推荐文章
  • 油气安全战略与“双碳”战略:关系与路径
    百年变局叠加世纪疫情给全球能源安全敲响警钟,深刻理解能源转型...
  • 2023年中国经济增长速度的预测分析与政策建议
    受新冠肺炎疫情及采取的对应措施等因素的影响,2022年中国经...
  • 《2022研究前沿》——11个大学科领域发展趋势与重点研究问题
    2022年12月,中国科学院科技战略咨询研究院、中国科学院文...
  • 《2022技术聚焦》——20个高影响力专利技术焦点分析解读
    2022年,中国科学院科技战略咨询研究院研制《2022技术聚...
  • 新时代科技强国战略
    科技强国是现代化强国的核心要义,科技现代化是中国式现代化的重...
  • 科技改革十年回顾与未来走向
    文章从科技宏观治理、攻关应急体制机制、科研人员全职业生涯、科...
专题
  • 专题:生物制造——回顾与展望
  • 专题:智慧农业的发展与思考
  • 专题:人工智能与公共安全
  • 专题:纪念中国科学院学部成立70周年
  • 专题:人工智能与未来社会
  • 专题:大力推进科研范式变革
  • 专题:国家公园现代化治理体系建设
  • 专题报道
  • 专题:新时期重大科技基础设施建设理论与实践
  • 专题:“十五五”区域协调发展与国土空间发展格局优化
  • 专题报道
  • 专题:黄河流域科技创新研究与对策
  • 专题:科技创新引领现代化产业体系建设
  • 专题:前沿科技伦理风险及其治理
  • 专题:中国能源发展战略研究
  • 专题:科技预算绩效评价的理论与实践
  • 专题:中国生态文明建设进展与成效
  • 专题:技术经济安全理论与实践
  • 专题:开放科学发展趋势与治理策略
  • 专题:综合防治荒漠化 打赢“三北”攻坚战
  • 专题:科技创新支撑“一带一路”高质量发展
  • 专题:主要“一带一路”共建国家气候变化影响和适应研究
  • 专题:跨越“中等技术陷阱”与实现中国式现代化
  • 专题:构建自立自强的信息技术体系
  • 专题:新材料科学发展战略思考与创新实践
  • 专题:智库双螺旋法应用及实证研究
  • 专题:海洋观测探测与安全保障技术
  • 专题:中国空间科学——战略与突破
  • 专题:科技与金融融合逻辑与建议
  • 专题:数据要素市场化配置问题探究
  • 专题:中国战略性关键矿产资源安全研究
  • 专题:“双循环”格局下中国区域创新
  • 专题:哲学助力科技创新
  • 专题:绿色“一带一路”建设的挑战与应对
  • 专题:服务碳中和目标的海洋负排放技术路径与战略思考
  • 专题:哲学与科学
  • 专题:生物多样性保护与生态文明
  • 专题:生态草牧业高质量发展
  • 专题:建党百年·青年说
  • 专题:碳中和目标背景下的能源转型
  • 专题:科技助力“黑土粮仓”建设
  • 专题:科技伦理治理的战略研究
  • 专题:有组织的基础研究
  • 专题:新时代科学基金运行体系与管理研究
  • 专题:融合科学与开放数据
  • 专题:黄河流域生态保护和高质量发展
  • 专题:科技领航黄河三角洲农业高新技术产业示范区高质量发展
  • 专题:湾区比较研究
  • 专题:荒漠化治理与可持续发展
  • 专题:“十四五”规划的区域战略与空间治理
  • 专题:长江经济带高质量发展
  • 专题:公共卫生应急体系建设的战略思考
  • 专题:环境污染与人体健康
  • 专题:科技评价——实践与展望
  • 专题:畜牧业可持续发展
  • 专题:水声信号处理和声呐技术·发展现状和展望
  • 专题:中国高性能计算发展战略
  • 专题:行星科学——新学科·新梦想
  • 专题:国际新形势下知识产权保护研究
  • 专题:中国科技70年·回顾与思考
  • 专题:战略生物资源的保护与利用
  • 专题:2030年可持续发展目标的理论、指标与实践
  • 专题:土壤与可持续发展
  • 专题:知识产权转化与运营
  • 专题:“丝绸之路经济带”中亚能源地缘配置与国家安全
  • 专题:科学普及问题政策研究
  • 专题:分子模块设计育种
  • 专题:环境微塑料污染与管控策略
  • 专题:中国科学院·改革开放四十年
  • 专题:传统工艺的认知与振兴
  • 专题:国家生态保护与建设工程生态成效评估
  • 专题:心理学与社会治理
  • 专题:大气灰霾追因与控制
  • 专题:中国微生物组计划
  • 专题:“一带一路”建设对策研究
  • 专题:土壤微生物组
  • 专题:建成遗产
  • 专题:作物病虫害的导向性防控
  • 专题:青藏高原综合科学研究进展
  • 专题:气候变化的全球治理
  • 专题:科技促进农业供给侧结构性改革
  • 专题:生物传感与器官芯片
  • 专题:“十三五”区域发展战略研究
  • 专题:分布式可再生能源和智能微网
  • 专题:2015/2016超级厄尔尼诺事件研究
  • 专题:精准扶贫重大战略与政策研究
  • 专题: 生物安全——新问题、新挑战
  • 专题:绿色设计
  • 专题:空间科技助力“一带一路”建设
  • 专题:信息化变革科研模式
  • 专题:“一带一路”生态风险与地缘战略
  • 专题:脑科学与类脑智能
  • 专题:现代智库建设及其思想传播
  • 专题:知识产权强国建设
  • 专题:海岸科学与可持续发展
  • 专题:心理健康研究与服务
  • 专题:当代国家凝聚力研究
  • 专题:海洋科学发展现状与展望
  • 专题:云计算创新发展战略
  • 专题:在线社交网络分析理论和技术
  • 专题:西藏经济社会与科技协同发展
  • 专题:土壤与生态环境安全
  • 专题:可持续发展从行动走向科学
  • 专题:创新发展政策研究
  • 专题:土壤与可持续发
  • 专题:落实全面深化改革的科技思考
  • 专题:生物计算机研究进展
  • 专题:科教国际化发展战略
  • 专题:互联网产业发展战略
  • 专题:标准化发展战略
  • 专题:土壤重金属污染治理
  • 专题:可持续发展的难点与热点
  • 专题:生态系统服务与评估
  • 专题:知识产权战略与创新驱动发展
  • 专题:我国空间科学发展的挑战和机遇
  • 专题:知识产权的法制保障
  • 专题:城镇化战略研究
  • 专题:现代农业
  • 专题:大气灰霾追因与控制
  • 专题:知识产权管理
  • 专题:科研信息化
  • 专题:农业物联网
  • 专题:国家创新平台建设
快速通道
作者登录
编辑登录
审稿登录
读者登录
过刊浏览
点击排行
下载排行
引用排行
RSS
E-mail
文件检索
返回首页

 
 
您是第34603441位访问者!
1996-2021 中国科学院版本所有 备案序号: 京ICP备05002857
地址:北京三里河路52号 邮编 100864 Email:bulletin@cashq.ac.cn
技术支持:北京勤云科技发展有限公司