登录窗口
作者登录 审稿登录 编辑登录 读者登录
订阅 | 旧版入口 | English
 
  • 首页
  • 期刊简介
  • 编委会
  • 作者投稿
  • 订阅指南
  • 联系我们
  • 过刊目录
首页>智库扫描>如何让人工智能实现认知正义
如何让人工智能实现认知正义
发布时间:2024-09-05   
   来源:光明日报   作者:白惠仁
点击数量:301次

近几年,人工智能在许多行业都有应用,成为人类的“好帮手”。但在这一过程中,也出现了各种各样的问题。其中,人工智能系统基于不良的数据来源和有缺陷的算法设计生成错误的“知识”,且没有对所输出内容进行价值判断的能力,无法承担相应认知责任,导致系统性的认知偏差,是一个比较突出的问题。

从科技伦理角度分析,这违背了认知正义的原则。所谓认知正义,是指在知识生成、传播和获取过程中,确保所有个体和群体的声音都能被公平地听取和理解,并且有平等的机会被转化为人类的公共知识。

过去,知识生成主要依赖人类个体的感知、记忆、推理和证词。然而,随着人工智能的超速迭代,尤其是会话式人工智能的广泛应用,传统的知识生成和传播方式正迎来重大转变。今天的人工智能不仅善于搜集信息和执行任务,更是一项能够生成和传播知识的“认知技术”,被用来处理认知内容(如命题、模型、数据)并执行认知操作(如统计分析、模式识别、预测、推理和模拟)。基于数据和算法的“机器知识”挑战了过去基于经验和专业判断的人类知识,导致认知“碎片化”,破坏了传统人类知识系统的认知正义。

如今,生成式人工智能已经开始全面嵌入到所有可能对认知、决策进行技术性替代的场景和社会过程之中。面对人工智能在知识生成中对认知正义的挑战,如何让人工智能更智能?如何让其成为提升认知的帮手,确保科技向善?

笔者认为,需从提升数据质量、改进算法设计、优化人机协同和加强伦理治理等维度着手。

负责任的算法设计是实现认知正义的核心架构。人工智能作为一种强大的认知技术,通过数据挖掘和统计分析来识别信息的模式和趋势,参与人类公共知识的生成。由于算法主要关注在训练数据中频繁出现的信息模式,而不够普遍或统计上不够强大的数据往往会被忽视和排除,从而无法得到算法的充分理解和适当响应。依赖于统计频率的算法设计构成了一种特定的“认知盲从”,进而导致部分群体的声音被系统性边缘化。这种设计上的缺陷不仅限制了算法的认知能力,也加剧了社会中的不平等和认知压迫,破坏认知正义。“盲从”行为背后的根源,是算法的设计和训练过程缺乏对不同群体文化背景的理解。因此,在我们常谈及的算法透明性和可解释性之外,符合认知正义要求的算法设计还应兼顾涉及不同社群的认知多样性。

有质量的数据供给是实现认知正义的基础设施。造成人工智能破坏认知正义的另一个重要诱因是数据质量。大数据是智能技术的认知基础和决策基础,可以更清晰直观地呈现人类社会生活各方面的特征和趋势,但与传统人类公共知识不同,数据不为人们普遍共享。具体来说,哪些数据可以被收集起来并用于分析,这些数据又将如何被分类提取,它们最终服务于谁,这些问题都变得模糊不清,导致数据质量参差不齐。算法的训练数据往往来源于互联网的大型数据库和社区,而这些数据很可能包含偏见和歧视。人工智能的知识生成,需确保数据的来源可靠、内容多样,对数据进行去偏处理,还需对数据保持持续监测和更新,以应对社会文化变化带来的新问题。有质量的数据供给,才能使人工智能系统在多元文化和复杂社会结构中提供更精准的知识和决策支持。

大范围的人机协作是实现认知正义的有效手段。从脑机接口中的信号转译,到智能医疗决策、AI for Science等人机联合行动,不同层面的人机协作都涉及人类知识与机器知识的传递、解释、融合等认知过程。鉴于人机各自典型的认知特征,大范围、合理化的“人机认知劳动分工”将有效避免更多的人机认知偏差。比如,在科学研究中可以如此分工:人类设定目标、提出假设和解释结果,并负责提供创造性思维、临场决策、伦理判断以及对非结构化问题的直觉理解;而人工智能处理大量结构化数据、进行模式识别和预测分析,提供未被注意的模式和关联。在这种协作中,人工智能更多地成为启发新想法的“伙伴”,而非生成错误知识的“机器”。

高水平的伦理治理是实现认知正义的制度支撑。认知正义要求多元的知识生成、平等的知识获取、无偏的知识传播和负责的知识使用,这些都需要高水平的人工智能伦理治理。于企业而言,应在算法设计中考虑不同社会群体的需求和视角,对算法进行持续风险监测和价值评估;还应探索人工智能伦理众包模式,鼓励不同背景的研究者和用户参与到人工智能伦理风险的研判中,及时化解伦理风险。于政府而言,应积极鼓励私人数据向公共数据转化,加快公共数据面向全社会开放共享,扩展数据多样性、强化数据可靠性;还应寻求应对人工智能潜在伦理风险的社会解决方案,建立涵盖前瞻性预见、实时性评估和系统性调整的敏捷治理机制。

(作者:白惠仁,系浙江大学哲学学院“百人计划”研究员、脑机智能全国重点实验室双聘研究员)





推荐文章
  • 油气安全战略与“双碳”战略:关系与路径
    百年变局叠加世纪疫情给全球能源安全敲响警钟,深刻理解能源转型...
  • 2023年中国经济增长速度的预测分析与政策建议
    受新冠肺炎疫情及采取的对应措施等因素的影响,2022年中国经...
  • 《2022研究前沿》——11个大学科领域发展趋势与重点研究问题
    2022年12月,中国科学院科技战略咨询研究院、中国科学院文...
  • 《2022技术聚焦》——20个高影响力专利技术焦点分析解读
    2022年,中国科学院科技战略咨询研究院研制《2022技术聚...
  • 新时代科技强国战略
    科技强国是现代化强国的核心要义,科技现代化是中国式现代化的重...
  • 科技改革十年回顾与未来走向
    文章从科技宏观治理、攻关应急体制机制、科研人员全职业生涯、科...
专题
  • 专题:生物制造——回顾与展望
  • 专题:智慧农业的发展与思考
  • 专题:人工智能与公共安全
  • 专题:纪念中国科学院学部成立70周年
  • 专题:人工智能与未来社会
  • 专题:大力推进科研范式变革
  • 专题:国家公园现代化治理体系建设
  • 专题报道
  • 专题:新时期重大科技基础设施建设理论与实践
  • 专题:“十五五”区域协调发展与国土空间发展格局优化
  • 专题报道
  • 专题:黄河流域科技创新研究与对策
  • 专题:科技创新引领现代化产业体系建设
  • 专题:前沿科技伦理风险及其治理
  • 专题:中国能源发展战略研究
  • 专题:科技预算绩效评价的理论与实践
  • 专题:中国生态文明建设进展与成效
  • 专题:技术经济安全理论与实践
  • 专题:开放科学发展趋势与治理策略
  • 专题:综合防治荒漠化 打赢“三北”攻坚战
  • 专题:科技创新支撑“一带一路”高质量发展
  • 专题:主要“一带一路”共建国家气候变化影响和适应研究
  • 专题:跨越“中等技术陷阱”与实现中国式现代化
  • 专题:构建自立自强的信息技术体系
  • 专题:新材料科学发展战略思考与创新实践
  • 专题:智库双螺旋法应用及实证研究
  • 专题:海洋观测探测与安全保障技术
  • 专题:中国空间科学——战略与突破
  • 专题:科技与金融融合逻辑与建议
  • 专题:数据要素市场化配置问题探究
  • 专题:中国战略性关键矿产资源安全研究
  • 专题:“双循环”格局下中国区域创新
  • 专题:哲学助力科技创新
  • 专题:绿色“一带一路”建设的挑战与应对
  • 专题:服务碳中和目标的海洋负排放技术路径与战略思考
  • 专题:哲学与科学
  • 专题:生物多样性保护与生态文明
  • 专题:生态草牧业高质量发展
  • 专题:建党百年·青年说
  • 专题:碳中和目标背景下的能源转型
  • 专题:科技助力“黑土粮仓”建设
  • 专题:科技伦理治理的战略研究
  • 专题:有组织的基础研究
  • 专题:新时代科学基金运行体系与管理研究
  • 专题:融合科学与开放数据
  • 专题:黄河流域生态保护和高质量发展
  • 专题:科技领航黄河三角洲农业高新技术产业示范区高质量发展
  • 专题:湾区比较研究
  • 专题:荒漠化治理与可持续发展
  • 专题:“十四五”规划的区域战略与空间治理
  • 专题:长江经济带高质量发展
  • 专题:公共卫生应急体系建设的战略思考
  • 专题:环境污染与人体健康
  • 专题:科技评价——实践与展望
  • 专题:畜牧业可持续发展
  • 专题:水声信号处理和声呐技术·发展现状和展望
  • 专题:中国高性能计算发展战略
  • 专题:行星科学——新学科·新梦想
  • 专题:国际新形势下知识产权保护研究
  • 专题:中国科技70年·回顾与思考
  • 专题:战略生物资源的保护与利用
  • 专题:2030年可持续发展目标的理论、指标与实践
  • 专题:土壤与可持续发展
  • 专题:知识产权转化与运营
  • 专题:“丝绸之路经济带”中亚能源地缘配置与国家安全
  • 专题:科学普及问题政策研究
  • 专题:分子模块设计育种
  • 专题:环境微塑料污染与管控策略
  • 专题:中国科学院·改革开放四十年
  • 专题:传统工艺的认知与振兴
  • 专题:国家生态保护与建设工程生态成效评估
  • 专题:心理学与社会治理
  • 专题:大气灰霾追因与控制
  • 专题:中国微生物组计划
  • 专题:“一带一路”建设对策研究
  • 专题:土壤微生物组
  • 专题:建成遗产
  • 专题:作物病虫害的导向性防控
  • 专题:青藏高原综合科学研究进展
  • 专题:气候变化的全球治理
  • 专题:科技促进农业供给侧结构性改革
  • 专题:生物传感与器官芯片
  • 专题:“十三五”区域发展战略研究
  • 专题:分布式可再生能源和智能微网
  • 专题:2015/2016超级厄尔尼诺事件研究
  • 专题:精准扶贫重大战略与政策研究
  • 专题: 生物安全——新问题、新挑战
  • 专题:绿色设计
  • 专题:空间科技助力“一带一路”建设
  • 专题:信息化变革科研模式
  • 专题:“一带一路”生态风险与地缘战略
  • 专题:脑科学与类脑智能
  • 专题:现代智库建设及其思想传播
  • 专题:知识产权强国建设
  • 专题:海岸科学与可持续发展
  • 专题:心理健康研究与服务
  • 专题:当代国家凝聚力研究
  • 专题:海洋科学发展现状与展望
  • 专题:云计算创新发展战略
  • 专题:在线社交网络分析理论和技术
  • 专题:西藏经济社会与科技协同发展
  • 专题:土壤与生态环境安全
  • 专题:可持续发展从行动走向科学
  • 专题:创新发展政策研究
  • 专题:土壤与可持续发
  • 专题:落实全面深化改革的科技思考
  • 专题:生物计算机研究进展
  • 专题:科教国际化发展战略
  • 专题:互联网产业发展战略
  • 专题:标准化发展战略
  • 专题:土壤重金属污染治理
  • 专题:可持续发展的难点与热点
  • 专题:生态系统服务与评估
  • 专题:知识产权战略与创新驱动发展
  • 专题:我国空间科学发展的挑战和机遇
  • 专题:知识产权的法制保障
  • 专题:城镇化战略研究
  • 专题:现代农业
  • 专题:大气灰霾追因与控制
  • 专题:知识产权管理
  • 专题:科研信息化
  • 专题:农业物联网
  • 专题:国家创新平台建设
快速通道
作者登录
编辑登录
审稿登录
读者登录
过刊浏览
点击排行
下载排行
引用排行
RSS
E-mail
文件检索
返回首页

 
 
您是第34607643位访问者!
1996-2021 中国科学院版本所有 备案序号: 京ICP备05002857
地址:北京三里河路52号 邮编 100864 Email:bulletin@cashq.ac.cn
技术支持:北京勤云科技发展有限公司