ChatGPT在教育领域应用的伦理风险及挑战
范静波 , 梁慧     
对外经济贸易大学 政府管理学院 北京 100029
摘要:ChatGPT是自然语言处理领域的一项典型运用,具有赋能教育、革新教育的潜力。它不仅能够作为学生的数字导师,还能成为教师的虚拟助手,推动学生学习方式与教师教学范式的变革。此外,ChatGPT在科研领域也展现出了广泛的应用前景。然而,在带来教育发展机遇的同时,ChatGPT给教育公平带来了伦理风险与挑战。(1)ChatGPT可能加剧数字鸿沟,带来教育起点的不公平;(2)ChatGPT存在知识异化、算法黑箱与算法歧视、个人隐私与数据泄露等风险,损害教育过程的公平性;(3)ChatGPT可能阻碍学生的全面发展,弱化师生关系,带来学术诚信问题,从而阻碍教育结果公平的实现;(4)ChatGPT还可能对教师职业发展构成冲击。为有效应对上述伦理风险及挑战,文章提出了推动ChatGPT技术与教育深度融合的系列举措,以期有效推动智能技术在教育领域的合理运用。
关键词自然语言    教育公平    现实机遇    伦理风险    
CSTR: 32128.14.CASbulletin.20240730002
Ethical risks and challenges of ChatGPT applications in education
FAN Jingbo, LIANG Hui     
School of Government, University of International Business and Economics, Beijing 100029, China
Abstract: ChatGPT is a typical application in the field of natural language processing, with the potential to empower and revolutionize education. It can serve not only as a digital tutor for students but also as a virtual assistant for teachers, driving the transformation of student learning methods and teaching paradigms. Additionally, ChatGPT shows a wide range of applications in the research field. However, while bringing opportunities for educational development, ChatGPT also poses ethical risks and challenges to educational equity. Firstly, ChatGPT may exacerbate the digital divide, leading to unequal educational opportunities. Secondly, it presents risks such as knowledge alienation, algorithmic black-box issues, algorithmic discrimination, personal privacy concerns, and data breaches, all of which can undermine the fairness of the educational process. Moreover, ChatGPT might hinder the holistic development of students, weaken teacher-student relationships, and raise issues of academic integrity, thereby impeding the achievement of equitable educational outcomes. Lastly, ChatGPT may also impact the professional development of teachers. To effectively address these ethical risks and challenges, a series of measures are proposed to promote the deep integration of ChatGPT technology with education, aiming to ensure its reasonable application in the educational field.
Keywords: natural language    educational equity    realistic opportunities    ethical risks    

随着数字化时代的到来,人工智能的革新力量已经深入渗透到各行各业。人工智能的飞速发展颠覆并重塑了人类长期以来的生产和生活方式,并在不断迭代中展现出蓬勃的态势。2022年11月,美国高科技公司OpenAI发布了基于人工智能技术的大型语言对话模型ChatGPT。该模型发布后迅速引起经济、社会、文化、教育等领域的广泛关注。ChatGPT具备先进的算法、强大的算力和海量数据的支撑,是自然语言处理领域的一项典型应用[1]。它可以针对用户输入的内容生成自然的响应文本,并通过人类反馈进行强化学习,并不断改进输出结果,实现与真实对话无异的交流。ChatGPT能够在人类语言任务中进行自我调整,生成连贯、逻辑严密且具有语言风格的故事、文章和对话,还能进行简单的翻译、创造和编写代码等工作[2]。在人类社会的发展进程中,技术和教育的竞合推动着其前进的步伐。教育为国家建设提供人力资源保障,而随着以ChatGPT为代表的人工智能技术的飞速发展,教育所承载的育人使命变得更加具有挑战性。

1 人工智能时代教育公平的核心地位与挑战

教育公平在整个社会公平体系中处于基础与核心地位。教育公平旨在让每一位居民享有平等的受教育权利,能够均等获取公共教育资源,并能公平地实现其学业成就与就业前景[3]。教育公平包括教育起点公平、过程公平和结果公平3个环节。教育起点公平,涉及教育机会的均等与教育资源分配权利的平等,指每位个体在受教育初始阶段应享有平等的受教育机会与条件;教育过程公平,着眼教育实施过程,强调每位受教育者在相同或相似条件下能够平等地获取和利用教育资源;教育结果公平,关注教育成果与后续机会,指每位受教育者在接受教育后能够获得公平的学业成绩、升学机会、就业前景等。

教育作为社会生态系统的重要组成部分,随着人工智能技术的发展,其教育服务目标、学校职能、知识形式等要素都将被重新定义。ChatGPT能够加速教育变革,引入ChatGPT技术将带来更高效、便捷、个性化的教学方式;如果使用得当,它将成为一个强大的教育工具,大幅提升教学与研究的效率。我国政府高度重视数字技术在教育领域的应用。2019年2月,中共中央办公厅、国务院办公厅印发了《关于加快推进教育现代化实施方案(2018—2022年)》。该方案指出要“着力构建基于信息技术的新型教育教学模式、教育服务供给方式以及教育治理新模式”。2023年5月,习近平总书记在主持中央政治局第五次集体学习时指出,“教育数字化是我国开辟教育发展新赛道和塑造教育发展新优势的重要突破口”,这为我们的教育改革与教育强国建设指明了方向与路径。

已有研究关于ChatGPT对教育公平的影响持有2种不同的观点。从积极的视角看,以ChatGPT为代表的新一代人工智能技术正深刻影响着传统教学模式。它能充当教师的数字助手和学生的虚拟导师,推动教育的在线化、信息化与个性化发展[4];ChatGPT还能突破时空限制,在一定程度上缓解教育机会不均等现象,促进教育包容与教育公平[5]。然而,从消极的视角看,由于ChatGPT的开发需要较高的技术门槛,后期维护也离不开人力与财力支持,贫困地区、弱势学校和家庭难以获得成熟完备的ChatGPT技术。即便获得了ChatGPT技术,数字素养的差异也会导致群体间对ChatGPT使用效果的不同,从而加剧数字鸿沟与教育不公平[6]。ChatGPT的使用还面临着算法黑箱、算法歧视与隐私泄露等问题[7]。可见,ChatGPT在带来教育发展新机遇的同时也带来了严峻的伦理风险和挑战。

本文从教育公平的视角出发,以ChatGPT为生成式人工智能的典型代表,探讨生成式人工智能对教育公平的影响。在阐明ChatGPT技术在教育领域的应用价值的基础上,深入分析其在教育起点公平、过程公平、结果公平等方面带来的伦理风险与挑战。本文旨在探索生成式人工智能与教育深度融合的路径,并提出相应的风险防控策略。

2 现实机遇:ChatGPT赋能教育革新 2.1 ChatGPT推动学生学习新态势

ChatGPT具备强大的信息整合能力,并具有与用户进行连续性对话和生成文本的特点;其在教育领域有着广泛的应用,能够有效促进教育的数字化转型。ChatGPT推动了学生学习的新态势,它能通过人工智能技术改善学生的学习支持系统,为学生论文和作业的完成提供支撑。它能够建立个性化和适应性的学习方式,对学生学业进行个性化辅导、反馈与评估。作为一个优秀的数字导师,ChatGPT能为学生提供虚拟辅导和服务,学生可以通过与虚拟教师互动获取所需的各类学习资源。通过人机对话,ChatGPT能够监控学生的学习情况,获知学生的学习需求,分析学生的学习行为,并个性化推送满足学生需求的学习资源,从而满足学生的多元需求[6]。此外,ChatGPT还能为具有不同语言和文化背景的学生提供交流学习的机会,促进跨文化的学习与交流。

2.2 ChatGPT打造教师教学新范式

ChatGPT能够颠覆教学范式,通过结合趣味性的教学方式提升学生学习的参与度与体验[8]。例如,教师可以利用ChatGPT实施智慧课堂、翻转课堂等来创新教学方法,这能显著提高学生的学习兴趣和效率。作为教学辅助工具,ChatGPT不仅能帮助教师制定教学计划和定制课堂内容,还能帮助生成教学材料,有效减轻教师教学负担,使教师能够节省精力以便更专注于个人发展与学生成长。这种人机共教的模式不仅能提升知识的传授效果,也能提高教学效率。在教学评价与反馈方面,教师能够利用ChatGPT及时获得学生学习情况的个性化、智能化反馈,进而有针对性地引导学生学习,实现因材施教的目标[9]。通过准确分析学生的学习表现,并与教师和家长分享结果,ChatGPT确保了评估过程的透明性和有效性,能够实现更公平的教学评价。因此,这些特点使得ChatGPT成为了现代教育中不可或缺的一部分,将大幅促进教学方法的创新和教育质量的提升。

2.3 ChatGPT辅助科学研究新动能

ChatGPT具备强大的科研辅助能力,能够协助科研人员执行多项任务,如综述撰写、选题头脑风暴、学术翻译,以及回答高度专业化的学术问题[10]。科研人员还可以借助ChatGPT帮助检查语句表达中的错误、优化句子结构,提升论文的可读性,并加速科研创新进程。然而,由于训练所使用的数据集缺乏学术论文与专业著作等资源的支持,ChatGPT仅限于简单对话,难以处理特定行业的专业术语,也不能有效解答教育领域的专业问题。

2.4 ChatGPT推动教育均衡新发展

ChatGPT能够优化地区间教育资源配置,缩小个体间的教育资源差距[5]。ChatGPT可以为学生提供在线教程和视频课程等免费教育资源;特别是能够为生活在教育资源匮乏地区的学生提供丰富的学习资源,提高他们教育机会的可获得性。ChatGPT还能够创建自适应的学习系统,根据用户的输入和反馈自动调整输出,实现个性化学习,满足学生多样化的学习需求。此外,ChatGPT还可以为有学习障碍的学生提供自适应性服务,创新学习方式,促进教育公平。通过技术与教育的深度融合,ChatGPT将加速教育公平从群体向个体转变的进程,推动教育质量的大幅提升。

3 伦理挑战:ChatGPT冲击教育公平 3.1 ChatGPT冲击教育起点公平

ChatGPT为教育领域带来机遇的同时,也可能造成国家、区域、城乡、校际、家庭、群体间的教育机会不平等,这表现为教育的数字鸿沟。数字鸿沟的本质是群体间信息获取的不平等,体现为技术鸿沟与素养鸿沟两个方面。

(1)ChatGPT的开发与维护需要较高的技术门槛和高昂的资金、人力成本。由于资源本身分配不均,发达地区、优势学校与家庭享有相对高质量的教育资源,更易获得和使用ChatGPT技术;而贫困偏远地区、弱势学校与家庭则难以获得和使用这项技术,这将进一步加剧教育资源不平等现象。而且,从国家和区域的角度看,ChatGPT在处理非英语语言任务时服务效率相对较低,这将加剧国家之间、地区之间知识资源质量的差距,扩大全球教育的不平等。

(2)除技术鸿沟外,数字鸿沟还表现为素养鸿沟,具体包括基本的数据技术知识技能、信息与数字素养、利用数字技术进行交流协作的能力,以及数字内容创作能力等[11]受经济状况与资源分配等因素影响,不同群体在理解数字资源和使用数字技术方面存在着巨大的差距,即使是在获得ChatGPT等人工智能技术后,数字素养的差异也会导致使用效果的偏差。例如,有些学生将ChatGPT用于有针对性的学习,而有些则用于休闲娱乐,这些现象均会引致教育不公平。欠发达地区、偏远地区的学校教育资源匮乏,即使将ChatGPT技术应用于学校管理与教学环节,但是相较于发达地区学校拥有的完善治理结构与卓越师资力量而言,这些地区学校的治理结构与教师数字素养也难以满足其运用要求,并难以有效引导学生适应新型课程与教学方式。

3.2 ChatGPT冲击教育过程公平

(1)知识异化的风险。ChatGPT提供的知识具有不确定性,且在回答中不一定标识信息来源,导致对知识难辨真伪[12]。错误内容的生成不利于教育过程公平的实现。ChatGPT输出的内容结果基于海量数据,数据的质量和多样性均会影响输出结果;如果数据训练过程中的数据本身存在偏差,如存在数据错误或数据信息不全面等情况,可能会产生潜在的错误或误导性信息[13]。师生在使用ChatGPT时可能会被偏见性的信息所误导。虽然这种影响在个人层面上可能不显著,但是由于累积效应等,长远来看往往会导致教育的不公平。偏见数据的处理还会影响到教育评估和教育政策的制定,进而导致教育资源配置的偏差,阻碍教育过程公平的实现。

(2)算法黑箱与算法歧视风险。算法黑箱的产生源于ChatGPT的算法设计和底层逻辑的难以解释。人们只知道ChatGPT给出的最终回答,但无法知晓和解释其内部处理过程与运作过程,进而影响到整个知识体系的可靠性[14]。算法黑箱忽视了教育主体的知情权,人们难以透析其内部运作逻辑,从而对教育决策的合理性产生怀疑。在教育领域这一问题尤为严重,特别是在涉及学生评估和决策时,模型往往无法提供清晰的决策依据,从而影响到教育过程的公平。算法歧视是指在数据收集与处理过程中产生的歧视和偏见,这种歧视是由技术或人为因素引起的基于不同用户主体产生的智能歧视。当训练模型的数据存在对特定人群的偏见时,其回答可能对特定群体做出不公平的预测,这也对教育过程的公平性产生消极的影响。因此,在教育场景中使用ChatGPT技术时需要谨慎,需要将人工智能技术与现代教育方法结合起来,并加强对人工智能技术教育活动的风险管控。

(3)个人隐私与数据泄漏风险。ChatGPT没有情感、意识或个性,它仅是一个用于回答问题的工具。ChatGPT会收集和处理海量数据信息,这过程中可能包括用户的私人信息,这些信息随后可能被用于大数据分析。由此,用户的行为数据和个人信息面临被泄露和滥用的风险[15]。教师和学生在使用ChatGPT时会输入大量的资料和数据,可能包含姓名、年龄等个人信息,一旦这些信息泄露,就会侵犯师生的隐私权。作为一个网络聊天机器人,ChatGPT还面临着网络攻击和恶意软件侵犯的风险,这可能导致师生的数据被篡改或删除,造成隐私泄露或滥用。目前,我国相关法律尚未涉及对ChatGPT非法获取个人信息的处罚,这就降低了ChatGPT对隐私侵犯的法律成本,易为违法犯罪行为提供温床。不同师生个体在使用ChatGPT时也存在数字素养的差异,个人隐私保护意识的不同也会影响教育过程的公平性。

3.3 ChatGPT冲击教育结果公平

(1)阻碍学生全面发展风险。过度使用人工智能产品可能导致学生过度关注学习结果而忽视学习过程,影响独特与创新学习方式的培养。ChatGPT所提供的知识呈现出碎片化的特点,学生花费大量的时间浏览碎片化的信息,进行的是表面性学习,不利于批判性思维的形成与知识迁移能力的培养。这将阻碍学生高级认知能力的发展,也难以帮助他们建立起完整的知识体系。而且,使用ChatGPT可能会使学生产生认知偏差,特别是当大型模型的训练数据或规则带有价值偏向性时可能会传递有害的信息给学生。此外,虽然大型模型能够显著提升信息的精准度,但也可能导致信息茧房的形成。这意味着学生只能接触到与其现有观点相符的信息,从而不断强化甚至固化自己的观点,这种现象会阻碍学生的全面发展。

(2)师生关系异化风险。学生过度使用ChatGPT可能会面临情感成瘾的问题。学生若沉浸于人工智能的世界中,就逐渐减少了与真实生活中师生的交流,这对学生的身体健康、心理健康和社会交际都会产生有害的影响。在传统的师生互动教学过程中,师生之间会产生情感体验和共鸣,学生通过这种互动逐渐学会情感表达与伦理行为,并融入社会群体。然而,一旦ChatGPT介入教学活动,教学方式往往就变成了单向的“生-机对话”或“师-机对话”。机器本身缺乏感受、情感与洞察力,在这种教学环境下师生之间缺乏情感互动和道德共鸣。学生逐渐减少了对教师的依赖,可能导致情感和道德上的冷漠现象[4]。因此,ChatGPT的过度使用可能导致学校难以实现其人才培养的目标,影响教育结果的公平。

(3)学业诚信、学术规范风险。ChatGPT的使用可能使得学生的学业诚信面临质疑。学生可以利用ChatGPT的文本生成功能完成课程作业或写作任务,但目前尚无有效的工具能够检测出作业或论文是否是由ChatGPT生成,这使得学生可以将其作为自己的原创内容提交,从而影响学业诚信。此外,ChatGPT还可以帮助学生在考试中作弊,教务人员很难辨别出答案是否为考生原创[16]。使用ChatGPT可以使作业内容更加丰富、资料更为详实、准确率也更高,因此那些使用ChatGPT的学生可能会比未使用的同学获得更高的分数,这不利于公平竞争关系的建立。同时,这也会使得教育评估机制失衡,导致教育生态系统的紊乱,损害教育结果的公平性。在科研领域,诚信和学术规范一直是基本要求,学术界追求原创性。然而,ChatGPT的使用可能导致数据造假、实验造假等学术不端行为的出现,进而影响论文的质量[17]。同时,如果科研人员依赖人工智能技术生成论文,可能会面临出版物所有权归属的不明确问题。ChatGPT的学术署名权也备受关注。虽然,在ChatGPT发布初期,一些学者认为由于其高超的写作能力,应该将其列为作者之一;但是,ChatGPT本身无法对自身行为负责,这可能引发学术不端问题,导致学术诚信危机,进而影响教育结果的公平性。当前,Science杂志已明确规定严禁将ChatGPT作为合著者。

3.4 ChatGPT影响教师职业发展

教学中使用ChatGPT可能带来教育过程固化、师生交往异化,以及教师被机器取代等风险[18]

(1)教育过程固化。教师在借助ChatGPT进行备课时,ChatGPT会提供具体的教学流程和教学材料,可能导致教师在课堂上的教学内容变得过于固定化。但是教学过程往往是充满未知和意外的,如果过度依赖固定化的教学内容,教学中本应有的创新性和互动性就会丧失,教师的教学智慧和魅力也会逐渐减弱。

(2)师生交往异化。教学过程中的师生交流与互动能帮助学生融入课堂,但是技术的介入可能会减弱人类的特性、情感、价值与多样性;技术因素可能排斥情感元素,导致师生之间的情感互动受到阻碍,进而影响教育场景中的人际关系与互动体验。

(3)教师被机器取代。ChatGPT在教育领域的使用可能会引发教师被机器取代的担忧。尽管ChatGPT具备知识基础、推理能力和表达能力,在处理数据方面也优于人类,但是它们缺乏自我意识和关怀精神,无法与学生进行情感交流。

虽然ChatGPT可以代替教师完成知识传授的工作,但它们无法取代教师在教育中的创造性和独特性。因此,尽管需要重视ChatGPT技术对教师职业可能带来的积极影响,但同时也应认识到人类教师在教育中不可替代的重要性与价值。

4 治理路径:健全框架、全方位应对,确保公平与伦理 4.1 建立标准规范,健全法律法规

世界各国已经出台了一系列法规以有效监管人工智能在教育领域的应用。欧盟委员会于2021年4月推出了《人工智能法案草案》(Artificial intelligence Act),这是全球首部针对人工智能技术的综合性法案草案,旨在确保人工智能技术的透明性、安全性和责任追责机制。2023年5月美国教育部发布的《人工智能与教育的未来》(Artificial Intelligence (AI) and the Future of Teaching and Learning)强调,应将人工智能与教育愿景相结合,积极应对其可能带来的新风险。然而,尽管各国已制定了基本的数据安全法规,人工智能伦理方面的相关法律法规仍然滞后[19]

① European Commission. Artificial Intelligence Act. (2021-04-21)[2024-11-05]. https://ec.europa.eu/commission/presscorner/detail/en/ip_21_1682.

② U. S. Department of Education. Artificial Intelligence and the Future of Teaching and Learning: Insights and Recommendations.[2023-11-05]. https://www.ed.gov/sites/ed/files/documents/ai-report/ai-report.pdf.

我国迫切需要进一步建立相关的标准规范,并健全法律法规体系,以应对ChatGPT可能引发的数据安全和伦理风险问题。①构建以数据为核心的标准体系,制定分类分级标准,确保数据管理与分类保护措施得以落实。设立教育数据安全级别划分机制,并通过网络监管和政府审查加强对人工智能教育系统的监管。②在政策层面应构建伦理标准体系,以确保ChatGPT在教育领域合理使用。加强对ChatGPT应用过程中的约束、审查与管理,确保基于ChatGPT的教育创新能够合法、合规进行。③在法律层面应完善数据保护法规,以强化数据权益和信息安全保障。进一步修订和完善《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律法规,加强对个人隐私和知识产权的保护[20]

4.2 起点环节:缩小数字鸿沟、均衡软硬件资源

(1)完善数字基础设施,培育师生信息素养。①需要解决技术鸿沟问题,特别是在贫困地区的信息化建设方面[21]这包括实现对贫困地区数字基础设施的全面覆盖,加强对落后贫困地区的信息与服务供给,以消除发展不平等问题;同时,政府应发挥补偿性分配功能,制定支持贫困地区获取优质教育资源的政策,增加贫困群体使用ChatGPT的机会,以满足不同地区和学校的需求。此外,需要降低ChatGPT使用的门槛,采用免费或低成本的访问方式,确保更多人可以利用其提供的教育资源。②需要解决素养鸿沟问题,培养师生在智能环境下的数字能力和信息素养[22]学校可以开设基础信息素养课程,涵盖如何检索、评估和使用信息资源,提升师生的信息能力;学校还可以定期举办专题工作坊,主题包括网络安全与数据隐私等领域,提升师生的数字素养;提供在线学习的平台与资源,支持师生自主学习信息素养;通过测试和评估工具,定期评估师生的信息素养水平;建立反馈机制,根据评估结果及时调整和改进信息素养培养计划。

(2)培育优质师资力量,打造智能多元课堂。①师资力量对于实现教育公平非常重要,应加大力度培养优质师资力量,设立专项资金帮助弱势地区和学校留住优秀教师,并利用在线教育平台促进优质师资服务弱势学校。学校应定期开展以人工智能为核心的技术教学应用培训,提供教师职前人工智能课程培训并加强在职期间的常态化培训。②学校还需提供充足的教学资源,使教师能够在课堂中融入人工智能应用,推动智能技术在创新课程中的实际运用,促进课程形态的创新变化,探索科技与教学的公平效能。学校还可以通过远程教育手段为学生提供优质教学资源和学习资源,推动人工智能在具体教学实践中的应用,增强其应用场景的多样性和包容性,确保全民享有人工智能应用的平等机会。

4.3 过程环节:加强技术研发、确保应用安全

(1)加快技术研发,推动科技与教育融合。政府应意识到新一代人工智能技术的重要性,重视其开发和应用,投入充足的人力和资金进行技术研发与成果转化[23]。加强有组织的科研工作,推动智能技术的自主发展,研发高质量的ChatGPT类产品,实现在核心技术、产品创新和知识产权等领域的新突破。在教育领域,需要深度融合教育与科技,营造创新氛围,推动科技创新人才的成长,促进教育的高质量发展。面对ChatGPT在全球范围内的普及,需要建设国际领先水平的算力基础设施,加速ChatGPT同源技术在教育场景中的应用开发,使人工智能技术能够更广泛地应用于教育领域,为广大师生提供更高效、更高质量的教育服务,促进教育公平。

(2)解决算法黑箱、算法歧视和隐私泄露问题。①针对算法黑箱问题,通过提升ChatGPT使用的透明性和可解释性解决算法黑箱问题。首先可以在ChatGPT的回答中设置置信指标,显示答案的置信水平,增加结果的可信度;其次,在回答中给出特定答案或建议的原因,向用户展示大模型的推理过程。②针对算法歧视问题,采用包含不同文化、背景和地理信息的多元化的数据集,以减少数据偏见;另外定期对大模型的数据进行审查,发现和纠正潜在的偏见,并对回答进行人工审核,以排除可能存在的歧视性内容[24]③针对用户隐私泄露问题,必须精选训练数据集以确保模型免受攻击,并通过匿名化处理涉及学生和用户个人信息的数据来保护隐私;同时最小化数据收集,只收集必要的数据,避免过度收集个人信息;定期进行安全审查、漏洞扫描与安全测试,确保系统不受潜在威胁的影响。这些措施将提升ChatGPT在教育领域应用的安全性,确保教育过程的公平性。

4.4 结果环节:重视伦理问题、完善问责机制

(1)重视数字伦理问题,提升人工智能伦理素养。面对数字伦理问题,世界各国都相应出台了一系列举措。针对ChatGPT面临的局限性和伦理问题,欧盟通过《数字教育行动计划(2021—2027)》(Digital Education Action Plan (2021-2027))将数字伦理教育纳入整体数字技能培养框架。我国也应当充分重视ChatGPT引发的数字伦理问题,以消除教育异化的风险。①应加强数字伦理教育,制定详细的数字伦理教育规范和实施方案,以提升师生的数字科技伦理意识和个人信息保护能力[12]②制定ChatGPT等内容生成类智能工具的应用指南,强化师生的伦理教育,确保他们理解伦理指南并在合乎伦理的框架内使用ChatGPT,提升教育从业者的人工智能伦理素养,营造ChatGPT教育应用的良性发展生态。这些措施将有助于确保ChatGPT技术在教育领域的安全、透明和合理使用,保护教育系统的良性运行。

③ European Commission. Digital Education Action Plan (2021–2027). (2020-09-30)[2024-11-05]. https://digital-skills-jobs.europa.eu/en/actions/european-initiatives/digital-education-action-plan-2021-2027.

(2)加强诚信教育,完善问责机制。ChatGPT给教育领域带来的最大难题是学生作弊与学术不端现象,因此需要重视学术素养与学术诚信。在各级教育体系中强化学术伦理养成教育,积极倡导学者及其他使用ChatGPT的人员尊重学术研究的诚信原则,遵循科学研究的规范,维护学术诚信与道德[25]。针对由ChatGPT引发的学生作弊和学术不端问题,相关机构要积极研发监测ChatGPT生成内容的软件,识别ChatGPT生成内容。在有效监测工具研发完成之前,需完善学术不端行为问责机制,加强学术审核。政府和学校应确立ChatGPT使用的基本原则,并制定相应的规范和伦理标准。学校应加强学生的诚信教育,引导教师和学生合理、合规地使用ChatGPT;制定明确的学生剽窃和作弊惩罚措施,帮助学生认识到学术诚信的重要性。同时,教师需要改进教学方法,定期审查学生的作业进度,及时发现和解决问题。这些措施将有助于应对ChatGPT带来的学术诚信挑战,确保教育过程的公正性。

4.5 提升教师数字素养,促进其专业持续发展

教育的重要目标是唤醒人的主体性,教师要回归育人本位,承担起育人使命,加强对学生价值观、情感和态度的塑造。在智能化环境中,学生容易受到技术的影响和误导。因此,教师需要注重教育和引导学生,帮助他们树立正确的价值观,培养其高阶思维、创新能力和终身学习能力,全面贯彻立德树人的根本任务。教师是智能技术的掌控者与引导者,强大的人工智能辅助工具对教师的能力和素质提出了更高的要求,未来教师需要培养人工智能无法替代的知识与能力,提升自身的专业能力和数字素养[26]

教师应正确认识并积极应用ChatGPT等人工智能技术,以优化教学质量,提升信息化能力,并消除焦虑和抵触心理。教师应树立正确的技术观,明确ChatGPT等技术在优化教学方面的应用领域,并接受其在知识传授上的优势;将人工智能技术作为教学的有力辅助,帮助自己摆脱机械重复的教学工作。教师还需提升数字化能力,将人工智能技术融入教育教学中,加强对教学实践的反思,不断改善自身的教学质量,将更多时间和精力投入打造优质课堂和关心学生上[27]。在ChatGPT使用过程中,教师应培养信息甄别能力,有效利用ChatGPT等工具提升信息化教学的创新水平和信息技术的应用层次。教师要正确看待ChatGPT等人工智能技术的冲击,正确认识其职业价值,消除焦虑情绪和抵触心理,理解ChatGPT不是取代他们,而是协助他们展开教育工作的有力工具。

参考文献
[1]
朱光辉, 王喜文. ChatGPT的运行模式、关键技术及未来图景. 新疆师范大学学报(哲学社会科学版), 2023, 44(4): 113-122.
Zhu G H, Wang X W. ChatGPT: Operation mode, key technology and future prospects. Journal of Xinjiang Normal University (Philosophy and Social Sciences), 2023, 44(4): 113-122. (in Chinese)
[2]
卢宇, 余京蕾, 陈鹏鹤, 等. 生成式人工智能的教育应用与展望——以ChatGPT系统为例. 中国远程教育, 2023, 43(4): 24-31.
Lu Y, Yu J L, Chen P H, et al. Educational application and prospect of generative artificial intelligence: Taking ChatGPT system as an example. Chinese Journal of Distance Education, 2023, 43(4): 24-31. (in Chinese)
[3]
郭元祥. 对教育公平问题的理论思考. 教育研究, 2000, 21(3): 21-24.
Guo Y X. Theoretical reflections on the issue of educational equity. Educational Research, 2000, 21(3): 21-24. (in Chinese)
[4]
冯雨奂. ChatGPT在教育领域的应用价值、潜在伦理风险与治理路径. 思想理论教育, 2023, (4): 26-32.
Feng Y H. The application value, potential ethical risks, and governance pathways of ChatGPT in the field of education. Ideological & Theoretical Education, 2023, (4): 26-32. (in Chinese)
[5]
胡小勇, 许婷, 曹宇星, 等. 信息化促进新时代基础教育公平理论研究: 内涵、路径与策略. 电化教育研究, 2020, 41(9): 34-40.
Hu X Y, Xu T, Cao Y X, et al. Study on informatization promoting equity in basic education in the new era: Connotation, path and strategy. e-Education Research, 2020, 41(9): 34-40. (in Chinese)
[6]
杨宗凯, 王俊, 吴砥, 等. ChatGPT/生成式人工智能对教育的影响探析及应对策略. 华东师范大学学报(教育科学版), 2023, 41(7): 26-35.
Yang Z K, Wang J, Wu D, et al. Exploring the impact of ChatGPT/AIGC on education and strategies for response. Journal of East China Normal University (Educational Sciences), 2023, 41(7): 26-35. (in Chinese)
[7]
吴砥, 李环, 陈旭. 人工智能通用大模型教育应用影响探析. 开放教育研究, 2023, 29(2): 19-25.
Wu D, Li H, Chen X. Analysis on the influence of artificial intelligence generic large model on education application. Open Education Research, 2023, 29(2): 19-25. (in Chinese)
[8]
Rudolph J, Tan S. ChatGPT: Bullshit spewer or the end of traditional assessments in higher education?. Journal of Applied Learning & Teaching, 2023, 6(1): 1-6.
[9]
李毅, 郑鹏宇, 张婷. ChatGPT赋能教育评价变革的现实前提、作用机理及实践路径. 现代远距离教育, 2024, (3): 9-17.
Li Y, Zheng P Y, Zhang T. The realistic premise, role mechanism and practical path of ChatGPT enabling educational evaluation changes. Modern Distance Education, 2024, (3): 9-17. (in Chinese)
[10]
洪永淼, 汪寿阳. 人工智能新近发展及其对经济学研究范式的影响. 中国科学院院刊, 2023, 38(3): 353-357.
Hong Y M, Wang S Y. Impacts of cutting-edge artificial intelligence on economic research paradigm. Bulletin of Chinese Academy of Sciences, 2023, 38(3): 353-357. DOI:10.16418/j.issn.1000-3045.20230303001 (in Chinese)
[11]
胡伟. 人工智能何以赋能教师发展——教师人工智能素养的构成要素及生成路径. 教师教育学报, 2024, 11(2): 39-47.
Hu W. How can artificial intelligence empower teacher development: Connotation and cultivation of teachers artificial intelligence literacy. Journal of Teacher Education, 2024, 11(2): 39-47. (in Chinese)
[12]
周洪宇, 李宇阳. ChatGPT对教育生态的冲击及应对策略. 新疆师范大学学报(哲学社会科学版), 2023, 44(4): 102-112.
Zhou H Y, Li Y Y. The impact of ChatGPT on education ecology and strategies to cope with it. Journal of Xinjiang Normal University (Philosophy and Social Sciences), 2023, 44(4): 102-112. (in Chinese)
[13]
Alawida M, Mejri S, Mehmood A, et al. A comprehensive study of ChatGPT: Advancements, limitations, and ethical considerations in natural language processing and cybersecurity. Information, 2023, 14(8): 462.
[14]
Alsumayt A, Alfawaer Z M, NEl-Haggar, et al. Boundaries and future trends of ChatGPT based on AI and security perspectives. HighTech and Innovation Journal, 2024, 5(1): 129-142.
[15]
Widayanti R, Mariyanti T. AI dialog: Utilization, challenges, and ethics in the age of artificial intelligence. International Transactions on Artificial Intelligence, 2023, 2(1): 40-48.
[16]
王树义, 张庆薇. ChatGPT给科研工作者带来的机遇与挑战. 图书馆论坛, 2023, 43(3): 109-118.
Wang S Y, Zhang Q W. ChatGPT's opportunities and challenges for researchers. Library Tribune, 2023, 43(3): 109-118. (in Chinese)
[17]
令小雄, 王鼎民, 袁健. ChatGPT爆火后关于科技伦理及学术伦理的冷思考. 新疆师范大学学报(哲学社会科学版), 2023, 44(4): 123-136.
Ling X X, Wang D M, Yuan J. Reflection on technology ethics and academic ethics in the context of ChatGPT craze. Journal of Xinjiang Normal University (Philosophy and Social Sciences), 2023, 44(4): 123-136. (in Chinese)
[18]
郝建江, 郭炯. 新兴技术赋能教师专业发展: 诉求、挑战与路径. 开放教育研究, 2023, 29(1): 46-52.
Hao J J, Guo J. Teacher professional development empowered by emerging technologies: Demands, challenges and path. Open Education Research, 2023, 29(1): 46-52. (in Chinese)
[19]
苗逢春. 教育人工智能伦理的解析与治理——《人工智能伦理问题建议书》的教育解读. 中国电化教育, 2022, (6): 22-36.
Miao F C. Ethics of AI in education: Analysis and governance-Educational overview of Recommendation on Ethics of AI. China Educational Technology, 2022, (6): 22-36. (in Chinese)
[20]
程乐. 生成式人工智能的法律规制——以ChatGPT为视角. 政法论丛, 2023, (4): 69-80.
Cheng L. Legal regulation of generative artificial intelligence: A ChatGPT perspective. Journal of Political Science and Law, 2023, (4): 69-80. (in Chinese)
[21]
任友群, 万昆, 冯仰存. 促进人工智能教育的可持续发展——联合国《教育中的人工智能: 可持续发展的挑战和机遇》解读与启示. 现代远程教育研究, 2019, 31(5): 3-10.
Ren Y Q, Wan K, Feng Y C. The sustainable development of artificial intelligence education-The interpretations and implications of Artificial Intelligence in education: Challenges and opportunities for sustainable development. Modern Distance Education Research, 2019, 31(5): 3-10. (in Chinese)
[22]
冯仰存, 任友群. 教育信息化2.0时代的教育扶智: 消除三层鸿沟, 阻断贫困传递——《教育信息化2.0行动计划》解读之三. 远程教育杂志, 2018, 36(4): 20-26.
Feng Y C, Ren Y Q. Education fostering wisdom in education informatization 2.0 era: Simultaneous elimination of the three-layer gap and the intergenerational transmission of poverty: The interpretation of Education Informatization 2.0 Action Plan (3). Journal of Distance Education, 2018, 36(4): 20-26. (in Chinese)
[23]
孙蒙鸽, 韩涛, 王燕鹏, 等. GPT技术变革对基础科学研究的影响分析. 中国科学院院刊, 2023, 38(8): 1212-1224.
Sun M G, Han T, Wang Y P, et al. Impact analysis of GPT technology revolution on fundamental scientific research. Bulletin of Chinese Academy of Sciences, 2023, 38(8): 1212-1224. DOI:10.16418/j.issn.1000-3045.20230512003 (in Chinese)
[24]
刘培, 池忠军. 算法的伦理问题及其解决进路. 东北大学学报(社会科学版), 2019, 21(2): 118-125.
Liu P, Chi Z J. Ethical issues of algorithms and their solutions. Journal of Northeastern University (Social Science), 2019, 21(2): 118-125. (in Chinese)
[25]
黄荣怀. 论科技与教育的系统性融合. 中国远程教育, 2022, (7): 4-12.
Huang R H. Towards systematic integration of technology and education. Distance Education in China, 2022, (7): 4-12. (in Chinese)
[26]
李兆义, 杨晓 宏". 互联网+"时代教师专业素养结构与培养路径. 电化教育研究, 2019, 40(7): 110-120.
Li Z Y, Yang X H. The structure and training path of teachers' professionalism in "Internet + " era. e-Education Research, 2019, 40(7): 110-120. (in Chinese)
[27]
吴军其, 吴飞燕, 文思娇, 等. ChatGPT赋能教师专业发展: 机遇、挑战和路径. 中国电化教育, 2023, (5): 15-23.
Wu J Q, Wu F Y, Wen S J, et al. Teacher professional development empowered by ChatGPT: Opportunities, challenges and path. China Educational Technology, 2023, (5): 15-23. (in Chinese)