Promoting the Ethical Development of Artificial Intelligence: A Shared Responsibility of Education and AI

Wu Yonghe; Wu Huina; Chen Yuanyuan; Zhou Shuyun; Zhou Zihao; Xiao Yumin; Ni Qin

2024, 01, No.444 51-58

推动人工智能向善发展：教育与人工智能共同的责任

吴永和吴慧娜陈圆圆周澍云周子皓肖玉敏倪琴

1.华东师范大学教育信息技术学系 2.华东师范大学教育学部 3.上海师范大学人工智能教育研究院

基金项目(Foundation): 2021年度国家社会科学基金重大项目“面向未成年人的人工智能技术规范研究”(项目编号：21&ZD328)研究成果

邮箱(Email):

DOI:

发布时间： 2024-01-10

出版时间： 2024-01-10

移动端阅读

3,354	32	1289
下载次数	被引频次	阅读次数

引用本文下载本文

PDF

引用导出

GB/T 7714-2015 MLA APA Refworks EndNote NoteExpress NoteFirst

摘要全文参考文献出版信息相关文章

摘要：

人工智能的迅速发展正深刻改变人类的生产方式、生活方式和学习方式，对教育产生深度影响，而现阶段生成式人工智能工具在教育领域广泛应用，给教育带来新的道德伦理问题。该文首先从人工智能快速发展引发更加复杂的道德伦理问题和人工智能道德伦理是人类道德伦理价值体系新组成两方面给出人工智能延展人类道德伦理范围。再从人工智能教育应用伦理风险、教育人工智能伦理治理现状、教育人工智能伦理需解决问题等三个层面阐述了教育人工智能应用伦理风险与治理。再次从核心素养培养、规范应用监管、道德伦理框架、技术规范研制等四个维度给出人工智能向善发展的建设路线。最后，给出五条发展建议：加强顶层设计，系统规划总体框架；重视育人为本，创新发展人工智能课程；遵循治理原则，促进技术向善赋能；明确价值准则，助力人机相融共进；加快标准制定，规范教育人工智能实践。以期推动人工智能向善发展，赋能、赋智教育，促进教育数字化转型，构筑智能时代的人类命运共同体。

关键词： 人工智能伦理; 育人为本; 核心素养; 应用监管; 伦理框架;

Abstract：

The rapid development of artificial intelligence is profoundly changing the ways in which humans produce, live, and learn. It has a deep impact on education, and at the current stage, generative artificial intelligence tools are widely applied in the field of education, bringing new ethical and moral challenges.This article first discusses how the rapid development of artificial intelligence leads to more complex ethical and moral issues and expands the scope of human moral ethics through artificial intelligence ethics. It then elaborates on the ethical risks of artificial intelligence in education, the current state of ethical governance in educational artificial intelligence, and the issues that need to be addressed in the ethical application of educational artificial intelligence. Furthermore, it presents a roadmap for the development of artificial intelligence towards benevolence, focusing on four dimensions: fostering core competencies, regulating ethical application, developing moral and ethical frameworks, and creating technical standards. Finally, it provides five development recommendations: strengthening top-level design and systematic planning of the overall framework, prioritizing student development, and innovating in the development of artificial intelligence curricula. It also emphasizes the importance of adhering to governance principles, clarifying value guidelines, and accelerating the formulation of standards to regulate the practice of educational artificial intelligence. The goal is to promote the benevolent development of artificial intelligence, empower and educate,advance the digitization of education, and build a global community for human destiny in the age of intelligence.

KeyWords： Artificial Intelligence ethics; student-centric education; core competence; application regulation; ethical framework;

如需获取全文，请访问cnki.net

参考文献

[1]Vinuesa R,Azizpour H,et al.The role of artificial intelligence in achieving the Sustainable Development Goals[J].Nature communications,2020,11(1):233.

[2][28]联合国教科文组织.人工智能伦理问题建议书[R].巴黎:联合国教科文组织,2021.

[3][27]中华人民共和国科学技术部.《新一代人工智能伦理规范》发布[EB/OL].https://www.safea.gov.cn/kjbgz/202109/t20210926_177063.html,2021-09-26.

[4][6][7]长铗,梁正等.黑镜与秩序:数智化风险社会下的人工智能伦理与治理[M].北京:清华大学出版社,2022.

[5][美]梅拉妮·米歇尔.王飞跃,李玉珂等译.AI 3.0[M].成都:四川科学技术出版社,2021.

[8]尼克.人工智能简史(第2版)[M].北京:人民邮电出版社,2021.

[9]廉天娇.先秦儒家“乐”思想的伦理审视--以《礼记·乐记》为视角[J].唐都学刊,2019,35(4):85-90.

[10]郭胜男,钱雨等.面向未成年人的AI安全风险:风险澄思、根源透析与治理进路[J].中国远程教育,2023,43(7):39-46.

[11]王佑镁,王旦等.ChatGPT教育应用的伦理风险与规避进路[J].开放教育研究,2023,29(2):26-35.

[12]姜华,王春秀等.生成式AI在教育领域的应用潜能、风险挑战及应对策略[J].现代教育管理,2023,(7):66-74.

[13]高琳琦.生成式人工智能在个性化学习中的应用模式[J].天津师范大学学报(基础教育版),2023,24(4):36-40.

[14]沈苑,汪琼.人工智能在教育中应用的伦理考量--从教育视角解读欧盟《可信赖的人工智能伦理准则》[J].北京大学教育评论,2019,17(4):18-34+184.

[15]王正青,阿衣布恩·别尔力克.ChatGPT升级:GPT-4应用于未来大学教学的可能价值与陷阱[J].现代远距离教育,2023,(3):3-11.

[16]冯建军.我们如何看待ChatGPT对教育的挑战[J].中国电化教育,2023,(7):1-6+13.

[17]曹辉,赵梓含.ChatGPT的特质研判、教育审思与风险应对--基于“知识-主体-立场”的视角[J].现代教育管理,2023,(7):75-84.

[18]张誉元,张海.数据生命周期视阈下教育数据伦理问题及规约之径[J].中国电化教育,2022,(10):118-125.

[19]罗生全,谭爱丽等.人工智能教育应用中的伦理风险及其规避[J].中国教育科学(中英文),2023,6(2):79-88.

[20]孙立会.人工智能之于教育决策的主体性信任危机及其规避[J].电化教育研究,2023,44(3):21-27+43.

[21]朱永新,杨帆.ChatGPT/生成式人工智能与教育创新:机遇、挑战以及未来[J].华东师范大学学报(教育科学版),2023,41(7):1-14.

[22]冯锐,孙佳晶等.人工智能在教育应用中的伦理风险与理性抉择[J].远程教育杂志,2020,38(3):47-54.

[23][41][55]苗逢春.教育人工智能伦理的解析与治理--《人工智能伦理问题建议书》的教育解读[J].中国电化教育,2022,(6):22-36.

[24]国务院.国务院关于印发新一代人工智能发展规划的通知[EB/OL].https://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm,2017-07-26.

[25]中华人民共和国科学技术部.发展负责任的人工智能:新一代人工智能治理原则发布[EB/OL].https://www.safea.gov.cn/kjbgz/201906/t20190617_147107.html,2019-06-17.

[26]European Parliament.Artificial Intelligence Act[EB/OL].https://www.europarl.europa.eu/thinktank/en/document/EPRS_BRI(2021)698792,2022-01-14.

[29]中共中央办公厅国务院办公厅.《关于加强科技伦理治理的意见》[EB/OL].https://www.gov.cn/zhengce/2022-03/20/content_5680105.htm,2022-03-20.

[30]Daniel Zhang,Nestor Maslej,et al.The AI Index 2022 Annual Report[R].San Francisco:Stanford University,2022.

[31]Center For Data Innovation.U.S.AI Policy Report Card[EB/OL].https://datainnovation.org/2022/07/ai-policy-report-card/,2022-07-27.

[32]Centre for European Policy Studies.The AI Act and emerging EU digital acquis[EB/OL].https://www.ceps.eu/ceps-publications/the-ai-act-andemerging-eu-digital-acquis/,2022-09-14.

[33]中华人民共和国外交部.中国关于加强人工智能伦理治理的立场文件[EB/OL].https://www.mfa.gov.cn/ziliao_674904/tytj_674911/zcwj_674915/202211/t20221117_10976728.shtml,2022-11-17.

[34][39]国家互联网信息办公室,中华人民共和国国家发展和改革委员会等.生成式人工智能服务管理暂行办法[EB/OL].https://www.gov.cn/zhengce/zhengceku/202307/content_6891752.htm,2023-07-10.

[35]United Nations Educational,Scientific and Cultural Organization.Beijing Consensus on Artificial Intelligence and Education[R].Prais:UNESCO,2019.

[36]United Nations Educational,Scientific and Cultural Organization.AI and education:guidance for policy-makers[R].Prais:UNESCO,2021.

[37]联合国教科文组织.中小学阶段的人工智能课程:对政府认可人工智能课程的调研[R].巴黎:联合国教科文组织,2022.

[38]United Nation Education,Scientific and Cultural Organization.Guidance for generative AI in education and research[EB/OL].https://www.unesco.org/en/articles/guidance-generative-ai-education-andresearch,2023-04-20.

[40][48][54]U.S.Department of Education,Office of Educational Technology.Artificial Intelligence and Future of Teaching and Learning:Insights and Recommendations[EB/OL].https://tech.ed.gov/files/2023/05/ai-future-ofteaching-and-learning-report.pdf,2023-06-13.

[42]刘进,钟小琴等.教育人工智能:前沿进展与机遇挑战[J].高等工程教育研究,2020,(2):113-123.

[43]王佑镁,宛平等.科技向善:国际“人工智能+教育”发展新路向--解读《教育中的人工智能:可持续发展的机遇和挑战》[J].开放教育研究,2019,(5):23-32.

[44]Holmes W,Porayska-Pomsta K,et al.Ethics of AI in education:Towards a community-wide framework[J].International Journal of Artificial Intelligence in Education,2021,(32):504-526.

[45]Reiss M J.The Use of Al in Education:Practicalities and Ethical Considerations[J].London Review of Education,2021,19(1):1-14.

[46][57]孙伟平.人工智能与人的“新异化”[J].中国社会科学,2020,(12):119-137+202-203.

[47]王佑镁,王旦等.“阿拉丁神灯”还是“潘多拉魔盒”:ChatGPT教育应用的潜能与风险[J].现代远程教育研究,2023,35(2):48-56.

[49]全国信息安全标准化技术委员会.关于发布《网络安全标准实践指南-人工智能伦理安全风险防范指引》的通知[EB/OL].https://www.tc260.org.cn/front/postDetail.html?id=20210105115207,2021-01-05.

[50][59]杜静,黄荣怀等.智能教育时代下人工智能伦理的内涵与建构原则[J].电化教育研究,2019,40(7):21-29.

[51]王佑镁,王旦等.敏捷治理:教育人工智能伦理治理新模式[J].电化教育研究,2023,44(7):21-28.

[52][62]吴永和,郭胜男等.面向未成年人的人工智能技术规范研究:学理阐析与探研进路--面向未成年人的人工智能技术规范研究(一)[J].电化教育研究,2023,44(5):5-12.

[53]宫楠.积极预防人工智能负面效应[N].中国社会科学报,2020-04-07(06).

[56]朱莎,李环等.面向未成年人的人工智能核心素养构建--面向未成年人的人工智能技术规范研究(二)[J].电化教育研究,2023,44(6):15-21+53.

[58]张志新,杜慧等.发达地区中小学人工智能课程建设现状、问题与对策--以某“新一线”城市为例探讨[J].中国电化教育,2020,(9):40-49.

[60]倪琴,贺樑等.人工智能向善:面向未成年人的人工智能应用监管探研--面向未成年人的人工智能技术规范研究(三)[J].电化教育研究,2023,(8):33-41.

[61]顾小清,白雪梅.教育信息化推进新路径:构建以设计为中心的研究-实践共同体[J].开放教育研究,2019,25(6):66-74.

基本信息:

中图分类号:G434

引用信息:

[1]吴永和,吴慧娜,陈圆圆,等.推动人工智能向善发展：教育与人工智能共同的责任[J].中国电化教育,2024,No.444(01):51-58.

基金信息:

2021年度国家社会科学基金重大项目“面向未成年人的人工智能技术规范研究”(项目编号：21&ZD328)研究成果

发布时间：

2024-01-10

出版时间：

2024-01-10

请选择需要下载的pdf数据

中国电化教育

使用微信“扫一扫”功能。
将此内容分享给您的微信好友或者朋友圈

请选择需要下载的pdf数据

中国电化教育

使用微信“扫一扫”功能。将此内容分享给您的微信好友或者朋友圈

使用微信“扫一扫”功能。
将此内容分享给您的微信好友或者朋友圈