人工智能与教育：伦理考量与实践

我们生活在一个被我们自己创造的产物从根本上改变的世界中。曾经只存在于科幻小说中的人工智能，现在为我们每天与之交互的许多技术提供动力——从智能家居设备到认知助手再到媒体推荐器。虽然设计上很微妙，但人工智能的影响是深远的。

很可能在不久的将来，没有哪个领域或行业不会受到人工智能的影响。

教育领域同样受到这些技术的影响。人工智能出现在教学聊天机器人、个性化学习系统和管理工具中。按照这个轨迹发展，很可能在不久的将来，没有哪个领域或行业不会受到人工智能的影响。而随着这种变化，也带来了一系列新的问题——对这些新工具的伦理设计和实施的担忧。

在K-12教育中，关注伦理考量至关重要。许多教师和教育领导者在对计算机科学或人工智能知之甚少的情况下，选择和使用人工智能驱动的工具。像Turnitin这样的检查剽窃的工具，像Khan Academy或iReady这样的智能辅导软件，可以自动化或个性化教学，以及像Alexa这样的聊天机器人，可以回答学生的问题，这些都容易受到开发中的算法偏差和实施中的不公平结果的影响。此外，由于有效的AI解决方案需要大量信息，维护学生数据隐私是一个持续的挑战。

此外，教育工作者并不是唯一使用人工智能技术的人。作为人工智能工具的消费者和用户，学生本身需要接受关于什么是人工智能以及它如何运作的基础教育。教育工作者围绕人工智能教育的伦理问题必须从确保所有学生公平地获得这种学习机会开始——跨学科、年级和人口背景。然后，这种教育必须超越对技术如何运作的简单解释，包括相应的伦理问题和社会影响。

这一需求在ISTE学生标准中的数字公民标准中得到了强调，该标准要求“学生在使用技术时表现出积极、安全、合法和合乎道德的行为”。鉴于研究和新闻报道概述了人工智能技术的负面影响，学生需要接受这种教育，以便在使用——并可能在开发——人工智能驱动的技术（如面部识别、社交媒体平台和认知助手）方面做出积极和道德的决定。作为我们共同未来的创造者，今天的学生必须考虑现实世界中伦理困境的例子，并设想通往更好结果的途径。

人工智能探索及其在学校环境中的实际应用——由通用汽车资助的ISTE倡议——旨在支持教育工作者和学生这样做。

作为我们共同未来的创造者，今天的学生必须考虑现实世界中伦理困境的例子，并设想通往更好结果的途径。

通过为教育工作者提供专业的学习机会，该计划旨在解决STEM领域中传统上代表性不足的人群的不平等问题，并为今天的学生做好迎接未来人工智能职业的准备。到目前为止，已有超过一千名教育工作者和教育领导者参加了该计划的在线课程、网络研讨会和专业学习网络。

2020年，人工智能探索项目发布了一套四卷系列的指南，供小学、中学、选修课和计算机科学教师使用——《课堂上的实践人工智能项目》。这些指南以英语、西班牙语和阿拉伯语免费提供，提供了背景资源、脚手架互动活动和相关的扩展，教师可以在不同年级和内容领域中使用，以教授人工智能技术的发展、应用和影响。

今年，ISTE在该系列中增加了一个新的卷册——《课堂上的实践人工智能项目：伦理与人工智能指南》。虽然最初的指南在每个项目中都涉及了偏见和社会影响的某些方面，但此次新增内容通过适合K-12发展的伦理视角，对人工智能进行了战略性考察。过去，教师经常通过基于品格的公民教育来解决课堂上的伦理问题，但当今技术的性质促使我们考虑的不仅仅是我们的决策过程。事实上，由于人工智能驱动的工具经常通过推荐和推动我们的个人决策，而我们甚至没有意识到，我们自己的行为依赖于人工智能工具的伦理设计和开发。

伦理与人工智能指南支持教师让小学生参与公平、自主以及良好和不良技术使用的性质的讨论。同样，该指南支持中学教师更深入地探索伦理视角、灰色地带、不同的利益相关者、责任感，甚至围绕人工智能的政策制定。该指南没有提供伦理答案，也没有要求教师灌输他们自己的伦理框架或价值观。相反，四个包含的项目教导学生思考伦理问题并权衡各种结果——他们可以在一生中使用的技能。

Mark Gerl是加洛韦学校的技术教师，也是人工智能探索项目的参与者，他对使用和教授人工智能的伦理影响进行了很多思考。在与指南作者合作开发两个项目时，Gerl观察到：“我越是思考这个问题，所有的技术都一直是一系列权衡。剑比尖锐的棍子更好，但你必须更强壮才能举起它，而且它需要锻造、磨砺、清洁等等。我们常常只看到好处，却很少停下来思考我们在做出这些选择时正在放弃或忽略什么，尤其是在技术领域。” 他认为对伦理问题和对社会影响的考察是任何技术教学中至关重要的一部分。

我们都有共同的责任，确保人工智能以合乎道德和公平的方式被使用和教授，无论是在教育领域还是其他领域。

该指南有意为教育工作者提供支持性资源，并提供各种活动和讨论问题，以促进更深入的探究和理解。例如，技术权衡的概念贯穿于伦理与人工智能项目中，鼓励学生考虑可能以效率、个性化或便利性为名义牺牲的隐私、自由或公民权利。事实上，学生们通过虚拟模拟、视频、实验和其他引人入胜的活动，考察了相关的现实世界例子，例如推荐系统对强化刻板印象的影响或人工智能自动化对工作的影响。

当然，仅通过使用本指南或教授关于人工智能和伦理问题的任何单独项目或单元，教师和学生不应期望成为伦理学家。尽管如此，人工智能探索团队认为，教师和学生讨论这些问题的次数越多，我们所有人就会越擅长。我们都有共同的责任，确保人工智能以合乎道德和公平的方式被使用和教授，无论是在教育领域还是其他领域。本指南是帮助我们实现这一目标的另一个工具。

立即下载免费的《课堂上的实践人工智能项目：伦理与人工智能指南》，提供英语、西班牙语或阿拉伯语版本。