人工智能在教育中的应用与挑战：伦理考量与未来展望

在当今时代，我们生活的几乎每个方面都受到人工智能的影响。从您观看 YouTube 时接下来播放哪个视频，到您的工作申请是否被接受或您的保险索赔是否获得批准，人工智能无处不在。

无论我们喜欢与否，我们的命运常常由算法决定，这些算法将我们视为数据点云，而不是人类。因此，当我们将这项技术应用于教育这一对我们社会至关重要的领域时，我们必须确保我们的方法负责任且公平——将受我们工具影响的人们当作人来对待。

人工智能遇见教育

无论我们喜欢与否，我们的命运常常由算法决定，这些算法将我们视为数据点云，而不是人类。

人工智能的主要应用之一是大大提高组织执行需要某种形式推理的任务的能力。在教育领域，这种能力的提高已经以多种形式显现出来。最基本的是，选择题测验和考试的评分现在基本上是即时的。但是机器学习可以用这些数据做更多的事情。例如，它可以显示学生在哪里蓬勃发展，在哪里需要更多的学术支持，甚至可以动态地个性化教学内容，以帮助孩子有效地学习。

然而，今天的学生与数据的互动方式与我们可能习惯的方式大相径庭。只知道存在基于人工智能的系统的世界的孩子们，在向自己的父母和老师寻求答案之前，常常会转向搜索引擎。这种趋势对任何人来说都不应该是什么新闻；事实上，早在十多年前就已证明了这一点。随着一对一设备项目越来越受欢迎（2017 年超过 50%，在大流行期间攀升至 80% 和 90% 范围），可以肯定的是，越来越多的学生将在向他们的老师提问之前向谷歌提问。

不难理解孩子这样做的理由。有了互联网上提供的各种知识来源，为什么要问一个老师呢？此外，使用搜索引擎可以避免在更严重的问题背后出现尴尬或困难的对话。而这个简单的事实突出了将人工智能应用于教育的益处和障碍。

提出难题

学生们正在努力应对他们自己无法面对的心理健康挑战，他们经常在网上搜索资源来帮助自己。当学校可以访问这些信息时，他们可以进行干预、提供帮助，并有可能挽救生命。

下一代悲伤检测系统，例如 Securly Auditor 和 Securly 的高危启发式系统，使用自然语言处理和人工智能工具来推断学生消息背后的情感，并将此信息与该学生过去的资料进行交叉参考，以解释他们的心理状态。这有助于防止误报，并可以更清楚地了解学生最关心的话题——或者他们是否需要立即关注。如果系统确定学生处于危险之中，这会引起 Securly 的 24 团队中训练有素的人类分析师的注意，他们会联系学校指定的紧急联系人。

阅读 Securly 的白皮书：确保数字时代学生安全的新技术

自然语言处理还可以应用于学生心理健康和社会情感学习的其他方面。学生相互之间发表的评论形式的 cyberbullying 可以在消息发送之前进行分析，允许人工智能驱动的系统检测欺凌或仇恨攻击，然后帮助学生了解他们如何管理自己的情绪，而不会伤害自己或他人。

当然，在教育领域使用此类敏感数据的公司和其他参与者必须确保在努力防止悲剧和帮助需要支持的学生的同时，最大限度地维护学生的隐私。

过度依赖人工智能的弊端

此外，我们需要意识到这种方法固有的问题，例如人工智能偏见。这已经是自动化系统的一个问题，可以追溯到现代计算机的早期。最近，人们担心某些学习管理系统中的人工智能可能会将学生错误地识别为表现不佳，这可能导致在学术环境中受到不公平的待遇。

人工智能可以成为帮助学生成长和茁壮成长的绝佳工具，但它需要人性的触动才能真正发挥作用。

人工智能偏见可以以多种不同的方式表现出来。在设计任何人工智能工具时，对系统进行偏见审计至关重要。同样重要的是要理解，尽管采取了预防措施，偏见仍可能意外出现。

随着人工智能系统进入新的领域，就什么是合乎道德的可接受的达成共识变得越来越困难。很明显，让孩子的情感社会发展受到人工智能工具的辅助或监控，不是一个可以轻易做出的决定。然而，必须制定解决方案，以帮助需要支持的学生。

在这种情况下使用的人工智能系统应该主要以咨询能力服务。虽然人工智能可以识别学生何时需要心理健康支持，但学区和学校工作人员应该提供所需的支持。人工智能可以成为帮助学生成长和茁壮成长的绝佳工具，但它需要人性的触动才能真正发挥作用。