人工智能时代的教育：学生面临的挑战与应对
对于德克萨斯州Heights高中的高年级学生Christianna Thomas来说，一项人工智能政策曾经阻碍了她学习的尝试。
Thomas参加了她学校的国际文凭课程，该课程使用人工智能检测器来检查剽窃。“我们使用人工智能来检查其他类型的人工智能，”Thomas说。
但在学校里，人工智能也会筛选信息。
当Thomas试图为一个历史项目研究冷战时期共产主义古巴的教育系统时，她注意到她无法访问这些材料。她的学校的网络过滤器一直阻止她，无论是在她的学校电脑上，还是在她校园里使用她的个人笔记本电脑时。
学校经常使用人工智能进行网络过滤，以防止学生访问不安全的内容，但一些学生担心这也会阻止他们发现有用的信息。学生们说，这项技术似乎也会扼杀重要的工具：The Trevor Project，这是一个为有自杀倾向的青少年提供热线的组织，可能会因为其具有将学生连接到认证顾问的聊天功能而被聊天机器人禁令拦截；JSTOR，一个包含数百万学术文章的数据库，可能会因为包含一些性敏感文章而被禁止；而The Internet Archive，学生们经常用它来免费获取信息，也会被禁止。
对于Thomas来说，这种人工智能的部署意味着她无法研究她觉得有吸引力的话题。她说，她不得不改变作业的重点。
教育工作者对人工智能的担忧已经得到了广泛关注。人们对许多学生对人工智能正在塑造他们的学习方式的担忧了解得不够。
在向学校提供关于该主题的指导时，到目前为止，州政策忽略了这项技术引发的最明显的公民权利担忧，一些人认为：对学生的警察监视。在一个学生们害怕联邦政府对移民采取强硬措施、针对学生政治观点、并允许禁书的时代，一些人担心使用人工智能工具增强监视的作用，这可能会增加学生与警察和其他执法部门的互动频率。
这让学生们感到担忧——以及他们对作弊和深度伪造的担忧——但他们并没有完全否定这项技术，几位青少年告诉EdSurge。然而，在一场经常在他们周围而不是与他们一起展开的辩论中，学生们认为他们的声音应该被放大。
永不眨眼的眼睛
学校有时依靠人工智能来扫描学生的在线活动并评估风险，当需要教育工作者或其他成年人介入时发出警报。一些研究表明，这种监视是“强硬的”，几乎所有教育科技公司都报告称，他们在校内和校外监视学生。
也很难解析所有收集到的信息是如何被使用的。例如，哥伦比亚大学的骑士第一修正案研究所今年早些时候对德克萨斯州的Grapevine-Colleyville独立学区提起诉讼。这起诉讼是在该学区拒绝披露骑士研究所提出的关于该学区如何使用其从监视学校发放设备上的学生收集的信息的公共信息请求后提起的。
但学生们已经被逮捕，其中包括一名田纳西州的13岁女孩，她在被捕后被搜身，她声称逮捕是因为扫描误解了她与学校电子邮件帐户关联的私人聊天中的一个玩笑。根据法律文件，学校使用监控服务Gaggle来扫描学生的消息和内容，以检测威胁。报告分析声称这些系统容易出现误报，标记许多无害的评论和图像，堪萨斯州的学生记者提起诉讼，声称他们的使用侵犯了宪法权利。
学生们已经开始反击这一切。例如，Thomas与Students Engaged in Advancing Texas（一个非营利组织）合作，该组织旨在通过培训学生如何在学校发言和围绕他们关心的话题（如禁书和学校如何与移民执法部门互动）进行动员，从而让学生参与到政策制定中，Thomas说。
她帮助其他学生围绕网络过滤等问题进行组织。她说，这种做法有时令人不安，因为不清楚是否有人类在审查这些过程。当Thomas向她学校附近的一个有更严格规则的学区索取被禁止网站的名单时，IT工作人员告诉她这是“物理上不可能的”。她说，在某些方面，这是有道理的，因为这份名单会“超级长”。但这也让她无法核实是否有真正的人类在监督这些决定。
还有一个游说组成部分。
Students Engaged in Advancing Texas游说德克萨斯州众议院1773号法案，该法案将在该州的学校董事会中设立无投票权的学生的受托人职位。该组织在挑战德克萨斯州试图保护学生免受“淫秽内容”的规则方面取得了一些成功，这些规则包含在一项该组织声称限制了他们的言论自由的法案中，该法案限制了他们对社交媒体平台的访问。如今，该组织还在该州推进“学生权利法案”，寻求言论自由的保障、对健康和福祉的支持以及学生在教育决策中的自主权。
Thomas说，她没有亲自游说学校董事会法案，但她协助了诉讼和学生权利法案。
其他组织也一直在寻找学生来引领变革。
假图像，真创伤
在去年高中毕业之前，Deeksha Vaidyanathan是Encode加州分会的负责人，这是一个由学生主导的倡导组织。
在她大二的早期，Vaidyanathan在加州演讲和辩论锦标赛上辩论禁止生物识别技术。在她对警方使用该技术的研究中，Encode组织的一些工作集中在人工智能伦理上。“所以这激发了我的兴趣，”她说。
她已经由一位朋友介绍了Encode，但在比赛结束后，她加入了Encode，并在她高中生涯的剩余时间里与该组织合作。
Encode由Sneha Revanur于2020年创立——曾被称为“人工智能界的格里塔·桑伯格”——Encode支持全国乃至全球范围内关于人工智能的基层青年行动主义。在她领导该组织加州分会的工作中，以及在受她与Encode合作的启发而产生的独立项目中，Vaidyanathan一直致力于研究项目，试图辨别警方如何使用预测系统（如面部识别）来追踪罪犯。她还努力在她当地的学区通过关于在课堂上道德地使用人工智能和限制深度伪造造成的危害的政策。
对她来说，这项工作也与她的家乡息息相关。
Vaidyanathan注意到，她就读的学校，加州东湾的都柏林高中，对人工智能的使用有不同的政策。一些老师允许学生使用它，而另一些老师则禁止使用它，依靠Bark、Gaggle和GoGuardian等监视工具来抓住和惩罚作弊的学生。Vaidyanathan认为，一个更好的方法是始终如一地规范这项技术的使用方式，以确保它在作业中以合乎道德的方式进行。她与该学区的首席技术官合作，他们共同调查了学生和老师，并用了六个月的时间制定了一项政策。它最终通过了。据Vaidyanathan称，在100英里半径范围内没有其他学校通过过这样的政策。但它为这些法规提供了一个框架，激发了在印第安纳州、费城和德克萨斯州尝试制定类似政策的尝试，她补充道。
所以，现在即将进入加州大学伯克利分校的一名大学生Vaidyanathan渴望继续与该组织合作。
“课堂上人工智能控制的大部分领域可能都被忽视了，”Vaidyanathan说。
但其中最大的是深度伪造。全国各地的学校里的年轻女孩正成为使用人工智能创建的虚假、性露骨的她们自己的肖像的目标。所谓的“裸化”应用程序可以拍摄一张照片并生成一个令人信服的假照片，从而导致创伤。
根据对学生的调查，这是一种常见的做法。
此外，在今年早些时候发布的一份对各州向学校提供的指导的审查中，民主与技术中心将其确定为一个明显的薄弱环节，这意味着学校没有从各州获得关于如何处理这些棘手问题的重大建议。
此外，即使是Vaidyanathan认为有效的指导方针——例如加州或俄勒冈州的——也不是官方政策，因此不必在课堂上颁布，她说。当Encode试图与学校合作时，他们似乎经常被信息淹没，并且不确定该做什么。但在该组织收集并与EdSurge分享的学生证词中，学生们正在努力解决这个问题。
人工智能应该赋能于人，而不是控制他们，即将升入高中的Suchir Paruchuri说，他是Encode德克萨斯州分会的负责人。
他说，限制谁有权访问学生数据，并将受影响者的声音纳入决策过程非常重要。他说，目前，他的Encode分会正在进行当地的立法倡导，特别是在未经同意的性深度伪造政策方面。该组织已试图推动德克萨斯州立法机构考虑学生的观点，他补充道。
目标是“人工智能安全”，Paruchuri说。对他来说，这意味着确保人工智能的使用方式能够保护人们的权利，尊重他们的尊严，并避免意外伤害，特别是对弱势群体造成伤害。