人工智能时代：联邦政府的隐私保护蓝图与教育

随着对人工智能的担忧日益增长，联邦政府发布了其蓝图，阐述了如何在数字时代保护隐私不被扼杀。

上周发布的拜登政府的“人工智能权利法案蓝图”是一套不具约束力的原则，旨在保护隐私，其中包括一项关于数据隐私的规定，并指出教育是其中一个关键领域。

该蓝图立即被认为在纠正大型科技公司和私营部门的行为方面大致“无牙”，科技作家哈里·约翰逊认为，该蓝图的约束力不如类似的欧洲立法，同时注意到该蓝图没有提及禁止某些人工智能的可能性。相反，约翰逊指出，该蓝图最有可能纠正联邦政府与机器学习的关系。

对于隐私专家来说，这是一个进步，至少突显了对这些问题进行更多公众讨论的必要性。

缓慢的进步仍然是进步

“人工智能权利法案”对教育意味着什么？

电子前沿基金会（一家著名的数字隐私非营利组织）的数字战略副主任杰森·凯利表示，该蓝图将如何被教育部使用尚不清楚。

教育是该法案中特别提到的领域之一，但观察人士指出，教育部的时间表相对缓慢。例如：关于使用人工智能进行教学的指导意见定于2023年发布，晚于其他政府机构的截止日期。

而且，无论出现什么指导方针，都不会是教育系统的万能药。但凯利在给EdSurge的电子邮件中写道，政府认识到学生的权利正在受到机器学习工具的侵犯是“向前迈出的巨大一步”。

该蓝图的发布正值隐私似乎在学校中难以捉摸的时刻，包括K-12和大学。长期以来，人们一直在呼吁在这方面进行联邦干预。

特别令人担忧的是人工智能监控系统的使用。例如：最近的一项“技术民主中心”研究发现，学校更经常使用监控系统来惩罚学生，而不是保护他们。该研究指出，这项技术虽然旨在预防校园枪击事件或提醒当局注意自残风险，但可能会对弱势学生（如 LGBTQ+ 学生）造成最大伤害。

凯利说，该蓝图向学校和教育科技开发者发出信号，即人类应该审查人工智能工具做出的决定。他还补充说，透明度是“必不可少的”，数据隐私“必须至关重要”。

把它带入课堂

数据隐私专家，咨询公司PlayWell, LLC的总裁丽内特·阿泰表示，蓝图中的许多内容都依赖于基本的隐私原则。

即便如此，将相当宽泛的蓝图转化为具体的立法可能很棘手。

“没有一种万能的科技，”阿泰说。她建议学区在他们的技术方面更精明，并不断评估该技术如何影响他们的社区。她补充说，学校领导需要清楚地说明他们想要实现的目标，而不仅仅是引进华而不新的小玩意。

虽然对这些问题的关注可能是新的，但挑战并非如此。

在对大学生和教授如何看待他们使用的数字系统进行的一项研究中，芭芭拉·菲斯特发现，她与之交谈的教育工作者和学生从未认真考虑过他们正在使用的数字平台。当她告诉学生这件事时，他们很沮丧。但他们感到无助。“据我们所知，没有知情同意，”古斯塔夫斯·阿道夫斯学院的名誉教授、项目信息素养的创始驻校学者菲斯特说。

菲斯特说，学生们从彼此身上学到的东西比从老师那里学到的更多，关于信息素养教学的课程似乎依赖于已经过时的指导。她说，许多大学生似乎并不期望从他们的教授那里学习如何管理数字工具。

那是在2019年疫情之前。她说，这些平台现在可能已经进入人们的视野。但它们提出的问题不必留在课堂之外。

菲斯特喜欢该蓝图的方法，部分原因是其推荐的材料列出了算法如何被使用的具体例子，她认为这对于那些希望将此问题引入课堂进行讨论的人来说很有用。

“这是学生们可以真正兴奋的事情，”菲斯特说。“因为它正在接受一个有点虚无缥缈的东西，它会影响他们。”