城市样本训练出的AI能读懂“麦秸垛”吗？梅兵代表：破除算法偏见

AI教育产品正在涌入校园，可以惠及每一个孩子吗？全国人大代表、华东师范大学党委书记梅兵认为，数据偏差与算法偏见可能产生不科学甚至不公平的结果，亟需从国家层面建立针对AI教育产品的审核机制，防止有偏差的产品无序进入校园和家庭，守护学生的身心健康。

算法偏见可能导致教学误判

当下，人工智能技术正加速融入教育领域。各类AI教育产品层出不穷，通用大模型也纷纷拓展教育应用场景，从学习辅导到教学测评，从管理辅助到资源推送，为教育提质增效注入了新动能。依托算法推荐等数字技术，人工智能可以为学生定制个性化学习计划，推送适配的教育资源，如果善用之，有助于促进普惠教育。

“数据偏差与算法偏见可能导致新的教育不公平。”在梅兵看来，善用还要加善治，否则会有隐忧。各类AI教育产品及通用大模型的教育应用，高度依赖海量数据进行训练。如果训练数据本身存在样本不足、结构性偏差等问题，比如数据过度集中于某些地区、某些群体，那么算法在学生学情评估、学习资源分配等环节，就可能产生不科学甚至不公平的结果。

梅兵举了两个案例：有的自适应学习平台，推送给城市学生的创造性思维训练题占比达35%，而推送给农村学生的同类内容则要少些——高阶思维的引导量就这样在算法中悄然拉开差距。还有某智能作文评分系统，因训练数据中城市学生样本占比超过80%，面对农村学生作文中“麦秸垛”“打谷场”等鲜活的乡土表述，系统频频误判，导致这些学生的作文得分普遍低于实际水平。

这种数据代表性不足带来的“算法盲区”，不仅让某些群体、特色文化等可能被忽视，还可能引发更深层的价值观偏差风险。“部分AI教育产品在知识讲解、案例选择或交互回应中，一定程度存在价值观对齐不够甚至相悖的情况。”梅兵举例说，某语言学习工具在翻译“中秋”相关内容时，仅将“月饼”解释为“一种糕点”，忽略其承载的团圆、家国情怀等文化内涵；某历史类 AI 问答产品在回应“近代化探索”问题时，片面强调“技术至上”，淡化民族抗争、制度探索等的历史意义。更值得警惕的是，在涉及学生心理脆弱期的交互场景中，个别AI对话工具未能有效识别并干预极端情绪表达，存在伦理失守风险。

在梅兵看来，教育策略可解释性不足，会影响教育的科学性和有效性。“不少AI教育产品算法结构复杂，决策过程如同‘黑箱’，教师、学生和家长难以获知算法是如何得出相关的学习建议、评估结果等，更难以判断其合理性与可靠性，易陷入决策‘盲从’。”如某自适应学习系统为数学偏科学生持续推送几何练习，并仅以“算法自动匹配”回应家长关于推荐依据的多次询问，无法为学生和家长自主调整优化学习策略提供可感可见、有理有据的指导和建议；某校使用的AI教学评估系统以“创新率不达标”为由，判定特级教师的经典课“教学僵化”，让深耕教学多年的教师陷入“算法困惑”。

加强AI教育产品算法内容审核

如何消除“算法偏见”，避免“算法困惑”？梅兵建议，加强顶层设计，统筹推动国家AI教育产品审核。“在推动相关立法的同时，先行探索在国家层面建立AI教育产品审核机制和审核机构。”她建议可由教育部协同相关部委，设立面向中小学生的AI教育产品专门审核机构，指导高校并联动相关科研院所、中小学校以及行业、企业，整合教育（含学科教育）、心理、伦理、法律、人工智能技术等领域专业力量，一方面围绕审核标准研制、检测技术开发等系统开展理论与实践研究，另一方面以研究成果为指导和支撑，推动审核标准和监管要求落地执行。

“加强AI教育产品算法安全监管与内容审核。”梅兵建议，相关部门尽快研究制定面向中小学生的AI教育产品算法安全标准，明确算法设计、开发、使用各环节安全要求与规范等。建立健全产品全周期算法审核机制，对新上线产品严把审核“准入关”，重点评估算法公平性、透明度与安全性；对已投入使用产品开展运行监测，以及时发现运行过程中出现的偏差。在加强国家专门机构审核的基础上推动行业自律，倡导AI教育产品开发者组建包括教育专家、心理学家、社会学家的参与，在产品研发过程嵌入价值观对齐的要求，并及时根据社会热点调整优化算法。

她建议，鼓励和支持科研机构与企业联合攻关，研发适用于AI教育产品的可解释技术。增强教育可解释性，配套提供简明易懂的教育策略说明文档，阐释不同学情下的干预逻辑、预期目标及学理依据。“要建立常态化反馈通道，允许教育主体就策略有效性、适切性提出意见，推动开发者基于真实教学反馈持续优化模型与规则，真正实现技术服务于人、决策可被理解、教育始终由人主导的智能教育生态。”梅兵表示。

原标题：《城市样本训练出的AI能读懂“麦秸垛”吗？梅兵代表：破除算法偏见》

栏目主编：张骏

来源：作者：解放日报 王海燕