恋恋看线下相亲网

最信AI的人出现了!当它对你胡说八道,你该怎么办?

📆 2026/6/10 00:37:07 ✎ 信息来源于网络转载
审核专家:律原首都师范大学初等教育学院,博士/副教授最近,微博上有这样一个热搜#最信豆包的人出现了#,词条里是各种用户过度依赖AI助手并导致现实损失的荒诞事件,网友们调侃:“这些受害者在防止人类过度依赖AI的事业上做出了不可磨灭的贡献。”,也有人冷静地指出,AI工具不能全信,要有自己的判断。图源:社交网络调侃归调侃,其中藏着值得所有家长警惕的问题:热搜词条里面不乏小朋友用稚嫩的声音认真询问AI各种天马行空的问题,AI却是一通胡乱解释。所以家长们有必要知道,当AI面对一个孩子的提问,给出了错误乃至危险的回答,认知尚不成熟的儿童该如何面对这样的数字伙伴?AI为什么会撒谎?可能很多人会有疑问:为什么AI宁可给一个错误答案,多数情况下也不承认自己不知道呢?其实这个现象业内早有研究,甚至还有一个专有名词——AI幻觉。图源:版权图库简单来说,目前市面上流行的AI大模型本质上是一个庞大的语言概率预测模型。它通过分析互联网上的海量文本,学习词语之间如何搭配、句子如何组合。当你向它提问,它不是在查证事实,而是在计算“接下来最可能出现的词是什么”,然后逐字逐句地拼出答案。就像有一个猜词能力很强的学生,哪怕不知道正确答案,也能根据常见搭配编出一个听起来合理的句子。OpenAI与佐治亚理工学院联合发表的研究,从数学角度解释了为什么这种错误难以消除。研究发现,当前主流AI模型的学习评估体系几乎只给正确答案打分,“我不知道”得零分,这让AI学会了在不确定时也要给出猜测,而不是不回答,哪怕这个猜测是错误的。图源:版权图库所以AI并不是主动在说谎,回复错误答案其实是其运行模式中自带的风险。只要大模型还在用当前的方式学习和作答,这种错误就会伴随始终。为什么不建议儿童过早接触AI孩子天生好奇,对任何能回应、会说话的设备都抱有热情,但相较于成年人,儿童更缺乏辨别AI信息真伪的意识和能力,过早并过度地接触AI,可能带来以下三方面的问题:首先是削弱独立思考能力。孩子遇到问题时,如果总是第一时间向AI求助、得到现成答案,就会跳过自己动脑筋分析和探索的过程。图源:社交网络其次是损害社交能力发展。AI在交互中最大的特点是有问必答、从不反驳、永远温柔。这种零拒绝的陪伴模式对孩子有很强的吸引力。有家长发现,孩子沉迷AI聊天后不愿意下楼和小朋友玩了,AI不会生气、不会打断、不会否定,这种单向度的交流无法让孩子学会倾听、协商、解决冲突等真实社交中必不可少的技能。在虚拟内容不断挤占真实体验的同时,孩子甚至可能更信任AI而非父母。最后是内容的不可控与认知混淆。除了低龄儿童对AI产生情感依赖,AI输出的内容本身也是一大隐患。AI根据概率生成答案,没有分辨是非的能力。从儿童会接触到成人世界的不合宜信息,到不分边界的胡言乱语,再到可能悄然植入带有偏见的内容,AI的每一次输出都考验着使用者的判断力。尚未形成稳固知识体系与价值观念的儿童,面对AI给出的错误答案,很容易直接接受,造成认知混淆。AI不是玩具,而是工具AI本身是一项极具潜力的技术工具,关键在于如何正确地使用。2025年,教育部基础教育教学指导委员会发布了《中小学生成式人工智能使用指南(2025年版)》,其中明确规定,小学阶段禁止学生独自使用开放式内容生成功能,教师可在课内适当使用辅助教学。这一规定清晰地传递了一个原则:儿童使用AI离不开成人的监督和引导。在这里给家长的具体建议如下:一是规定使用边界和时间。低龄儿童应当尽量避免脱离家长监督的独立AI对话。如果确有使用需求,建议家长陪伴在旁边,并且每天限定使用时长,比如每次不超过15到20分钟。图源:AI生成二是家长主动示范验证习惯。当孩子从AI获得答案后,家长可以带着孩子一起用其他方式进行核实。例如在问AI问题的同时,让它给出可以查验的来源链接,或者跟孩子说“我们来查查是不是这样”“你看书上是怎么写的”。这不仅能让孩子意识到AI的回答不一定正确,还能潜移默化地教会孩子如何验证信息,形成健康的信息处理习惯。三是用真实人际互动替代部分AI交互。对于学龄前儿童,真实的人际交往和动手探索对认知发展至关重要。家长可以有意识地安排孩子与同龄人一起玩耍,或带孩子参与户外活动。孩子从真实的社交中学会的共情和沟通,是任何算法都无法替代的。图源:版权图库四是关注内容输出。如果孩子使用AI产品,家长最好定期了解孩子向AI提过什么问题、AI给出了什么回答。一旦发现AI输出不恰当内容,要及时向孩子解释并纠正。联合国儿童基金会2025年发布的《关于维护儿童权利的人工智能政策和系统的建议》中提到,守护孩子免受AI误导的第一道防线,始终是家长自己。AI可以是一个聪明的助手,但绝不能成为一个不设防的“保姆”。在孩子的成长路上,没有任何技术能替代父母的眼睛和判断。参考资料:https://www.cse.edu.cn/index/detail.html?category=31&id=4242https://www.unicef.org/innocenti/reports/policy-guidance-ai-childrenhttps://www.stdaily.com/web/gjxw/2026-03/20/content_489309.htmlhttp://www.jyb.cn/rmtzgjyb/202512/t20251215_2111425256.htmlhttps://www.nature.com/articles/s41586-026-10549-whttps://arxiv.org/abs/2510.06265https://www.news.cn/liangzi/20251030/95a67e0108a94978b435742af49cfce6/c.htmlhttps://m.gmw.cn/2026-05/22/content_1304466856.htmhttps://www.thepaper.cn/newsDetail_forward_31579565来源: 数字北京科学中心
首页