生成式AI的“幻觉”现象与用户信任度研究——基于48份小学生问卷的调研报告
作者： 宋思锐 张诗婕 张倍滋
摘要：随着生成式AI工具的普及，越来越多的小学生开始使用AI辅助学习、娱乐和创作。但AI生成的内容并非总是正确的，科学家称之为“幻觉”现象。本研究基于五一杭州研学期间的小组讨论，通过对48名7-12岁小学生的问卷调查，探究了小学生遇到的AI错误类型、对AI的信任程度以及应对策略。研究发现：85.4%的小学生遇到过AI出错，主要表现为生成奇怪的图片或视频（66.7%）、理解错指令（58.3%）、算错数学题（50.0%）；81.2%的小学生认为AI的回答不能直接相信，需要自己再检查。本报告还分析了AI“幻觉”产生的原因，并提出了三条使用建议。
关键词： 生成式AI；AI幻觉；小学生；用户信任度；人机交互
1. 介绍
五一研学的时候，我们AI小组在讨论一个问题：AI越来越厉害了，能聊天、能生成视频、能打电话，但它好像也会犯一些低级错误。那我们到底还能不能相信它？
宋思锐第一个说：“我用AI生成视频，让它生成一个切西瓜的视频。结果切开西瓜之后，突然变成了三只手，另一半裂成了三瓣儿，特别奇怪！”他还提到了在阿里园区看到的那个大轮子机器人：“它可以在泥沙地走、在水里浮起来，还能喷出尼龙网把坏人罩住。这个太酷了。”
图1 宋思锐正在体验VR虚拟现实头显
张诗婕想得更深一层：“AI有时候就是你没有给它讲清楚，它就会生成错误的东西。你自己也要判断一下AI给你的东西是对是错，才能使用好。”
图2 张诗婕正在体验机械手臂
张倍滋说：“AI的好处是，无聊的时候可以陪你聊天。”但他也承认，AI“还是不太能很好地理解我们的指令”。
图3 张倍滋展示机器人画的画
科学家把AI这种“看起来很自信但实际上错了”的表现叫做“幻觉”。我们到底该不该相信AI？带着这个问题，我们问了48个小朋友。下面就是我们的调研结果。
2. 方法
2.1 调查对象
我们一共问了48个小学生，年龄7到12岁，男生29人，女生19人。大家都至少用过一次AI工具（比如豆包、生成式AI等）。
2.2 调查方式
我们设计了四个问题，像聊天一样去问：
问题1： 你遇到过AI“犯傻”或“出错”吗？具体是什么样的？
问题2： 你见过AI最厉害的地方是什么？
问题3： 你能发现AI的错误吗？发现了会怎么做？
问题4： AI说的话能直接相信吗？
3. 结果
3.1 问题1：遇到过AI出错吗？
48人里，有41人（85.4%）遇到过AI出错。
宋思锐遇到的“切西瓜变三只手”就是典型。一个女生说：“我让AI画吃面的人，结果画的人有四根手指，面碗是方的。”
3.2 问题2：见过AI最厉害的地方？
一个五年级男生说：“那个机器人能在水里走，还能喷网抓坏人，太厉害了。”
3.3 问题3：能发现AI的错误吗？
35人（72.9%）表示“有时候能发现”AI的错误。发现了之后，大家会这么做：
一个三年级女生说：“我妈妈教我，AI说的话不能全信，要自己想一想对不对。”
3.4 问题4：AI的话能直接相信吗？
只有9人（18.8%）认为“可以直接相信”，39人（81.2%）认为“不行，需要自己检查”。一个六年级男生的总结很精彩：“AI就像一个很聪明的同学，但他也会做错题。”
4. 讨论
4.1 为什么AI会犯“三只手”这种错误？
科学家把这种现象叫“幻觉”。我们总结出三个原因：
第一，AI没有常识。 人类知道“人只有两只手”，但AI不知道。它只是在数据里找规律，生成“三只手”的时候根本不觉得有什么不对。
第二，AI不理解真实世界。 AI没见过真正的西瓜，只知道“西瓜”这个词经常和“切”“红色”等词一起出现。它像一个背了很多书但没见过世界的人。
第三，训练数据有问题。 AI在学习的时候可能看过一些奇怪的图片，它只是在模仿。
4.2 AI到底值不值得信任？
超过八成的小朋友认为“不能直接相信AI”。我们认为，AI就像一个“超级聪明但偶尔犯傻的助手”。它可以帮你，但也会犯错——而且它犯错的时候往往看起来很自信，一不小心就会被它带偏。
结论：AI可以信任，但不能盲信。
4.3 给AI使用者的三条建议
第一，把AI当“帮手”，不当“神仙”。 最后的判断一定要你自己来做。
第二，学会“验证”AI的回答。 觉得不对就去查书、问老师。
第三，记住AI会“自信地犯错”。 重要的事情一定要自己再确认一遍。
5. 结论
本次调研发现，绝大多数（85.4%）小学生都遇到过生成式AI的“幻觉”现象，主要表现为生成奇怪的图片或视频（66.7%）、理解错指令（58.3%）、算错数学题（50.0%）等，这些幻觉的根源在于AI缺乏人类常识、不理解真实世界；超过八成（81.2%）的小学生认为AI的回答不能直接相信，需要自己再检查；我们建议将AI定位为“需要验证的智能助手”，正如张诗婕所说——“你自己也要判断一下，才能使用好。” 责任编辑：李银慧
小字号