AI 课堂也会一本正经地错OpenMAIC 生成内容的幻觉排查与审核清单【免费下载链接】OpenMAICOpen Multi-Agent Interactive Classroom — Get an immersive, multi-agent learning experience in just one click项目地址: https://gitcode.com/GitHub_Trending/op/OpenMAIC把一句话需求变成一堂结构完整的 AI 互动课OpenMAIC 用课程规划 → 讲义生成 → 测验设计 → 多智能体课堂的多 Agent 流水线把内容生产成本压到了分钟级。社区里对它的讨论几乎都聚焦在生成有多快、互动有多沉浸却很少有人回答另一个问题当 AI 老师一本正经地讲出一个错误事实时课堂里有没有任何一道防线。教育场景和代码生成不同——代码跑不过会立刻报错讲义里的错却会被学生当成权威背下来。本文不打算复述部署教程而是直接进入仓库源码拆解幻觉在 OpenMAIC 生成链路里的高发位置、现有防线能拦住多少以及教师和平台各自该守住哪张审核清单。课堂场景下幻觉的高发位置讲义、测验与模拟对话OpenMAIC 的生成管线是典型的先大纲、后逐页内容两段式lib/server/generation/steps/outline.ts让模型先流式产出课程大纲与场景列表再由lib/server/generation/steps/scene-content.ts逐页生成幻灯片、测验与互动内容。幻觉的风险因此天然聚集在三类产物上。第一类讲义正文尤其是事实型陈述最脆弱。幻灯片生成完全依赖模型从提示词与材料中回忆知识越是具体的数据、日期、人名、法律条文、公式定义越容易在被记忆模糊时用看似合理的表述补全。仓库对此有一个明确的判断基准——skills/agent-runtime/fact-check/SKILL.md要求核查精确数字、日期、数量、人名与归因引述法律、标准、公式、技术定义与分类第一、唯一、总是、必须等绝对化表述这正是幻觉最密集的句式集合。第二类测验题目与干扰项。测验生成是幻觉的高危区因为错误有两个藏身处一是题干本身的事实错误二是干扰项设计。值得注意的细节是仓库对干扰项有明确的质量要求——skills/agent-runtime/k12-core-literacy-planning/SKILL.md规定干扰项必须来自真实的常见误解解析要教学而非仅仅判错并在完成检查中要求核心误解由活动或测验处理、评估与学习任务同构并包含迁移。这说明项目方清楚一个编造的干扰项不仅测不出能力还会把错误知识反向教给学生。第三类多智能体模拟对话。这是 OpenMAIC 区别于普通课件工具的地方也是最容易被低估的幻觉放大器。课堂运行时由lib/prompts/templates/director/system.md中的导演Agent 决定下一个发言者由lib/prompts/templates/agent-system/system.md中的角色化 Agent 生成台词。多智能体链式对话意味着错误可以跨轮次接力一个 AI 同学抛出的事实错误AI 老师未必能即时识别纠正反而可能顺着话题延展把错误扩散成整段讨论的共识——这正是社区实践文章里反复提到的立场漂移问题。仓库给出的对治规则其实相当具体agent-system提示词里有一条硬性要求——如果你真的不知道就直接说出来我不太确定而不是回答别的这是把承认无知写进了每个 Agent 的底层行为规范。提示词加固与质量监控能拦住多少错OpenMAIC 对幻觉的防御不是单点提示词而是分了三层生成前的证据层、生成中的结构约束层、生成后的核查层。逐层看能拦住的比例差异很大。证据层把回忆改成查证。普通模式下的研究步骤lib/server/generation/steps/research.ts会在生成大纲前执行一次网络检索把检索结果格式化成上下文注入提示词从源头减少凭记忆编造。而面向时效性话题的深度调研技能skills/agent-runtime/deep-research/SKILL.md把这件事做到了极致建立主张 → 来源的逐条账本claim-to-source ledger全会话最多 8 次搜索、最多抓取 6 个 URL只允许账本内登记过的事实进入课程遇到争议数据呈现区间或分歧且给出双方案源并明确禁止把冲突数字平均成一个凭空捏造的中间值单来源的关键主张必须弱化措辞或明确归因。这是仓库里对幻觉可控最硬核的工程化回答。结构层对输出做防御性校验。这一层值得单独拿出来讲因为它的设计思想是把模型可能失控当作默认前提。outline.ts里有四处细节课程标题会被截断到 120 字符注释原话是防御性地限制长度防止幻觉模型把空白或无限长的值推入舞台名称大纲 JSON 流设有 512KB 上限超出即判定为失控生成并截停场景 ID 由系统重新分配全局唯一值空输出、解析失败会触发同模型重试与备用模型兜底。scene-content.ts则处理了另一类幻觉——模型幻觉式引用不存在的图片 ID系统在拼装多模态提示词前先解析图片资源解析失败的 ID 同时从提示词文本和附件中剔除注释明确写着模型对已删除 ID 的幻觉式引用会走既有的无映射 → 删除元素干净路径并配有 15 秒整体预算与连续 3 次失败熔断。这些校验拦不住事实性错误但能确保格式层面的幻觉不会污染课程结构与资源引用。核查层人机分工的质量关口。PBL 完成报告的设计最能体现项目的克制——components/scene-renderers/pbl/v2/completion.tsx的注释把两类数据分开LLM 提供叙事缓存提供永不幻觉的可验证事实即概念解锁数、独立完成率、错误恢复率等统计全部由确定性代码计算不经过模型。fact-check技能则把最终审核定义为独立的可选模式创建课程时仅在全部页面生成完毕后执行检查审核既有内容时先输出报告、由用户选择修复全部 / 仅修复确认的错误 / 保持现状三选一且修复前必须再次获得授权。报告按A. 明确事实错误 → B. 表述不严谨 → C. 需要核实三组编号输出每条结论固定给出原始表述 / 存在问题 / 修改建议三项。这套设计值得注意的边界是它不追求穷尽审计技能说明开宗明义——不要验证每一条主张跳过正确材料、措辞偏好、无害简化与低价值琐事聚焦少数实质性影响信任的表述。面向教师与平台的两级审核清单防线归防线生成式内容的最后一关永远是人。结合仓库里的完成检查清单与事实核查规范可以把审核拆成两张可执行的清单。面向教师课堂交付前逐页过直接借用k12-core-literacy-planning技能完成检查与fact-check技能的核查短名单数字与专名逐条核对页面上的年份、数量、人名、机构名、条文号这是幻觉率最高的一类绝对化表述搜索第一、唯一、总是、必须等词确认没有超出证据支撑的断言跨页一致性同一概念在多页、多轮对话中的表述是否矛盾测验质量题干是否成立、干扰项是否来自真实误解而非编造、解析是否解释而非只判错来源归属外部检索得来的事实是否带归因机构、报告、年份过时数据当最新同样是事实错误未知诚实度抽查 AI 老师的发言看它在不确定时是否敢于说我不确定而不是语焉不详地绕过去。面向平台上线与规模化阶段OpenMAIC 仓库本身就演示了几道平台级闸门部署端用app/api/access-code的访问码与令牌机制控制谁能进入课堂配置端在openmaic.yml里通过lock与allowUserKeys决定用户能否自接模型——模型能力参差会直接影响幻觉基线锁槽位是平台的质量管控手段流程端把fact-check设为可选的交付前闸门把生成 → 自查 → 用户确认 → 修复固化成可审计的交互协议。社区对 OpenMAIC 的部署文章里也反复出现需人工审核确保专业准确性的结论与仓库中绝不声称内容完全准确的态度一致——fact-check技能明确规定即便扫描后未发现明显错误也只能说扫描范围内未发现明显错误不得声称内容完全准确。把这三层防线放在一起看结论其实很清醒证据层与核查层能把可查证类幻觉压到很低的水平结构层能保证课程不因格式失控而崩坏但教育内容的事实正确性没有终局方案——OpenMAIC 给出的是一条可执行的工程路径让每一条主张都有来源可追、让每一个 Agent 被允许说不知道、让每一位教师在交付前手里有一张具体到句式的检查清单。比起AI 课堂不会错的承诺这套把不确定性显性化的机制才是对课堂更负责任的姿态。【免费下载链接】OpenMAICOpen Multi-Agent Interactive Classroom — Get an immersive, multi-agent learning experience in just one click项目地址: https://gitcode.com/GitHub_Trending/op/OpenMAIC创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考