展示 HN：Lathoa，一款故意让 AI 出错的儿童数学应用

我为大约 10 到 14 岁的孩子制作了这个应用。一个叫 Errol 的机器人会逐步解答一道数学题，其中有一个步骤是错误的。孩子需要找出这个步骤，并说明它错在哪里。有时其实没有任何错误，所以不能每次都只说“这里有错误”。如果用户发现了错误，需要输入解释才能获得更多 XP；答题速度也会影响得分。应用不支持与 LLM 直接互动或聊天。Lathoa 的测试框架很稳定，并且包含许多评估步骤，用来发现不一致之处和提示注入。 无需注册，就可以在主页上体验一道题。 让我感到意外的是：要让 LLM 故意出错很难。有一半时间，它会给出正确答案，却把答案称为错误，或者指出一个实际上正确的“错误”。因此，每个案例都会在展示给孩子之前进行检查。在可以做到的地方，系统会使用简单的算术检查，重新准确计算一遍。另一个模型也会在看不到 Errol 解题过程的情况下独立解答这道题。如果两者有任何不一致，这个案例就会被丢弃。 薄弱之处在于，第二个模型可能会犯下与第一个模型相同的错误。算术检查就是为此设置的，但目前它只能处理英文案例。德语和希腊语用逗号表示小数，而我还没有正确完成解析。 我真正想知道的是：找出别人犯的错误，是否能教会孩子一些自己解题无法学到的东西？我不确定，也很想听听教育工作者的看法。 评论链接： https://news.ycombinator.com/item?id=49909648 得分：7 评论数：0