Show HN: Lathoa、意図的にAIが間違える子供向け数学アプリ

私はこれを10歳から14歳くらいの子どものために作りました。Errolというロボットが数学の問題をステップバイステップで解きますが、そのうちの1つのステップが間違っています。子どもはそれを見つけて、何が間違っているかを言わなければなりません。時には何も間違っていないので、「間違いがある」と毎回言うだけではうまくいきません。ユーザーはエラーを見つけた場合、より多くのXPを獲得するために説明を入力する必要があります。スピードもポイントアップに重要です。LLMとの直接的なやり取りやチャットはありません。Lathoaのハーネスは安定しており、矛盾やプロンプトインジェクションを検出するための多くの評価ステップがあります。 サインアップせずにホームページで1つプレイできます。 私が驚いたのは、LLMに意図的に間違えさせるのが難しいということです。半分の時間は正しい答えを与えて、それを間違いと呼んだり、「間違い」と呼んだりしますが、実際には正しいのです。そのため、すべてのケースは子どもに見せる前にチェックされます。可能な限り、単純な算術チェックで数学を正確にやり直します。2番目のモデルも、Errolの作業を見ずに問題を解決します。何かが一致しない場合、そのケースは破棄されます。 弱点は、2番目のモデルが最初のモデルと同じ間違いを犯す可能性があることです。算術チェックはそれのためにありますが、それは英語のケースにしか機能しません。ドイツ語とギリシャ語は小数点をコンマで書きますが、まだ解析を正しく行えていません。 本当に知りたいこと：誰かの間違いを見つけることは、自分で問題を解決することでは学べないことを教えてくれるのでしょうか？私は確信がありませんし、教える人たちから話を聞きたいと思っています。