HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Show HN: Lathoa、意図的にAIが間違える子供向け数学アプリ

Show HN: Lathoa, a math app for kids where the AI is wrong on purpose (lathoa.ai)

52 pointsby thanouil141149 コメント

要約

子供たちがAIロボットの計算間違いを見つけることを目的とした数学学習アプリ「Lathoa」を紹介する投稿。AIが意図的に間違えるようにするのは難しく、多くの検証ステップを経て初めて成立する仕組みです。このアプリが、間違いを見つける学習が問題解決そのものよりも効果的かどうかという問いを投げかけています。

全文翻訳

10歳から14歳くらいの子どものために作りました。ロボットのErrolが算数の問題をステップバイステップで解きますが、そのステップの1つが間違っています。子どもはその間違いを見つけて、何が間違っているかを言わなければなりません。時には何も間違っていないこともあるので、毎回「間違いがある」と言うだけではうまくいきません。ユーザーは、間違いを見つけるとXPを獲得するために説明を入力する必要があり、より多くのポイントを得るためにはスピードも重要です。LLMとの直接的な対話やチャットはありません。

Lathoaのハーネスは安定しており、矛盾やプロンプトインジェクションを検出するための多くの評価ステップがあります。

サインアップせずにホームページで無料でプレイできます。

驚いた点:AIに意図的に間違えさせるのは難しいということです。半分の確率で正しい答えを間違っていると指摘したり、実際には正しい「間違い」を提示したりします。そのため、すべての場合が子どもに見せられる前にチェックされます。可能な限り、プレーンな算術チェックで数学を正確にやり直します。また、別のモデルがErrolの作業を見ずに問題を解きます。何かが一致しない場合、そのケースは破棄されます。

弱点としては、2番目のモデルが最初のモデルと同じ間違いを犯す可能性があることです。そのための算術チェックがありますが、これは今のところ英語のケースにしか機能しません。ドイツ語やギリシャ語では小数点にコンマを使用するため、まだパースを正しく処理できていません。

本当に知りたいこと:他人の間違いを見つけることが、自分で問題を解くことでは得られない何かを教えてくれるのでしょうか?私には確信が持てず、教育に携わる方々からの意見を聞きたいです。