AI・機械学習
Show HN: SketchAgentBench – 3D空間推論でLLMを評価する
SketchAgentBench – evaluate LLMs on 3D spatial reasoning (sketchagent.dev)
要約
SketchAgentBenchは、大規模言語モデル(LLM)の3D空間推論能力を評価するためのベンチマークです。ユーザーが描いたスケッチとテキストによる指示に基づいて、LLMが3Dオブジェクトを正確に配置できるかをテストします。
全文翻訳
ユーザーが描いたスケッチとテキストによる指示に基づいて、LLMが3Dオブジェクトを正確に配置できるかをテストするベンチマークです。
LLMは、テキストベースの指示を理解し、それに応じてアクションを実行する能力で大きな進歩を遂げました。しかし、これらのモデルの3D空間推論能力、特にユーザーが描いたスケッチを理解し、それに基づいてオブジェクトを配置する能力は、あまり調査されていません。
SketchAgentBenchは、このギャップを埋めることを目的としています。このベンチマークは、ユーザーが描いた2Dスケッチと、オブジェクトの配置に関する自然言語の指示のペアで構成されています。LLMのタスクは、これらの入力に基づいて、3D空間内のオブジェクトの正確な配置を決定することです。
このベンチマークは、LLMが人間の視覚的および空間的な意図をどの程度理解できるかについての洞察を提供し、ロボティクス、拡張現実、およびその他の3Dインタラクションを必要とするアプリケーションにおけるLLMの潜在的な応用を評価するのに役立ちます。