ソフトウェア開発におけるAIの状況
The AI Situation in Software Development (srikanth.ch)
要約
プロンプト、コンテキストウィンドウ、圧縮、AIとの連携に関するランダムな考察です。AIに指示を出す際、詳細に指示するか、高レベルで指示するか、あるいはその中間を選択できますが、いずれも時間がかかります。コンテキストウィンドウの制限や、大規模なコードベースやデータセットを扱う際の課題も指摘されています。AIの能力を引き出すには、依然として人間の設計、調整、そして時間が必要であることが強調されています。
全文翻訳
AIの状況
プロンプト、コンテキストウィンドウ、圧縮、そしてAIとの連携に関する雑感。
あなたがAIに何かをさせたいと思ったとき、その方法や内容を知っている場合もあれば、そうでない場合もあります。現在、3つの選択肢があります。1つは、すべての詳細、あらゆる具体的なことをAIに伝える方法です。
あるいは、高レベルで何かをするように指示するだけで、AIがそれを理解してくれることを期待する方法です。
または、その中間を行く方法もあります。私はこれが最も一般的な方法だと感じており、AIにとって難しいと思われる重要な部分を説明します。
例をAIに与えることもできます。これは物事を進めるためのより速い方法ですが、例があなたの望むものに近いかどうかに依存します。
これらすべてに時間がかかります。一部はAIに与える前に時間を費やし、一部は後に費やします。
一般的なパターンは、LLMが学習セットで以前に見たことがあるはずなので、実装するのが容易です。例えば、ユーザー認証の実装などです。あなたが想像したり、AIに伝えたりする新しい問題は、当然AIにとっては難しく、手厚いサポートが必要です。
次に、コンテキストウィンドウの問題があります。3000語、4ページの詳細で密度の高い仕様をそのまま与えて、すべてに従うことを期待することはできません。コードベースが大きくなるほど、AIはすべてを詰め込むことができなくなり、与えることができる膨大なドキュメントも価値がなくなります。詳細な仕様を作成するだけでなく、大量のデータセットからパターンを要約したり、結論を導き出したりすることも望みます。例えば、株式の過去のデータセットのような、膨大な数値データを分析する場合などです。
したがって、コストはあなたにかかります。プロジェクトの目標や課題、そして最も重要な、あなたが望むものの設計図について、詳細なガイドを作成するために時間を費やす必要があります。
次に、AIモデルのドメイン固有の専門知識があります。適切なモデルを選択する必要があります。
より大きな問題に取り組むにつれて、そしてAIをアプリケーションに統合するにつれて、圧縮の必要性が生じます。特定の問題を解決するため、または結論を導き出すため、決定を下すため、あるいはその他の目的のために、AIエージェントに可能な限り多くの有用な情報(すべてでなくても)を詰め込む必要があります。この分野では、これを効果的に行う企業が登場するだろうと思います。あるいは、モデル開発者がこれを一度解決してくれるでしょう。
テスト、ツール(専用のものかその他か)、そしてコードベースが大きくなるにつれてアプローチを洗練させるためのフィードバックループが必要です。そして、コードベースの信号対雑音比を改善する方法も必要です。
優れた説明者や自然な教師は、AIと容易に関わり、より良い出力を生成できると感じています。
結論:依然として時間を費やす必要があります。実装時間はなくなりました。今、あなたが費やす時間は、システムの事前設計、前提条件の変更、そして開発セットアップの洗練へとシフトしました。しかし、実装が完全に消えたわけではありません。私はまだコードではなく、言葉で実装しているように感じます。