ストリーミング、ツール呼び出しAIバックエンド(およびフロントエンドReactライブラリ)のためのGo LLM SDK
Go LLM SDK for streaming, tool-calling AI backends (plus frontend React lib) (github.com)
要約
このGo SDKは、複数のプロバイダー(Anthropic, Amazon Bedrock, OpenAIなど)に対応し、モデル呼び出し、ストリーミング応答、ツール実行、構造化出力、マルチステップエージェントなどを単一のAPIで提供します。VercelのAI SDKに倣った設計で、TypeScriptフロントエンドとの互換性も備えています。GoバックエンドとReactフロントエンドを連携させ、リアルタイムなAIアプリケーションを構築できます。
全文翻訳
[画像: Grafana AI SDK for Go — ストリーミング、ツール呼び出し可能なAIバックエンドで流暢な @ai-sdk/react を話す]
Goアプリケーションから言語モデルを呼び出し、レスポンスをストリーミングし、ツールを実行し、AI搭載のエンドポイントを提供します。SDKを単独で使用することも、AI SDK Reactフロントエンドと連携させることもできます。
クイックスタート · ドキュメント · サンプル · APIリファレンス
なぜ?
このSDKは、Goアプリケーションにモデル呼び出し、ストリーミング、ツール、構造化出力、およびサポートされているプロバイダー間のマルチステップエージェントのための単一APIを提供します。これはVercelのAI SDKのデザインを踏襲しており、そのTypeScriptフロントエンドフックとのワイヤー互換性を維持しています。Goエンドポイントは、useChatのようなフックに直接Server-Sent Events (SSE) をストリーミングできます。
Goバックエンド Reactフロントエンド
────────── ──────────────
aisdk.StreamText(...) ── SSE ──▶ useChat({ transport })
aisdk.WriteUIMessageStream(w, …) // 同じプロトコル
生成、ツール、ストリーミングのフローについては、リクエストの実行方法を参照してください。既存のAI SDK Reactフロントエンドを再利用したり、プロトコルアダプターを追加せずにTypeScriptバックエンドをGoに置き換えたりできます。
特徴
StreamText/GenerateText— レスポンスをストリーミングするか、完全な結果を待つかを選択。リトライとマルチステップツール実行に対応。- React互換性 —
useChat、useCompletion、useObjectを提供。 - コンポーザブルなツール — モデルからプレーンなGo関数を呼び出し、結果的なアクションの承認を要求。
- 構造化出力 — スキーマ検証済みのオブジェクト、配列、選択肢を生成。
- 複数のプロバイダー — Anthropic、Amazon Bedrock、OpenAI、およびOpenAI互換APIを呼び出し。
- 本番環境向け制御 — タイムアウト、フォールバック、ロギング、Prometheusメトリクス、エージェントオブザーバビリティを設定。
インストール
Goプロジェクトを作成し、コアモジュールと1つのプロバイダーをインストールします。
mkdir ai-sdk-quickstart
cd ai-sdk-quickstart
go mod init example.com/ai-sdk-quickstart
go get github.com/grafana/ai-sdk
go get github.com/grafana/ai-sdk/providers/anthropic
Amazon Bedrock、OpenAI、およびOpenAI互換APIについては、プロバイダーの選択を参照してください。
クイックスタート
この完全なプログラムをmain.goとして保存します。これは1回のモデル呼び出しを行い、レスポンスを出力します。
package main
import (
"context"
"fmt"
"log"
"os"
aisdk "github.com/grafana/ai-sdk"
"github.com/grafana/ai-sdk/provider"
"github.com/grafana/ai-sdk/providers/anthropic"
)
func main() {
apiKey := os.Getenv("ANTHROPIC_API_KEY")
if apiKey == ""
log.Fatal("ANTHROPIC_API_KEY is required")
}
model := anthropic.New(apiKey, "claude-sonnet-5")
result, err := aisdk.GenerateText(context.Background(), model,
aisdk.WithModelMessages(provider.UserText("Explain goroutines in one sentence.")),
)
if err != nil {
log.Fatal(err)
}
fmt.Println(result.Text)
}
Anthropic APIキーを使用して実行します。
ANTHROPIC_API_KEY=sk-... go run .
プロジェクトの初期化と認証情報のガイダンスについては、インストールに従ってください。このレスポンスをReactクライアントにストリーミングするには、フルスタックチャットの構築に進んでください。
次のステップ
| 目標 | ここから開始 |
|---|---|
| Goからモデル呼び出しを行う | Goからテキストを生成 |
| Reactチャットを構築する | フルスタックチャット |
| 型付けされたデータを返す | 構造化出力 |
| モデルにGoコードを呼び出させる | ツール |
| 再利用可能なエージェントを構築する | エージェントループ |
| モデルプロバイダーを選択する | プロバイダー概要 |
| ロギングやオブザーバビリティを追加する | ミドルウェア概要 |
| 本番環境の準備をする | 本番環境チェックリスト |
完全なインデックス: ドキュメント · 実行可能なコード: サンプル · 正確なAPI: pkg.go.dev
貢献
貢献を歓迎します。CONTRIBUTING.mdでは、開発セットアップ、このリポジトリが特異である2つの規約(Vercel AI SDKとのアップストリームパリティ、およびOpenSpecによる仕様駆動開発)、プルリクエストチェックリストをカバーしています。すべての参加者は、行動規範に従います。
ライセンス
再利用可能なSDKはApache-2.0ライセンスの下で提供されます。個別のai-gateway/モジュールはAGPL-3.0-onlyライセンスの下で提供されます。SDKのNOTICEおよびGatewayのNOTICEを参照してください。