HN 日本語サマリー

← 一覧へ戻る
プログラミング

ストリーミング、ツール呼び出しAIバックエンド(およびフロントエンドReactライブラリ)のためのGo LLM SDK

Go LLM SDK for streaming, tool-calling AI backends (plus frontend React lib) (github.com)

49 pointsby matryer13 コメント

要約

このGo SDKは、複数のプロバイダー(Anthropic, Amazon Bedrock, OpenAIなど)に対応し、モデル呼び出し、ストリーミング応答、ツール実行、構造化出力、マルチステップエージェントなどを単一のAPIで提供します。VercelのAI SDKに倣った設計で、TypeScriptフロントエンドとの互換性も備えています。GoバックエンドとReactフロントエンドを連携させ、リアルタイムなAIアプリケーションを構築できます。

全文翻訳

[画像: Grafana AI SDK for Go — ストリーミング、ツール呼び出し可能なAIバックエンドで流暢な @ai-sdk/react を話す]

Goアプリケーションから言語モデルを呼び出し、レスポンスをストリーミングし、ツールを実行し、AI搭載のエンドポイントを提供します。SDKを単独で使用することも、AI SDK Reactフロントエンドと連携させることもできます。

クイックスタート · ドキュメント · サンプル · APIリファレンス


なぜ?

このSDKは、Goアプリケーションにモデル呼び出し、ストリーミング、ツール、構造化出力、およびサポートされているプロバイダー間のマルチステップエージェントのための単一APIを提供します。これはVercelのAI SDKのデザインを踏襲しており、そのTypeScriptフロントエンドフックとのワイヤー互換性を維持しています。Goエンドポイントは、useChatのようなフックに直接Server-Sent Events (SSE) をストリーミングできます。

   Goバックエンド                          Reactフロントエンド
   ──────────                          ──────────────
   aisdk.StreamText(...)   ── SSE ──▶  useChat({ transport })
   aisdk.WriteUIMessageStream(w, …)    // 同じプロトコル

生成、ツール、ストリーミングのフローについては、リクエストの実行方法を参照してください。既存のAI SDK Reactフロントエンドを再利用したり、プロトコルアダプターを追加せずにTypeScriptバックエンドをGoに置き換えたりできます。

特徴

  • StreamText / GenerateText — レスポンスをストリーミングするか、完全な結果を待つかを選択。リトライとマルチステップツール実行に対応。
  • React互換性 — useChat、useCompletion、useObject を提供。
  • コンポーザブルなツール — モデルからプレーンなGo関数を呼び出し、結果的なアクションの承認を要求。
  • 構造化出力 — スキーマ検証済みのオブジェクト、配列、選択肢を生成。
  • 複数のプロバイダー — Anthropic、Amazon Bedrock、OpenAI、およびOpenAI互換APIを呼び出し。
  • 本番環境向け制御 — タイムアウト、フォールバック、ロギング、Prometheusメトリクス、エージェントオブザーバビリティを設定。

インストール

Goプロジェクトを作成し、コアモジュールと1つのプロバイダーをインストールします。

mkdir ai-sdk-quickstart
cd ai-sdk-quickstart
go mod init example.com/ai-sdk-quickstart
go get github.com/grafana/ai-sdk
go get github.com/grafana/ai-sdk/providers/anthropic

Amazon Bedrock、OpenAI、およびOpenAI互換APIについては、プロバイダーの選択を参照してください。

クイックスタート

この完全なプログラムをmain.goとして保存します。これは1回のモデル呼び出しを行い、レスポンスを出力します。

package main

import (
	"context"
	"fmt"
	"log"
	"os"

	aisdk "github.com/grafana/ai-sdk"
	"github.com/grafana/ai-sdk/provider"
	"github.com/grafana/ai-sdk/providers/anthropic"
)

func main() {
	apiKey := os.Getenv("ANTHROPIC_API_KEY")
	if apiKey == ""
		log.Fatal("ANTHROPIC_API_KEY is required")
	}

	model := anthropic.New(apiKey, "claude-sonnet-5")
	result, err := aisdk.GenerateText(context.Background(), model,
		aisdk.WithModelMessages(provider.UserText("Explain goroutines in one sentence.")),
	)
	if err != nil {
		log.Fatal(err)
	}

	fmt.Println(result.Text)
}

Anthropic APIキーを使用して実行します。

ANTHROPIC_API_KEY=sk-... go run .

プロジェクトの初期化と認証情報のガイダンスについては、インストールに従ってください。このレスポンスをReactクライアントにストリーミングするには、フルスタックチャットの構築に進んでください。

次のステップ

目標ここから開始
Goからモデル呼び出しを行うGoからテキストを生成
Reactチャットを構築するフルスタックチャット
型付けされたデータを返す構造化出力
モデルにGoコードを呼び出させるツール
再利用可能なエージェントを構築するエージェントループ
モデルプロバイダーを選択するプロバイダー概要
ロギングやオブザーバビリティを追加するミドルウェア概要
本番環境の準備をする本番環境チェックリスト

完全なインデックス: ドキュメント · 実行可能なコード: サンプル · 正確なAPI: pkg.go.dev

貢献

貢献を歓迎します。CONTRIBUTING.mdでは、開発セットアップ、このリポジトリが特異である2つの規約(Vercel AI SDKとのアップストリームパリティ、およびOpenSpecによる仕様駆動開発)、プルリクエストチェックリストをカバーしています。すべての参加者は、行動規範に従います。

ライセンス

再利用可能なSDKはApache-2.0ライセンスの下で提供されます。個別のai-gateway/モジュールはAGPL-3.0-onlyライセンスの下で提供されます。SDKのNOTICEおよびGatewayのNOTICEを参照してください。