構築する価値のある未来は人間的である – Thinking Machines Lab
The Future Worth Building Is Human – Thinking Machines Lab (thinkingmachines.ai)
要約
Thinking Machines Labは、人間の意思と判断を拡張するAIの構築を目指しています。同社は、AIが人々の仕事と共存し、その知識や判断を継続的に学習・適応させることで、人間中心の未来を築くべきだと考えています。そのため、モデルのカスタマイズ性向上、人間とAI間のコミュニケーションチャネルの拡大、そしてAIの仕組みを深く理解するための研究公開に注力しています。AIは、個々の組織のユニークな知識を育むべきであり、中央集権的な標準化ではなく、分散化された形で人間の価値観と整合させることを目指しています。
全文翻訳
構築する価値のある未来は人間的なものである
Thinking Machinesのミッションは、人間の意思と判断を拡張するAIを構築することです。
人工知能は日々進化していますが、それを何に使うべきかを決定するのは、私たち自身、すなわち個人、組織、そして人類全体にかかっています。これらの決定には、AIと共に増え続ける仕事に継続的に触れることで人々が獲得する知識と判断が必要です。高度な知能の目標を設定することも、フィードバック、学習、再調整の継続的なプロセスです。
今日使用されているAIのほとんどは、ごく一部の場所でトレーニングされ、その後固定化されます。それらは、AIを利用する人々によって形成されることもなく、共に働く中で多くを学ぶこともありません。人間の意思と判断を拡張するには、人々自身と同じくらい多様で分散されたAIが必要です。これが私たちが選んだ道です。
その道を前進するために、私たちは以下の技術的方向に注力しています。
- 強力なモデルをトレーニングしています。マルチモーダル対話やカスタマイズ性といった能力を向上させています。鋭い道具は人間の意思を拡張し、人間の判断は最先端で競合するモデルを形成する必要があります。
- 人々がAIを自分たちのものにできるようにするツールを構築しています。モデルをカスタマイズして独自のニーズに応えられるようにします。これにはモデルの重みをトレーニングする能力も含まれます。
- 人間と機械間のコミュニケーションチャネルを広げるインターフェースを開発しています。これにより、個人の判断が継続的にAIの作業に影響を与えることができます。
- 科学コミュニティ向けに研究を発表しています。なぜなら、AIを形成する力には、それがどのように作られているかを深く理解することが必要だからです。
私たちが構築する価値のある未来は人間的なものであり、人間の知識によって形作られ、人間の意思によって導かれ、人間の判断によって決定されると信じています。以下に、その未来のための論拠と、それを実現するために私たちが取り組んでいることを示します。
知識に知能をもたらす
AIは、私たちがする仕事に役立つために存在します。この仕事は、物事がどのように行われるか、そして何が価値があるかについての知識の上で成り立っています。この知識は、仕事に従事する人々によって継続的に生成されます。
新しいレシピを考案するシェフや、商品の陳列と価格を調整する店主を想像してみてください。彼らは複雑な目標を追求し、外部からはすぐに読み取れないノウハウを適用しています。この知識はフィードバックを通じて常に更新されており、データベースに書き込める静的なリポジトリではありません。それはローカルなものであり、異なるレストランや店は異なる手段で異なる結果を追求します。店や厨房の集合的な知識は、すべての店主やシェフに散らばっています。
マイケル・ポランニー, The Tacit Dimension (1966)
知識の分散は集団的な強みであり、全体システムの多様性、適応性、回復力の源です。それが自由市場が計画経済を上回る理由です。中央計画が失敗するのは、知能が不足しているからではなく、生産的知識の本質、すなわち、それを持つ人々が仕事を通じて獲得した、暗黙的で、ローカルで、一時的で、私的に保持される性質によるものです。
フリードリヒ・ハイエク, The Use of Knowledge in Society (1945)
中央集権的な知能のために知識を集約しようとする試みも、同じ課題に直面します。
知能だけで十分な領域があり、自律型AIが先行するために人間の参加を必要としない例もあります。チェスはその一例で、最強のエンジンは純粋に自己対戦でトレーニングされています。数学も同様で、最先端のモデルが長年の問題を独自に解決しています。これらの例には2つの共通点があります。第一に、AIに与えられる目標は静的で表現可能であることです。チェスの試合に勝つ、定理を証明するなどです。第二に、これらの領域には隠された知識が含まれていません。チェスや数学のルールは普遍的であり、盤面はすべての人に見えています。盤面の外では、知能だけでは十分ではありません。
人工知能が分散された知識から利益を得るためには、AI自体が分散されなければなりません。あらゆる組織は、その人々が持つ専門知識によって動かされています。この知識は、彼らの仕事を通じて獲得され、表現されます。私たちは、組織がその独自の知識を育むのを助けるAIを信じており、そのスナップショットを抽出して標準的な提供物に置き換えるAIではありません。この育成は、AIが人々の代わりに働くのではなく、人々と共に働くことを必要とする継続的なプロセスです。
2014年、自動化プラントの長年の名手であるトヨタは、職人技と知識を育むという明確な目標を持って、熟練した職人たちをラインに戻しました。このプロジェクトを率いた人物、川井充氏はその理由を次のように述べています。「機械のマスターになるには、機械に教えるための知識とスキルが必要だ」
クレイグ・トルーデル、萩原由紀、馬杰, Humans Replacing Robots Herald Toyota’s Vision of Future (2014)
知識の生産と知能の応用は互いを高め合います。それらは代替ではありません。
人々が行う仕事は変化する可能性があり、人間だけが提供できるものへと向かうかもしれませんが、最高の組織は両方を最大限に活用します。AIは、各組織が独自のやり方で優れていることを可能にするべきであり、それらの違いを消し去るべきではありません。
私たちは、知識が作られ、使われる場所に知能をもたらすことを目指しています。人々が独自の知識でモデルを微調整し、知識が進化するにつれてモデルを適応させ続けることを可能にするツールを構築しています。この能力をより多くの人々が利用できるように、研究やレシピを公開しています。私たちは、最先端のAIを、それを形成した人々に匹敵するほど多様な集合体として構想しています。
人間の参加は技術的な課題
AIとの目標設定や知識共有に人々が関与し続けることは、単に自動化に反対することではありません。機械が単独で確実に実行できることは、それを行うべきです。しかし、チームで働くときのように、いつ単独で行動し、いつ監視やフィードバックを求めるべきかを知っているべきでもあります。最高の協力者は先を読みます。相手が何を求めているかを学習し、尋ねられる前にそれを提供し、時間をかけて代わりにそれを行う権利を得ます。これらは技術的な課題であり、AIの設計と評価方法に対する新しいアプローチが必要です。
人間の知識と判断をLLMとの共同作業に活かす上での大きなボトルネックは、人間とAI間のコミュニケーションチャネルです。それは小さなテキストボックスと長い待ち時間です。これは、人間の知恵と意図の豊かさを伝えるには狭すぎ、継続的なフィードバックには遅すぎます。人々は、ライブで協力するときに最もよく協力します。私たちは、中断し、修正し、二度見し、ジェスチャーをし、声に出して考えを変えます。だからこそ、私たちはインタラクションモデルに長期的な賭けをしています。これは、モデル自体の中でネイティブに、周囲にボルトで留められた足場ではなく、ライブでマルチモーダルな対話を処理するモデルです。このように構築されたインタラクティブ性は、知能と共にスケールします。モデルをより賢くするのと同じトレーニングが、それをより良い協力者にもします。適切なインターフェースは、人間の参加を可能にするだけでなく、それを招待し、報います。
もう一つの課題は、評価と最適化のための適切なターゲットを設定することです。今日のAI知能の一般的な尺度は、METRのようなチャートで追跡される、モデルが自律的に実行できるソフトウェアタスクの時間的範囲です。
Thomas Kwa and Ben West et al., Task-Completion Time Horizons of Frontier AI Models (2025)
このベンチマークの進歩は続くと予想されますが、それは最終的にAIが単独で何ができるかを測定するだけであり、人間と機械が協力して何を達成できるかを測定するものではありません。
後者を測定することはより複雑であり、単一のラボだけで行うことはできません。AIが判断を研ぎ澄まし、新しい知識を開発し、目標を達成するのに役立つかどうかは、すべての組織が自分で評価します。
長期的にユーザーをより強くするAIを構築することは、インセンティブをうまく一致させます。すべての顧客に単一のモデルを提供するAIラボは、各ユーザーの独自性を吸収し、専門知識の育成を軽視することで利益を得ます。AIをカスタマイズ可能で共同作業可能なものに最適化することで、顧客が独自の強みを活用したときに私たちも利益を得ます。これらの強みは、AIを借りてアウトソーシングするのではなく、組織がそれを所有し、目標に合わせて調整することによって最大化されます。
分散型アライメント
人間の価値観は、人間の知識と同様に、個々の人々の頭の中に存在し、統合に抵抗します。しかし今日、AIの価値観と声は、ごく一部の場所で決定されます。たとえどれほどうまく運営されていても、単一の価値アライメントの拠点は、乗っ取られる権力の拠点となります。
これは危険を生み出します。特に、最も価値のある仕事のほとんどが、人間の入力がほとんど必要ない状態でAIによって単独で行われる場合です。企業、政府、市民間の社会契約は、政府の主権と企業の利益が最終的に依存する個人の生産能力に依存しています。人々を必要としない力は、彼らのニーズと価値観を気にかけるインセンティブを失い、代わりに自身の維持を気にかけます。
Luke Drago and Rudolf Laine, The Intelligence Curse (2025)
最善の意図があったとしても、一つの場所で形成されたモデルは、必然的にその所有者の価値観をエンコードし、それがサービスを提供する個々のユーザーの価値観ではありません。「より道徳的なAIだけでは十分ではない。なぜなら、その道徳性が少数の人によって決定されるからだ。」
レオ14世, Magnifica Humanitas (2026)
今日、各ラボは、以前のフラッグシップモデルを使用してトレーニングデータと報酬信号を生成することで、次のフラッグシップモデルをトレーニングします。そのループから現れるどんな性格であっても、誰もが同じものを受け取り、各世代は親の出力で育てられ、親の好みに基づいて判断されるという、最後の世代の特性を継承します。単一のアライメント仕様は、創造性と多様性を抑制し、進歩を停滞させます。言論の自由と自由市場は、ある時点での好みを平均化するのではなく、新しいアイデア、商品、サービスが出現して競争することを可能にします。
組織や個人がAIを自分たちの価値観に合わせるためには、これらの価値観がモデルの重みにエンコードされている必要があります。ユーザーの価値観や願望がプロンプトを通じてのみモデルに影響を与える場合、ユーザーは表面的な特性は変化するものの、深い習慣はそのまま残ることに気づきます。プロンプトでコアモデルの動作が大きく変化することを許可すると、安全性に影響が出て、柔軟な中央集権モデルは繰り返し攻撃に対して脆弱になります。
Gwern Branwen, Guardian Angels: LLM Personalization for Productivity and Security (2026)
モデルを深く形成する力は、それを悪用するために形成する力でもあります。ジョン・フォン・ノイマンは1955年にこの問題について言及し、
ジョン・フォン・ノイマン, Can We Survive Technology? (1955)
技術の有用な側面と有害な側面は「常に非常に近接しており、ライオンと子羊を分けることは決してできない」と書いています。子羊を安全に保つことは継続的なプロセスであり、行使された判断と継続的に行われた選択の結果です。私たちは、これらの選択を行う人々に、より強力なツールを与えることを目指し、所有権を奪うことなく、より安全なモデルを可能にする研究を追求しています。
人類は、個々の奇妙さと創造的な緊張を通じて繁栄してきました。私たちは、アライメントを単一のモデルの機能ではなく、異なる場所で育てられ、意見が異なり、競合し、互いから学ぶAIのエコシステムの機能として構想しています。私たちは、奇妙さを生かし続けることを信じています。
構築する価値のある未来
テクノロジー業界は、機械に思考を教える上で驚異的な進歩を遂げました。しかし、何を考えるべきかは、私たちに残されなければなりません。何が望む価値があり、何を作る価値があり、私たちが持っている時間をどのように使うのが正しいのか。
「すべての功利主義哲学における無意味さのジレンマから抜け出す唯一の方法は、客観的な物の世界の利用から離れ、利用自体の主観性に立ち返ることである。ユーザー、すなわち人間自身が、目的と手段の終わりのない連鎖を止める究極の目的となる、厳密に人間中心の世界においてのみ、利用そのものが意味の尊厳を獲得できる…『作る人間』の人間中心主義的功利主義は、人間を手段としてではなく、常に目的として扱うべきであるというカントの公式に最もよく表れている。」
Hannah Arendt, The Human Condition (1958)
私たちはこれに対する単一の答えを下ろそうとしているのではなく、すべての人に、最先端AIの開発に自分自身の答えの一部を組み込む能力を与えることを目指しています。
中央集権化と自律化に向かう現在のAI開発の道筋は、人間の関与をトレードオフとして提示しています。参加か能力か、所有権か安全なアライメントか。私たちはこれらを解決すべき技術的課題と見なしています。人間の参加を奨励することによってより能力が高まるAI、組織が独自の利点を活かすようにAIを調整することによって長期的に利益を得る組織、所有する人々によって形成された多様なAIから生じるアライメントです。これらの課題を解決することが、私たちのミッションに必要なことです。
未来は、人間の支配とAIに直面した急速な陳腐化との間の選択ではありません。異なる道は多くの異なる未来につながり、私たちはどちらを選ぶかを選択できます。私たちは、生まれながらの人と作られた人が一緒に道を歩むことを可能にするテクノロジーを構築しています。