構築する価値のある未来は人間的である – Thinking Machines Lab

Thinking Machinesの使命は、人間の意思と判断を拡張するAIを構築することです。人工知能は日々より多くのことができるようになりますが、それを何に使うかを決定するのは、私たち、つまり個人、組織、そして人類全体にかかっています。これらの決定には、AIと共にますます行われるようになる仕事との継続的な接触を通じて人々が獲得する知識と判断が必要です。高度な知能の目標を形成することも、フィードバック、学習、および再調整の継続的なプロセスです。今日使用されているほとんどのAIは、いくつかの場所でトレーニングされ、その後フリーズされます。それは、それが奉仕する人々によって形作られることはなく、彼らが一緒に行う仕事からあまり学びません。人間の意思と判断を拡張するには、人々自身と同じくらい多様で分散したAIが必要です。これが私たちが選んだ道です。その道を前進するために、私たちは次の技術的方向を追求しています：私たちは、マルチモーダルインタラクションやカスタマイズ性などの能力を向上させる、強力なモデルをトレーニングします。鋭い道具は人間の意思を拡張し、人間の判断は最先端で競合するモデルを形作る必要があります。私たちは、人々がAIを自分のものにし、独自のニーズに応えるようにモデルをカスタマイズできるようにするツールを構築します。これには、モデルの重みをトレーニングする能力が含まれます。私たちは、人間と機械間のコミュニケーションチャネルを広げ、個人の判断がAIの作業を継続的に影響できるようにするインターフェースを開発します。私たちは科学コミュニティのために研究を発表します。なぜなら、AIを形作る力には、それがどのように作られているかを深く理解する必要があるからです。私たちは、構築する価値のある未来は人間的であると信じています—人間の知識によって形作られ、人間の意思によって導かれ、人間の判断によって決定されるものです。以下は、その未来のための主張と、それを実現するために私たちが取り組んでいることです。知識への知能をもたらすAIは、私たちがする仕事に奉仕するために存在します。この仕事は、物事がどのように行われるか、そして何が価値があるかについての知識の上で実行されます。この知識は、人々が仕事に従事することによって継続的に生成されます。新しいレシピを考案するシェフや、陳列されている商品や価格を並べ替える店主を考えてみてください。彼らは複雑な目標セットを追求し、外部からはすぐに読み取れないノウハウを適用しています。この知識はフィードバックを通じて常に更新されます。データベースに書き込める静的なリポジトリではありません。それはローカルです—異なるレストランや店は、異なる手段で異なる結果を追求します。店や台所の集合的な知識は、すべての店主やシェフに散らばっています。マイケル・ポランニー、暗黙知の次元（1966年）知識の分散は集合的な強みです。それは、システム全体の多様性、適応性、および回復力の源です。それが、自由市場が計画経済を上回る理由です。中央計画が失敗するのは、知能が不十分だからではなく、生産的知識の性質、つまり暗黙的で、ローカルで、一時的で、それを仕事を通じて獲得した人々が私的に保持している性質によるものです。フリードリヒ・ハイエク、社会における知識の使用（1945年）中央集権的な知能の使用のために知識を集約しようとすることは、同じ課題に直面します。知能だけで十分な領域があり、自律型AIが先行するために人間の参加を必要としない領域があります。2つの例はチェスであり、最も強力なエンジンは自己対戦のみでトレーニングされ、数学であり、最先端のモデルが長年の問題を独自に解決しています。これらの例は2つの特徴を共有しています。第一に、AIに与えられた目標は静的で表現可能であることです：チェスの試合に勝つこと、定理を証明すること。第二に、これらの領域には隠された知識が含まれていません。チェスと数学のルールは普遍的であり、盤面はすべての人に見えています。盤面の外では、知能だけでは十分ではありません。人工知能が分散した知識から利益を得るためには、それ自体が分散している必要があります。すべての組織は、その人々が仕事を通じて獲得し、表現する専門知識によって動かされています。私たちは、AIがそのユニークな知識を育むのを助けるAIを信じています。それらを抽出して標準的なオファーに置き換えるAIではありません。この育成は、AIが人々の代わりにではなく、人々と共に働くことを必要とする継続的なプロセスです。2014年、自動化された工場を長年マスターしてきたトヨタは、職人技と知識を育むという明確な目標を持って、専門の職人をラインに戻しました。これを主導した人物、川井充は、その理由を次のように述べました：「機械のマスターになるためには、機械に教えるための知識とスキルが必要です。」クレイグ・トルーデル、萩原由紀、馬傑、人間がロボットに取って代わることはトヨタの未来へのビジョンを告げる（2014年）知識の生産と知能の応用は互いに高め合います。それらは代替ではありません。人々が行う仕事は変化する可能性があり、人間だけが持つものへと向かうかもしれませんが、最高の組織は両方を最大限に活用します。AIは、各組織が独自のやり方で優れていることを可能にするべきであり、それらの間の違いを消し去るべきではありません。私たちは、知識が作られ、使用される場所に知能をもたらすことを目指しています。私たちは、誰もが独自の知識でモデルをファインチューニングし、知識が進化するにつれてモデルを適応させ続けることを可能にするツールを構築します。私たちは、この能力をより多くの人々が利用できるようにする研究とレシピを公開します。私たちは、最先端のAIを、それが奉仕する人々と同様に多様な集合体として、各ユニークな場所でそれらによって形作られたものとして構想しています。人間の参加は技術的な課題です人々が目標設定やAIとの知識共有に関与し続けることは、それ自体で自動化に抵抗することを意味するわけではありません。機械が単独で確実に実行できることは、実行すべきです。しかし、それはいつ単独で行動し、いつ監視とフィードバックを求めるべきかを知っているべきです。これは、人々がチームで働くときに自分たちで行うことです。最高の協力者は予測します：彼らは誰かが何を求めているかを学び、尋ねられる前にそれを持ってきます。そして、時間の経過とともに彼らの代わりにに行動する権利を得ます。これらは技術的な課題であり、AIがどのように設計され評価されるかについての新しいアプローチが必要です。人間の知識と判断をLLMとの仕事にもたらす上での大きなボトルネックは、人間とAI間のコミュニケーションチャネルです—小さなテキストボックスと長い待ち時間です。これは、人間の知恵と意図の豊かさを運ぶには狭すぎ、継続的なフィードバックには遅すぎます。人々は、ライブで協力するときに最もよく協力します。私たちは、中断し、修正し、二度見し、ジェスチャーをし、声に出して考えを変えます。だからこそ、私たちはインタラクションモデルに長期的な賭けをしています：モデル自体で、その周りに取り付けられた足場ではなく、ネイティブにライブ、マルチモーダルインタラクションを処理するモデルです。このように構築されたインタラクティビティは、知能と共にスケールします。モデルをより賢くするのと同じトレーニングが、それをより良い協力者にもします。適切なインターフェースは、人間の参加を可能にするだけでなく、それを招待し、報います。もう1つの課題は、評価と最適化のための適切なターゲットを設定することです。今日のAI知能の一般的な測定基準は、モデルが自律的に実行できるソフトウェアタスクの時間的範囲であり、METRのようなチャートで追跡されています。トーマス・クワとベン・ウェスト他、最先端AIモデルのタスク完了時間範囲（2025年）このベンチマークでの進歩は続くと予想されますが、それは最終的にはAIが単独で何ができるかを測定するだけであり、人々が機械と協力して何を達成できるかを測定するものではありません。後者を測定することはより複雑であり、単独のラボでは行うことができません。各組織は、AIが判断を鋭くし、新しい知識を開発し、目標を達成するのに役立つかどうかを自分で評価します。長期的にユーザーをより強くするAIを構築することも、インセンティブをうまく整合させます。すべての顧客に単一のモデルを提供するAIラボは、各ユーザーをユニークにするものを吸収し、専門知識の育成を価値のないものにすることによって利益を得ます。AIをカスタマイズ可能で協力可能なものに最適化することで、顧客が独自の利点を活用するときに私たちも利益を得ます。これらの利点は、AIを借りてそれにアウトソースすることによって最大化されるのではなく、組織がそれを所有し、目標に合わせて調整することによって最大化されます。分散型アライメント人間の価値観、