HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

なぜ私はOpenAIを辞めてテレパシーを構築するのか

Why I'm leaving OpenAI to build telepathy (naomibashkansky.com)

76 pointsby devanshp126 コメント

要約

著者はOpenAIを退職し、Conduitで「テレパシー」と呼ばれる思考テキスト化モデルの開発に着手しました。これは、非侵襲的なニューラルデータでトレーニングされた、思考をテキストに変換する技術です。著者は、AIとのコミュニケーションが思考ベースになる未来(2027年、2030年、2035年)を展望し、その実現のためにConduitが大量のニューラルデータを収集する理由と、自身がこのプロジェクトに参加した動機を語っています。

全文翻訳

7月23日木曜日、私はOpenAIを辞職しました。 24日、私はConduitの創設研究者としてスタートしました。 私たちはテレパシーを構築しています:非侵襲的なニューラルデータでトレーニングされた、思考からテキストへのモデル。 以下についてお話しします。 思考からテキストへ:テレパシーツールを使うことは、2027年、2030年、2035年にどのようになるか 思考からテキストへの変換をどのように構築するか:なぜConduitは膨大な量の非侵襲的ニューラルデータを収集しているのか なぜ私が参加したか:大胆なビジョン、優秀な人々、そして楽しい問題のために参加しました。 こんにちは:私について 1. 思考からテキストへ、別名テレパシー 私の予測:数年後、私たちがAIと会話する主な方法は思考になるでしょう。それらは、あなたが必死に追いつこうとする超知能の自動インターンや同僚ではなく、あなた自身の自然で喜びに満ちた拡張となるでしょう。私は、この未来の短い描写を以下に書き留めました。これらは楽観的ですが、非常にありそうなシナリオだと考えています。 2027年 2027年 — Conduitでのある朝 私は頭にバンドを巻き、Conduitでラップトップを開きます。時刻は午前9時です。私のデバイスはBluetooth経由でラップトップとペアリングされます。私は、一般性を失うことなく、Codexを開きます。 コードを見ながら、昨日のメモを見返し、9時30分のスタンドアップの準備をしながら、その日の仕事について考えます。私のGPT-7エージェントは、私が1日以上探求している新しいエンコーダーを一生懸命処理しています。私はその仕事を見ます。プロットのラベルに混乱し、最初の段落のAIらしい言葉遣いにうんざりし、数式の中の記号に興味をそそられます。私の漠然とした思考はConduitのモデルに送られ、それは言語と私が言いそうなことについての事前知識を使用して、以下を出力します。 conduit://thought-stream → codex$ decode --source=neural-latent --autosend --to=codex thought_01 >プロットを見ています。凡例を再ラベル付けし、各線の簡単な説明をテキストセルで追加してください。 thought_02 >議論の2番目の段落は理解しましたが、最初の段落をhumanizerスキルを使って書き直してください。 thought_03 >よりクリーンな表記法で方程式を説明するテキストボックスを作成してください。 streaming >█プロット、段落、方程式それぞれに、確認するのに10秒かかりました。自動送信がオンになっているため、10秒ごとにConduitモデルが私の思考を解読し、GPT-7に送信します。GPT-7は、受信した各タスクをサブエージェントに割り当てます。新しいプロット、段落、方程式を見ます。球形調和関数が役立つかもしれないとふと思います。Codexはサブエージェントを起動します。プロットに納得し、ベースラインと上位2行のみを示す、見栄えの良いスライドショーをチームメイトに見せるために作成することにしました。Codexはサブエージェントを起動します。 コーヒーを淹れます。私の思考はほとんど空虚ですが、明日ランチを共にする候補者と何を話したいかを briefly 思い出します。バックグラウンドで、Codexはランチのチャットで役立つかもしれない情報について考えるようにプロンプトされ、それを披露する前に合成データスケーリングプロットを更新することが賢明だと判断します。Codexはサブエージェントを起動します。 ( ( ) ) .--------. | |] | COFFEE | | | '--------' \____/ 私は頭の中で大声で言葉を言っているわけではありません。ただ普通にプロットを読み、普通にコーヒーを淹れます。魔法のようです。 2030年 2030年 — 産業界は適応し、Conduitは拡大する AI企業は現在、Conduitの潜在表現に直接インターフェースするようにモデルをトレーニングしています。私のエンコードされた思考は、Conduitのデコーダーモデルを経由する必要なく、直接Codexに送信されます。つまり、テキストで説明するのが難しい思考、例えばメンタルイメージを簡単に伝えることができます。 最近、AIとチャットする際にバンドなしで過ごすことはめったにありません。正直、なしでは面倒です。ニューラルヘッドバンドがあれば、ラップトップに対して超人的な力を持っているように感じます!それなしでは、助けようとしているが私の意図がわからず、私が怒るのではないかと恐れている超人的なエイリアンと話しているような気分です。うーん。 Conduitは非侵襲的読み取りを繰り返し改良していますが、2つの新しい取り組みを開始しました:侵襲的汎用読み取りと汎用書き込み。ほとんどの人はニューラルバンドを使い続けることに満足していますが、かなりの数の人が侵襲的技術を通じてより高忠実度の読み取りを得ることに興奮しています。 さらに興味深いのは、書き込みに関する最近の興奮です。私はラップトップの制御において超人的だと感じます。しかし、私の感覚はまだ人間的です。まるで腕を制御できるが、腕の感覚をすべて失ったかのようです。ええ、まだ腕は見えますし、腕がないよりはずっと良いですが、それでも非常に奇妙です。Ian Watermanのように。私はCodexが感じるものを感じたいです。Conduitが汎用読み取りを行うようになった今、汎用書き込みを学ぶことは、データ効率が何桁も向上します。 さらに重要なのは、書き込み技術の他のアプリケーションを解き放したいということです。18歳の頃のように、私の脳を効率的で神経可塑性のあるものにしたいです。 2035年 2035年 — AIはもはや「他者」ではない 私のAIは私自身の自然な拡張です。それは第六感や別の手足のように感じられます。ある問題について考え、文字通りウェブをサーフィンしているような感覚になり、ウェブサイトの断片が見え、問題についての直感的な閃きを得て、最終的に答えを導き出します。楽しいです!私の脳はフラッシュのようです。書き込み技術のおかげで、AIをオフにしているときでも、私の思考はかつてないほど速くなっています。 超人的な2035年がどのように見えるかは、社会として私たちがAIをどれほど超人的にするかを選択するかに直接かかっています。おそらく私たちはペースを合わせることを選択するでしょう。しかし、これは文字通り人間がループにいる未来のビジョンであり、AIが私たちを置き換えるのではなく、直接人間を力づけるものです。 AIの未来に関するいくつかの引用 私よりも雄弁な作家や講演者が、過去10年間にわたってこの思考からAIへのインターフェースについて詳しく説明してきました。それらを、短い抜粋とともにリンクします。 「もし私たちが緊密な共生関係を達成できれば、AIは『他者』ではなくなるでしょう。それはあなた自身であり、あなたの皮質と辺縁系との関係に似た関係をあなたの皮質と持つことになるでしょう。」 – Elon Musk, 2017, Conduitの共同創設者の1人がニューロテックに進むきっかけとなったWait But Whyインタビューにて! 「私たちは脳に電極を接続できるかもしれません…おそらく、マージが私たちの最良のシナリオだと思います。もし2つの異なる種が同じものを望み、片方しかそれを手に入れられない場合、この場合、地球上およびそれ以降の支配的な種になることですが、それらは対立することになるでしょう。」 – Sam Altman, 2017, Samの個人ブログにて。 「思考を基本的な行動に翻訳できますか?…今日の予定を見たいです。今日の天気を見たいです。寝室の照明を消したいです…もしあなたが『下の階の照明を消したい』と考え、それが消えるなら、それはテレパシーのように衝撃的かもしれません。」 – Dean Ball, 2024, インタビューにて。 「人工知能の長期的な未来を理解することは、脳コンピューターインターフェースを理解せずに不可能でしょう。」 – Rob Toews, 2025, The Next Frontier For AI Is The Human Brain Forbes記事にて。 Conduitの共同創設者であるRioとClemからの引用。<3 2. 思考からテキストへの変換をどのように構築するか? 理論的には、それは簡単です。 私たちの入力は脳活動であり、ターゲット出力は、その人がその時に何を行っていたか、例えば、その人が書いたテキストです。 脳活動が与えられた場合、その人が書いたものと意味論的に類似した出力を予測したいのです。 脳信号が与えられた場合にテキストを予測するモデルをトレーニングするには、音声が与えられた場合にテキストを予測する、または前のテキストが与えられた場合にテキストを予測する際に学ばれたのと同じ教訓を適用する必要があります:苦い教訓(the bitter lesson)。 この教訓は、モデルにより多くの有用な計算能力を投入すれば、モデルはあなたが手作業で作成できるどんな巧妙なアルゴリズムよりも良くなる、と大まかに述べています。 それは、学術界でこれまで行われてきたことを超えて、データ収集を何桁もスケールアップする必要があることを意味します。 侵襲的な方法で十分なデータを収集するのは困難です。脳にチップを入れたい人はほとんどいません!しかし、非侵襲的な方法は大幅に改善されています。 ハードウェアは改善され、安価になっていますが、ハードウェアの特定の部分については曖昧にしていることをお詫びします。 より多くのデータでトレーニングするにつれて、モデルは、対象の書き込みと意味論的に類似したテキストを予測するようになります。