遠隔操作される人間

今後数年間で世界が大きく変化すると私が予想する理由、そして他の人々がより緩やかな変化を予想する理由を考えると、大きな要因はAIがコンピューターを使わない仕事にどの程度影響を与えるかについての意見の相違にあると思います。確かに、プログラミングは Claude Code などによって劇的に高速化され、Astra のようなモデルはスプレッドシートやその他の一般的なビジネスツールを使った作業にも同様の変化をもたらすように見えますが、コンピューターを全く使わない仕事はどうでしょうか？

AIが世界で物事を行うという古典的なイメージはロボットですが、私は近い将来のより現実的なイメージは、コンピューターが人間に指示を出すことだと考えています。世界が非常にSF的になっている現状を踏まえ、これを「遠隔操作」と呼ぶことができます。ロボットにとって難しい多くのことは人間にとっては非常に簡単であり、遠隔操作へと向かわせる強い経済的理由があり、これによりAIができることに対する多くの法的・社会的制約を回避できます。私たちはこれが物理世界に大規模かつ急速な変化をもたらすと予想すべきです。

今日最も広く普及している例の一つは運転です。目的地をGPSに入力すると、GPSが私に何をすべきかを指示します。私は低レベルの物理的な動作や局所的な状況への対応を担当し、GPSはより広い世界の視野を持ち、戦略を担当します。

私が予想する近いうちに起こるであろう「遠隔操作」の大量発生よりも、これがはるかに早く起こった理由を考えると、いくつかの要因があります。運転は人間の主要な活動であるため、AIがあまり得意ではなかった時代でも、ナビゲーションソフトウェアを作成する価値がありました。たとえそれがシステム構築に膨大な人間の時間を費やすことを意味したとしてもです。また、戦略的コンポーネントが自動化に非常に適した分野でもありました。十分な努力をすれば地図を記憶することはできますが、それでもリアルタイムの通りごとの交通情報は得られません。AIはこの問題を非常にうまく解決したため、私たちはもはやそれを「AI」と呼ぶことさえしません。一方で、運転は制約のない環境でのリアルタイム制御問題であり、ミスをすると人が死に至り、安全に停止することさえ常にできない場合があります。これは自動化を困難にしますが、AIが非運転者にプロセスをガイドすることも非現実的にします。Uberなどが運転を商品化できた唯一の理由は、すでに多くの人々が運転方法を知っていたことです。

他にどのような場所で見られるかを考えると、今日のAIのほとんどの使用方法は マネジメント のように見えます。何をしたいかを考え、詳細に説明します。AIは最初にいくつか、そして作業中にさらに質問をしてきます。しばらくの処理の後、評価するための成果物が得られます。さらにやり取りがあるかもしれませんが、そのまま良い場合もあります。あなたは戦略を設定し、コンテキストを提供します。AIが実装を担当します。今日のAIは通常、タスクが完全にコンピューター内で実行できる範囲でのみ実装に適用されます。AIが物理的、法的、または知的に何かを実行できない場合、タスクを完了するための最も効率的な方法は、AIが戦略を処理し、これらのギャップを埋めるために人間を委任することになるでしょう。

この委任パターンがどのようなものになるかを示すために、最近私がどのようにして Whistle Synth アプリ を Mac App Store に公開したかを見てみましょう。

大まかに言うと、私は戦略を設定しました。「このアプリを Mac App Store に公開するプロセスを教えてくれますか？」しかし、その後のすべてはAIによって処理されたか、私に委任されました。AIは、実行する必要のあるタスクを特定し、App Store の制限に互換性を持たせるために実装を変更し、アプリをビルドし、私に指示を提供しました。そして、口笛を吹くデモビデオの録画（物理的）、Mac Developer として登録（法的）、そして App Store の説明のクリーンアップ（知的）を私に委任しました。

これは主に私の指示に従う作業でした。私は遠隔操作されていたのです。以下はその一例です。

Claude Code:

1. Profiles list を開きます — [team] のアカウントでサインインしてください。
2. 「Profiles」の横にある青いプラス記号をクリックします。「Register a New Provisioning Profile」というページが表示され、Development と Distribution のセクションにグループ化されたラジオボタンがあります。
3. Distribution の下で、「Mac App Store Connect」を選択します。「Developer ID」ではありません。これはストア外への配布用です。Continue をクリックします。

...

これは私にとって比較的単純な作業でした。戻ってくる予定のない都市をナビゲートされているのと同じように、この仕組みを学ぼうとはしませんでした。私が何か愚かなことをしていないか、軽く注意を払っていましたが、将来より能力の高いシステムでは、人々はこの程度の注意さえ払わなくなるだろうと予想しています。

提出プロセスが完了した後、レビューのために数日間待たなければなりませんでした。最初のラウンドでレビューコメントなしで承認されました。これは非常に大きなことです。App Store の規則は非常に複雑で、レビュー担当者は非常にうるさく、初めての個人開発者である私には、AIなしでは最初の試みでこれらすべてを正しく行うことは不可能でした。

これはほぼ完全にコンピューター内でのケースでしたが、ここで重要なのはパターンです。AIの指示に従うことで、一人で学ぶには膨大な時間がかかったであろうことを達成しました。

このケースでは、私は高レベルの戦略（「このアプリをストアに出す」）を設定し、AIのギャップを埋める（App Store Connect で青いプラスをクリックする）の両方を担当しました。「遠隔操作」がより一般的になるにつれて、人々が自分の仕事の一部を自動化していく中で、この一部が見られるようになると予想しています。他の場合では、例えば、非常にAIに精通したスタートアップ創業者AIが従業員を指示するような形になるでしょう。今日のギグワーカーが「APIの下」で働いているのと似ています。これらの仕事の初期段階は、AIがうまく委任できずにフラストレーションがたまるだろうと予想しています。そして、AIが指示や予測に十分に長けてくると、あなたは全く自分で考える必要がなくなるため、良くも悪くも非常に単純作業になるでしょう。

どのような仕事が遠隔操作に移行する可能性があるでしょうか？最有力候補は、物理的な動作が比較的簡単で、タイミングが重要でなく、今日人々がその知識と判断力に対して多額の報酬を得ている仕事です。もし専門家があなたの肩越しに見て、何をすべきかを指示してくれるなら、ほとんどの人が電気技師の仕事のほとんどを実行できるだろうと予想します。実際、それが電気技師がその技術を学ぶ大部分の方法です。見習いです。これは、メカニック、医療技術者、検査官などにも当てはまります。これらの仕事は物理的要素と知的要素を組み合わせたものであり、その知識が通りすがりの無関係な人が仕事を行えない理由となっています。カメラ内蔵のメガネをかけた人々が、今日の最も強力なAIに接続されていれば、少しの足場があればすでに多くのことができるでしょう。

大きな影響を与えるためには、遠隔操作される労働者は既存の仕事カテゴリの100%を実行できる必要はありません。この方法で実行できる部分とできない部分が簡単に分離できる限り、90%は遠隔操作される初心者によって実行され、元の専門家の一部はその残りの10%に時間を費やすことができます。これらの他の仕事がどのように進むかを考えると、規制の障壁がないものから始まり、HVAC技術者（通常は無免許）から電気技師（免許あり）へ、そして外科医（免許あり＋高度に規制＋リアルタイム＋高リスク）へと進むと予想します。［1］

したがって、遠隔操作は経済的に非常に生産的である可能性が高いです。それは良いことでしょうか？私は主にそうではないと思います。いくつかの理由があります。最大の理由は、AIの進歩がさらなるAIの進歩につながる速度が速まると予想されることです。これにより、私たちの社会がこれらの巨大な変化に対処する方法を考える時間が短縮され、未熟な技術が広く展開されるリスクが増大します。性急な展開は災害につながる可能性が高く、これは非常に多くの方法で極端に悪化する可能性があります。そして「極端に悪化する」とは、「AIが全員を殺す」ような事態を意味します。私たち自身よりも賢い知能を創造することは、人類がこれまでに行った、あるいはこれから行う最も重大なことです。そして、私たちはそれを正しく行う必要があります。

だからこそ、Anthropic や OpenAI の CEO を含む多くの人々が、これらのシステムがますます能力を高めるペースを管理することに賛同していることに心強く感じています。しかし、たとえ今日一般公開されているモデルの能力（ましてやトレーニングされたがまだリリースされていないモデル）でさえ一定に保ったとしても、広範な遠隔操作は依然として非常に可能性が高いと考えています。これは、既存の社会システムに統合するのが非常に困難な、大規模な混乱になると予想しています。

最初の問題は、これらの仕事が不快で交渉力が低いものになると予想されることです。専門家のアドバイスがあればほとんどの人が実行できるタスクが多く存在し、雇用主はできない人ややりたくない人を簡単に除外できるため、賃金や労働条件を維持するための要素はほとんどありません。さらに、解雇された知識労働者からの競争が加わると、前例のない失業が発生すると予想しています。

したがって、たとえ制御不能になるリスク、AIによる権威主義への陥落、バイオテロの助長などを回避できたとしても、ほとんどの人が十分な生活費を稼げる仕事を見つけられない世界にどう対処するかは、深刻な課題となるでしょう。私はこれには非常に大規模な再分配が必要になると予想しています。［2］これがデフォルトで起こるとは確信していませんが、かなりの努力で達成可能だと思います。そして、はるかに大きな経済における支出のごく一部として、それははるかに受け入れられやすくなるでしょう。

［1］ 将来の投稿のために:

$ echo "[redacted]" | sha512sum
7820a2ecae1fcab8d7a29fe4f98f56b96c403cdfb9a6833fad0198070e118233490a078c9230de0c6ed5cf1c6cf557fef493aeb33118e75b401deabbf3a1aae4 -

［2］ すでに存在するものを調べてみると、米国はほとんどの豊かな国よりも少ないですが、それでもメディケイド、EITC、CTC、WIC、SNAP、SSI、TANF、セクション8、LIHEAPがあります。私たちはGDPの約3〜5％を所得審査のあるプログラムに費やしています。次に、ユニバーサル公教育やメディケアのような、貧困層に特化しているわけではないが、依然として効果的に再分配的なものにGDPの約7〜10％が費やされています。国際的にはこれに似たものがありますが、はるかに少ないです。最近まで、米国は世界の最貧困層を助けるための外国援助（例：PEPFAR）にGDPの約0.04％しか費やしておらず、その後、民間部門（ビル・ゲイツなど）がGDPの約0.1％を追加していました。