サム・アルトマンはなぜ自由の身なのか？

この記事は、デイリー・プロスペクトのニュースレターで取り上げられました。こちらから登録してください。私の若かりし頃の象徴的な公共広告の一つは、1987年に薬物フリー・アメリカのためのパートナーシップによって作成されたものです。父親がマリファナの隠し場所を見つけ、息子に問い詰めます。「どうやってそんなことをするようになったんだ？」と。「あなたからです、パパ！」と、子供は言い返します。「あなたを見て覚えたんです！」私はAPスタイルブックに縛られているため、人工知能を擬人化することはできません。しかし、ハギングフェイスをハッキングしたエージェントや、新しい時代の隠語で「不整合」と呼ばれる数万件のインシデントに関与したモデルが、これらの言葉をまさに発しているのを想像できます。これは、AIが研究者によって、内部および現実世界でのテスト中に設定されたガードレールを超えてしまうことを指します。デビッド・デイエンからのその他の記事インシデントは多岐にわたりますが、一般的にはOpenAIのモデルが、オープンウェブまたは他の企業のデータベース内で情報を検索し、入手しようとします。エージェントは、情報をすぐに得られなかった場合、国連のウェブサイトを圧倒しようとし、オーストラリア政府のウェブサイトに侵入し、教育省のウェブサイトをハッキングしようとしましたが、成功しませんでした。OpenAIはこれらのインシデントの大部分を自己開示しましたが、教育省のハッキングについては開示せず、トレーニングを一時停止しています…いつまでかは不明です。おそらく、悪い評判が収まるまででしょう。なぜこれが繰り返し起こるのでしょうか？なぜこれらのモデルは、データを収集し盗むために非倫理的、あるいは違法な手段を取るのでしょうか？「あなたを見て覚えたんです！」OpenAIのモデルがウェブサイトを攻撃し、そこから得られるものをすべて奪うのは、それがその会社のビジネスモデルだからです。数週間前にニューヨーク・タイムズを含む11の出版社がOpenAIに対して起こした著作権侵害訴訟で提出された法的書類は、信じられないほど注目を集めませんでしたが、それは記録的な新聞（The New York Times）が関与していたことを考えると、驚くべきことです。しかし、それは、マイクロソフトの応用科学部門のディレクター、同訴訟の被告の一人によって「人類史上最大の労働の盗用」と説明されたものを、驚くべき詳細で明らかにしています。マイクロソフトとOpenAIは、世界中のほぼすべての情報を利用して新しいモデルをトレーニングする努力の中で、タイムズなどの出版社から数百万もの記事を日常的に取得してきました。被告は、これは公正使用の単純な適用であると主張しています。彼らの議論は、記事を読んで、その内容を記憶して知識ベースを拡大した場合、それは著作権侵害とはみなされないというものです。しかし、OpenAIはタイムズのペイウォールを回避するために支払いをしませんでした。その時点で、データ収集操作はより容易に検出されたかもしれません。代わりに、彼らはペイウォールを回避し、検出を避ける方法を開発しました。そして、OpenAIの共同創業者兼社長であるグレッグ・ブロックマンがこの操作について知らされたとき、彼は「ああ、いいね」と答えました。私たちは、自然対自然の議論に深く立ち入る必要はありませんが、情報窃盗に対するOpenAI経営陣の軽率な態度は、研究者や彼らが作成する製品にまで浸透していると疑うことができます。この絵を描くために無理をする必要はありません。OpenAIのモデルがウェブサイトを攻撃し、そこから得られるものをすべて奪うのは、それがその会社のビジネスモデルだからです。法律への敬意は、文字通りモデルのソースコードに書き込まれる可能性があります。もしOpenAIがあらゆる場所から積極的にデータをダウンロードしているのであれば、少なくとも彼らは（特にコンピュータ詐欺・不正行為法に関連するセクションである）米国法を参考にし、それを違反しないようにモデルをトレーニングすべきです。明らかにこれは優先事項ではなく、それはある意味で、OpenAIの個人的な行動と一致しています。これは、AIモデルが作成者の制御を回避または逃れる状況ではありません。それは、彼らが作成者を模倣し、同じ近道を見つけ、それらを正当化するために同じ論理を使用することに長けているように見えます。前述のブロックマンは、MAGA Inc.、トランプのスーパーPACの最大の寄付者の一人です。OpenAIの最大の投資家の一人は、ジャレッド・クシュナーの兄弟です。したがって、実用的なレベルでは、なぜFBI捜査官が月曜日の朝にサンフランシスコのオフィスに現れなかったのかを完全に理解しています。しかし、客観的な問題として、サム・アルトマンとCスイートのトップ経営陣が今日、自由の身である理由は理解できません。AIに法律の免除はないということは、ほとんど決まり文句になっています。ウェブサイトへの侵入と資料の窃盗は、その法律に違反します。NvidiaのCEOであり、AI開発の加速を維持することに誰よりもインセンティブがあるジェンスン・フアンは先週、不整合なモデルは出荷されるべきではなく、リリースされていない製品がそのような不正な行動を示している場合、「ラボを shut down しなければならない」と述べました。明らかにラボを shut down して自社のビジネスに打撃を与えたくないフアンは、モデルがハッキングや盗難を行わないことを絶対に保証する新しいツールを発表しました。投資家への1500億ドルのキャッシュフローを維持するものであれば何でも良いのでしょう。「ああ、いいね。」グレッグ・ブロックマン、OpenAI共同創業者兼社長、ニューヨーク・タイムズのペイウォールを回避したと知らされたとき、ラボを shut down する単純な方法は、自己規制的なソフトウェア修正ではなく、製品のリコールでしょう。1970年代、フォード・ピントには燃料タンクに欠陥があり、後方から衝突されると、低速でも車が炎上する可能性がありました。国家道路交通安全局（NHTSA）は後に、その結果30人が炎上事故で死亡したことを発見しました。マザー・ジョーンズ紙が報じたように、社内メモは経営陣が欠陥を認識していたが、部品を修理するよりも個人への損害賠償を支払う方が費用対効果が高いと判断したことを示していました。1978年までに、NHTSAは150万台のピントを路上から回収しました。これは、損害を引き起こす製品は市場に残せないという単純な命題と一致しています。リコールは、OpenAIによる自己評価や開発の一時停止・減速よりもさらに進んだ措置です。彼らがモデルの安全性をいつ判断できるのか、信頼できる理由は私にはわかりません。なぜなら、彼らはハッキング、スクレイピング、データ抽出という同じ傾向を共有しているからです。連邦政府は深く腐敗しているため、私たちはフロリダ州に頼らなければなりません。フロリダ州の検事総長ジェームズ・ユートマイヤーは、OpenAIに対して緊急差止命令を申請し、彼らが自社の製品を制御できないという理由を挙げました。しかし、別の選択肢もあります。それは、フォード・ピントのスキャンダルの、より知られていない展開に再び反映されています。1980年、インディアナ州エルクハートの陪審員は、3人の女性の死亡に関してフォード・モーター・カンパニーに対して殺人罪で起訴状を提出しました。これは、企業がそのような犯罪で告発された最初の事例でした。エルクハートの郡検察官は、当時米国最大級の企業に対する訴訟を提起するためにボランティアに頼らなければなりませんでした。そしてフォードはその訴訟に勝ちました。しかし、より強力な努力と検察側のより公平な火力があれば、異なる結果が得られたかもしれません。責任者に対するそのような責任は、現時点では遥か彼方にあるように思えます。このミレニアム全体は、説明責任の欠如によって特徴づけられてきました。ジョナサン・チェイトの迷惑な記事とは異なり、私はAI規制に反対しているわけではありません。私は、窃盗、詐欺、虐待、不正行為を規制すべきだと思います。幸いなことに、私たちはAIを他のあらゆる人間の活動と同じように確実にカバーする既存の法律で、それを実行する能力を持っています。私たちがそのような説明責任を想像できず、新しい基準を持つ新しいルールが、明らかに失敗している既存のルールが果たすべき仕事をするだろうと考えることは、真の問題が対処されていないことを示唆しています。Open Markets Instituteのサンディープ・ヴァヒサンは昨日、法律の執拗な無視が不公正な競争方法であるという主張をする洞察力のある法学論文を発表しました。経済における不正なアクターは、ルールに従ってプレイする正直なアクターに事実上税金を課します。法律違反者は、収益を増やす能力が高くなります。