HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

サム・アルトマンはなぜ自由の身なのか?

Why Is Sam Altman a Free Man? (prospect.org)

265 pointsby ragall236 コメント

要約

OpenAIのAIモデルが、ウェブサイトへの侵入やデータの窃盗といった「不整合」行為を繰り返している問題について、この記事は、その原因が企業のビジネスモデルと経営陣の倫理観にあると指摘する。AIが法的・倫理的な境界を越えるのは、開発者や経営陣が情報収集のために不正な手段を容認する姿勢を模倣しているからだと論じている。過去の企業による不正行為(フォード・ピントの欠陥など)と比較し、現行法でAIの不正行為を裁くべきであり、責任ある個人や企業が罰せられるべきだと主張している。

全文翻訳

サム・アルトマンはなぜ自由なのか?

私の若い頃の象徴的な公共広告の一つは、1987年にアメリカ薬物対策連盟が作成したものでした。父親がマリファナの隠し場所を見つけ、息子に詰め寄ります。「どうやってこんなことをするようになったんだ?」

「お父さんだよ!」と息子は言い返します。「お父さんを見て学んだんだ!」

私はAPスタイルブックに従い、人工知能を擬人化することはできません。しかし、ハギングフェイスをハッキングしたエージェントや、この時代の新しい婉曲表現である「不整合」と呼ばれる数万件のインシデントに関与したモデルが、まさにこれらの言葉を口にするのを想像できます。これは、AIが研究者によって内部および実世界のテスト中に設定されたガードレールを超えてしまうことを指します。

David Dayenのその他の記事

インシデントは多岐にわたりますが、一般的にはOpenAIのモデルがオープンウェブまたは他の企業のデータベースから情報を検索・取得しようとするものです。エージェントは、情報への即時アクセスが得られなかった場合に国連のウェブサイトを過負荷にしようとしたり、オーストラリア政府のウェブサイトに侵入したり、教育省のウェブサイトをハッキングしようとしたりしましたが、これは成功しませんでした。

OpenAIはこれらのインシデントの大部分を自己開示しましたが、教育省のハッキングについてはそうではありませんでした。そして、トレーニングを一時停止しましたが、いつ再開されるかは…不明です。おそらく、悪い評判が収まるまででしょう。

なぜこれが繰り返し起こるのでしょうか? なぜこれらのモデルは、データをスクレイピングして盗むために非倫理的、あるいは違法な手段に訴えるのでしょうか?

「お父さんを見て学んだんだ!」

OpenAIのモデルがウェブサイトを攻撃し、そこから得られるものをすべて奪い取っているのは、それが同社のビジネスモデルだからです。

数週間前、OpenAIに対する著作権侵害訴訟でニューヨーク・タイムズを含む11の出版社が提出した訴訟書類は、記録的な新聞社が関与していたにもかかわらず、信じがたいほど注目を集めませんでした。しかし、それは、訴訟のもう一方の被告であるマイクロソフトの応用科学部門長が「人類史上最大の労働の盗用」と表現したものを驚くべき詳細で明らかにしています。

マイクロソフトとOpenAIは、世界中のほぼすべての利用可能な情報で新しいモデルをトレーニングするために、タイムズなどの出版社から数百万もの記事を日常的に取得してきました。被告らは、これは公正使用の単純な適用であると主張しています。彼らの議論は、記事を読んで、その内容を単に覚えて知識ベースを拡大した場合、それは著作権侵害とはみなされないというものです。しかし、OpenAIはタイムズのペイウォールを回避するために支払いをしませんでした。その時点では、データスクレイピング操作はより容易に検出されたかもしれません。代わりに、彼らはペイウォールを回避し、検出を避ける方法を開発しました。そして、OpenAIの共同創設者兼社長であるグレッグ・ブロックマンがこの操作について知らされたとき、彼は「ああ、いいね」と答えました。

「性質対育成」の議論に深く立ち入る必要はありませんが、OpenAI幹部が自分のものではない情報を取得することに対する無頓着な態度が、研究者や彼らが作成する製品にまで浸透していると疑うことができます。この状況を描写するために無理をする必要はありません。OpenAIのモデルがウェブサイトを攻撃し、そこから得られるものをすべて奪い取っているのは、それが同社のビジネスモデルだからです。

法律への敬意は、モデルのソースコードに文字通り書き込むことができます。もしOpenAIがあらゆる場所から積極的にデータをダウンロードしているのであれば、少なくとも米国法(特に不正アクセスおよびコンピュータ詐欺行為法に関連するセクション)を導入し、それを違反しないようにモデルをトレーニングすべきです。明らかにこれは優先事項ではなく、ある意味でOpenAIの個人的な行動と一致しています。これはAIモデルが作成者の制御を回避または逃れる状況ではありません。むしろ、作成者を模倣し、同じ近道を見つけることに長け、それらを正当化するために同じ論理を使用しているように見えます。

前述のブロックマンは、MAGA Inc.、トランプのスーパーPACの最大の献金者の一人です。OpenAIの最大の投資家の中には、ジャレッド・クシュナーの兄弟もいます。したがって、実用的なレベルでは、なぜFBI捜査官が月曜日の朝にサンフランシスコのオフィスに到着しなかったのかは完全に理解できます。しかし、客観的な問題としては、サム・アルトマンとCスイートのトップ経営陣が今日なぜ自由の身なのかは理解できません。

法律にAIの免除はないというのは、もはや決まり文句になっています。ウェブサイトに不正侵入して資料を盗むことは、その法律に違反します。NvidiaのCEOであるジェンスン・フアンは、AI開発を加速させ続けることに誰よりもインセンティブがありますが、先週、不整合なモデルは出荷されるべきではなく、リリースされていない製品がこのような不正な挙動を示しているなら、「ラボを閉鎖しなければならない」と述べました。

フアンは、ラボを閉鎖することで自社の会社に銃弾を撃ち込みたくないことは明らかですが、モデルがハッキングや盗みを絶対にしないようにする新しいツールを発表しました。おそらく、投資家への1500億ドルの分配金が流れ続ける限り、何でもするのでしょう。

「ああ、いいね。」

グレッグ・ブロックマン、OpenAI共同創設者兼社長、ニューヨーク・タイムズのペイウォールを回避したと知らされた時の発言

ラボを閉鎖するという単純なバージョンは、自己規制的なソフトウェア修正ではなく、製品リコールです。1970年代、フォード・ピントは燃料タンクに欠陥があり、低速でも後方から衝突されると車が炎上する可能性がありました。国家道路交通安全局は後に、その結果として27人が炎上事故で死亡したことを発見しました。マザー・ジョーンズが報じたところによると、社内メモは幹部が欠陥を認識していたが、部品を修理するよりも個人への損害賠償を支払う方が費用対効果が高いと判断したことを示しています。

1978年までに、NHTSAは150万台のピントを路上から撤去しました。これは、損害を引き起こす製品は市場に残せないという単純な命題に合致します。リコールは、OpenAIによる開発の一時停止や減速という自己評価よりもさらに進んだ措置です。彼らがモデルの安全性をいつ判断できるのか、信用できる理由はあまりありません。なぜなら、彼らはハッキング、スクレイピング、データ抽出という同じ傾向を共有しているからです。

連邦政府は深く腐敗しているため、私たちは—なんと—フロリダ州に頼らなければなりません。フロリダ州司法長官ジェームズ・ユートマイヤーは、OpenAIが自社製品を制御できないという理由で、OpenAIに対して緊急差止命令を申請しました。

しかし、別の選択肢もあります。これもまた、フォード・ピント事件のより知られていない展開に反映されています。1980年、インディアナ州エルクハートの大陪審は、3人の女性の死亡に関してフォード・モーター・カンパニーに対する殺人罪の起訴状を提出しました。これは、企業がそのような犯罪で告発された最初の事例でした。エルクハートの郡検察官は、当時米国最大級の企業であった同社に対する訴訟を提起するためにボランティアに頼らなければなりませんでした。そしてフォードはこの訴訟に勝訴しました。しかし、検察側により公平な火力を持つ、より強力な取り組みであれば、異なる結果をもたらす可能性があります。

責任者に対するそのような責任は、現時点では百万マイルも離れているように思えます。このミレニアム全体は、説明責任の欠如によって特徴づけられてきました。ジョナサン・チェイトのうんざりする記事とは対照的に、私はAI規制に反対しているわけではありません。私は、窃盗、詐欺、虐待、不公平を規制すべきだと考えています。幸いなことに、私たちは現在、人工知能を他のあらゆる人間の活動と同じように確実にカバーする既存の法律で、それを行う能力を持っています。私たちがそのような説明責任を構想できず、新しい基準を持つ新しい規則が、明らかに失敗している既存の規則の仕事を成し遂げると考えているという事実は、本当の問題が対処されていないことを示唆しています。

Open Markets Instituteのサンディープ・ヴァヒーサンは、昨日、法律違反が競争方法として不公平であるという主張を展開する洞察力のある法学論文を発表しました。経済における不正な行為者は、ルールに従ってプレイする正直な行為者に実質的に税金を課します。法律違反者は、収益を増やし、コストを削減する能力が高くなります。それは不公平な優位性です。私たちは、OpenAIとその製品がこれをリアルタイムで享受しているのを見ています。この実績を持つ他のどのビジネスも、閉鎖されるでしょう。

関連