過去24時間はホラー映画のオープニングシーンだ

過去24時間の出来事は驚くべきものです。そして、良い意味ではありません。これはテクノロジーの歴史上かつて起こったことのないことで、今まさに unfolding しています。 まず、OpenAIを辞任した人物についてです。彼は、この技術が10年以内に皆殺しにする可能性があると警告しました。 彼はわずか20時間前にこの発表をしました。 これは本当に真実なのでしょうか？コックスンは単なる不満を持った従業員なのでしょうか？他の内部関係者の意見も調べる必要があります。 あたかもこの質問への答えであるかのように、Anthropicの別のAI科学者であるエヴァン・ヒュービンガーが、コックスンの懸念を支持するために迅速に動きました。 次に、最近Googleを辞めたアレックス・ターナーが、全く同じことを言いました。 Anthropicのアナ・ワンはこう言っています。 Anthropicで働くハーバード大学の博士号取得者であるサミュエル・マークスは、さらに詳細を提供しましたが、同じ結論に至りました。 OpenAIのジェイソン・ウルフも心配しています。 Googleに在籍していたジョナサン・リチャード・シュワルツはこう言っています。 そして最後に、OpenAIのチーフサイエンティストであるヤクブ・パチョツキが私たちに伝えていることです。 先月、私の記事「AIの未来に関する10の率直な予測」で、次の段階の反発はテクノロジーコミュニティ自体から来ると述べました。過去24時間は、これが決定的に起こった瞬間、つまり内部抵抗が実際の運動に凝縮された瞬間として記憶されるでしょう。これは一時的な中断ではなく、将来の戦線の引き直しだと私は思います。AIファンボーイはこの状況を沈静化しようとしています。しかし、彼らの対応は少し触れただけで崩壊します。これが単なるPRキャンペーンだという中傷を考えてみてください。本当に？他の人は、これが中国の陰謀かもしれないとほのめかしています。ええ、もちろん…。 しかし、最大の嘘は、これらの人々が何を話しているのか分かっていないという主張です。現実は、彼らがこの主題を誰よりもよく理解しているということです。 ここで何が起こっているかは明らかです。この技術を構築している8人の異なる人々が、自分たちが見ているものを恐れています。しかし、彼らは個々にこの狂気を止める力を持っていません。これが行動への呼びかけでなければ、他に何があるでしょうか？兆ドルが暴走する技術に注ぎ込まれており、世論はすでにそれを激しく嫌っています。今、それを実現している人々が、それが皆殺しにするかもしれないと警告しています。これは、最高レベルの権力と権威からの対応を要求します。それが起こらなければ、私たちはこの不作為を後悔することになるでしょう。そして、それは最善のシナリオです。最悪のシナリオは、後悔する人が誰もいなくなることです。 追記：本日早くにこの記事を公開して以来、さらに数人のAI内部関係者が、この技術がもたらす計り知れないリスクについて懸念を表明するために名乗り出てきました。そのうちの3つを紹介させてください。まず、Anthropicのイーサン・ペレスからです。 そして、もう一つ、OpenAIのジュリー・スティールからです。 そして3つ目、Anthropicのドレイク・トーマスからです。 これにより、AIコミュニティ内部でこれらの懸念がどれほど広範であるかが明らかになります。そして実際、これらの個人は、同僚の間で広く共有されている見解を単に表明していると繰り返し述べています。これに直面して、これが何らかのスタントや中傷キャンペーンであるという主張は容易に否定されます。これらの懸念が多くのAI専門家の実際の見解を表していることを否定する内部関係者は一人もいません。もしこれが単なる誇大広告や捏造であれば、彼らは発言するでしょう。彼らがそうできないという事実は、あなたが知る必要があるすべてを物語っています。