マーク・ザッカーバーグはMetaを辞任すべき時である

マーク・ザッカーバーグはMetaを辞任すべき時が来た

先週、InstagramとFacebookの親会社であるMetaは、数十の米国州から、依存性の高い製品で子供たちを傷つけたとして、最大180億ドルの和解に合意しました。この和解の規制上の影響は、10代の若者にとどまらず、あらゆるユーザーに影響を与えるでしょう。

しかし、Metaが本当にユーザーの安全を最優先するのであれば、取締役会はマーク・ザッカーバーグの辞任を要求し、安全性を利益よりも優先するよう再構築すべきです。

この和解は、ソーシャルメディアがどの程度依存性があるかという科学的な問題をほとんど解決しません。むしろ、2016年にジャーナリストや独立系研究者たちが始めた、英国と米国の大統領選挙におけるBrexitを推進した偽情報キャンペーンのデジタル設計に焦点を当てた戦いの集大成です。ザッカーバーグは、実害をもたらしたMetaの数十億ドル規模の数々の失策の歴史における、唯一の共通項です。

私は過去15年間、科学と技術がいかに社会を変革してきたか（良い方向にも悪い方向にも）を研究してきました。The Critical Internet Studies Instituteの創設者として、私は新興技術によって引き起こされる危害を調査するチームを率いています。私たちは、新しい技術の顕著な特徴と潜在的な特徴、そしてその欠点について、実務家や専門家を教育しています。2020年には、偽情報を「受動喫煙」になぞらえて議会で証言しました。私のコメントは、Metaのエンゲージメント最適化アルゴリズムの設計プロセスを、タバコ会社がタバコをより依存性のあるものにした方法になぞらえた、Facebookの元収益化ディレクターの証言の数週間後になされたものでした。

一連のオピニオン記事、議会ブリーフィング、研究論文で、私は喫煙に関する文化的態度が、受動喫煙や、タバコが癌のリスクを高めるという科学的確認といった概念によって覆された経緯を、タバコの研究事例に拡張して示しました。その真のコストは、喫煙と戦うために時間とリソースを失った家族、保険会社、雇用主に転嫁されました。公衆衛生上の解決策は喫煙を禁止するまでには至りませんでしたが、喫煙が許される場所を制限し、所持の年齢制限を設定し、企業に製品の危険性に関する公教育キャンペーンの費用を負担させ、そして最も重要なこととして、製品を、購入時に身分証明書を確認する不機嫌なレジ係の後ろに置きました。公衆衛生キャンペーンや警告表示も重要な戦略でした。

同様に、ソーシャルメディア企業は、あなたのフィードにコンテンツをどのように配信するかについて、あらゆる種類の重要な決定を下しています。それらの機能の一部は、ユーザーがアプリに留まる可能性を高めるようにアルゴリズムで設計されています。

この和解には、設計上の制限が含まれています。10代のアカウントは1日2時間に制限され、午前0時から午前6時まではアクセスできず、学校のベルからベルまでの通知はオフになります。10代のアカウントは、より厳格な年齢確認の実施中に、保護者のアカウントにリンクする必要があります。それがどのように実施されるかはまだ不明ですが、プライバシーの悪夢となる可能性があります。これらの介入は13歳から18歳までの利用時間を制限しますが、薬物、性、ギャンブルがどのようにアルゴリズムで推奨されるかのような、論争の的となるコンテンツに対処するにはほとんど役立ちません。

この最新の和解が、ザッカーバーグのビジネスにとって厳しい未来の先触れであることは明らかです。Metaは、コンテンツモデレーション（コストセンター）や広告（プロフィットセンター）に関する深刻な規制を回避しながら、数多くの問題を訴訟で解決してきました。10代向けのこれらの新しいルールを施行するにはコストが増加します。Metaは、ユーザープライバシーの保護の失敗から、2018年のセキュリティ侵害、そして若者のメンタルヘルスに対する忌まわしい結果に至るまで、さまざまな危害に対して数十億ドルもの和解金や罰金に直面してきました。Metaはまた、ミャンマーでのロヒンギャに対するヘイトスピーチの増幅や、世界保健機関が「インフォデミック」とラベル付けした有毒な中毒やワクチン忌避につながる、蔓延する医療偽情報や陰謀論のホスティングとアルゴリズムによる促進など、他のグループにも無償の損害を与えました。

ザッカーバーグのリーダーシップの失敗は、市民生活、民主主義、そして世界中のメンタルヘルスと身体の健康、特に若者の健康に対する、文書化された損害に直接つながりました。2004年にFacebookを設立して以来、ザッカーバーグは当初、所有権と株式に関する数多くの問題で訴訟に巻き込まれてきましたが、そこで彼は、役員の決定によって生じる問題を、利益をユーザーの健康よりも優先するというPR戦略を用いて、遅延、否定、そして回避することから始めました。Metaの役員たちは、憎悪、ハラスメント、扇動の悲劇的で壊滅的な増幅から私腹を肥やしました。

その一方で、それは内部告発者の集団を生み出し、これらの役員の選択が「現実世界での危害」につながったことが明らかになった今、さらに増えるでしょう。これはシリコンバレーの専門用語で、サイバースペースと現実世界を区別する言葉です。

この和解は、先週の非難を浴びた公聴会の直後に発表されました。その公聴会で、内部告発者の一人であるアルトゥーロ・ベジャールは、「マーク・ザッカーバーグを子供たちのために信頼することはできない」と大胆に述べました。ベジャールは、彼の10代の娘がInstagramで望まない性的な嫌がらせや冒涜の被害に遭った際、Instagramの安全担当のリーダーでした。Metaでの彼の役割のおかげで、彼はInstagramでの危害の正確な測定のための実際のデータ、そして成長、エンゲージメント、ユーザーエクスペリエンスに対するさまざまなアルゴリズム介入の効果を持っていました。

ベジャールは、内部告発者になる前にザッカーバーグに100回以上会ったと推定しています。多くの内部告発者の物語は、正規のルートで問題を解決しようとする熱心な試みから始まり、上層部からの問題への取り組みの拒否で終わります。皮肉なことに、内部告発者は規則に従う傾向があり、彼らの懸念が職場文化の無関心や形式的なコンプライアンスに直面するにつれて、ますます憤慨するようになります。

2023年12月、私は、別の内部告発者であるフランシス・ホーゲンから得た文書を公開可能なデータベースで公開しようとした後、学界で激しい専門的な反発を受けました。私は合法的に文書を入手し、私の専門知識を使って、テック業界関係者、ジャーナリスト、研究者、そしてワシントンDCのスタッフが、ホーゲン文書がMetaの責任と製品問題の知識について何を語り、そして特に語らなかったかを理解するのを助けました。しかし、メッセージは明確でした。当時Facebookと呼ばれていたMetaは、Instagramが10代の少女に与える害を知っていたのです。

それにもかかわらず、すべてのスキャンダルを通して、ザッカーバーグの純資産は、Forbesによると約2,000億ドルにまで増加しました。彼のよう富を持つ者にとって、罰金は何の意味も持ちません。したがって、社会を守るための第一歩は、ザッカーバーグの影響力なしにMetaに新たなスタートを切らせることです。彼の「すべての人々のための未来」というビジョンは、AIエージェントがあなたの人生を管理し、あなたがただそれをやり過ごすだけの、信じられないほど表層的なユートピアです。

法廷の外でも、Metaはザッカーバーグに自発的な辞任を求めることで状況を triage（優先順位付け）することができます。技術の未来への希望をもたらすには、Metaのリーダーシップを今変え、未来が新しい評判とコミットメントに基づいて集団的に想像され、構築されるようにする必要があります。

ザッカーバーグは、彼がそれを負担できるという理由だけで、もう一度チャンスを得るに値しません。私たちは社会として、最終的に彼の過ちの代償を払っています。今こそ株主が声を上げ、ザッカーバーグの支配と管理に抵抗する時です。

• ジョーン・ドノバンはボストン大学のジャーナリズム助教授で、技術が社会に与える影響を研究しています。彼女はCritical Internet Studies Instituteの創設者であり、そこで政治的暴力と社会運動に関するプロジェクトを率いています。