私の友人たちは皆AIを嫌っています。私はAIスタートアップに入社しました
My friends all hate AI; I just joined an AI startup (fast.ai)
要約
筆者は、AIに対する友人たちの否定的な見方や、AIが教育やオープンソースコミュニティに与える悪影響に懸念を抱きつつも、AIスタートアップAnswer.AIに参画した経緯を語っています。同社は、人間の判断力や自律性を重視し、AIを補助ツールとして活用する「SolveIt」のような製品開発を通じて、AIの健全な利用方法を模索しています。
全文翻訳
My friends all hate AI; I just joined an AI startup
Over a decade after co-founding fast.ai, I am returning to the field
education
ai-in-society
「私たちは皆AIに反対だよね」と友人がグループチャットでメッセージを送ってきました。「AIは教育には場違いだという記事を共著しよう」と、ある知人がコラボレーションセッション中に提案しました。
AIへの復帰を発表するには、なんとも気まずい時期になってきました…特に、教育分野でのAIに焦点を当てることになったのです。友人の言うことはもっともです。AIにはひどいところがたくさんあります。私が過去5ヶ月間ブログ記事を書けなかった理由の一部は、インターネットがAIによる、あるいはAIについての文章で飽和状態になっていることに、あまりにも落胆しているからです。私は今でも、記事の執筆や調査に数週間、時には数ヶ月を費やしていますが、質の低い情報(slop)が氾濫する世界では、それを見る人はますます少なくなっています。経営幹部たちは、詐欺に近いほど誇張されたAIの能力について主張しています。
あらゆる年齢の人々が、AIに思考をアウトソースしています。しかし、スキルは使わなくなると衰退し、文章を読んだり、書いたり、理解したりすることは、人間であることの核となる部分です。
大学教授の友人たちは、AIの広範な利用がカリキュラムを混乱させていると話しています。学生はAIが生成したエッセイを提出したり、プレゼンテーションのためにAIが生成したスクリプトを読んだりしています。オープンソースのコードリポジトリのメンテナーたちは、AIが生成した低品質なプルリクエストの flood に悩まされています。
ほとんどのAI搭載教育製品はひどいもので、ゲーム化できる指標を追い求めています。子供たちを本物の小説に没頭させる代わりに、あるAI搭載学校は、子供たちにAIが生成した文章を見せ、AIが生成した多肢選択式の質問でテストします。他のAI教育製品は、詐欺も同然です。例えば、ロサンゼルス統一学区が300万ドルを無駄にした製品は、その創設者が詐欺と個人情報窃盗で起訴されるまで使われ続けました。
AIに関する10年間の懸念
私は10年間、AIがどこへ向かうのかを心配してきました。2016年、ジェレミー・ハワードと私は、ニューラルネットワークの力に触発され、主要なAI企業が向かっている方向性に警鐘を鳴らし、fast.aiを共同設立しました。
10年前、AI開発は、広範囲に影響を及ぼす決定を下す、小規模で均質なエリート層の領域でした。私たちは、より多様な背景を持つ人々をこの分野に関与させることで、その権力の集中に対抗しようとしました。それにもかかわらず、今日では、トップAIラボを運営する数人の億万長者が、かつてないほどの権力を持っています。
[画像: 著者が2018年の講演でAIの集中化について語っている様子]
私は2018年のいくつかの講演でこのことについて話しました。
大手AIラボは、コンピューティングパワーと資金が無限であるかのように振る舞いました。世界のほとんどの地域は、その仮定を許容できません。ジェレミーと私は、研究者たちが制約を創造性の源として扱い、それを金で解決できるものではないと考えてほしかったのです。
[画像: 2018年のスタンフォード大学コンペティションでfast.aiがGoogleとIntelに勝利したことについて、ジェレミーが語っている引用]
私は、データサイエンティストのトレーニングに倫理を組み込むことを望んでいました。技術的な作業が終わった後のオプションの議論ではなく。サンフランシスコ大学では、応用データ倫理センターを設立し、データ倫理コースを作成し、データサイエンス修士課程の必須科目としました。しかし、AI倫理は依然としてマーケティング活動として扱われたり、実際の人間的苦しみよりも理論的な問題に焦点を当てたりすることが多いのです。
AIへの回帰
AI分野で長年働いた後、私は燃え尽きました。莫大な資金、権力、影響力を持つ企業に対抗する努力に疲れ果てていました。私が抵抗しようとしていた方向へ、この分野がさらに進んでいくのを見るのが嫌でした。2023年、私はこの分野を離れ、微生物学・免疫学の修士号を取得するために学校に戻りました。しかし昨年、AIに対する世間の反発が強まる中、私はますます嫌われるようになった分野に戻ることを決意しました。
なぜでしょうか?AIを嫌う人々には、多くの良い点があります。AIはブログのエコシステム、私のメール受信箱、友人の子供たちが通う学校、オープンソースコードなどを劣化させています。AI企業は、気候危機がきれいな空気や水の不足と向き合うことを強いているにもかかわらず、資源は無限であるかのように装っています。
AIができることについて、偽りや誇張された主張は数多くありますが、それらの下には、真に有用な技術が存在します。私は、自分の批判的思考スキルを低下させず、資源が無尽蔵であるかのように装わない方法でAIを使いたいのです。
私が離れている間に、fast.aiはAnswer.AIへと成長しました。ジェレミーとチームは、私たちが10年前に始めた仕事を続けています。それは、強力な技術をより多くの人々が利用できるようにしつつ、人間の判断と自律性を中心に据えることです。
彼らはSolveItを開発しました。これは、人々がAIの応答を直接編集し、次に何をすべきかを自分で決定できるツールです。その設計は、AIを誤りやすいものとして扱い、人間をコントロール下に置きます。Answer.AIへの参加は、ジェレミーと私が一緒に始めた仕事、そして変化をもたらしたいという願望への回帰でした。
SolveItという名前は、ジョージ・ポリアの1945年の著書『How to Solve It(いかにして問題をとくか)』に由来しています。ポリアは問題解決を4つの段階に分けました:問題を理解する、計画を立てる、計画を実行する、結果を振り返る。各段階で、思考し、判断を下す必要があります。
[画像: ジョージ・ポリアの原著]
チャットボットが最初の要求から完成した回答までを急いで進むと、問題を深く理解する過程をスキップしてしまいます。この思考を経ずに、解決策が良いものかどうかを判断することはできず、それに続く次の問題への準備も不十分になります。SolveItは、過度に「親切な」チャットボットとは正反対になるように意図的に設計されています。
AIは一つのものではない
最大手企業は、この技術に対する彼らのビジョンを唯一の選択肢であるかのように見せてきました。しかし、そうではありません。OpenAI、Anthropic、Google、xAIはAIを所有していません。彼らの価値観や決定が、AI技術の唯一の形ではありません。
AIが最終的にどのような形をとるかを左右する問題は数多くあります。オープンソースは保護されるでしょうか?大手AIラボは、彼らの仕事の上に構築される小規模企業の堅牢なエコシステムの開発を妨げるでしょうか(例:AnthropicがWebアプリの使用料よりもSDKの使用料を高く設定する計画を発表)?ツールは、人間同士の協力を促進するように設計されるのでしょうか、それとも可能な限り自動化するだけでしょうか?
世界中の何千人もの人々が、支配的な物語の外で、自身の価値観を受け入れた方法でAIに取り組んでいます。Answer.AIのSolveItに関する取り組みはその一例にすぎません。
多くの人々がAIに反対する理由を理解しています。私の新しい仕事は、それと同じ異議申し立てに基づいています。私は、人間の創造性、自律性、問題解決能力を保護する方法でAIを使用する方法を見つけたいと考えているため、この分野に戻りました。