信頼性の低いネットワーク環境で注目を集める小型AIモデル
Small AI Models Gain Traction In places with unreliable networks (spectrum.ieee.org)
要約
インターネット接続が不安定でインフラが未整備な地域では、大規模言語モデル(LLM)よりも小型で低消費電力のAIモデルが実用的かつ生命を救うサービスを提供できることが注目されています。これらの小型AIは、スマートフォンやRaspberry Piなどの低電力デバイス上で動作し、特定のタスクに特化することで、医療、農業、感染症対策など、世界中の多くの人々の生活に影響を与える可能性を秘めています。
全文翻訳
2019年の朝、Adebayo Alonge氏はケープタウンのホテルの部屋で、自身のスタートアップがアフリカの医療における深刻な問題、すなわち毎年数千人が大陸で死亡している偽造医薬品に対するAIソリューションのデモンストレーションを準備していました。
RxScannerは、携帯可能な分光計で、錠剤に赤外線を照射し、その分子プロファイルを製薬データベースを備えたAIモデルに送信します。数秒で、AIはその分子プロファイルから医薬品を識別するか、偽物であることを報告します。
このシステムは、ガーナ、ケニア、ミャンマー、そしてAlonge氏の母国ナイジェリアを含む十数カ国で薬局が使用していました。しかし、その南アフリカでの朝、システムは機能しませんでした。「ショックでした」とAlonge氏は言います。
分光計はAIモデルに接続されていましたが、データセンターは14,000キロメートル離れており、帯域幅は限られていました。「私たちのサーバーはアメリカにあり、単一のスキャン結果を得るのに5分以上かかっていました。」
そのため、Alonge氏は直ちにエンジニアに、AIモデルを小型で低消費電力、オフラインで動作するバージョンに縮小するよう依頼しました。彼らは2時間後にそれを完成させ、デモンストレーションを救いました。
さらに重要なことに、この作業は彼のデバイスの新しいバージョンを生み出し、ブロードバンド、コンピューター、あるいは安定した電力供給がない場所でも錠剤を認証できるようになりました。また、Alonge氏はこの種の「スモールAI」の提唱者となりました。
グローバルヘルスケアアクセスにおけるスモールAI
スモールAIは、裕福な国々の巨大な大規模言語モデル(LLM)、ハイパースケールデータセンター、数十億ドル規模の投資、そしてAIの意識に関する議論とはかけ離れたものです。しかし、世界中の何百万人もの人々にとって、最も重要なAI、そしてしばしば唯一利用可能なAIは、スモールAIです。(11月に発行された世界銀行の報告書によると、世界で最も貧しい国々のインターネットユーザーのわずか0.7パーセントしかChatGPTを使用したことがないのに対し、最も発展した国々では全インターネットユーザーの4分の1が使用しています。)
「ほとんどの人はAIをLLM/生成AIの側面から議論しています。しかし、それには大量のコンピューティングパワー、電力、膨大なデータ、そしてそれを管理する熟練した人々が必要です」と世界銀行の総裁であるAjay Banga氏は、先月ダボスで開催された世界経済フォーラムで述べました。「先進国以外では、インドと中国を除いて、これらの組み合わせを持つ国はほとんどありません。」
対照的に、スモールAIは、これらの要素が全くない地域の人々に、有用で、さらには命を救うサービスを提供できるとBanga氏は述べています。インドでは、政府のAI計画がスモールAIの開発をさらに進めることを目指しており、多くのそのようなシステムが農家のために稼働しています。
例えば、インドのヴェロア工科大学のBala Murugan氏らのチームが開発したドローンベースのシステムは、カシューナッツの木の写真を撮影し、病気を示す斑点のある木を迅速に特定します。すべての処理はドローン自体で行われるため、現場にコンピューターは不要で、中央サーバーへの接続も必要ありません。
特定の問題のために訓練されたスモール言語モデルを使用し、時には安価で低消費電力のデバイスで動作する他のスモールAI実装が、ウルグアイのブドウ園でのアリの巣の特定、複数の国でのマラリア媒介蚊の検出、そしてブラジルの一部の地域での心電図測定(より複雑な機器へのアクセスがない地域)のために開発されています。
「これは現在AIにおいて最も重要な分野です」と、これら3つのプロジェクトすべてに関わったブラジルのイタジュバ連邦大学工学情報システム研究所の教授、Marcelo José Rovai氏は述べています。「非常に速く成長しています。」
デバイス上の低消費電力・スモールAIモデル
[画像: 2つの開発ボードとIoT開発プラットフォームが実験台の上で同時に動作している。] スモールAIモデルは、左からArduino Nano 33 BLE Sense、Seeed Wio Terminal、Arduino Portentaなど、さまざまな低消費電力デバイスで実行できます。Moez Altayeb
Alonge氏、Rovai氏、その他の提唱者にとって、スモールAIは、11月の世界銀行報告書が呼ぶ「有望なトレンド」に過ぎません。それは、長期的には最も多くの人々の生活に影響を与え、巨大なモデルがほとんどのユーザーにとって高価になりすぎた後も持続可能なAIの形態になるかもしれません。
「AIの未来は、中央にある一つの巨大なモデルのようになるとは思いません。私は、エッジに展開された何百万もの小さく正確なモデルがあり、それぞれが特定の、具体的な問題を解決するようになると考えています」とAlonge氏は言います。これは、豊かな国の一部や発展途上国を含む人類の多くが、最先端のフロンティアモデルへのアクセスなしに生活しているためでもあります。しかし、彼は、それらのモデルは持続可能ではないとも述べています。
「誰かが補助金を出さない限り、ほとんどの人はそれらのモデルを購入できません。ですから、私たちがスモールAI開発者と呼ばれる人々は、世界の大多数のために構築しなければならないのです」とAlonge氏は言います。
「スモールAI」に厳密な定義はありませんが、人々はしばしば、パラメータ数が数十億以下の言語モデルを指してこの用語を使用します。(最先端のモデルは1兆を超えるパラメータを含むことがあります。)これは、スマートフォンやRaspberry Piで直接実行できるほど小さいサイズです。これにより、これらのアプリケーションはデータセンターに接続せずにデバイス上で実行でき、わずか数ワットの電力しか消費しません。これはしばしばバッテリーやソーラーパネルから供給されます。
Rovai氏によると、その小さなフットプリントにもかかわらず、これらのモデルは巨大なAIモデルと根本的に異なる技術ではありません。スモール言語モデルの多くのインスタンスは、Alonge氏の医薬品スキャナーの電話ベースのバージョンと同じ方法で作成されました。それは、大規模モデルのパラメータを「刈り込み」、タスクに関与していないパラメータを削除することによってです。その結果、一般的には能力が低下しますが、特定のタスクに対しては非常に優れたシステムになります、とRovai氏は述べています。
[画像: ボタンが1つ、蓋、そして4つの小さなインジケーターライトを備えたシンプルなデザインの小さな楕円形のデバイス。] RxAllのRxScanner分光計の軽量版は、結果をローカルのスマートフォン上のAIモデルに送信し、薬の分子シグネチャが本物であることを確認します。RxAll
他のスモールモデルは「蒸留」によって作成されます。それらは、パフォーマンスが「教師」に近づくまで、大規模モデルを模倣するように訓練されます、とRovai氏は言います。場合によっては、大規模モデルの精度が低下させられ、例えば32ビットアーキテクチャで実行されるモデルが8ビット設計で実行できるようにします。機械学習アプリケーションがデータを分類したり、パターン(アリの巣など)を予測したりするために使用される状況では、それは最初からスモールデバイス上で訓練され、より大きなモデルから派生したものではありません。
Rovai氏によると、これらの小さく専門化されたシステムを実行することは、2つの理由で容易になっています。
最初の理由は、ハードウェアがより高性能になり、消費電力が低下していることです。これにより、特に顔認識や写真の明るさ、影、コントラストの変更などのAIタスクを処理する特殊チップであるニューラルプロセッシングユニット(NPU)を搭載したスマートフォンで、より多くのスモールAIを実行できるようになります。
Counterpointというテクノロジーリサーチ会社によると、2025年には世界中で出荷されるスマートフォンの3分の1強が生成AIを実行できるようになり、その割合は今年末までに45パーセントに達するでしょう。来年末までに、スマートフォンの半数強がスモールAIモデルを実行できるようになります。
Rovai氏が挙げる2番目の理由は、言語モデルのフットプリントの縮小です。Google DeepMindのGemma 4(4月にリリース)とAlibabaのQwen 3.5は、どちらもスモールAIにとって「素晴らしい」とRovai氏は述べています。両モデルとも「オープンウェイト」であり、ユーザーはニーズに合わせてパラメータ間の接続を調整できます。これにより、例えば「牛乳業界から大量のデータを取得し、モデルをそのデータに特化して再トレーニングする」ことが容易になります、とRovai氏は言います。
Rovai氏は、Zoom通話で、最近の実験の一つを使ってこれらの理由を説明しました。デバイスを手に持ち、「これは新しいArduino UNO Qです。50ドルのデバイスでQualcommチップセットを搭載しています。ここで言語モデルを実行しており、センサーからデータを収集してそのデータを分析し、蚊が繁殖する可能性のある小さな水たまりを検出します。実行には3ワットかかります。」と述べています。
スモールAI開発への支援
これらのアプリケーションからすでに何百万人もの人々が恩恵を受けていると確信している世界銀行は、現在、助成金、メンターシッププログラム、融資、技術的アドバイス、そしてスモールAI開発に友好的な政府政策のモデルを通じて、積極的にスモールAIを推進しています。例えば、ルワンダでは、世界銀行が低所得世帯がAIを実行できるデバイスを入手できるよう支援する政府プログラムを支援しています。
とはいえ、大規模言語モデルが完全に消滅すると主張する人はいません。Rovai氏によると、スマートフォンやその他の小型デバイスで実行できる生成AIを作成するには、大規模モデルのアーキテクチャに関する洞察、データ処理、および結果が必要です。「これらのより小さなモデルを作成するためには、大きなモデルが必要です。」
そして、スモールAIがビッグAIにアクセスできない人々に利益をもたらす一方で、その技術だけでは開発とデジタル格差というより大きな問題を解決することはできない、とAlonge氏は述べています。スモールAIを実装しても、国がAIをサポートするエコシステム(信頼性の高い電力、機能するサプライチェーン、AIツールを作成するために必要な才能を育成する教育システム)を構築するという課題から逃れることはできません。
彼の薬物スキャンシステムは、接続なしで数日間スマートフォンで動作できますが、「それでも、新しい薬物の署名や分析のための定期的な同期を可能にしたいのです」とAlonge氏は言います。「そして、バッテリーを使用している場合でも、信頼性の高い電力は重要です。そのスマートフォンのバッテリーは永遠に持続するわけではありません。」
世界の多くの地域では、スモールAIの未来は保証されていません、と彼は言います。「それは機能しており、多くの場所で最終的にはそれを使用する必要があるでしょう。問題は、政治的アクターがそれを長期的にサポートするインフラに投資するほど賢明かどうかということです。」