信頼性の低いネットワーク環境で注目を集める小型AIモデル

信頼性の低いネットワーク環境やデータセンターインフラがない場所では、小型であるほど良い 2019年の朝、アデバヨ・アロンゲ氏はケープタウンのホテルの部屋で、アフリカの医療における深刻な問題、すなわち毎年数千人が死亡する偽造医薬品に対するスタートアップのAIソリューションのデモンストレーションを準備していました。 RxScannerは、ピルを赤外線でスキャンし、その分子プロファイルを製薬データベースを備えたAIモデルに送信するハンドヘルド分光計です。数秒で、AIはその分子プロファイルから医薬品を識別するか、偽物であることを報告します。 薬局は、ガーナ、ケニア、ミャンマー、アロンゲ氏の母国ナイジェリアを含む十数カ国でこのシステムを使用していました。しかし、その南アフリカの朝、それは機能しませんでした。「ショックでした」とアロンゲ氏は言います。 分光計はAIモデルに接続されていましたが、データセンターは14,000キロメートル離れており、帯域幅は限られていました。「私たちのサーバーは米国にあり、単一のスキャンの結果を得るのに5分以上かかっていました。」 そこでアロンゲ氏は直ちにエンジニアに、AIモデルを小型で低消費電力、オフラインで動作するバージョンに縮小するよう依頼しました。彼らは2時間後にそれを完成させ、デモを救いました。 さらに重要なことに、この作業は、ブロードバンド、コンピューター、あるいは信頼できる電力さえもない場所でピルを認証できるデバイスの新しいバージョンを生み出しました。それはまた、アロンゲ氏をこの種の「小型AI」の提唱者にしました。 グローバルヘルスケアアクセスにおける小型AI 小型AIは、裕福な国の巨大な大規模言語モデル（LLM）、ハイパースケールデータセンター、数十億ドルの投資、AI意識に関する議論とはかけ離れています。しかし、世界中の何百万人もの人々にとって、最も重要で、しばしば唯一利用可能なAIは、小型のものです。（11月に発表された世界銀行の報告書によると、世界で最も貧しい国々のインターネットユーザーのわずか0.7％がChatGPTを使用したことがあるのに対し、最も先進国のインターネットユーザーの4分の1が使用しています。） 「ほとんどの人はAIをLLM/生成側の視点から議論しています。しかし、それには大量のコンピューティングパワー、電力、膨大なデータ、そしてそれを管理するための熟練した人材が必要です」と世界銀行のプレジデントであるアジェイ・バンガ氏は、1月にダボスで開催された世界経済フォーラムで述べました。「先進国以外では、インドと中国を除いて、この組み合わせを持つ国はほとんどありません。」 対照的に、小型AIは、それらのいずれも持たない地域の人々に、有用で、さらには命を救うサービスを提供できるとバンガ氏は述べています。インドでは、政府のAI計画が小型AIの開発をさらに進めることを目指しており、多くのそのようなシステムが農家のために稼働しています。 例えば、インドのヴェロア工科大学のバラ・ムルガン氏と同僚が開発したドローンベースのシステムは、カシューナッツの木の写真を撮り、病気を示す斑点のある木を迅速に特定します。すべての処理はドローン自体で行われるため、現場にコンピューターは必要なく、中央サーバーへの接続も不要です。 特定の問題のために訓練された小型言語モデルを使用し、時には安価で低電力のデバイスで実行される他の小型AI実装が、ウルグアイのブドウ園でのアリの蔓延を特定し、多くの国でマラリア媒介蚊の存在を検出し、ブラジルの一部でより複雑な機器へのアクセスがない地域で心電図を実行するために開発されています。「これは現在、AIにおいて最も重要な分野です」と、ブラジルのイタジュバ連立連邦大学の工学・情報システム研究所の教授で、これら3つのプロジェクトすべてに関わったマルセロ・ホセ・ロヴァイ氏は述べています。「非常に急速に成長しています。」 デバイス上の低電力、小型AIモデル 小型AIモデルは、Arduino Nano 33 BLE Sense、Seeed Wio Terminal、Arduino Portentaなど、さまざまな低電力デバイスで実行できます。 アロンゲ氏、ロヴァイ氏、その他の提唱者にとって、小型AIは単なる「有望なトレンド」ではありません。それは、長期的には、最も多くの人々の生活に触れ、巨大なモデルがほとんどのユーザーにとって高価になりすぎた後に持続可能になるAIの形態である可能性があります。「AIの未来は、中央にある一つの巨大なモデルのようになるとは思いません。それは、エッジに展開された何百万もの小さく正確なモデルであり、それぞれが特定の、特定の文脈の問題を解決するのだと思います」とアロンゲ氏は言います。これは、先進国の一部を含む世界の多くの人々が、最先端のフロンティアモデルへのアクセスなしに生活しているためでもあります。しかし、彼は、それらのモデルは持続可能ではないとも述べています。「誰かが補助金を出さない限り、ほとんどの人はそれらのモデルを支払うことができません。だから、小型AI開発者と呼ばれている私たちこそが、世界の大多数のために構築しなければならないのです」とアロンゲ氏は言います。 「小型AI」の厳密な定義はありませんが、人々はしばしば、最大数十億パラメータを持つ言語モデルを指してこの用語を使用します。（最先端のモデルは1兆を超えるパラメータを含むことがあります。）これは、電話やRaspberry Piで直接実行できるほど小さいです。これにより、これらのアプリケーションはデータセンターへの接続なしでデバイス上で実行でき、バッテリーやソーラーパネルから供給されるわずかな電力しか使用できません。 それらの小さなフットプリントにもかかわらず、これらのモデルは巨大なAIモデルと根本的に異なる技術ではないとロヴァイ氏は述べています。多くの小型言語モデルのインスタンスは、アロンゲ氏の電話ベースの医薬品スキャナーバージョンと同じ方法で作成されました。つまり、大規模モデルを「プルーニング」（タスクに関与していないパラメータを削除する）することです。その結果、一般的には能力が低下しますが、プルーニングされた特定のジョブには依然として非常に優れたシステムになります、とロヴァイ氏は述べています。RxAllのRxScanner分光計の軽量バージョンは、その結果を電話でローカル実行されるAIモデルに送信し、薬の分子シグネチャが本物であるかを確認します。 他の小型モデルは「蒸留」によって作成されます。それらは、パフォーマンスが「教師」のパフォーマンスに近づくまで、大規模モデルを模倣するように訓練されます、とロヴァイ氏は述べています。場合によっては、例えば32ビットアーキテクチャで実行されるモデルが8ビット設計で実行できるように、大規模モデルの精度が低下します。機械学習アプリケーションがデータを分類したりパターン（アリの蔓延など）を予測したりするために使用される状況では、それは最初から小型デバイスで訓練され、より大きなモデルから派生したものではありません。これらの小さく特殊化されたシステムをすべて実行することが容易になっている、とロヴァイ氏は2つの理由を挙げて述べています。 最初の理由は、ハードウェアがより高性能になり、消費電力が少なくなることです。これにより、特に顔認識や写真の明るさ、影、コントラストの変更などのAIタスクを処理する特殊なチップであるニューラルプロセッシングユニット（NPU）を搭載したスマートフォンで、より多くの小型AIを実行できるようになります。 2025年には、世界中で出荷されるスマートフォンの3分の1強が生成AIを実行できるようになり、その数は今年末までに45％に達すると、テクノロジー調査会社Counterpointは予測しています。来年末までに、スマートフォンの半数強が小型AIモデルを実行できるようになります。 ロヴァイ氏が挙げる2番目の理由は、言語モデルのフットプリントの縮小です。Google DeepMindのGemma 4（4月リリース）とAlibabaのQwen 3.5の両方が、小型AIにとって「素晴らしい」とロヴァイ氏は述べています。両モデルとも「オープンウェイト」であり、ユーザーはニーズに合わせてパラメータ間の接続を調整できます。これにより、例えば「牛乳業界から大量のデータを取得し、そのデータでモデルを再トレーニングする」ことが容易になります、とロヴァイ氏は述べています。 ロヴァイ氏はこれらの理由を次のように説明しました。