Microsoft、メールスパマーがASCIIスマグリングを採用したと発表

AI攻撃で人気だったASCIIスモッグ、スパマーに採用される

AIエージェントへの攻撃で巧妙に悪用されていた、悪意のあるプロンプトを隠蔽するテクニックが、スパマーによって採用され、大量キャンペーンで使用される不要なメッセージをフラグ付けするように設計された電子メールプラットフォームのフィルタを回避しています。

このテクニックは、一般にASCIIスモッグとして知られています。2年前に、プロンプトインジェクションと呼ばれるAI攻撃をよりステルスにする手段として注目を集めました。LLMによって処理される電子メールやその他の信頼できないコンテンツに埋め込まれた悪意のある指示は、通常のテキストでは記述されません。代わりに、特殊な範囲のUnicodeタグによってレンダリングされます。例えば、タグポイントU+E0041は「A」を、U+E0061は「a」をミラーリングします。

プロンプトインジェクションの隠蔽だけではなくなった

この128個のタグのブロックは、ASCII（American Standard Code for Information Interchange）の一部をほぼ完璧に模倣していますが、大きな違いが1つあります。それは、エンコードされた文字がコンピュータには読み取れるものの、意図的に人間にはほとんど完全に不可視であるということです。これらのタグで悪意のあるプロンプトを表現することにより、LLMは指示を検出しますが、電子メールを読んでいる人間はそれを見ることはありません。ASCIIスモッグに関する詳細はこちらで確認できます。

今年初め、Microsoftはこのテクニックを使用したスパムメッセージの急増を目にし始めました。2月初旬のある日を境に、Microsoft Defender for Officeによって検出されたASCIIスモッグのシグネチャ数は、1日あたり約21,000件から130万件以上に急増しました。4日以内には、シグネチャ検出数は250万件に跳ね上がりました。この急増は数ヶ月続き、5月中旬に急落しました。

「タグ文字は人間には見えませんが、テキスト処理レベルに存在するため、モデルに指示をスモッグするのに役立つのと同じプロパティが、検出器が評価する前にキーワードを難読化するのにも役立ちます」とMicrosoftは木曜日に説明しました。「意図は反転していますが、メカニズムは似ており、ユーザーの疑念は高まりません。」