HN 日本語サマリー

← 一覧へ戻る
科学・技術

Apple Neural Engine: アーキテクチャ、プログラミング、性能

Apple Neural Engine: Architecture, Programming, and Performance (arxiv.org)

195 pointsby Jimmc41425 コメント

要約

このガイドは、Apple Neural Engine (ANE) のリバースエンジニアリングに関する報告書です。ANEはAppleのSoCに搭載されている固定機能の行列アクセラレータで、Core MLフレームワークを介してアプリケーションに公開されています。本研究では、Apple Siliconでの直接測定と、プライベートなランタイム、コンパイラ、カーネルドライバー、ファームウェアの静的解析に基づき、そのデータパス、スループットとエネルギーを制限するルーフライン、Core MLの下層にあるディスパッチルート、コンパイラとディスク上のプログラム形式、重み圧縮スキーム、カーネルドライバー、ファームウェア、コマンドプロトコルについて文書化しています。

全文翻訳

Computer Science > Hardware Architecture

arXiv:2606.22283 (cs)

[Submitted on 21 Jun 2026 (v1), last revised 15 Oct 2026 (this version, v2)]

Title:Apple Neural Engine: Architecture, Programming, and Performance

Authors:Spencer H. Bryngelson

View a PDF of the paper titled Apple Neural Engine: Architecture, Programming, and Performance, by Spencer H. Bryngelson

View PDF HTML (experimental)

Abstract:The Apple Neural Engine (ANE) is Apple's fixed-function matrix accelerator. It has shipped in every Apple system-on-chip since the A11 in iPhones and iPads and the M1 in Macs. Applications reach it only through Core ML, which documents almost nothing below its own surface. This work reverse-engineers the engine. We reach it directly, below Core ML, from an ordinary user process, and that access opens the rest to measurement. We measure on Apple silicon and decompile the private runtime, compiler, kernel driver, and firmware, checking each against the other. We give the datapath and the roofline that bounds throughput and energy. Below that are the compiler and the program format it emits, the weight-compression scheme, the kernel driver, the firmware, and the command protocol. We decode compiler targets for the A11 through A18 and M1 through M5 families, with per-chip tables and an operation-by-device matrix. We measured silicon on the M1 and M5 only, and we mark every claim measured, decompile-derived, or predicted. We record how we reached the engine and what we could not measure. The route is callable from user space, but Apple does not document or support it, and it breaks across operating-system updates. It serves measurement and on-device research. Core ML remains the path for shipped software.

要約: Apple Neural Engine(ANE)は、Appleの固定関数行列アクセラレータです。iPhoneおよびiPadのA11以降、MacのM1以降のすべてのAppleシステムオンチップに搭載されています。アプリケーションはCore MLを通じてのみANEにアクセスできますが、Core MLはその表面以下のほとんどを文書化していません。本研究では、ANEをリバースエンジニアリングします。Core MLの下位レベルから通常のユーザープロセスから直接アクセスし、そのアクセスにより測定が可能になります。Apple Silicon上で測定を行い、プライベートランタイム、コンパイラ、カーネルドライバ、ファームウェアを逆コンパイルし、それぞれを相互に照合します。データパスとスループットおよびエネルギーを制限するルーフィングを提供します。その下には、コンパイラとその出力プログラム形式、ウェイト圧縮スキーム、カーネルドライバ、ファームウェア、およびコマンドプロトコルがあります。A11からA18、およびM1からM5ファミリーまでのコンパイラターゲットを、チップごとのテーブルとデバイスごとの操作マトリックスでデコードします。M1およびM5のみでシリコンを測定し、測定、逆コンパイル由来、または予測されたすべての主張に印を付けます。エンジンに到達した方法と測定できなかったことを記録します。このルートはユーザー空間から呼び出し可能ですが、Appleはそれを文書化またはサポートしておらず、オペレーティングシステムのアップデートで壊れます。測定とオンデバイスリサーチに役立ちます。出荷ソフトウェアのパスとしてはCore MLが引き続き使用されます。

Comments:303 pages, 12 figures, 218 tables
Subjects:Hardware Architecture (cs.AR); Operating Systems (cs.OS); Performance (cs.PF)
ACM classes:C.1.3; C.4
Cite as:arXiv:2606.22283 [cs.AR]
(or arXiv:2606.22283v2 [cs.AR] for this version)
https://doi.org/10.48550/arXiv.2606.22283 arXiv-issued DOI via DataCite

Submission history

From: Spencer Bryngelson
view email
v1 Sun, 21 Jun 2026 00:17:34 UTC (407 KB)
v2 Thu, 15 Oct 2026 03:17:23 UTC (407 KB)

Full-text links:

Access Paper:

View a PDF of the paper titled Apple Neural Engine: Architecture, Programming, and Performance, by Spencer H. Bryngelson

[画像: license icon] view license

Additional Features
Current browse context:

cs.AR

< prev   |   next >

new | recent | 2026-06

Change to browse by:

cs
cs.OS
cs.PF

References & Citations

Loading...

BibTeX formatted citation

loading...

Data provided by:

Bookmark

[画像: BibSonomy][画像: Reddit]

Bibliographic Tools

Bibliographic and Citation Tools

Bibliographic Explorer Toggle

Bibliographic Explorer (What is the Explorer?)

Connected Papers Toggle

Connected Papers (What is Connected Papers?)

Litmaps Toggle

Litmaps (What is Litmaps?)

scite.ai Toggle

scite Smart Citations (What are Smart Citations?)

Code, Data, Media

Code, Data and Media Associated with this Article

alphaXiv Toggle

alphaXiv (What is alphaXiv?)

Links to Code Toggle

CatalyzeX Code Finder for Papers (What is CatalyzeX?)

DagsHub Toggle

DagsHub (What is DagsHub?)

GotitPub Toggle

Gotit.pub (What is GotitPub?)

Huggingface Toggle

Hugging Face (What is Huggingface?)

ScienceCast Toggle

ScienceCast (What is ScienceCast?)

Demos

Demos

Replicate Toggle

Replicate (What is Replicate?)

Spaces Toggle

Hugging Face Spaces (What is Spaces?)

Spaces Toggle

TXYZ.AI (What is TXYZ.AI?)

Related Papers

Recommenders and Search Tools

Link to Influence Flower

Influence Flower (What are Influence Flowers?)

Core recommender toggle

CORE Recommender (What is CORE?)

  • Author
  • Venue
  • Institution
  • Topic

About arXivLabs

arXivLabs: experimental projects with community collaborators

arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website.

Both individuals and organizations that work with arXivLabs have embraced and accepted our values of openness, community, excellence, and user data privacy. arXiv is committed to these values and only works with partners that adhere to them.

Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs.

Which authors of this paper are endorsers? | Disable MathJax (What is MathJax?)