HN 日本語サマリー

← 一覧へ戻る
科学・技術

手計算による離散フーリエ変換

Discrete Fourier Transform by Hand (byhand.ai)

10 pointsby Bluestein1 コメント

要約

この記事は、信号処理における離散フーリエ変換(DFT)の数学的複雑さを、手計算可能な行列演算に分解して解説しています。DFTが、ニューラルネットワークと同様に、信号を周波数領域で分析する行列演算の連鎖であることを示し、その基本的な仕組みを理解することを目的としています。

全文翻訳

手計算による離散フーリエ変換 ✍️

ライブラリ › 手計算で学ぶAI ✍️
  1. 手計算による行列乗算 ✍️

  2. 手計算による多層パーセプトロン(MLP)✍️

  3. 手計算による誤差逆伝播法 ✍️

  4. 手計算によるSVM ✍️

  5. 手計算によるバッチ正規化 ✍️

  6. 手計算によるドロップアウト ✍️

  7. 手計算によるリカレントニューラルネットワーク(RNN)✍️

  8. 手計算によるLSTM ✍️

  9. 手計算によるディープRNN ✍️

  10. 手計算による自己注意機構 ✍️

  11. 手計算によるTransformer ✍️

  12. 手計算によるオートエンコーダー ✍️

  13. 手計算による変分オートエンコーダー(VAE)✍️

  14. 手計算によるスパースオートエンコーダー(SAE)✍️

  15. 手計算による敵対的生成ネットワーク(GAN)✍️

  16. 手計算による文章のサンプリング ✍️

  17. 手計算による残差ネットワーク ✍️

  18. 手計算によるU-Net ✍️

  19. 手計算による離散フーリエ変換 ✍️

  20. 手計算によるグラフ畳み込みネットワーク(GCN)✍️

  21. 手計算によるCLIP ✍️

  22. 手計算によるベクトルデータベース ✍️

  23. 手計算によるエキスパート混合(MoE)モデル ✍️

  24. 手計算によるSwitch Transformer ✍️

  25. 手計算によるMambaのS6モデル ✍️

  26. 手計算によるSoraのDiffusion Transformer(DiT)✍️

  27. 手計算によるBitNet ✍️

  28. 手計算による人間からのフィードバックによる強化学習(RLHF)✍️

信号処理において、離散フーリエ変換(DFT)は間違いなく最も重要な手法です。しかし、その数学は文字通り極めて複雑で、オイラー数e、虚数単位i、角周波数w、時間tを用いたe^(-iwt)という複素数項の総和を含みます。

[画像: 離散フーリエ変換の数式を示す画像]

私はこの演習を、そのような複雑さの根底にあるものが、手計算できる一連の行列乗算に過ぎないことを示すために開発しました。✍️ それを理解すれば、ニューラルネットワークも、活性化関数を挟んだ行列乗算の一連の処理であり、信号を効果的に処理・分析するためにDFTを実行するように学習できることは、驚くことではないはずです。

💡 学習されたもの vs. 固定されたもの: U-Netはデータからフィルターを学習して空間領域で信号を処理します。DFTは古典的な反対であり、学習ではなく手作業で設計された固定変換であり、同じ信号を周波数領域でコサイン波の組み合わせとして見ます。

DFTはどのように機能するのでしょうか?

セットアップ

ステップ1/12: 与えられたもの

[画像: 信号A, B, Cの周波数ドメイン表現と信号Xのタイムドメイン表現を示す画像]

  • 🟧周波数ドメインにおける信号A、B、C:

  • A = cos(w) + 2cos(2w)

  • B = cos(w) + cos(3w) + cos(4w)

  • C = -cos(2w) + cos(3w)

  • 各信号は、周波数1w、2w、3w、4wの4つのコサイン波の重み付き和です。

  • 信号を時間領域表現に変換するために逆DFTを適用し、その後、DFTが元の周波数ドメイン表現に変換できることを示します。

  • 🟩タイムドメインにおける信号X。
    Xは10個の時間点1t, 2t, …, 10tでサンプリングされます。

  • X =
    -2.5, -1.8, 3, -0.7, -1.0, -0.7, 3, -1.8, -2.5, 5

  • Xも同じ4つのコサイン波の重み付き和であると仮定しますが、その重みはまだわかっていません。DFTを適用してそれらを発見します。

ステップ2/12: 周波数行列(F)

[画像: 周波数行列Fを示す画像]

  • A、B、Cの係数を行列Fとして記述します。各信号が行であり、各周波数が列です。

  • A → [1, 2, 0, 0]

  • B → [1, 0, 1, 1]

  • C → [0, -1, 1, 0]

ステップ3/12: コサイン → ディスクリート

[画像: 離散時間点におけるコサイン波のサンプリングを示す画像]

  • 連続コサイン波から、離散時間点1t、2t、3t、…、10tでサンプリングします。

メンバー限定:残りのウォークスルーと印刷可能なPDFはこちらをご覧ください。