HN 日本語サマリー

← 一覧へ戻る
プログラミング

ソフトウェア、第一原理から

Software, from First Principles (fazamhd.com)

74 pointsby faza13 コメント

要約

現代のデバイスのシームレスな体験の裏には、物理学、化学、数学、工学、プログラミングなど、数世紀にわたる人類の創意工夫があります。この複雑さを理解することは、デジタル環境をナビゲートし、技術をより良く利用し、デジタルセキュリティを確保するために不可欠です。この記事では、専門用語を避け、第一原理思考を用いてソフトウェアの「魔法」を解き明かし、その仕組みを理解することが、コンピュータサイエンスの学位を持つ者だけのものではないことを示します。

全文翻訳

Software

スマートフォンやラップトップを使用しているとき、その背後にある物理的な現実の驚異を忘れがちです。そのシームレスな体験の裏には、物理学者、化学者、数学者、エンジニア、プログラマー、デザイナーによる数世紀にわたる努力があります。デバイスの内部には、ほぼ完璧に精製され、微細な回路が刻まれた文字通りの岩石のスライスが入っています。これらの回路内の電子の流れを制御するだけで、私たちは岩石に計算、記憶、思考をさせることができ、精神的な労力を節約できます。1回の操作は1ナノ秒未満で完了するため、デバイスはあなたがまばたきする間に数十億回の計算を実行できます。これらはすべて非常にシームレスに機能するため、ユーザーとして私たちは複雑さから解放され、目の前のタスクに集中できます。

[画像: Intel Pentium II Dixon die shot]

Intel Pentium II Dixon プロセッサダイ(1998年)の顕微鏡写真。各長方形の領域は、データを格納したり、計算を実行したり、特定の回路をアクティブにしたりする個別の機能ブロックであり、約2平方センチメートルのシリコン上にエッチングされています。目でもメモリとロジックを区別でき、左側にある大きくて均一なグリッドはキャッシュメモリ(数百万個の同一のストレージセル)であり、右側の不規則なブロックは計算回路です。(出典:Wikimedia Commons)

しかし、その仕組みを無視することはできますが、ソフトウェアが私たちの生活の大部分を占めるにつれて、そうすることがますます困難になっています。実際、デジタル世界は今や、物理世界と同じくらい私たちの日常の意思決定に影響を与えています。物理環境を理解するために物理学や生物学の基本を学ぶように、デジタル環境をナビゲートするためにはソフトウェアの理解が不可欠になっています。この基本的なリテラシーなしでは、私たちの時間と注意を引きつけるために設計されたシステムによって受動的に管理されたり、搾取されたりするリスクがあります。これらのシステムがどのように機能するかを知らないことから生じる不安につけ込まれるのです。この理解と明晰さがあれば、私たちはテクノロジーをより良く使用し、デジタルセキュリティについて情報に基づいた意思決定を行い、さらには私たち自身の特定のニーズに合わせてソフトウェアを構築する主体性を得ることができます。

この記事の目的は、ソフトウェアとコンピュータの「魔法」を取り除き、それらがどのように機能するかを理解することが、コンピュータサイエンスの学位を持つ者だけが持つ特権ではないことを示すことです。これを達成するために、私はできる限り専門用語を避け、必要な概念のみを導入し、第一原理思考を用いてそれらを構築していきます。裏側では、コンピューティングは乾燥した技術仕様のリストではなく、人間の創意工夫と実践的な問題解決の魅力的な物語であり、各新しい層が前の層の上に構築されています。この物語をたどることで、あなたは明確なメンタルモデルを構築し、デバイスを使用する際に舞台裏で何が起こっているのかについて、より良い明晰さを得ることができます。テクノロジーがどのように機能するかだけでなく、あなたを保護するために組み込まれた目に見えないセーフガードも理解できるようになります。これらのアイデアがどのように形成されたかを示すために必要な歴史的文脈のみを保持し、この記事は可能な限り簡潔に保ちました。

物理学を操作して数学を行う

世界のほとんどの問題解決は、天気を予測する場合でも、航空機の飛行経路を計算する場合でも、橋の構造的完全性をチェックする場合でも、数学的な計算を伴います。元々、「コンピュータ」は単にこれらの計算を手作業で行う数学者の集まりでした。そして、一部の計算には数日かかりました。戦時中や宇宙開発競争の時代には、弾道ミサイルや宇宙ロケットの軌道を計算するために、数千の複雑な方程式を解く必要があり、さらに重要度が増しました。わずかな誤差でもロケットが爆発したり、ミサイルが目標を外れたり、橋が崩壊したりする可能性があるため、これらの計算は何度も検証する必要がありました。このプロセスは非常に遅く、高価で、エラーが発生しやすかったのです。

[画像: NACA High Speed Flight Station Computer Room, 1949]

エドワーズ空軍基地のNACA高速飛行ステーションコンピュータールーム(1949年)。「コンピュータ」は、機械の名前になる前に職業名でした。これらの数学者は手作業で試験飛行データを処理していました。(出典:NASA)

信頼性が高く、迅速に計算を実行できる機械が緊急に必要とされていました。科学者たちは、数え方をシミュレートできる物理プロセスを探しました。そのような初期の試みの一つが、連動するギアとレバーから作られた機械式計算機でした。しかし、それ自体にも問題がありました。機械部品は時間の経過とともに摩耗し、継続的なメンテナンスが必要で、根本的に遅かったのです。

[画像: Pascal's calculator (Pascaline) at the Musée des Arts et Métiers, Paris]

パリの工芸博物館にある、ブレーズ・パスカルが発明した機械式計算機「パスカルライン」(1642年)。各ダイヤルは1つの小数位を設定し、結果は上の窓の行に表示されます。下のシミュレーターと同じ数字のホイールと桁上げメカニズムを備えています。(出典:Wikimedia Commons)

下のシミュレーターは、機械式計算機の基本的な構成要素を示しています。それは、車のオドメーターとまったく同じように、小数位ごとに1つの数字のホイール(百の位、十の位、一の位)の列です。1を加えると、一の位のホイールが1桁進みます。それが 9 から 0 にロールオーバーすると、キャリーピンが作動し、十の位のホイールを1桁進めます。もし十の位のホイール自体が 9 であった場合、その独自のキャリーピンも作動し、百の位のホイールを同じ動きで引きずり、各ホイールはキャリーピンを介して一緒に回転します。

ホイールは通常のギアのように常に接触しているわけではないことに注意してください(そうするとすべてが同じ回転速度にロックされてしまいます)。キャリーピンは、10回転に1回だけ、その短い瞬間にのみ差し込まれ、次のホイールと連動します。ホイールをさらに追加することでより大きな数をサポートでき、回転方向を変えたり、さらに多くの機械部品を追加したりすることで、他の計算を実行できることが想像できます。

interactivemechanical counterone carry pin per ten turns

0123456789Hundreds0123456789Tens0123456789Ones

各ギアはクリックごとに1歯進みます。9を過ぎて0に戻るとき、そのキャリー歯が下のピニオンをトリップさせ、次のギアを1歯前方に押し出します。

機械部品から電気へと移行し、基本的な構成要素として電気スイッチを採用したときに、真の飛躍が起こりました。私たちが話しているのは、家庭の物理的な電気スイッチではなく、電圧を印加することによって自動的に制御されるスイッチのことです。電気スイッチには2つの状態があります:開(電流が流れない、0 または false を表す)と閉(電流が流れる、1 または true を表す)。

これらのスイッチをさまざまな方法で配線することで、論理的な決定を下すことができます。これらの構成の中で最も基本的なものは論理ゲートと呼ばれます。

  • ANDゲート(直列):2つのスイッチを順番に配置した場合、スイッチAがANDスイッチBが閉じている場合にのみ電気が流れます。
  • ORゲート(並列):2つのスイッチを並べて配置した場合、スイッチAが閉じているか、またはスイッチBが閉じている場合に電気が流れます。
  • NOTゲート:「通常は閉じている」(デフォルトで電流を流す)ように設計されたスイッチで、それに電圧が印加されたときにのみ切断して電流を遮断します。

interactiveswitch circuits

クリックして端子AまたはBを切り替えます

スイッチ A = 0, スイッチ B = 0 ⇒ 電球 = 0直列回路:両方のスイッチ A と B が閉じている(1)場合にのみ、電球に電流が流れます。

これら3つのゲートの組み合わせを使用して、どれほど複雑であっても、あらゆる論理規則を作成できます。任意の論理規則を、入力の組み合わせを出力(ONまたはOFF)にマッピングするテーブルと考えてください。このテーブルをハードウェアで再現するには、出力がONである行にのみ焦点を当てる必要があります。

任意の ON 行の回路を構築するには、AND ゲートを使用してその正確な入力の組み合わせを検出します。その行で入力が OFF になるはずの場合、最初に NOT ゲートを通過させます。これにより、OFF 信号が ON に反転し、すべての入力が ON の場合にのみトリガーされる AND ゲートが満たされます。

最終的に、全体的な出力は、最初のターゲットの組み合わせOR2番目の組み合わせが満たされた場合にONになるため、すべての行検出 AND 出力を単一の OR ゲートに供給します。

すべての論理規則はテーブルとして表現でき、どのテーブルもこの正確な方法で構築できるため、AND、OR、NOTのトリオは数学的に完全であり、想像できるあらゆる論理規則を表現できます。

これを実際に確認するために、下のシミュレーターは、入力が異なる場合にのみ出力がONになるXOR(排他的論理和)ルールを構築します。次のセクションで見るように、これはバイナリ加算を実行するために必要な正確なロジックです。

interactivebuilding any logic ruleA=0, B=1 → output 1

入力 A:

入力 B:

スイッチには2つの状態しかないため、通常の10桁(0から9)を使用して数値を表すことはできません。代わりに、バイナリ(基数2)を使用します。これは0と1のみに依存します(各桁はビット、バイナリ数字の略です)。

バイナリでのカウントは、機械式ギアカウンターとまったく同じように機能しますが、桁は2つだけです。私たちの馴染みのある10進数(基数10)システムでは、9+1は10にロールオーバーし、1の桁上げを形成します(10 extsubscript{10})。バイナリ(基数2)では、1が最大の桁であるため、1+1は即座に0にロールオーバーし、1を桁上げします。これは10 extsubscript{2}(10進数の2を表します)と書かれます。

interactivebinary counter0000 = 0

クリックごとにビット0が切り替わります。ビットが1から0にロールバックすると、桁上げが左隣のビットに伝播します。

これらのスイッチがどのように数学を実行するかを見るために、2つの1ビットの数 AA と BB を加算した場合に何が起こるかを見てみましょう。

  • 0 extsubscript{2} + 0 extsubscript{2} = 0 extsubscript{2} (合計:0 extsubscript{2}、桁上げ:0 extsubscript{2})
  • 1 extsubscript{2} + 0 extsubscript{2} = 1 extsubscript{2} (合計:1 extsubscript{2}、桁上げ:0 extsubscript{2})
  • 0 extsubscript{2} + 1 extsubscript{2} = 1 extsubscript{2} (合計:1 extsubscript{2}、桁上げ:0 extsubscript{2})
  • 1 extsubscript{2} + 1 extsubscript{2} = 10 extsubscript{2} (合計:0 extsubscript{2}、桁上げ:1 extsubscript{2})

パターンに気づきましたか。

  • 合計の桁が 1 になるのは、片方の入力だけがONで両方がONでない場合です。これはまさにXOR(排他的論理和)ゲートの動作です。
  • 桁上げの桁が 1 になるのは、両方の入力がONの場合です。これはまさにANDゲートの動作です。

下のシミュレーターは、あなたが構築したXOR回路とANDゲートを配線して、この半加算器を構築します。AとBを切り替えて、合計ビットと桁上げビットが同時に更新されるのを確認してください。

interactivehalf-addersum and carry

クリックして入力 A または B を切り替えます

0 + 0 = 00 extsubscript{2} = 0算術ロジックは内部にありません。XORゲートが合計(1の位)を計算し、ANDゲートが桁上げ(2の位)を計算します。

これらのゲートを配線し、桁上げ出力を次のビットの入力に供給することで、任意のサイズのバイナリ数を加算できます。これはリップルキャリーアダーと呼ばれ、ビット0からの桁上げがビット1に連鎖し、ビット1自体がビット2に桁上げを生成する可能性があり、最終的な合計が安定する前に、チェーン全体を下降します。減算は負の数を加算するだけであり、乗算は繰り返し加算であるため、すべての算術演算はこれらの基本的なゲート回路の組み合わせに還元されます。

初期のコンピュータでは、真空管を使用してこれらのスイッチを実装しました。それらは密閉されたガラス電球に似ており、加熱されたフィラメントと真空に密閉された金属プレートを含んでいました。フィラメントを加熱すると、電子が真空に蒸発するのに十分なエネルギーを得ます。このプロセスは熱電子放出と呼ばれ、正に帯電したプレートがそれらをギャップを越えて引き寄せます。3番目の要素であるワイヤーメッシュのグリッドがその間にあります。それに負の電圧を印加すると、電子が横切る前にそれらを反発させ、電流を遮断します。その電圧を解放すると、それらは再び流れることができます。これは、可動部品のない高速スイッチです。

interactivevacuum tube (triode)a switch with no moving parts

ANODE (+150V)GRID (-5V)FILAMENTLOADOFF (0)

グリッドが-5Vの場合、電子は横切る前に反発します。スイッチはオフです。

[画像: Western Electric VT-1 Triode Vacuum Tube]

Western Electric VT-1(1917年)、古典的な第一次世界大戦時代の三極管真空管。(出典:Wikimedia Commons)

しかし、エンジニアがより大きく、より高性能な機械を構築しようとすると、物理的なボトルネックに直面しました。真空管はかさばり、膨大なエネルギーを消費し、絶えず故障しました。さらに革新するには、壊れやすいガラス製品を最適化するだけでは不十分でした。物理的な基本に戻り、より良いスイッチを発明する必要がありました。これが、1947年に発明された最初のトランジスタにつながりました。これは、真空管よりも小さく、涼しく、はるかに信頼性の高いソリッドステート電子スイッチでした。その最初のデバイスは、真空も熱いフィラメントもなく電流を切り替えることができる固体材料であることを証明しました。

今日ほぼすべてのチップで使用されている改良された設計は後に出てきました。シリコン上の薄い絶縁層の上に配置されたゲート電極に電圧が印加されます。その電圧は絶縁層を貫通する電場を生成し、シリコン自身の電子を表面に引き寄せ、ソースとドレインの2つの端子の間に細い導電チャネルを形成します。電圧が除去されるとチャネルが崩壊し、電流が遮断され、可動部品なしで電流がオンまたはオフになります。

interactivetransistor (MOSFET)gate voltage opens the channel

SourceDrainGATEINSULATORLOADOFF (0)

ゲート電圧がないため、ソースとドレインの間にチャネルは形成されません。スイッチはオフです。

[画像: First Point-Contact Transistor]

ベル研究所で1947年に開発されたオリジナルの点接触トランジスタ。(出典:Bell Labs)

その後数十年間、数千個のトランジスタをシリコンウェハー上に直接印刷する方法を開発するにつれて、集積回路(またはチップ)を作成しました。これらの印刷されたトランジスタのサイズと間隔は、ナノメートル(nm)で測定されるプロセスノード(または製造プロセス)と呼ばれます。プロセスノードが小さいほど、各トランジスタは小さくなり、同じ物理空間にさらに多くのトランジスタを詰め込むことができます。今日、私たちの手にあるスマートフォンは、初期のスーパーコンピュータ(部屋全体を占め、大量の熱を発生させていた)のほんの一部しかエネルギーを消費せずに、膨大な量のコンピューティングパワーとメモリを搭載しています。

現実をビットに変換する

2状態スイッチがバイナリシステムを使用して数値を表現し、計算できるようにする方法を見てきました。しかし、数値とロジックだけに限定したくはありません。私たちの現実のほとんどは、数値としてきれいに整理されません。たとえば、音は空気圧の連続的な変動です。初期の電話線は、スピーカーの声の物理的な振動を電気電圧の同等の変動に変換することによって音を伝送しました(マイクダイアフラムを使用)、そしてリスナーの側で逆の操作を行いました(電磁石とスピーカーを使用)。しかし、この連続的で変動する電気波を論理ゲートを使用してどのように表現できるでしょうか。

通信技術のパイオニアであるベル研究所の科学者たちが電話回線でボトルネックに直面したときに、その洞察が生まれました。それらは互いに干渉するため、複数の信号を同時に送信できませんでした。また、距離による信号減衰を補償するために、さまざまなポイントでアンプを使用する必要がありました。ノイズは環境干渉によって導入される可能性があり、アンプはノイズさえも増幅しました。連続的なアナログ波として音声を送信することはあまり信頼性がなく、より良い方法があるはずだと彼らは気づきました。

ベル研究所の数学者であるクロード・シャノンは、1948年の情報理論に関する画期的な論文でこの移行を形式化しました。彼は「ビット」(バイナリ数字)という用語を普及させ、ハリー・ナイキストの初期の研究に基づいて、サンプリング定理を確立しました。連続アナログ信号を十分に高い周波数でサンプリングし、定期的な間隔で離散的な測定を行うと、それをデジタル化して宛先で完全に再構築できるというものです。サンプルあたりのビット数、ビット深度は、利用可能な離散的な量子化レベルの数を決定します。1ビットは2レベル、8ビットは256レベルを提供します。回線上のリレーポイントでは、アナログアンプは減衰した信号と蓄積されたノイズの両方を一緒に増幅します。デジタル再生器はより良いことを行います。それは、受信した各パルスを読み取り、それがどのレベルを表すかを判断し、ノイズをすべて破棄してクリーンなコピーを再送信します。

下のシミュレーターを操作して、ノイズやその他のパラメータを調整し、サンプリングと量子化がアナログ波をどのように再構築し、伝送ノイズをフィルタリングするかを確認してください。

interactivesampling a waveanalog in, bits out

digital → analog

000001010011100101110111100110101100100010001011100101101100010010011011

デジタルストリーム:

100110101100100010001011100101101100010010011011

サンプリングレートをドラッグして、波のサイクルあたりのサンプル数を増減させます。ビット深度をドラッグして、利用可能な量子化レベルの数を変更します。

sampling rate16 Hzbit depth3-bit, 8 levelsline noise0%

デジタル情報の測定

情報をバイナリビットとして表現したら、それを測定するための単位が必要です。単一のビット(0または1)はそれ自体では役に立たないほど小さいので、それらをグループ化します。各単位は、通常保持しているものによって覚えるのが最も簡単です。

  • バイト:8ビットのグループで、2 extsuperscript{8}=256通りの可能な値があり、単一のテキスト文字(文字 A など)を格納するのに十分です。
  • キロバイト(KB):約1000バイト(またはバイナリ規約で1,024バイト)、プレーンテキストの1ページ。
  • メガバイト(MB):約100万バイト、MP3曲または高解像度写真は数メガバイトです。
  • ギガバイト(GB):約10億バイト、高解像度映画またはビデオゲーム。
  • テラバイト(TB):約1兆バイト、現代のハードドライブは1つまたは2つを格納します。

これで現実をビットとバイトとして表現できるようになりました。それを処理する機械をどのように構築できるでしょうか。

ユニバーサルコンピュータの構築

初期のコンピュータでは、ハードウェアがプログラムでした。特定のタスクを実行するために、たとえば砲弾の軌道を計算するために、エンジニアはカスタム物理回路を構成する必要がありました。タスクを変更することは、物理的に配線をやり直したり、重いスイッチを切り替えたりすることを意味しました。これは非常に時間と労力がかかり、エラーが発生しやすい、退屈なプロセスでした。

画期的な出来事はプログラム格納型コンピュータでした。それ以前は、ENIAC(Electronic Numerical Integrator and Computer、1945年)のような機械はタスク間で物理的に配線をやり直す必要があり、オペレーターは各新しい問題のために回路を再構成するためにケーブルを抜き差ししていました。

[画像: Two women operators at the ENIAC control panel, c. 1945]

ベティ・ジーン・ジェニングス(左)とフラン・ビラス(右)が1945年頃、ムーア電気工学部のENIACメインコントロールパネルを操作しています。再プログラミングは、機械の配線を物理的に再構成することを意味しました。(出典:米国陸軍、パブリックドメイン)

1837年、チャールズ・バベッジは、汎用機械式コンピュータであるアナリティカル・エンジンを設計しました。そのアーキテクチャは、ミル(加算、減算などを行う機械式計算ユニット)、ストア(数字を表す連動する垂直ギアホイールのスタック)、およびパンチカード上のプログラムで構成されていました。しかし、それは完成しませんでした。エイダ・ラブレスはバベッジと協力して、機械のために意図された最初のアゴリズムと考えられているものを書き、それが数だけでなく記号も操作できることを認識しました。

1世紀後、アラン・チューリングは、単一のユニバーサル・チューリング・マシンがメモリから命令を読み取ることで任意の計算をシミュレートできることを理論的に証明しました。ジョン・フォン・ノイマンの1945年のアーキテクチャは、これを具体的な設計、つまりCPU(中央処理装置、プロセッサとも呼ばれる)にしました。これは、共有バスを介して同じメモリからデータと命令の両方を読み取ります。バスは、コンピュータのコンポーネントまたは任意の外部デバイス間でデータ転送を可能にする一連のワイヤにすぎません。事実上、それ以降に構築されたすべてのコンピュータはこの構造に従っています。

単一の種類の計算のために特定の回路をハードワイヤリングする代わりに、異なる操作に再利用できる標準的なロジック回路を備えた汎用プロセッサを構築します。オペコード(または命令コード)を供給することで、プロセッサに何をするかを指示します。

0001のようなバイナリ数値がどのようにして物理的に回路をアクティブにするのでしょうか?それは、論理ゲートで構築された回路である命令デコーダーを介して行われます。たとえば、2ビットのオペコード用のデコーダーには、特定の組み合わせを検出するように配線されたゲートがあり、1つのゲートは 00 を見たときにのみトリガーされ、別のゲートは 01 を見たときにのみトリガーされます。特定のゲートがトリガーされると、それは物理的なルーターとして機能し、CPUの対応する部分に電流を送り、メモリからデータをロードするパスを開いたり、加算回路をアクティブにしたりします。

これまでに説明されたすべての回路は組み合わせ回路であり、その出力は現在の入力の純粋な関数であり、過去の記憶を持ちません。入力が変更された瞬間に出力が変更されます。これは明白な疑問を投げかけます。回路は、入力信号が除去された後でも状態を記憶し、値を時間とともに保持するにはどうすればよいでしょうか?この能力なしでは、プロセッサは多段階の命令を実行したり、ループを実行したり、中間結果を格納したりできません。

解決策はフィードバックです。2つのNORゲート(NOT-OR、両方の入力が0の場合にのみ1を出力する)を取り、各ゲートの出力を他のゲートの入力に配線します。結果は、2つの入力、Set(格納された値を1に強制する)とReset(値を0に強制する)にちなんで名付けられたSRラッチです。下の2つのボタンを試してみてください。Setをオンにすると出力が1になり、その出力が他のゲートへの入力としてループバックするため、Setをオフに戻した後でも1は自己確認を続けます。その自己維持ループがメモリです。ラッチは、この格納されたビットをQQとして公開し、その反対のQˉ\bar{Q}(「Qバー」と読む)とともに公開します。これは、否定された値が必要なときに回路の他の場所で便利です。

ここで、SetとResetの両方を同時にオンにしてみてください。両方のゲートが0に強制されるため、QQとQˉ\bar{Q}は反対ではなくなり、ラッチが提供すべき唯一の保証が壊れます。さらに悪いことに、最後にオフにした方が最終状態を決定します。これは、入力ではなく、わずかで予測不可能なタイミングの違いに依存する結果です。これはSRラッチの根本的な欠陥であり、SetとResetは決して両方とも1であってはなりません。

その欠陥をなくすために、同じラッチの上にDフリップフロップ(DはDataを表す)を構築します。SetとResetを直接公開する代わりに、単一の入力DDからそれらを派生させるため、Setは常にDDと等しくなり、Resetは常にその反対のDˉ\bar{D}と等しくなります。DDとDˉ\bar{D}は決して両方とも1にならないため、SetとResetも決して両方とも1にならないため、禁止状態は完全に設計で排除されています。

この更新が発生するタイミングを調整するために、クロック信号の後ろにゲートを配置します。クロック信号は、時計の心臓の鼓動のように、0と1の間を安定してパルスします。フリップフロップは、クロックティックの正確な立ち上がりエッジ(0から1への遷移、↑\uparrowと表される)でのみ更新され、連続的には更新されません。これが、SRラッチがレベルトリガー(入力がアクティブな間、出力は常に入力を追跡する)と呼ばれるのに対し、Dフリップフロップはエッジトリガー(立ち上がりエッジの瞬間にDDの値を取得し、それを保持し、次のティックまでDDへの変更を無視する)と呼ばれる理由です。

これは基本的な単一ビットストレージ要素です。レジスタは、CPUがアクティブに計算している数値を保持するために使用される、フリップフロップのバンク(ビットごとに1つ)にすぎません。

interactivestoring one bitfeedback holds the value

NORNORS0R0Q̅1Q0

SをクリックしてSet(Q → 1)、RをクリックしてReset(Q → 0)、両方をオンにして禁止状態を確認します

Q = 0 Q̅ = 1RESET状態:Q̅=1はゲート2の出力を0(Q=0)に保ちます。Q=0はゲート1がQ̅=1を保持できるようにします。入力なしで状態が持続します。

このストレージ概念をスケールアップし、これらの基本的なラッチベースのメモリセルを数百万個アドレス可能なグリッドに配線することで、SRAM(Static RAM)が得られます。ロジックゲートから直接構築されているため、SRAMは非常に高速ですが、ビットあたり複数のトランジスタを必要とするため、高価で物理的に大きくなります。これは、CPUキャッシュの高速度メモリに使用されます。

はるかに大きなメインメモリ(システムRAM)には、DRAM(Dynamic RAM)を使用します。ラッチの代わりに、DRAMは微細なコンデンサ内の電荷として各ビットを格納します。コンデンサは電荷をゆっくりと漏洩するため、DRAMは毎秒数千回、常にリフレッシュ(書き換え)する必要があります。SRAMよりも遅いですが、はるかに高密度で安価であるため、ギガバイト単位で利用できます。

SRAMとDRAMはどちらも根本的な制限を共有しています。電源が供給されている間のみビットを保持します。電源を切ると、状態は失われます。このように構築されたメモリは揮発性と呼ばれます。

写真、ドキュメント、プログラム自体など、電源オフでも保持する必要があるデータについては、ストレージ(二次ストレージとも呼ばれる)が必要です。これは、電源なしで持続する物理的な状態にビットを記録するデバイスです。ハードドライブは、回転するプラッター上の微細な領域を磁化することによってこれを行います。現代のSSD(ソリッドステートドライブ)は、絶縁されたフラッシュセル内に電子を閉じ込めることによってこれを行います。ストレージは、RAMよりもバイトあたりの容量がはるかに大きく、安価ですが、アクセス速度も数千倍遅いです。

この速度ギャップは、日常の体験の多くを説明する労働の分業を生み出します。プログラムとファイルはストレージに存在し、作業するためにRAMにコピーされます。アプリを起動することは、ドライブからメモリに命令をロードすることを意味します。ドキュメントを保存することは、メモリからドライブに書き戻すことを意味します。保存されていない作業がプログラムのクラッシュ時に失われる理由であり、保存されたファイルは完全な電源障害でも生き残る理由です。

これは鶏と卵の質問を提起します。電源オン時にRAMが空で、プログラムを実行するにはRAMにロードする必要がある場合、最初のプログラムをロードするのは何でしょうか?答えは、製造中にビットが永久に固定された小さな3番目の種類のメモリ、ROM(Read-Only Memory)チップです。CPUは、電源が到着した瞬間にROMのアドレスから実行を開始するようにハードワイヤリングされています。そこに格納されている小さなプログラム、ファームウェアは、ドライブを見つけてオペレーティングシステム(コンピュータを調整するコアソフトウェア)をストレージからRAMにコピーするのに十分な作業を行い、その後制御を渡します。あなたがこれまでに見たすべての起動は、このチェーンを実行しています:ROM、次にファームウェア、次にオペレーティングシステムがメモリにロードされます。

一時的な計算結果だけでなく、長い命令リストも格納する方法があれば、プログラム格納型コンピュータを実装するために必要なものがすべて揃います。タスクを変更するために機械を物理的に配線し直す必要はもうありません。代わりに、新しい命令シーケンスをメモリにロードするだけで、コンピュータの動作を変更できます。これがソフトウェアを生み出した飛躍です。(特定のタスク用に設計された命令シーケンスはプログラムと呼ばれますが、ソフトウェアは、これらのプログラムとハードウェアを制御するデータを表すより広い用語です。)

すべてのプロセッサは3つのコアコンポーネントで構成されています。

  • 制御ユニット:メモリから命令を読み取り、特定の回路をアクティブにするために電流の流れを指示します。
  • ALU(算術論理演算ユニット):計算を実行するロジックゲートのバンドル。
  • レジスタ:即時、高速ストレージスロット。

[画像: MOS 6502 CPU die shot with labeled overlays]

MOS 6502マイクロプロセッサダイショット(1975年)にラベル付きオーバーレイが付いています。実際のシリコンダイは非常に小さく、わずか3.9 mm × 4.3 mmです。現代のチップとは異なり、6502の比較的単純なレイアウト(8,000 nmプロセスで3,510個のトランジスタで製造)は、その機能コンポーネントを視覚的に区別できるようにしています。(出典:Wikimedia Commons)

これらのコンポーネントは、バスと呼ばれる共有ワイヤのセットを介して外部メモリと相互作用します。プロセッサは連続ループを実行します:バスを介してメモリから命令をフェッチし、それをデコードし、ALUで実行し、結果をレジスタに書き込みます。このループは毎秒数十億回実行されます。

小さな水晶発振器、電気を印加すると非常に正確な周波数で振動する石英のスライス(腕時計と同じように)は、クロック速度と呼ばれる固定周波数で電気パルスを放出します。ギガヘルツ(GHz)で測定されます。各パルスは1サイクルの境界を示し、各サイクルはフェッチ-デコード-実行ループを1ステップ進めます。3 GHzのCPUは、毎秒約30億回のこれらのステップを実行します。

実際には、現代のプロセッサはこの単純な逐次モデルよりもはるかに複雑です。物理的な速度制限を回避するために、それらはパイプライン処理(複数の命令のフェッチ、デコード、実行ステージを組み立てラインのようにオーバーラップさせる)、順序外実行(コードの順序に関係なく、入力データが利用可能になり次第命令を実行する)、および分岐予測(パイプラインを一杯に保つために条件付きジャンプがどちらの方向に行くかを推測する)を使用します。また、外部RAMからのフェッチには数百サイクルかかるため、高速度キャッシュメモリの層に依存しています。しかし、この逐次モデルは、プログラマーが記述する基本的な論理抽象であり続けます。

命令を逐次実行するために、CPUはプログラムカウンター(PC)と呼ばれる特別なレジスタを使用します。これは、次にフェッチする命令のメモリアドレスを保持します。各フェッチの後、PCは自動的に次のアドレスに進みます。フェッチされた命令は、制御ユニットがそれをデコードし、正しい回路に電流をルーティングしている間、命令レジスタ(IR)に保持されます。

アクションを繰り返したり、決定を下したりするために、ジャンプ命令を使用します。ジャンプはPCをターゲットアドレスで上書きします。条件付きジャンプの場合、比較命令はALU内のゼロフラグ(Z)を設定します。2つの値が等しい場合、Zは1になります。JNE(等しくない場合はジャンプ)命令はZをチェックし、Zが0の場合にのみジャンプを実行します。これらのメカニズムだけで、逐次進行、比較、条件付きジャンプにより、あらゆるループまたは分岐ロジックを構築できます。下のシミュレーターは、単純なカウントダウンタイマーを示しており、各値をメモリマップされた出力アドレス(特定のメモリアドレスへの書き込みが物理的に7セグメントLEDディスプレイをトリガーする場所)に書き込みます。

interactivethe fetch-execute loopFETCH · cycle 0

memory (ram)▸0x00 LOAD #5▸0x01loop: STORE result▸0x02 SUB #1▸0x03 CMP #0▸0x04 JNE loop▸0x05 STORE result0x06result—shared busaddr linecpu (processor)control unitIR—PC0x00ALUACC0Z0CLKoutput, memory-mappedresult

アドレス0x00(「LOAD #5」)をIRに読み取る準備ができました。

ラップトップやスマートフォンでは、単純な7セグメントディスプレイの代わりに、色が変わる小さな光の単位の大きなグリッドであるピクセル(picture elementsの略)があります。シミュレーターのディスプレイと同様に、現代の画面はメモリマップされたアドレスを使用して制御されます。コンピュータは、メモリ領域(フレームバッファと呼ばれる)を予約します。そこでは、各アドレスが画面上の特定のピクセル座標に対応します。ユーザーインターフェースを描画することは、CPUがこれらのアドレスに十分な速さで色値を書き込むことで、スムーズで動く画像として表示されます。

各ピクセルの色は、赤(R)、緑(G)、青(B)の3つの個別のバイトでエンコードされます。それぞれ0から255の範囲です。これら3つの強度の混合により、ディスプレイハードウェアは任意の色を生成します。したがって、フレームバッファはピクセルあたり3つの連続するバイトを格納します。Rは1つのアドレスに、Gは次のアドレスに、Bはその次のアドレスに格納されます。各小さなピクセルには、チャネルごとに3つのさらに小さなサブピクセルが含まれており、それらの物理的な発光要素は、通常の視聴距離では、あなたが目にする単一の色にブレンドされます。

interactiveframebufferone pixel, three bytes

pixel (12, 3) → addresses

1180, 1181, 1182

ピクセルをクリックして検査し、チャンネルをドラッグして色を変更します。

これまでのところ、情報はメモリから画面へと一方向のみに流れていました。入力は逆方向の同じバスを移動します。キーを押すと、キーボードは割り込みと呼ばれる電気信号をCPUに送信します。CPUはフェッチ-デコード-実行ループを一時停止し、デバイスからキーコードを読み取る小さなハンドラールーチンにジャンプします(ディスプレイと同様にメモリマップされたアドレスを介して、ただし書き込みではなく読み取り)。それを格納し、中断した場所から正確に再開します。すべて1マイクロ秒未満で完了します。マウスのクリック、画面のタッチ、またはインターネットからのデータの到着はすべて同じ方法でプログラムに到達します。実行中のプログラムには割り込みは目に見えませんが、あなたが作るすべての入力がどのようにしてそこに入るのかを示しています。

これにより、命令を実行するプロセッサ、プログラムとデータの両方を保持するメモリ、および出力と入力のための割り込み駆動パスという、機械が完成します。次の層に上がる前に、ハードウェアの物語がその後どのように進んだかを見る価値があります。エンジニアは1990年代を通じてクロックスピードを積極的に押し上げましたが、約4 GHzを超えると、チップは除去できる以上の熱を放散します。業界は熱と戦うのではなく、マルチコア、つまり1つのダイ上に複数の独立したプロセッサに移行しました。それぞれが独自の命令ストリームを実行します。より多くのコアは単一の逐次タスクを高速化しません。それらは、より多くのタスクを並列で実行できるようにします。

汎用スケーリングが鈍化したとき、業界は再び方向転換しました。今回は特殊化されたシリコンに向かいました。すべてを処理する単一のプロセッサ設計の代わりに、現代のチップは特定のワークロードのためにダイの領域を割り当てます。GPU(グラフィックス処理ユニット)は数千の単純な計算を並列で実行し、ニューラルアクセラレータはAIモデルの背後にある行列演算専用に構築されています。これらの回路は、CPUの柔軟性と引き換えに、1つの問題クラスで生の処理能力を得ます。そして、そのトレードオフが、今日のAIモデルのトレーニングと実行を可能にしたのです。真空管からのパターンが繰り返されます。物理的な壁にぶつかり、それ以上押し進めるのではなく、アプローチを変更します。

これらすべてが、トランジスタが引退に近づいていることを意味するわけではありません。見出しにもかかわらず、量子コンピュータは汎用コンピュータよりも高速ではありません。それらは、分子のシミュレーションや特定の暗号化スキームの背後にある大きな数の因数分解のような狭いクラスの問題を攻撃するために量子効果を利用する、根本的に異なる種類の機械であり、ブラウザを実行するには役に立たないでしょう。この記事で説明されているすべてのことについて、トランジスタは基盤であり続け、エンジニアはそれらを垂直に積み重ね、トランジスタの形状を洗練させ、複数の特殊化されたダイを単一のチップにパッケージ化することで、それらを改良し続けています。

英語でソフトウェアを書く

プロセッサはバイナリしか理解しません。ソフトウェアの記述は、当初は手動でのバイナリオペコードのルックアップを意味しました。これを簡略化するために、プログラマーはアセンブラと呼ばれる翻訳プログラムを作成しました。これは、人間が読めるニーモニック(ADD iのような)を、そのバイナリ等価物に直接マッピングします。

グレース・ホッパーは1952年に最初のコンパイラであるA-0を構築し、プログラムが人間が読めるコードを自動的に機械命令に翻訳できることを証明しました。これは当時広く疑われていました。

これにより、累積的なフィードバックループが作成されました。初期のコンパイラはアセンブリで手書きされていましたが、言語が十分に表現力を持つようになると、その言語自体でコンパイラを書き直すことができました。このプロセスはブートストラップと呼ばれ、コンパイラを自己ホスト型にします。CコンパイラはCで書かれています。GoコンパイラはGoで書かれています。ソフトウェアは、より良いソフトウェアを構築するために使用されるようになりました。

同じ原則がハードウェアにも拡張されました。数十億個のトランジスタを持つチップを手作業で設計することは、現実的な可能性ではありません。エンジニアは、ハードウェア記述言語(Verilogなど)を使用して回路を記述し、ソフトウェアでシミュレートし、電子設計自動化(EDA)ツールを使用して物理レイアウトを自動生成します。1971年のIntel 4004は2,300個のトランジスタで、手で検証可能でした。Apple M1は160億個のトランジスタを持っています。それを可能にしたチップ設計ツール自体がソフトウェアであり、以前のチップ上で実行されます。ソフトウェアなしでは、ソフトウェアを実行するハードウェアを設計することはできません。

アセンブリは特定のチップの物理設計に結びついているため、あるプロセッサのアセンブリで書かれたコードは、別のプロセッサでは実行できません。これを解決するために、C、Fortran、Pythonのような高水準言語を作成しました。これらの言語は、レジスタやジャンプの代わりに、変数、ループ、関数のような馴染みのある抽象化を使用してロジックを表現することを可能にします。

このレベルでは、プログラミングはハードウェアの管理というよりも、アルゴリズムの設計、つまり特定の問題を解決するためのステップバイステップの論理命令(名前のリストをソートしたり、地図上の最短経路を見つけたりするなど)です。アルゴリズムは抽象的な概念であり、プログラムは特定のプログラミング言語でのそのアルゴリズムの具体的な実装(CまたはPythonで実装されたロジック)です。人間の言語に近い言語でコードを書くことで、ソフトウェアは書く、読む、保守するのがはるかに簡単になります。

たとえば、シミュレーターからのカウントダウンの抽象的なアルゴリズムは単純です。

  1. 数値(5)で開始します。
  2. 数値がゼロの場合は停止します。
  3. それ以外の場合は、1を減算し、ステップ2に戻ります。

このアルゴリズムを実行可能なプログラムに変換するために、これらのステップをプログラミング言語に翻訳します。Cでは、単純なwhileループを使用して書くことができます。

int x = 5;
while (x != 0) {
    x = x - 1;
}

コンパイラは、この高水準ループを、シミュレーターで実行した命令シーケンスと同等のものに翻訳し、レジスタとジャンプの詳細を私たちに代わって処理します。追跡を容易にするために、命令の横に説明コメントを追加しました(アセンブリでは、セミコロン以降のテキストはコメントであり、アセンブラがアセンブリコードを処理するときに無視するプログラマーが他の人のためにコードを文書化するために残したメモです)。

; 上記Cループのアセンブリ等価物(出力付き)
LOAD  #5      ; 初期値を設定:acc = 5
loop:
STORE result  ; 値をメモリに保存(出力)
SUB   #1      ; 1を減算:acc = acc - 1
CMP   #0      ; アキュムレータを0と比較
JNE   loop    ; ゼロでない場合は「loop」にジャンプ
STORE result  ; 最終的な0を表示

下のコンパイラマッピングシミュレーターを操作してみてください。タブを切り替えて、高水準言語の変数、数学、ループ、条件がコンパイラによって低水準アセンブリ命令にどのように翻訳されるかを確認してください。

interactivecompiler translation

Translation Mechanics

コードの任意の行にカーソルを合わせると、それがどのように翻訳され、コンパイラが何をしたかを確認できます。

テキストファイルを読み取ることを考えてみてください。Cでは、オペレーティングシステムからファイルを開くためのハンドルを明示的に要求し、テキストを保持するための一時的なメモリブロック(バッファと呼ばれる)を確保し、バイトをそれに読み込み、終了したらファイルを閉じなければなりません。

// ファイル「notes.txt」を読み取り専用モードで開く
FILE* file = fopen("notes.txt", "r");

// テキストを保持するために256バイトのメモリを確保する
char buffer[256];

// ファイルから最大256バイトをバッファに読み込む
fread(buffer, 1, 256, file);

// システムリソースを解放するためにファイルを閉じる
fclose(file);

実際には何が起こっているかを理解するために、ファイルに格納されている各文字は、ASCII(American Standard Code for Information Interchange)と呼ばれる標準エンコーディングを使用して数値にマッピングされます。文字 H は 72 に、e は 101 にマッピングされます。特別なバイトである改行( 、値 10)は、1行の終わりと次の行の開始を示します。notes.txtに単一行 Hello が含まれているとします。Cがファイルを読み取るとき、これらの生のバイトをメモリ内のバッファに、1つずつ連続したアドレスにロードします。

diagramnotes.txt in memoryone byte per address

0x1000

'H'

72

01001000

0x1001

'e'

101

01100101

0x1002

'l'

108

01101100

0x1003

'l'

108

01101100

0x1004

'o'

111

01101111

0x1005

'\n'

10

00001010

各セルは1バイトであり、改行バイト(10)は最初の行が終わる場所を示します

ファイルを読み取るたびにこれらのコード行を書くのは、すぐにうんざりします。繰り返しを避けるために、高水準言語では、命令を関数と呼ばれる再利用可能なブロックにパッケージ化できます。

関数は、特定のタスクを実行するコードの名前付きブロックにすぎません。命令シーケンスを関数内にラップすることで、名前を呼び出すだけでそれらすべてを一度に実行できます。たとえば、Cのファイル読み取りコードをカスタム関数定義にラップできます。

char* read_file(char* filename) {
    FILE* file = fopen(filename, "r");
    // テキストを保持するために256バイトのメモリを動的に割り当てる
    char* buffer = malloc(256);
    fread(buffer, 1, 256, file);
    fclose(file);
    return buffer;
}

これで、ファイルを読み取りたい人は誰でも、ファイルハンドル、バッファ、バイトオフセットを知る必要がなくなります。単純に関数を呼び出し、終了したらメモリを解放できます。

char* text = read_file("notes.txt");
// ... テキストを使用 ...
free(text); // メモリをシステムに解放する

それが関数の役割です。手続きに名前を付けることで、実装の詳細を頭に入れずに、より高いレベルで推論できます。

Pythonは、より高水準の言語として、この抽象化の概念を非常に真剣に受け止めています。

text = open("notes.txt").read()

Cでの複雑な多段階プロセスと比較して1行です。Pythonのopen().read()は、ファイルハンドルを開き、EOFまで読み取るまでバッファを拡張し、その後解放しています。CPUはまだ同じ作業を行っていますが、言語がバッファ管理、リソースクリーンアップ、およびすべてのエラー処理を内部的に処理します。Cはアセンブリに比べて高水準ですが、Pythonはメモリとリソースのクリーンアップを処理してくれるため、さらに高水準の抽象化レベルでプログラムを書くことができます。このシンプルさが、Pythonが学術界や研究で非常に人気になった理由です。たとえば、ほとんどの機械学習コードはPythonで書かれていますが、その下のパフォーマンスが重要な部分はCまたはC++で書かれ、Pythonから呼び出されます。

それらの間のパフォーマンスの違い、そしてなぜ重い処理のためにPythonの下にCまたはC++が必要なのかを理解するには、これらの言語の実行方法の根本的な違いを見る必要があります。Cはコンパイル言語です。Cプログラムを実行する前に、コンパイラがソースコード全体を特定のCPUのネイティブバイナリマシンコードに翻訳します。実行すると、プロセッサはそれを最大の速度で直接実行します。

一方、Pythonはインタプリタ言語です。事前にネイティブマシンコードに翻訳されるのではなく、スクリプトはインタプリタと呼ばれるプログラムに渡され、そのプログラムが各ステップを自身で実行します。(標準のPythonインタプリタは、スクリプトをバイトコードと呼ばれるコンパクトな内部形式に変換しますが、そのバイトコードは依然としてインタプリタによって命令ごとに実行され、CPUによって直接実行されるわけではありません。)このように考えてください。Cのようなコンパイル言語では、コードはCPU上で直接実行されます。Pythonのようなインタプリタ言語では、コードは別のプログラム(インタプリタ)の入力データにすぎず、すべての操作でこの追加の誘導レイヤーがパフォーマンスオーバーヘッドを導入します。その追加作業は、利便性のために支払う代償です。

CとPythonは、広大な高水準言語エコシステムの中の2つの例にすぎません。今日、私たちはニーズに応じてさまざまな言語を選択します。インタラクティブなWebアプリケーションにはJavaScriptまたはTypeScript、非常に並列性の高いバックエンドシステムにはGo、パフォーマンスとメモリ安全性が両方とも重要なシステムプログラミングにはRustを選択します。

この選択は、失敗のコストによって大きく導かれます。典型的なWebアプリケーションでは、リスクは比較的低いです。バグは通常、簡単なアップデートで修正できる壊れたページを意味するだけなので、間違いを犯す余裕があります。しかし、航空機、医療機器、または原子力発電所のバグが発生した場合、結果は致命的になる可能性があります。安全性が重要なシステムでは、厳密なコンパイル時検証、メモリ安全性、および決定論的な動作を優先する言語とエンジニアリングプラクティスを選択します。たとえそれらが書くのが難しい場合でもです。

さらに、現代世界でのプログラミングは、すべてをゼロから書くことはめったにありません。ほぼすべての言語で、ライブラリと呼ばれる、他者によって作成された事前作成済みのコードパッケージを見つけることができます。これらのライブラリは、日付の解析、ネットワークリクエストの作成、複雑な3Dグラフィックスのレンダリングまで、一般的な問題を解決してくれます。これにより、既存のビルディングブロックを組み立てて強力なソフトウェアを構築でき、私たち自身の独自のアイデアに集中できるようになります。

ソフトウェア間でプロセッサとメモリを共有する

当初、コンピュータは一度に1つのプログラムしか実行できませんでした。実行が完了するのを待ち、次にプログラムをロードしていました。ハードウェアがより強力になるにつれて、これは非常に非効率的でした。CPUは、人間が入力するのを待ったり、遅いディスクが回転するのを待ったりして、数秒間アイドル状態になることがありました。

これを解決するために、1960年代のコンピュータシステムはタイムシェアリングを導入しました。当時、コンピュータは部屋サイズの巨大なメインフレームであり、組織全体で共有されていました。独自のプロセッサを持つ代わりに、ユーザーはメインフレームに直接接続された画面とキーボード(端末と呼ばれる)で作業し、単一のCPUを同時に共有していました。ベル研究所で1969年に開発されたUNIXは、この概念を基盤として、アプリケーションとハードウェアの間のバックグラウンドコーディネーターソフトウェアである統一されたオペレーティングシステム(OS)設計を作成しました。

しかし、1980年代の初期のパーソナルコンピュータ(MS-DOSのようなシステムを実行していた)は後退しました。初期のデスクトップマイクロプロセッサは単純だったため、一度に1つのプログラムしか実行できませんでした。アプリケーションがクラッシュすると、システム全体のメモリが破損し、ハードリブートが必要になりました(そして、電源のオン/オフの繰り返し(新しいタブで開く)が標準的なトラブルシューティングプロトコルになりました)。

UNIXレベルの安定性とマルチタスクをパーソナルコンピュータにもたらすために、ハードウェアで強制された境界が必要でした。現代のCPUは、プロセッサ自体の物理的な状態によって制御される異なる特権モードをサポートすることで、これを解決します。OSのコアコーディネーターであるカーネルは、特権的なカーネルモードで実行され(物理ハードウェアへの直接的で無制限なアクセスを許可します)、ユーザープログラムは制限されたユーザーモードで実行されます。ユーザーモードでは、CPUハードウェアはハードウェアやメモリへの直接アクセスを物理的にブロックします。プログラムがファイルを読み取ったり、画面に描画したりする必要がある場合、システムコール、つまり特別な命令を実行する必要があります。これはハードウェア割り込みをトリガーし、カーネルにタスクを安全に実行させるためのものです。

これらのユーザープログラムのために物理ハードウェアを仮想化するために、カーネルは3つの主要な抽象化に依存しています。

  1. マルチタスク(CPU仮想化):OSは、プログラムを急速に切り替えることによって、単一のCPUを複数のプログラム間で共有します。単一のプログラムがプロセッサを占有しないようにするために、ハードウェアタイマーが定期的にCPUを割り込みます(キー入力と同じ割り込みメカニズム)。これにより、カーネルに制御が戻されます。このコンテキストスイッチ中に、カーネルは現在のプログラムのレジスタを保存し、別のプログラムの保存されたレジスタをロードし、実行を切り替えます。これは非常に速く行われるため、各プログラムはCPUを独占しているように感じられます。
  2. 仮想メモリ(RAM分離):プログラムが互いに衝突したり、機密データを読み取ったりするのを防ぐために、カーネルはメモリを分離します。プログラムは仮想アドレス空間で動作します。ハードウェアユニットは、これらの仮想アドレスをオンザフライで物理RAMに変換します。プログラムは、割り当てられたスペース外のメモリにアクセスできません。
  3. ファイルシステム(ストレージ抽象化):プログラムに物理ドライブ上の生のブロックまたはセクターを管理させる代わりに、ファイルの内容が実際には永続ストレージ上の散在するバイトブロックとして格納される場所で、OSはファイルパスをその正確な物理的な場所に対応付けるルックアップテーブルを維持し、クリーンな階層ツリーを提示し、バックグラウンドでアクセス制御を処理します。

interactivemultitaskingtimer interrupt, context switch

browser holds the CPU. Timer counts down from 6, when it hits zero the kernel preempts it.

特権的なカーネルモードと制限されたユーザーモード(しばしばユーザー空間で実行されると呼ばれる)を切り替えることで、OSは単一のクラッシュしたアプリケーションがシステム全体をダウンさせられないようにします。

これらのクラッシュを回避するためにどのように設計するかは、システムのコンテキストに完全に依存します。スマートフォンでは、アプリのクラッシュは軽微な不便です。しかし、宇宙船ランダー、航空管制コンピュータ、または医療用生命維持装置のような安全性が重要なシステムでは、ソフトウェアのクラッシュやメモリ破損は致命的になる可能性があります。これらの環境では、冗長なハードウェアバックアップ、コードの形式的な数学的検証、および重要なプロセスが決して失敗したり停止したりしないことを保証するように設計された特殊なリアルタイムオペレーティングシステムのような、異なるセーフガードが必要です。

コンピュータ同士で通信させる

インターネットは1969年にARPANET(Advanced Research Projects Agency Network)として始まりました。これは、全国のコンピュータを接続するために設計された米国国防総省の研究ネットワークでした。これを実現するために、エンジニアは根本的な問題、つまりデータの移動方法を解決する必要がありました。

当時の電話ネットワークは回線交換を使用していました。これは、通話時間中に2点間に専用の連続物理接続を確立しました。しかし、コンピュータは断続的にしかデータを送信しないため、専用線は非常に非効率的でした。代わりに、ARPANETはパケット交換を先駆しました。この設計では、データはペイロードと宛先アドレスを含む小さな断片、パケットに分割されます。ルーターはこれらのパケットをホップバイホップで転送し、各パケットは独自のパスを見つけます。これにより、ネットワークは信じられないほど回復力があり、パケットは障害を迂回してルーティングできたため、単一の壊れたリンクが接続全体を断ち切ることはありませんでした。1983年に普遍的な標準として採用されたTCP/IP(Transmission Control Protocol / Internet Protocol)は、これらの個々のネットワークを1つのグローバルインターネットに統合する共通言語となり、残りは歴史です。

[画像: ARPANET logical map, 1969]

1969年のARPANET論理マップ。オリジナルの4つのノード(UCLA、スタンフォード研究所、UCサンタバーバラ、ユタ大学)を示しています。インターネット全体はここから始まりました。(出典:DARPA、パブリックドメイン)

interactivepacket switchingeach packet routed on its own

youtube.com — packets sent

·

·

·

·

·

あなたのブラウザ — 到着順に受信

·

·

·

·

·

ブラウザでの到着順

·

·

·

·

·

youtube.comはビデオを5つのパケットとして送信し、それぞれが独自のルートを見つけます。

各パケットには宛先アドレスとシーケンス番号が含まれているため、ブラウザは到着順に関係なくビデオを再構築できます。リンクを切断してネットワークが障害を迂回するのを確認してください。ルーターはインターネット全体のマップを保持しておらず、それぞれが隣接するルーターのみを知っています。

このベストエフォートシステムでの信頼性の高い配信を保証するために、プロトコルのスタックを使用します。

  • IP(Internet Protocol):個々のパケットをマシンからマシンへネットワーク全体でルーティングしますが、到着を保証しません。
  • TCP(Transmission Control Protocol):IPの上にあり、各パケットに番号を付け、確認応答を要求するため、失われたパケットは自動的に再送信され、アプリケーションに信頼性の高いバイトストリームを提供します。
  • HTTP(HyperText Transfer Protocolとその暗号化形式、HTTPS):TCPの上にあり、ドキュメントやデータを取得するためのリクエスト-レスポンス形式を定義します。

HTTPSのSはsecure(安全)を意味し、一時停止する価値があります。なぜなら、それはインターネット上で最も重要な日常のセーフガードだからです。あなたのパケットは、あなたが管理していない多くのマシンを通過します。カフェのWi-Fiルーター、インターネットプロバイダー、その間の数十台のルーター。それらのいずれも、通過するものを読み取ったり変更したりする可能性があります。したがって、データを送信する前に、ブラウザとサーバーは追加のハンドシェイクを実行してサーバーのIDを確認し、一時的な暗号化キーに同意します。それ以降、それらの間のすべてのトラフィックは数学的にスクランブルされ、両方のエンドポイントのみがそれを解読できます。中間のマシンは、あなたがどのサーバーと通信しているかは見ることができますが、何を言っているかは見ることができません。あなたのパスワード、メッセージ、カード番号は、読み取り不可能な敵対的な領域を通過します。ブラウザのアドレスバーの南京錠は、この仕組みがアクティブであることを示しています。

Webは、このネットワークの上に構築された別のアプリケーションであり、ティム・バーナーズ=リーによって1991年に発明されました。インターネットがマシン間でパケットを移動させるのに対し、Webはリンクされたドキュメント(ページ)のシステムであり、どのブラウザでも取得してレンダリングできます。各ページはHTML(HyperText Markup Language)で記述されており、ドキュメントの構造とコンテンツを記述するタグのセットです。ブラウザはそれを解析して描画すべきものを知ります。アドレスを入力すると、DNS(Domain Name System)が人間が読める名前をIPアドレスに変換し、ブラウザはHTTP/TCP経由でファイルを要求し、ブラウザのエンジンがピクセルを描画します。Webページは、見知らぬ人が書いたコードを実行するため、ブラウザはサンドボックス、つまりページコードがローカルファイルを読み取ったり、オペレーティングシステムに直接アクセスしたりするのを防ぐ分離されたランタイムを強制します。

ブラウザはまた、歴史上最も影響力のあるソフトウェア配布プラットフォームになりました。それ以前は、ソフトウェアを出荷することは、WindowsとmacOS用に個別のインストーラーをコンパイルし、ユーザーに実行可能ファイルをダウンロードして実行するように説得することを意味していました。Googleが2008年にChromeを、V8と呼ばれる新しいJavaScriptエンジンとともにリリースし、実際のアプリケーションを実行できるほど高速になったとき、それはWebアプリの新しい波を開きました。開発者は、単一のコードベースを書き、それをサーバーにデプロイし、Webアドレスを持つ地球上のすべてのデバイスに到達できるようになりました。ユーザーは、インストール手順なしで、訪問ごとに自動的に最新バージョンを取得します。

Web標準は追いつくために進化しました。初期のWebは静的なテキストと画像でした。リッチマルチメディアには、Adobe Flashのようなサードパーティプラグインが必要でした(初期のYouTubeはそれなしではビデオをストリーミングできませんでした)。HTML5がブラウザ自体にネイティブでハードウェアアクセラレーションされたビデオおよびオーディオ再生をもたらすまでです。

今日のブラウザは、巨大で複雑なソフトウェアプラットフォームです。それらは、API(Application Programming Interfaces)、つまり異なるソフトウェアプログラムが互いに通信できるようにする事前定義されたルール、関数、およびプロトコルのセットを公開することにより、Webアプリケーションとシステム間のギャップを埋めます。オペレーティングシステムがプログラムにカーネルからサービスを要求させるためにAPIを公開するのと同様に、現代のブラウザは、Webアプリケーションがリアルタイム3Dグラフィックスをレンダリングしたり、ローカルファイルを読み取ったり、データを取得したりできるようにする安全なAPIを公開します。すべて、アプリケーションを安全にサンドボックス化された状態に保ちながらです。

WebAssemblyを介してネイティブに近い速度でコンパイル言語を実行する機能と組み合わせることで、ブラウザは究極の抽象化レイヤーになりました。それは、OSがバックグラウンドで静かに実行されている間、私たちがコンピューティング時間の大部分を過ごす主要な環境として機能します。二次OSのように、ブラウザは、Webアプリを互いに分離し、明示的な許可なしにハードウェアリソースへのアクセスを制限しながら、個別のタブで実行されるWebアプリのCPUスケジューリングとメモリ割り当てを管理します。Webは単にコンピュータを接続しただけではありません。それは、ハードウェアとOSの両方を抽象化するユニバーサルランタイムに進化したのです。

しかし、この利便性には大きなトレードオフが伴います。安全なサンドボックス内で実行することにより、Webアプリケーションは、基盤となるハードウェアおよびOS APIへの直接的で低レベルなアクセスを放棄します。さらに、ブラウザ内でソフトウェアを実行することは、仮想マシンとレンダリングエンジンのレイヤーを実行することを意味し、ネイティブバイナリと比較してパフォーマンスとメモリのオーバーヘッドが大幅に増加します。単純なWebベースのテキストエディタを実行するブラウザタブは、数キロバイトで達成できることを行うために、数百メガバイトのRAMを消費する可能性があります。私たちは、ほぼゼロの配布摩擦と引き換えに、生の実行効率と低レベルの制御を犠牲にしました。

この多層スタック全体を実際に確認するために、ブラウザがページをロードしたり、Webアプリがデータを取得したりするときに何が起こるかを考えてみましょう。これらのアクションをトリガーするために高水準コードを記述しますが、基盤となるシステムは複雑なネットワークプロトコルルーチンを調整する必要があります。たとえば、HTTPデータを交換する前に、TCPは信頼性の高い接続を確立する必要があります。これは3ウェイハンドシェイクを通じて行われます。ブラウザは同期要求(SYNパケット)を送信し、サーバーは同期確認応答(SYN-ACKパケット)で応答し、ブラウザは最終確認応答を返します。このハンドシェイクが完了した後でのみ、実際のデータ転送を開始できます。

interactiveloading a pagecold 300 ms, warm 90 ms

https://wikipedia.org⏎ go

request trace, first visit

browser → dnsDNS query: wikipedia.org?

dns → browserIP: 208.80.154.224

browser → serverTCP SYN

server → browserTCP SYN-ACK

browser → serverTLS ClientHello

server → browserTLS certificate · keys agreed

browser → serverHTTP GET / (encrypted)

server → browserHTTP 200 OK · 84 KB

画面に最初のピクセルが表示される前に、以下のすべてのステップが発生します。

この一連のシーケンス(DNSルックアップ、TCPハンドシェイク、HTTPリクエスト、および暗号化された応答)は、Pythonのrequests.get("https://api.example.com/data")のような単一行がトリガーするものです。ライブラリはすべての詳細を処理します。プログラマーは1回の呼び出しと結果を見ます。

[画像: Tim Berners-Lee's NeXT computer, the world's first web server]

ティム・バーナーズ=リーのNeXTワークステーション(CERNにて)、世界初のWebサーバー。メモには「このマシンはサーバーです。電源を切らないでください!!」と書かれています。(出典:CERN)

ブラウザがリクエストを行うと、それはサーバーに到達します。サーバーは継続的に実行され、受信接続に応答するのを待っているコンピュータです。このコンピュータでは、Webサーバーソフトウェア(NginxやApacheなど)が受信HTTPトラフィックをリッスンし、暗号化を処理し、リクエストをアプリケーションコードにルーティングします。このサーバーマシンは、ラップトップとは根本的に異なりません。それは、私たちがカバーしたのと同じOS抽象化を実行しますが、単一の対話型ユーザーではなく、数千の同時接続を処理するように最適化されています。

実際には、現代のソフトウェアは単一の専用マシンで実行されることはめったにありません。それは、少数の大手プロバイダーが所有するクラウドインフラストラクチャ、倉庫規模のデータセンターで実行され、組織は物理ハードウェアを購入する代わりに仮想マシン(VM)をレンタルします。OSセクションの同じ仮想化原則がここに適用されます。ハイパーバイザーと呼ばれるレイヤーにより、多くの仮想マシンが単一の物理サーバーを共有でき、それぞれが専用ハードウェアを所有していると思い込んでいます。これにより、小規模チームは物理ハードウェアを1台も購入せずに、数百万人のユーザーにスケールアップする能力を得られます。

ほとんどのサーバーサイドソフトウェアは、構造化データを永続化およびクエリする必要があります。これは、データベース、レコードを確実に格納し、効率的に取得するために特別に構築されたソフトウェアによって処理されます。データベースは、SQL(Structured Query Language)を使用して整理およびクエリされます。SQLは、「過去30日間にこのユーザーが配置したすべての注文を見つける」のような操作を表現するために特別に設計された言語です。すべてのフォーム送信、ソーシャルメディア投稿、または銀行取引の背後にはデータベース書き込みがあります。ディスク、ファイルシステム、カーネルはすべて下にありますが、データベースはそれらの上のよく設計された抽象化にすぎません。

今日では、選択できるデータベースエンジンは多数あります。PostgreSQLやMySQLのようなリレーショナルデータベースはSQLを使用してテーブルにデータを整理しますが、MongoDBのような非リレーショナル(NoSQL)データベースは、柔軟なドキュメントとしてデータを格納します。それぞれが異なるワークロードに最適化されています。データ損失を防ぎ、大規模なスケールを処理するために、データベースはレプリカで構成することもできます。これは、メインデータベースが失敗した場合に引き継ぐことができる、別のサーバーで実行されているデータベースのリアルタイムクローンです。

[画像: Google's early corkboard server rack, 1999]

Googleの初期のコルクボードサーバーラック(1999年頃)、現在はコンピュータ歴史博物館に展示されています。PageとBrinはコルク、プレキシガラス、車輪からラックを構築しました。各列にはPC 4台、ハードドライブ8台、電源ユニット1台が搭載されていました。これらのラック約30台がGoogleの最初のデータセンターを稼働させていました。(出典:Google)

理解できるものしか制御できない

このスタックのすべてのレイヤーは、問題が期待どおりに機能している場合には無視されるように設計されています。これが抽象化の全体的なポイントであり、すべての下位レイヤーを頭に入れずに問題について推論することを可能にし、目の前のタスクのために精神的な帯域幅を解放します。特定の問題に対してどのレイヤーで考えるべきかを知ることは非常に重要です。問題がそれを指し示さない限り、下に降りることはありません。そして、問題は通常、どこを見るべきかを教えてくれます。しかし、それがさらに深く掘り下げる必要がある場合、現在作業している抽象化の下にあるものがどのようなものかのアイデアが必要になります。そうでなければ、それは手探りです。高水準コードに明白な問題がないパフォーマンスの低下をデバッグする場合、システムコールの低水準の相互作用を検査したり、データベースクエリプランを調整したり、解放されていない割り当てによって引き起こされるメモリリークを特定したりする必要があるかもしれません。問題を解決するには、真空管がもはやスケーリングできなくなったときにトランジスタを発明したように、基盤まで深く下がる必要がある場合があります。

時には、まったく新しいパスに分岐する必要があることもあります。Goは、非常に並列性の高いプログラミングのためにこれを行いました。オペレーティングシステムは、プログラムをスレッドに分割することによって、単一のプログラムに多くのタスクを同時に実行させます。スレッドは、カーネルが前述のコンテキストスイッチと同じものを使用してスケジューリングする独立した命令ストリームですが、各スレッドはシステムコールとかなりのメモリを消費します。OSスレッドを直接構築する代わりに、Goは独自のランタイムが少数の物理OSスレッドに多重化する軽量なゴルーチンを導入しました。

基盤となるシステムを理解せずに、ソフトウェアエンジニアは、パフォーマンスの最適化、安定性の保証、またはセキュリティの維持など、ソフトウェアが期待どおりに機能するように制御する真の手段を持ちません。彼らは完全に選択した抽象化に依存しています。この記事のすべてのレイヤーは、基盤をよく理解していた人々によって構築されました。トランジスタは量子力学を理解していた物理学者から生まれました。コンパイラは、アセンブリを理解し、よりポータブルで読みやすいプログラム表現方法を求めていたプログラマーから生まれました。オペレーティングシステムは、物理プロセッサとメモリを理解し、それらのリソースを安全かつ効率的に共有したいと考えていたプログラマーから生まれました。各新しい抽象化は、作業中の抽象化を通して見ることができる人々によって構築されました。

この連続的な抽象化のレイヤリングは、Jevonsのパラドックスのソフトウェア中心のバージョンを示しています。コンピューティングリソース(CPUサイクルやメモリなど)をより効率的で安価にする技術進歩により、それらの消費量が減るわけではありません。代わりに、節約分を使ってより野心的なシステムを構築します。歴史は、新しいイノベーションが私たちのワークロードを減らすことはめったになく、単に私たちの視野を広げることを示しています。初期のプログラマーは、遅いプロセッサとキロバイトのメモリから最大限のパフォーマンスを引き出すのに何時間も費やし、それらの厳しい制約が業界全体をより高速なハードウェアとよりスマートなオペレーティングシステムの設計に押し進めました。今日、私たちの個人用デバイスはギガバイトのRAMを搭載しており、初期の開拓者たちが夢にも思わなかった容量ですが、単一のChromeウィンドウがそれをすべて簡単に占有する可能性があります。「無限」のリソースを楽しむのではなく、より重いフレームワークを実行し、リッチなユーザーインターフェースをレンダリングし、数百万の同時ユーザーにサービスを提供するために、大量のメモリとコンピューティングを消費します。

同じパラドックスが今、1つ上のレベルで繰り返されています。ソフトウェア自体の生成においてです。AIエージェントがコード生成を劇的に安価にするにつれて、私たちはソフトウェアを少なく書くのではなく、はるかに多く、より多くのプロトタイプ、1人の聴衆のために構築されたより多くの個人的なツール、以前は試みるには高価すぎたより野心的なシステムを書くようになります。そして、その新しいソフトウェアのすべては、この記事で説明されている同じスタック上で実行され、誰かによって理解、デバッグ、および保護される必要があります。

[画像: xkcd #676: Abstraction, an x64 processor runs the XNU kernel through Darwin and OS X through Firefox and Flash, all to render a cat jumping into a box and falling over.]

xkcd #676: Abstraction by Randall Munroe

同じ原則がセキュリティにも適用されます。ソフトウェアの脆弱性は、神秘的で独立した問題クラスであることはめったにありません。その核心では、それは単なるバグ、開発者が考慮しなかったエッジケースまたは予期しないシナリオです。プログラムが入力を受け取ったり、設計されていなかった状態に遭遇したりすると、予測不能に動作します。攻撃者は、これらのギャップを、これらの未処理のパスをトリガーする特定の入力をシステムに供給することによって悪用し、チェックをバイパスしたり、制限されたデータにアクセスしたりできるようにします。コードの限界と、予期しないシナリオをどのように処理するかを理解することが、安全なシステムとそうでないシステムを分けるものです。

ソフトウェアがメモリをどのように管理し、ハードウェアとどのように相互作用するかを深く理解することで、厳しい制約下でもシステムが予測可能に、安全に、そして効率的に実行されるという自信が得られます。

AIエージェントが誰もがこれまで以上に多くのコードを書き、出荷できるようにするにつれて、ソフトウェアエンジニアリングの性質は変化しています。物事が壊れたとき、基盤をしっかりと把握していない人々は、AIモデルのなすがままになり、説明できない問題をデバッグしようと暗闇の中で推測することになります。基盤となるシステムについての明確なメンタルモデルがなければ、エージェントに正確な問題をどのように伝えるか、または提案された解決策が正しいかどうかを確認する方法を知りません。

一方、これらの抽象化を非常によく理解している人々にとって、AIエージェントは脅威ではなく、増幅器です。彼らは、正確で根拠のある指示でエージェントを指示し、何が起こっているべきかの明確なメンタルモデルに対して生成されたコードを検証し、エージェントが立ち往生したときに直接問題を修正するために介入できます。かつて単一のエンジニアを生産的にしていた判断は、今や彼らが指示するすべてのエージェントに拡張され、1人が以前はチーム全体を必要としていたシステムを構築できるようになります。この記事がその足がかりを提供してくれたことを願っています。