私の成熟プロセスにおける3つの重要なステップ
Three important steps in my maturation process (thomasdullien.github.io)
要約
著者は、父親の死と若い世代の多い企業への入社を機に、自身の成熟プロセスにおける3つの重要な気づきを振り返っています。第一に、自身のインセンティブ構造を理解し、自分の思考を鵜呑みにしないことの重要性。第二に、コンピュータサイエンスにおける単一原因決定論は幻想であり、現実世界は確率的かつ多因的であること。第三に、理性と感情の二分法は文化的な構築物であり、感情は意思決定に不可欠な情報源であると論じています。
全文翻訳
成熟プロセスにおける3つの重要なステップ
最近、父が亡くなりました。彼は私の2倍の年齢でした。私は今、自分が生まれた時の父と同じくらいの年齢になり、「上の世代」となりました。私より上の世代はもう誰もいません。
同時に、私は最近、自分より若い人が多い会社に入社しました。2011年にGoogleに入社したとき、私は30歳になったばかりで、当時のGoogleの一般的な年齢層でした。多くのシニアな人々がおり、非常にシニアな人々は50代で、ベル研究所での経験を積んでいました。私はこれらの「グレービアード」(性差別的な言葉ですが、適切な女性の同義語は何でしょうか?含めたい非常にシニアな女性エンジニアも数名いました)を大いに尊敬していました。
そこで、おそらく「20代前半から現在に至るまで、私の世界観に大きな影響を与えた重要な気づきは何だったのか?」と振り返るのは自然なことでしょう。ある意味で、「成熟」という肯定的な定義において、私を「より成熟」させた洞察は何だったのか?
この記事ではそれらをリストアップしようと試みます。
1. 自身のインセンティブ構造を理解すること、そして自分の考えをすべて信じないことの重要性。
このテーマについては最近Twitterのスレッドを書きました。オッペンハイマーは核爆弾の製造について公に罪悪感を抱いていましたが、フォン・ノイマンはかつて「罪を主張するために罪悪感を表明する人もいる」と皮肉りました。若い頃、特に自分だけが0dayを持っていて他に誰も持っていない状況では、0dayを持つことの責任に悩み続けました。修正すべきか?善のために使うべきか?この方法やあの方法で世界が害されるだろうか?
結局のところ、個人は重要ですが、多くのアイデアには「熟す時期」があり、個人の行動は本人がその瞬間に考えているよりも重要ではないことが判明しました。また、自分の行動がより広い世界にどのように影響するかを予測するほとんど方法がありません。
もし尋ねられたら、「この0dayを使ってテロリストを逮捕するのは良いことか?」とあなたはたぶん「良いことだ」と言うでしょう。「この0dayを使って誰かを逮捕し、その後183回拷問やウォーターボーディングするのは良いことか?」と尋ねられたら、あなたはたぶん「悪いことだ」と言うでしょう。では、あなたの0dayがKSM(カーン・サイード・モハメド)の逮捕に使われたら、それは良いことか?それとも悪いことか?物事は非常に急速に複雑になります。
0dayを修正することは、すべてをより安全にするため、社会にとって良いことなのでしょうか?それとも、バグのあるシステムは回避しやすいため、抑圧を可能にするのでしょうか?
良い答えはなく、あなた自身のインセンティブ構造が、あなたがどのように信念を選択するかに大きく影響します。結局のところ、人々は自分の物語のヒーローでありたいと同時に、認識や物質的な財産などの基本的な欲求を持っています。そのため、自分の物語のヒーローであり続けながら、基本的な欲求を満たすことができるような物語を構築しようとします。
自分の仕事の影響に対する不安は自己満足であり、それを認識し、抑制する必要があります。それはあなたのエゴのための砂糖のようなものですが、歴史はあなたを大きく迂回するでしょう。なぜなら、個々の決定は特定の状況では重要ですが、歴史全体の流れは個人が考えているほど個人に左右されないからです。しかし、より広い教訓は、自分の考えをすべて信じないことです。自分のインセンティブ構造を注意深く調べてください。特に、自分自身のために構築している英雄的な物語の物語と矛盾する場合、自分の行動や信念に対する代替の物語がどのようなものになりうるかを自問してください。「この物語で自分が悪役になる可能性はどのようにあるか?」という問いを注意深く検討することは、重要で価値のあるスキルです。
同様に、メタ認知、つまり自分の思考を客観的に観察し、それを自分のインセンティブ構造に関して解釈、分析、文脈化できる能力は、育むべき偉大なスキルです。
2. 単一原因決定論は幻想であり、コンピュータデバッグの外ではほとんど存在しない。
若いコンピュータ愛好家が慣れ親しんでいる単一原因決定論は、何世代にもわたる電気・プロセスエンジニアがその生涯をかけて洗練・維持してきた幻想です。これらのエンジニアのおかげで、コンピュータサイエンティストは過去において確率や経験的根拠なしに、ある程度やってこられました。CS教育が長らく決定論的な単一原因決定論の幻想内での推論に集中しすぎていたため、多くの自然科学者がAIに転向したという議論があります。
現実はこうです。コンピューティングマシンは物理的なデバイスであり、摩耗や劣化、個体間の品質差、「確率論的に決定論的な振る舞い」、つまり、あまり揺さぶられなければほとんどの時間は決定論的に見えるものが含まれます。温度、電圧、電磁場、あるいは隣接するDRAM行への急速なメモリアクセスであっても、少しでもプッシュされると、決定論は窓の外に出ていく傾向があり、幻想は崩壊し、私たちは全く異なる獣に対処することになります。
ちなみに、これもモデルアライメントについて考えさせられます。なぜなら、完全にアラインされたモデルでさえ、推論中にランダムなビット反転の影響を受ける可能性があり、不適切な時間に不適切な値へのビット反転が存在する状況で、合理的な保証を維持できるとは想像しにくいからです。
現実世界は、起こることのほとんどが単一の原因を持たず、真に決定論的な伝達メカニズムを持つものがほとんどない世界です。すべては確率的であり、すべては多重的です。
測定ノイズは現実であり、実験設計は困難です。
興味深いことに、これを注意深く考えると、科学的方法は「真実であると受け入れることに対して意図的に偏見を持っている」分類器であり、それゆえ、合理的な疑いを超えて真実であるものだけを受け入れることがわかります。
これのやや魅力的な帰結として、科学的に真実であるとは決して示されない、真実の大きなクラスが存在するということです。
3. 理性と感情の二項対立は文化的な構築物であり、神経科学にも論理にも基づいていない。
少し掘り下げると、理性と感情がスペクトルの両端であるという西洋的な信念は、純粋に文化的な構築物であることがわかります。「高次の」理性が「基本的な」感情を抑制する必要があるという信念や、「感情」が「合理性」を妨げるという信念も同様です。
ほとんどの非西洋文化では、合理的な熟議と衝動や感情との統合を達成することがより一般的であり、これが生物学的な現実に much closer であることがわかります。
神経科学の観点からは、感情的な評価は、感情的な評価コンポーネントが損傷したり除去されたりすると適切に機能しない意思決定メカニズムの一部であることが明らかです。また、脳が言語で表現するのに苦労するものが感情を介して伝達される大きなコンポーネントがあり、体からの実際の感覚フィードバックもあります。面白いトリビア:腸の腸内神経系は、犬の脳全体と同じくらいのニューロンを含んでいます。体はまた、レイテンシ最適化の形式として、筋肉や手足にニューロンを前方に展開しています。体はあなたに追加情報を提供しており、そのほとんどが感情の形で現れます。
これにより、意思決定から感情を「排除」しようとすることがなぜ悪い考えであるかについての論理的な議論につながります。明らかに、意思決定のために、より多くの情報源を活用できる能力があれば、意思決定の質は向上します。特定の情報源を排除しようとすることは、ほぼ間違いなくあなたの意思決定の質を低下させます。
これは、衝動だけで行動すべきだという意味ではありませんが、感情を含む情報の全スペクトルを意思決定に統合することが賢明なアイデアであることは確かです。
もっと注意深く考えれば、さらに多くの洞察が思い浮かぶだろうと確信していますが、これら3つは私の人生に驚くほど頻繁に現れるほど重要です。
誰かの役に立つことを願っています。