私の成熟プロセスにおける3つの重要なステップ

私の父は最近亡くなりましたが、彼は私の年齢の2倍の年齢でした。私は今、生まれた時の父と同じくらいの年齢で、「上の世代」となりました。私より上の世代はもう誰もいません。同時に、最近、私より若い人が多い会社に入社しました。2011年にGoogleに入社したとき、私は30歳になったばかりで、2011年のGoogleの主要な人口統計の中にいました。より年上の人々がたくさんいて、非常に年上の人々は50代で、ベル研究所での勤務を終えていました。私はこれらの「グレービアード」（性差別的な言葉ですが、適切な女性の同等語は何でしょうか？含めたい非常に年配の女性エンジニアが数人いました）の多くを賞賛していました。ですから、おそらく「20代前半から現在まで、私が世界の見方に深い影響を与えた重要な気づきは何だったのか？」と振り返るのは自然なことでしょう。ある意味で、「私を『より成熟』させた洞察は何でしょうか？」この投稿はそれらをリストアップしようとしています。 1. 自分のインセンティブ構造を理解し、自分が考えるすべてを信じないことの重要性。 最近、このトピックについてTwitterのスレッドを書きました。オッペンハイマーは核爆弾の製造について公に罪悪感を抱いていましたが、フォン・ノイマンはある時点で「罪の功績を主張するために罪悪感を公言する人もいる」と皮肉りました。若い頃、特に自分だけが0dayを持っている状況では、0dayを持つことの責任に苦悩しました。修正すべきか？善のために使うべきか？世界はこのように損なわれるのか？それともあのように損なわれるのか？結局のところ、個人は重要ですが、多くのアイデアには「熟する時期」があり、その瞬間に個人が考えるほど個人の行動は重要ではないことが判明しました。また、自分の行動がより広い世界にどのように影響するかを予測する方法は、ほとんどありません。「この0dayがテロリストを逮捕するために使われたら、それは良いことか？」と問われたら、おそらく「それは良いことだ」と言うでしょう。「この0dayが誰かを逮捕し、その後183回拷問やウォーターボーディングするために使われたら、それは良いことか？」と問われたら、おそらく「それは悪いことだ」と言うでしょう。したがって、あなたの0dayがKSMを捕らえるために使われたなら、それはおそらく良いことですか？それとも悪いことですか？物事は非常に急速に複雑になります。0dayを閉じることは、すべてをより安全にするため、社会にとって良いことでしょうか？それとも、バグのあるシステムは回避しやすいため、抑圧を可能にするのでしょうか？良い答えはなく、あなたの自身のインセンティブ構造は、あなたがどのように信念を選択するかに大きく影響します。結局のところ、人々は自分の物語のヒーローでありたいと同時に、認識、物質的な財産などに対する基本的なニーズを持っています。そのため、自分の物語のヒーローであり続けながら、基本的なニーズを満たすことができるような物語を構築しようとします。自分の仕事の影響に対する不安は自己満足であり、それを認識し、抑制しなければなりません。それはあなたのエゴのための砂糖ですが、歴史はあなたを大きく迂回するでしょう。なぜなら、個々の決定は特定の状況では重要ですが、歴史全体の流れは個人が考えるほど個人に敏感ではないからです。しかし、より広範な教訓は、自分の思考のすべてを信じてはならないということです。自分のインセンティブ構造を注意深く調べてください。特に、自分自身のために構築しているヒーローの物語と矛盾する場合、自分の行動や信念に対する代替の物語がどのようなものであるかを自問してください。「この物語で自分が悪役になる可能性はどうだろうか？」という問いを注意深く検討することは、重要で価値のあるスキルです。同様に、メタ認知、つまり自分の思考を客観的に観察し、それを自分のインセンティブ構造に関連付けて解釈、分析、文脈化できることは、育むべき素晴らしいスキルです。 2. 単一原因決定論は幻想であり、コンピュータのデバッグ以外ではほとんど存在しません。 若いコンピュータ愛好家が慣れ親しんだ単一原因決定論は、何世代にもわたる電気技師やプロセスエンジニアがその生涯をかけて完成させ、維持してきた幻想です。これらのエンジニアのおかげで、コンピュータ科学者は過去において確率や経験的根拠なしに、ほとんどの場合うまくやってこられました。AIに転向した自然科学者が非常に多いという議論がありますが、それはCS教育が長年、決定論的な単一原因決定論の幻想の中での推論に集中しすぎていたためです。現実は、コンピューティングマシンは物理的なデバイスであり、摩耗や損傷、アイテム間の品質の違い、「確率的決定論的挙動」、つまり、あまり揺さぶられなければほとんどの場合決定論的に見えるものが含まれます。温度、電圧、電磁場、あるいは隣接するDRAM行への急速なメモリアクセスであっても、少しでもプッシュされると、決定論は窓の外に出ていき、幻想は崩壊し、私たちは非常に異なる獣に対処することになります。参考までに、これもモデルアライメントについて疑問を抱かせます。なぜなら、完全にアラインされたモデルでさえ、推論中にランダムなビット反転の影響を受ける可能性があり、不適切な時間に不適切な値へのビット反転が存在する状況で、合理的な保証を維持できるとは想像しにくいからです。現実世界は、起こることのほとんどに単一の原因がなく、真に決定論的な伝達メカニズムが非常に少ない場所です。すべては確率的であり、すべては多因的です。測定ノイズは現実であり、実験設計は困難です。興味深いことに、これを注意深く考えると、科学的方法は、何かを真実として受け入れることに意図的に偏見を持っている分類器であるため、合理的な疑いを超えて真実であると認められるものだけを受け入れることがわかります。これのやや魅力的な帰結は、科学的に真実として示されることのない、真実の大きなクラスが存在するということです。 3. 理性と感情の二分法は文化的な構築物であり、神経科学にも論理にも基づいていません。 少し掘り下げてみると、西洋の理性と感情はスペクトルの両端であるという信念は、純粋に文化的な構築物であることがわかります。「高次の」理性は「基本的な」感情を抑制する必要があるという信念や、「感情」が「合理性」を妨げるという信念も同様です。ほとんどの非西洋文化では、合理的な熟慮と衝動や感情との統合がより一般的であり、これが生物学的な現実にずっと近いことが判明しています。神経科学の観点からは、感情的な評価は、感情的な評価コンポーネントが損傷したり除去されたりすると適切に機能しない意思決定メカニズムの一部であることが明らかです。また、脳が言葉で表現するのに苦労していることが感情を介して伝達される大きな部分や、体からの実際の感覚器官からのフィードバックもあります。面白いトリビア：あなたの腸の腸神経系は、犬の脳全体と同じくらいのニューロンを含んでいます。あなたの体はまた、レイテンシ最適化の形式として、筋肉や手足にニューロンを事前に展開しています。あなたの体はあなたに追加情報を提供しており、そのほとんどは感情の形で現れます。これにより、意思決定から感情を「排除」しようとすることの論理的な議論につながります。明らかに、意思決定のために、より多くの情報源を活用できる能力があれば、意思決定の質は向上します。特定の情報源を排除しようとすると、意思決定の質はほぼ確実に低下します。これは、衝動だけで行動すべきだという意味ではありませんが、感情を含む情報の全スペクトルを意思決定に統合することが賢明なアイデアであることは確かです。もっと注意深く考えれば、さらに多くの洞察が得られると思いますが、これら3つは私の人生に驚くほど定期的に現れるほど重要です。誰かの役に立つことを願っています。