HN 日本語サマリー

← 一覧へ戻る
プログラミング

「週末にできるよ」と言う人々(2016年)

I could do that in a weekend (2016) (danluu.com)

14 pointsby ntumlin0 コメント

要約

多くの人が、大規模ソフトウェア企業の製品開発に必要なエンジニアの数を過小評価しています。例えば、Googleのような検索エンジンの構築は、インデックス作成、ランキング、国際化、セキュリティ、組織的な複雑さなど、多岐にわたる困難な課題を含んでおり、単純なものではありません。MVP(実用最小限の製品)は週末に構築できるかもしれませんが、収益を最大化し、市場の大部分をカバーするには、数千人規模のエンジニアと継続的な最適化が必要となります。

全文翻訳

「自分なら週末でできるのに」というインターネット上のコメントは、大企業が開発しているソフトウェアに対して、従業員は何をしているのか疑問視する際に、私が思いつく限り、どの大きなソフトウェア企業でも定期的に見られます。

Benjamin Pollack氏とJeff Atwood氏は、Stack Overflowについてそのようなコメントをする人々を指摘しました。しかし、Stack Overflowは比較的明らかにスリムなので、一般的な反応は「ああ、Stack Overflowはスリムかもしれないが、FooCorpは本当に肥大化しているに違いない」というようなものです。そして、ほとんどの人はFooCorpについてほとんど見識がないため、FooCorpの任意の価値に対して、それはもっともらしい声明のように聞こえます。結局のところ、どのような製品が数百人、あるいは数千人のエンジニアを必要とする可能性があるのでしょうか?

数年前、rapgeniusのSEO論争の余波で、多くの人がより良いGoogleを書くように呼びかけました。Alex Clemmer氏は、「より良いGoogleを構築することは、些細な問題ではないかもしれない」と応答しました。Googleの5000億ドルの時価総額の多くが検索から来ていること、そして数十(数百?)の競合他社がその価値の一部を獲得しようとどれだけのお金を費やしてきたかを考えると、検索が些細な問題ではないというのはもっともらしいと思われます。しかし、Alex氏の投稿へのコメントでは、複数の人がLuceneはGoogleがやっていることと基本的に同じことをしており、Luceneは今後数年でGoogleの能力を凌駕する態勢にあると述べています。それから十分な時間が経過したので、Luceneがあまり改善されず、GoogleがLuceneクラスターを構築したスタートアップから危険にさらされているわけではないと振り返ることができます。むしろ、Google検索の実行可能な競合を作成するためのコストは増加しています。

実行可能なGoogle競合を作成するために、ランキングはインデックス作成よりも難しい問題だと信じていますが、インデックス作成だけを見ても、インデックス作成したいページが1兆ページ程度存在する個別のドメイン(Twitterのような)があり、ドメインも1兆程度あると推測できます。もし、Googleの負荷の1/100程度の負荷を、100ミリ秒程度のレイテンシ予算(ほとんどのレイテンシはランキングのためであり、インデックス作成のためではないはず)で処理するために、数兆個のアイテムのインデックスを保持するように、市販の検索インデックスを構成しようとすると、それが些細なことではないことがわかるでしょう。そして、Twitterを検索するためにGoogleを使用すると、少なくとも一部のユーザーやツイートについては、GoogleがTwitterをほぼリアルタイムでインデックス化していることがわかります。高負荷下で大規模コーパスに対してLuceneでリアルタイムインデックス作成を試みたことがある人なら、これも些細なことではないでしょう。主要な検索エンジンにインデックス化されていないツイートを見つけることができるため、これは完全に公平ではないと言うかもしれませんが、何をインデックス化するかしないかを決定したいのであれば、それは一般的なケースでは問題であり、それも些細なことではありません。そして、これはインデックス作成についてのみ話しており、インデックス作成は検索エンジンの構築における最も簡単な部分の1つです。

実際に利益を上げることを重視するビジネスは、たとえシステムのMVPが週末に構築できたとしても、システムを最適化するために多くの時間(したがって、多くのエンジニア)を費やします。また、レイテンシを減らすことが、かなりの範囲のレイテンシで収益に大きな影響を与えることを発見した広範な研究があります。パフォーマンスを向上させることは、コストを削減するという利点もあります。企業は、エンジニアを追加するコストが、限界での収益増加とコスト削減に等しくなるまで、最適化に取り組むエンジニアを追加し続けるべきです。これはしばしば、人々が考えるよりも多くのエンジニアを必要とします。

そして、それはパフォーマンスだけです。機能も重要です。ほぼすべての会社のほぼすべての製品に取り組んでいるエンジニアと話すと、収益に整数パーセントポイントを追加できる、一見些細な個々の機能を見つけることがよくあります。パフォーマンスと同様に、エンジニアが自分たちのコストに見合うようになるまで、製品に追加できるエンジニアの数を人々は過小評価します。

さらに、機能は外部の人が考えるよりもはるかに複雑であることがよくあります。検索を見ると、日付や電話番号のさまざまな形式が同じ結果を返すようにするにはどうすればよいでしょうか?国際化はどうでしょうか?各言語には、考慮しなければならない独自の癖があります。フランス語では、「l'foo」はしばしば「un foo」と一致すべきですが、90年代のアメリカの検索エンジンは実際にはそれを正しく処理していませんでした。単語の間にスペースがなく、文に一意のトークン化がない中国語のクエリをトークン化するのはどうでしょうか?クエリに4つの異なるアルファベットを簡単に含めることができる日本語はどうでしょうか?右から左に読まれることが多いアラビア語の処理はどうでしょうか?ただし、左から右に読まれる部分は除きます。そして、それはアラビア語を処理する最も複雑な部分でさえありません!週末プロジェクトのMVPでは、これらのことを無視しても構いませんが、実際のビジネスで無視することは、市場の大部分を無視することを意味します!これらの問題の一部はオープンソースプロジェクトでうまく処理されていますが、多くの問題はオープンな研究課題を含んでいます。

セキュリティもあります!セキュリティ担当者を雇用して会社を「肥大化」させなければ、HotmailやYahooのようになり、製品は他のどの機能よりもハッキングされる頻度で知られることになります。

これまでに見てきたすべては技術的な問題です。組織的な問題と比較すると、技術的な問題は単純です。分散システムは、実際のシステムがメッセージの約0.1%をドロップしたり、さらに小さい割合のメッセージを破損したり、マイクロ秒からミリ秒の範囲のレイテンシを見たりする可能性があるため、難しいと考えられています。上層部と話して、彼らが言っていると思っていることと、同僚が言っていると思っていることを比較すると、失われたメッセージのレートは50%をはるかに超え、すべてのメッセージが破損し、レイテンシは数ヶ月または数年かかることがわかります1。人々が何かを構築するのにかかる時間を想像するとき、彼らはしばしば、完璧に機能し、コーディングに100%の時間を費やすチームを想像しています。しかし、それをスケールアップすることは不可能です。問題は、非効率性が存在するのかどうかではなく、どれだけの非効率性があるのかということです。組織的な非効率性を排除できる企業は、これまでのどの技術スタートアップよりも大きなイノベーションとなるでしょう。しかし、企業が「べき」従業員数について計算するとき、人々は通常、その企業が効率的な組織であると仮定します。

この投稿は検索を例として使用していますが、LuceneがGoogleの能力をすぐに超えるだろうと主張する人々に出くわしたためですが、この投稿に検索に固有のものは何もありません。ほぼすべての分野の人々と話すと、人々がその分野の問題の複雑さをどれほど過小評価しているかについての話を聞くでしょう。ここでのポイントは、小規模チームがGoogle検索よりも優れたものを構築することが不可能だということではありません。誰かがPageRankのような大きなイノベーションを生み出し、小規模チームがそれを実行可能な会社に変えることは完全に可能です。しかし、その会社がVC資金による急成長段階を過ぎて利益を最大化したい場合、ハードウェアとソフトウェアの非効率性により年間数億ドルまたは数十億ドルをテーブルに残しておきたくない限り、Googleのような数千人規模のプラットフォーム組織を持つことになるでしょう。そして、会社はタイ、アラビア語、中国語、日本語のような言語を扱いたいと思うでしょう。それぞれが些細なことではありません。そして、会社は比較的優れたセキュリティを持ちたいと思うでしょう。そして、ユーザーが気づいていない何百もの小さな機能があり、それぞれが収益に目立った増加をもたらします。請求業務をアウトソースするのは「明白」ですが、自分で請求業務を処理する会社と話すと、StripeやBraintreeからは得られない、コンバージョンを単桁または二桁パーセント増加させる個々の機能を示すことができます。ある規模を超えると、その50人の請求チームは完全に価値があります。そして、セールスがあります。これはほとんどのエンジニアが考えもしないことです2。最適化に適用されるのと同じ推論がセールスにも適用されます。セールス担当者を一人追加する限界利益がコストを超える限り、会社はセールス担当者を追加し続けると予想でき、これはしばしばエンジニアリングチームよりも大きいセールス部隊につながる可能性があります。また、研究には、定義上、うまくいかない多くの賭けが含まれます!

これらすべてがサービスを運営するために必要だということではありません。しかし、これらすべてに真剣に対処しない限り、ほぼすべての大規模サービスが機会損失を被っているということです。これは、信頼性の低いシステムでよく見られる一般的な誤謬を思い出させます。人々は、ハッピーパスが「本当の」仕事であり、エラー処理は後で追加できるという考えでハッピーパスを構築します。信頼性の高いシステムでは、エラー処理はハッピーパスよりも多くの作業です。大規模サービスでも同じことが言えます。人々が「本当の」仕事だと考えていないこれらのすべては、コアサービス以上の作業です3。

修正

私はしばしばコメントなしでマイナーな調整を加え、新しい情報を追加しますが、この投稿の元のバージョンには誤りがあり、その誤りを削除することは大きな変更だったので、変更点を指摘する価値があると思います。Luceneでウェブをインデックス化するコストについて、概算計算を行いましたが、その数値はいくつかの論文のベンチマーク結果と商用検索エンジンで働く人々のコメントに基づいています。論文の結果を再現しようとしたところ、ある論文で報告されているよりも桁違いに優れたパフォーマンスを達成することが容易であることがわかりました。また、商用検索エンジンで働く人々のコメントの根拠をたどろうとしたところ、コメントの根拠となる実験的証拠がないことがわかりましたので、その例を削除しました。

私は、あまり編集せずに、ストリーム・オブ・コンシャスネスでブログ記事を書くことを実験しています。この投稿と私の最後の投稿は両方ともそのように書かれました。私の「通常の」投稿と比較して、これらの投稿についてどう思うか教えてください!

Leah Hanson、Joel Wilder、Kay Rhodes、Heath Borders、Kris Shamloo、Justin Blank、Ivar Refsdalの皆様、修正にご協力いただきありがとうございました。


  1. 最近、信頼性の低いサービスを数多く生み出すことで悪名高い組織が、なぜそれほど多くの信頼性の低いサービスを生み出すのか不思議に思いました。その理由を尋ねたところ、経営陣は信頼性に関する肯定的なメッセージを出すことを恐れていました。なぜなら、人々がそれをスケジュールの遅延の言い訳に使うことを恐れていたからです。経営陣は1年ほど前にメッセージに信頼性を含めるように変更しましたが、個々の貢献者と話すと、彼らは依然として、機能が最優先であり、信頼性を高めるために機能から遅れることはキャリアにとって悪いことだと信じています(昇進している人に基づいて、個々の貢献者が正しいようです)。おそらく、もう1年後には、組織は昇進を決定する人々にメッセージを本当に伝え、さらに数年後には、信頼性を念頭に置いて書かれた十分なソフトウェアがあり、実際に信頼性の高いサービスが得られるでしょう。おそらく。それは第一次の効果にすぎません。第二次の効果は、彼らのポリシーが、信頼性を気にする多くの人々を、新しい派手な機能をデモすることよりも信頼性を重視する企業に移籍させたことです。彼らは10年でそれを修正できるかもしれません。おそらく。それは、経営陣が何よりも機能を重視するPMがいる企業にあるという事実によってさらに難しくなっています。その評判を変えることが可能であれば、おそらく数十年かかるでしょう。[戻る]
  2. 多くの製品では、営業チームはエンジニアリングチームよりも重要です。Google検索に匹敵するものを構築した場合、おそらく競争力のあるクラウドオファリングを販売するためのインフラストラクチャも必要になるでしょう。Googleは、真剣なエンタープライズ営業部隊を持たずにそれをやろうとしましたが、その結果、AWSとAzureがエンタープライズ市場をほぼ二分しました。[戻る]
  3. これは、無駄がないとか、企業によって無駄のレベルが異なるということではありません。私はどこを見ても無駄を見ていますが、それは通常、外部の人が考えるような無駄ではありません。私が働いたことのある企業での無駄についての外部からの説明を読むたびに、それらはほぼ間違いなく間違っています。他の場所で働く私の友人たちも、同じような状況を説明しています。[戻る]