このグラフは、AWS（Amazon t2-2x large: 8仮想コア）のCPUのアイドル時間を数回設けた後、異なる時間帯にCPUを動作させたものです。

出典：CAST AI

VMのパフォーマンスをよりよく理解するために、「耐久係数」という指標を作成しました。その計算方法は次のとおりです。

• VMタイプが12時間でどれだけの仕事をこなせるか、CPUの性能がどれだけ変動するかを測定します。
• 持続的なベースロードの場合は、同じぐらいの安定性が必要でしょう。バースト的なワークロード（たまにトラフィックが発生するウェブサイトや、たまに発生するバッチジョブ）の場合は、安定性は低くても問題ありません。
• シェアードコア、ハイパースレッド、オーバーコミット、世代間、バースト可能なクレジットベースのVMタイプなど、どれだけの安定性が得られるかわからないこともあるので、十分な情報に基づいて判断する必要があります。
• この計算では、性能が安定しているインスタンスは100に近くなり、性能がランダムなインスタンスは0に近くなります。

この例では、DigitalOcean s1_1マシンは0.97107（97%）の耐久係数を達成しましたが、AWS t3_medium_stは0.43152（43%）と変な形になりました - バースト可能なインスタンスではないにも関わらずです。

インスタンスタイプの選択に戻りましょう

WS、Azure、および Google いずれも、次の4種類のインスタンスタイプがあります。

• General purpose（汎用）

  このインスタンスタイプは、CPUとメモリーの比率がバランスよく、トラフィックが低～中程度のWebサーバーや小規模～中規模のデータベースなど、これらのリソースを同じ割合で使用する汎用的なアプリケーションに適しています。

• Compute optimized（コンピューティング最適）

  CPU に負荷のかかるワークロードに最適化されたこの VM タイプは、CPU とメモリーの比率が高くなっています。中程度のトラフィックを発生するウェブサーバー、バッチ処理の前処理、ネットワークアプライアンス、およびアプリケーションサーバーに適しています。

• Memory optimized（メモリー最適）

  このタイプは、メモリーとCPUの比率が高いのが特徴です。そのため、データベースサーバー、リレーショナルデータベースサービス、分析、より大規模なインメモリーキャッシュなどのプロダクションワークロードに適しています。

• Storage optimized（ストレージ最適）

  大量の読み取り／書き込み操作と低レイテンシーを必要とするワークロードは、このインスタンス タイプが適しています。ディスクスループットとIOが高いため、ビッグデータ、SQLおよびNoSQLデータベース、データウェアハウス、大規模トランザクションデータベースと相性がよいです。

また各プロバイダは、異なる名称で GPUワークロード用のインスタンスタイプも提供しています。

• Accelerated computing（高速コンピューティング）

  これらのインスタンスは、ハードウェアアクセラレーター（コプロセッサ）を用いて、データのパターンマッチング、グラフィックス処理、浮動小数点数の計算などの機能をCPUよりも効率的に実行する。機械学習（ML）やハイパフォーマンス・コンピューティング（HPC）に最適です。

• Inference type（推論タイプ）

  例えば、AWS EC2 Infは、AWS EC2 G4インスタンスと比較して、最大30%のスループット向上と45%の推論単価の低減を約束します。

• GPU

  ほとんどのディープラーニングの目的に推奨されるマシンです。

• GPU

  Nvidia GPUを搭載したこれらのインスタンスは、重いグラフィックレンダリング、ビデオ編集、計算負荷の高いワークロード、および深層学習におけるモデルの学習と推論（ND）に対応するよう設計されています。

• High-performance compute（高性能コンピューティング）

  このタイプは、計算およびネットワーク集約的なワークロード（ハイパフォーマンスコンピューティングクラスターアプリケーションを含む）用に最適化されたハードウェアを基盤とする、最速かつ最も強力なCPU VMを提供します。高スループットのネットワーク・インターフェイス（RDMA）との組み合わせに最適です。

• Accelerator-optimized（アクセラレータ最適）

  NVIDIA Ampere A100 Tensor Core GPUをベースにしたこれらのVMは、1つのVMで最大16個のGPUを使用することができます。HPCやCUDA対応の機械学習（ML）のトレーニングや推論など、要求の厳しいワークロードに最適です。

詳細については、次のリンクを確認してください。

最近、ARMベースの新しいSOC（System-on-Chip）であるApples M1シリーズが2020年11月に発表され注目されています。アップルによると、M1によってCPUの性能は3.5倍、GPUの性能は6倍になるそうです。ARMアーキテクチャをベースにしており、信じられないほど高速です。クラウドプロバイダは、同社のARMプロセッサ「Graviton2」を搭載した「AWS EC2 A1」ファミリーのように、ARMを搭載したVMを提供しています。

ARMについて知っておくべきことは次のとおりです：このタイプのプロセッサは、消費電力が低いため、動作コストや冷却コストが低く、CSPの料金も安くなります。しかし、このプロセッサを使用しようとする場合、アプリケーションをARM用にコンパイルするために、デリバリパイプラインを再設計しなければならない場合があります。Python、Ruby、NodeJSなどのインタプリタ型スタックで実行している場合なら、アプリケーションは単に実行するだけですみます。

• インスタンスファミリー: T2、T3、T3a、および T4g
• T2 ファミリーでインスタンスを再起動すると、蓄積されたすべてのクレジットが失われます。
• T3 および T4 でのインスタンスの再起動 = クレジットは 7 日間存続し、その後失われます。

• CPU バーストの B シリーズ VM
• VM を再デプロイして別のノードに移動すると、クレジットが失われます。
• VM を同じノードに保持したまま VM を停止／起動すると、蓄積されたクレジットが保持されます。

• 共有コア VM はバースト機能を提供します: e2-micro、e2-small、e2-medium
• CPU バーストは、f1-micro、g1-small、e2共有コアマシンタイプのオンデマンド料金で課金されます。

AWSを調査した結果、1日平均4時間以上インスタンスに負荷をかける場合は、バーストしないものの方が良いことがわかりました。しかし、たまに訪問者が殺到するようなオンラインストアを運営しているのであれば、相性が良いと思います。

備考: CPU 容量には制限があります

最初の4時間は、計算能力が直線的に増加する傾向があることがわかりました。しかし、それ以降は、かなり制限されるようになります。1日の終わりまで、利用可能なコンピュート量はほぼ90％減少します。

出典：CAST AI