ステップ 1: アプリのデプロイと削減可能性の発見

EKSの6ノードにアプリをデプロイしました。これが導入前の状態です。すべてのノードが空っぽでした。

クラスターは eksctl により作成しました。

eksctl create cluster ?name Boutique-blog-lg -N 6 ?instance-types m5.large ?managed ?region us-east-2

そして、デプロイ後の様子がこちらです（ポッドを可視化するのに便利なオープンソースプロジェクト、kube-ops-viewを使用しています）。緑色の長方形がポッドです。

Kubernetesでは、アプリケーションのポッド（コンテナ）は、デフォルトですべてのノードに均等に分散されます。Kubernetesは公平なオーケストレーションエンジンであり、そういうものなのです。CPUは40％から50％の間です。

注：EKSのオートスケーリング機構は、CAST AIが代替するため、あえてすべて無効にしています。

さて、いよいよEKSクラスタをCAST AIに接続します。CAST AIで無料アカウントを作成し、「Connect your cluster」オプションを選択しました。

CAST AIエージェントは、EKSクラスタ（その仕組みについてはこちら）を調べ、Cluster Savings Reportを作成しました。

スポットインスタンスの使用レベルに応じて、達成できる節約額が異なることがわかります。一般に、スポットのみのクラスタは最大限の節約をもたらし、スポットフレンドリーなクラスタはバランスが取れており、スポット使用しないと節約が最小となります。

ここで、6台のm5.largeインスタンスを、CAST AIが推奨する3台のc5a.largeに変更すれば、請求額を60%近く削減できることがわかりました。いい計画ですね！

スポットインスタンスを使用すると、さらに高い節約率（66.5%）を得ることができました。

ステップ 2: コスト最適化の有効化

コスト最適化を始めるには、オンボーディングスクリプトを実行する必要があります。このスクリプトは、クラスタをマネージド状態にオンボードし、自動的に最適化できるようにします。これを実行するために、CAST AIはここに説明されている追加の認証情報を必要とします。

ステップ 3: ポリシーを有効化

まず、CAST AIにクラスタ全体を管理させるか、一部のワークロードだけを管理させるかを決めなければなりません。今回はCAST AIに無視されるべきワークロードはないため、標準のオートスケーラーを選択します。

次に、関連するポリシーをすべて有効にします。

オートスケーラーの設定も構成できます。

このページに記載されている内容の簡単な概要は以下となります。

Unscheduled pods policy（スケジュールされていないポッドのポリシー）

このポリシーは、Kubernetesクラスターのサイズを自動的に調整し、すべてのPodが実行する場所を確保するようにします。また、ここでスポットインスタンスポリシーをオンにし、スポットフォールバックを使用して、スポットインスタンスが中断されたときにワークロードが実行する場所を確保するようにしています。

Node deletion policy（ノード削除ポリシー）

このポリシーは、ワークロードがスケジュールされなくなったノードをクラスタから自動的に削除します。これにより、クラスタは最小限のフットプリントを維持し、コストを大幅に削減することができます。設定項目のEvictorを有効にすることで、Podをより少ないノードに継続的に圧縮することができ、大幅なコスト削減が実現します!

CPU limit policy（CPU制限ポリシー）

このポリシーは、定義されたCPUリソースを定義された制限値内に維持します。クラスタは最大と最小のしきい値を超えることはできません。

Evictorを有効にして動作するように設定しました。

Evictor の動作は次のようになります。

1. 1つのノード（以下の赤色）が削除の候補として特定されます。
2. Evictor はポッドをほかのノードに自動的に移動する「ビンパッキング」を行います。
3. ノードが空になると、クラスタから削除されます。
4. ステップ 1 に戻ります。

1 つのノードが削除されます。

Evictorのログは次のとおりです。

これで、2 番目と 3 番目のノードが削除され、残りの 3 つのノードは次のようになります。

約10分後、Evictorは3つのノードを削除し、3つのノードを稼働させたままにしています。なお、CPUの稼働率は80%とかなり健全な状態になっています。

このクラスタのコストは現在、月額207.36ドル です。これは、初期コストの月額414ドルの半分です。

予想された削減額である80%を達成することができました。CAST AIのダッシュボードに表示された内容は以下となります。

ステップ 4: 継続的な最適化のためにフルリバランスを実行する

ステップ1、2、3は完全に自動化されています。CAST AIは、無駄や過剰なプロビジョニングを排除することで、クラスタを徐々に縮小していきます。これは、ポッドをビンパッキングし、ノードを1つずつ空にすることで行われます。その瞬間からクラスタは最適化され、Evictorは時間をかけてさらなる最適化の機会を継続的に探します。

次のステップは、CAST AIがクラスタ内のすべてのノードを評価し、一部（またはすべて）を、ワークロード要件を満たす最もコスト効率の良いノードに置き換えるフルリバランシングを実行することです。

ノードが遮断されます。

最初の 2 つのノードは排出され、AI エンジンはこれらのノードに最適なインスタンス タイプを選択します。これは、CAST AI ダッシュボードで見たものです

最初の2つのノードは廃棄され、AIエンジンはこれらのノードに最も適したインスタンスタイプを選択します。CAST AIダッシュボードでは以下のように表示されます。

概要

最適化されていないセットアップから、完全に最適化されたセットアップに移行するのは簡単でした。CAST AIはセットアップを分析し、コスト削減の機会を見つけ、15分でクラスタを迅速に最適化しました。EKSの請求額は、15分で414ドルから207ドルへに半減しました。

次にCAST AIにノードを、より最適化されたノードに置き換えるよう依頼し、高度な節約を有効化し、さらなるコスト削減を達成したことで、最終的に請求額は138ドルとなりました。

さらにクラスタを全体もしくは部分的にリバランスすることで、より節約と最適化されたクラスタ状態となりました。

無料の CAST AI Savings Report を実行して、どれだけ節約できるかを確認してください。これは、クラウド コストの最適化へのあらゆる旅の出発点として最適です。