AmazonのCEO、Andy Jassy氏がOpenAIとの画期的な500億ドル投資を発表してから間もなく、Amazonは私を招待し、その根幹にあるチップ開発ラボを訪問しました。このラボで開発されたTrainiumチップは、AI推論の低コスト化やNvidiaの寡占状態を打破する可能性を秘めており、業界の注目を集めています。
AWSとOpenAIの戦略的パートナーシップ
今回のツアーでは、ラボのディレクターであるKristopher King氏、エンジニアリングディレクターのMark Carroll氏、そして広報担当のDoron Aronson氏がガイドを務めてくれました。AWSは、AIラボであるAnthropicの主要なクラウドプラットフォームであり、MicrosoftとのAnthropicのクラウドパートナーシップの拡大や、OpenAIとのAmazonのパートナーシップを支えてきました。OpenAIとの提携により、AWSはOpenAIの新しいAIエージェントビルダー「Frontier」の独占プロバイダーとなり、エージェントが普及すればOpenAIのビジネスにとって重要な要素となる可能性があります。
Trainiumチップの性能と戦略
この提携の一環として、AmazonはOpenAIに2ギガワットのTrainiumコンピューティング能力を供給することで合意しました。これはAnthropicやAmazon自身のBedrockサービスがTrainiumチップを大量に消費していることを考えると、非常に大きなコミットメントです。現在、140万個のTrainiumチップが展開されており、AnthropicのClaudeは100万個以上のTrainium2チップで動作しています。Trainiumは当初、高速かつ安価なモデルトレーニングを目的としていましたが、現在は推論にも使用されています。推論は、AIモデルを実行して応答を生成するプロセスであり、現在、業界におけるパフォーマンスの最大のボトルネックとなっています。
Nvidiaとの競争とAmazonの戦略
Trainiumは、NvidiaのGPUの代替として機能するだけでなく、Amazonは新しいTrainium3チップを搭載したTrn3 UltraServerを使用することで、従来のクラウドサーバーと比較して最大50％のコスト削減を実現できると主張しています。Trainium3は12月にリリースされ、新しいNeuronスイッチと組み合わせることで、レイテンシーを低減し、価格対性能比を向上させています。Appleは2024年にAmazonのチップチームを称賛しており、Graviton（低電力ARMベースのサーバーCPU）やInferentia（推論専用チップ）などのチップを高く評価しています。これは、Amazonの典型的な戦略です。人々が求めるものを把握し、価格競争力のある自社製代替品を開発するのです。
開発の舞台裏：Trainium3の「Bring-up」
チップ開発の過程で、特に重要なのは「Bring-up」と呼ばれる、チップを初めて起動し、動作を確認するプロセスです。Amazonのチップ設計ユニットは、2015年にイスラエルのチップ設計会社Annapurna Labsを買収した際に誕生しました。このラボは、Austinの「The Domain」地区にある洗練されたオフィスビル内にあり、エンジニアたちは、問題解決のために徹夜で作業することがあります。Trainium3のBring-upでは、冷却システムの寸法がずれており、チップが起動できなかったため、エンジニアたちはグラインダーで金属を削って対応しました。
今後の展望とパートナーシップ
Amazonは、Cerebras Systemsとのパートナーシップを通じて、Trainium上で同社の推論チップを統合し、超高速かつ低レイテンシのAIパフォーマンスを実現することを目指しています。また、Amazonは、BedrockがEC2ほど大きなサービスになる可能性も秘めていると見ています。Amazonの野心はチップ自体にとどまらず、チップを搭載するサーバーの設計にも及んでいます。Nitroというハードウェアとソフトウェアの組み合わせにより、仮想化技術、最先端の液冷技術、サーバーのスレッドなどを制御し、コストとパフォーマンスを最適化しています。
- Trainiumチップは、AI推論の低コスト化に貢献する可能性を秘めている
- Amazonは、OpenAIとの戦略的パートナーシップを強化している
- Trainium3は、NvidiaのGPUとの競争力を高める
- チップ開発の「Bring-up」は、エンジニアたちの徹夜作業によって支えられている