機密データを自社環境で活用できるAI基盤「水冷GPUコンテナDC-PKG」を提供開始 - (Page.3)

 
デジタル・IT

1. 背景 ~AI活用の本格化に伴い、基盤運用が新たな経営課題に~
企業におけるAI活用はPoCから本番運用へと移行し、エージェント型AI、生成AIやAI推論の実業務への組み込みが急速に進んでいます。さらにアクセラレーテッド コンピューティングのソリューションの高性能化に伴い、ワットあたりの性能は向上しつつ、消費電力の増大により冷却設備を備えたデータセンター不足も重要な課題となっています。また、機密データの保護やネットワーク制約、大容量データの通信コスト、遠隔地設備の運用負荷を背景に、AI基盤を自社敷地内に設置したいというニーズが高まっており、これらのAI基盤の整備・運用においては次のような課題を抱えています。

トレンド新着記事