Nvidiaの次世代AIプラットフォームではメモリコストが激増し、システム総コストの25％を占めるようになった。AIシステムの構築費用は780万ドルに達し、ハードウェアの経済構造が変化している。
NvidiaのAIシステム、メモリコストが485％急騰
Nvidia's memory costs soar 485%, latest AI systems now cost $7.8 million to build — memory now comprises 25% of the total cost, Rubin GPUs a mere $50,000 apiece
編集メモ: AIの進化に伴いメモリコストがシステム全体を圧迫する中、技術者はハードウェアの経済的側面を理解した上で、効率的なリソース最適化を図る必要があります。