「4GB GPUで8Bモデルを学習できる」というSoupの主張をRTX 5060 Tiで検証したら、学習は本当に動いたがアダプタが空だった

4GBのGPUでも8Bモデルのファインチューニングを可能にするCLIツール「Soup」を紹介。Layer Streaming技術により、ホストRAMからモデル層を流し込むことでメモリ制約を克服する。ベンチマーク数値やその実効性について、開発者による注記を交えてレビューする。