RTX 4060 8GBでQwen3モデルを動かす検証記事。llama.cppを使用し、モデルサイズ別のVRAM使用量を調査。ミドルレンジGPUでどのモデルが動くかの境界線を具体的に検証します。
Claude Sonnet 4.5超えのフランス製AIモデル「Mistral Medium 3.5」がオープンモデルとして公開される＆Mistral Vibeがクラウド対応
編集メモ: 限られたGPUリソースで最新モデルを動かす検証は、コストを抑えつつ自前でAI環境を構築する際に不可欠であり、ハードウェア構成に応じた適切なモデル選定力が問われます。