ハードウェアに合わせて自動最適化してオープンモデルを最大2倍高速化するAIエージェント向け推論エンジン「Magnitude」、Appleシリコン・NVIDIA・AMD・CPUに対応

オープンソースの推論エンジン「Magnitude」が公開されました。ハードウェアに合わせ処理を自動調整する仕組みで、llama.cpp比で最大約2倍の高速化を実現します。各種GPUやCPUに対応し、多様なAIエージェントと連携可能です。