MacBook Airのみを使用し、1.5B規模の軽量モデルを「笑える一言」を返すAIに育てる実験記録。合成データ蒸留やMLX LoRAなどの手法を駆使し、CPU推論環境で実装した手順を公開。
【LLM】1.5Bの小さなモデルに笑いを教えようとしたら、先生が中国語を喋り出した話
編集メモ: 低スペック環境でも手法次第で軽量モデルの性能を向上できるため、計算資源が限られた現場でのAI実装において、蒸留やLoRAの活用は極めて有効な戦略となる。
MacBook Airのみを使用し、1.5B規模の軽量モデルを「笑える一言」を返すAIに育てる実験記録。合成データ蒸留やMLX LoRAなどの手法を駆使し、CPU推論環境で実装した手順を公開。