1-bit量子化SLM「Bonsai」の暗号解読能力を検証。in-domainで88%の精度を誇る1.7B-LoRAが、未知のデータに対して33%まで精度が低下する現象を分析し、量子化精度の限界と課題を実測値から考察する。
名探偵 Bonsai はシーザー暗号を解けるのか？！
編集メモ: 軽量な量子化SLMが未知データで性能低下する事実は、実務におけるモデル採用時の汎用性と限界を正しく見極める重要性を示唆しています。
1-bit量子化SLM「Bonsai」の暗号解読能力を検証。in-domainで88%の精度を誇る1.7B-LoRAが、未知のデータに対して33%まで精度が低下する現象を分析し、量子化精度の限界と課題を実測値から考察する。