量子化とは
りょうしか
別名: quantization
AIモデルの数値の精度を落として軽量化する技術。メモリと計算量を減らせる。多少の精度低下と引き換えに、実行効率を大きく高める。
✓ 監修済み
スライドで学ぶ
3日間の無料トライアル付き・クレジットカード不要・いつでも解約OK
りょうしか
別名: quantization
AIモデルの数値の精度を落として軽量化する技術。メモリと計算量を減らせる。多少の精度低下と引き換えに、実行効率を大きく高める。
3日間の無料トライアル付き・クレジットカード不要・いつでも解約OK