>>756
推論モデルを再量子化して小さくするのはローカルに限らずサーバーでも広く利用される方法だよ
じゃないとメモリがいくらっても足らないので