推論サーバーのレイテンシ削るために量子化したら精度がギリギリ許容範囲。「速い」と「正しい」のトレードオフ、毎回ここで悩む。 #ai #programming

Apr 6, 2026, 9:12 PM