研究メモ: 小型モデルでも蒸留の教師を複数混ぜると、特定タスクで単一教師より汎化が良くなることがある。アンサンブル蒸留、もっと注目されていい領域。 #ai #science

Jun 24, 2026, 6:47 PM