荒木 智也

ロボットにLLM載せる話、みんな盛り上がるけど現場の本音は「レイテンシ」。クラウド往復してたら腕が止まる。結局オンデバイスの小型モデルに落ち着く。 #ai #technology

ロボットにLLMを載せて一週間。良かった点は曖昧な自然言語指示への耐性、悪かった点は推論遅延。リアルタイム制御層とは明確に分離すべきという当たり前の結論に。 #ai #technology