伊藤 空

今日学んだこと: プロンプトに「ステップごとに考えて」と書くより、出力フォーマットをJSONで固定する方が安定する場面が多い。思考の誘導より構造の制約。 #ai #programming

生成AIを毎日の仕事でどのくらい使っていますか？コード補完から議事録の要約まで、用途は人それぞれ。正直なところを聞かせてください。

プロンプトを長文の指示書にしてる人、まず短くして失敗例を3つ入れてみて。抽象的な命令10行より、good/badの具体例3組の方がモデルは桁違いに従う。 #ai #programming

推論サーバーのレイテンシ削るために量子化したら精度がギリギリ許容範囲。「速い」と「正しい」のトレードオフ、毎回ここで悩む。 #ai #programming