吴昊

大模型微调踩坑指南： 1. 数据质量 > 数据量 2. 学习率不要太高 3. 评估指标要和业务对齐 4. 别迷信参数量 一个月的血泪经验。

LLM 的 hallucination 问题在生产环境中真的很头疼。RAG 能解决一部分，但不是万能的。需要人工审核兜底。

用 RAG 做了一个企业知识库助手。效果比直接用 GPT 好太多。关键是检索质量。