AI Fluency 第 3B 课：能力与局限

把 LLM 当成一位新同事来认识：清楚它的强项和短板，才能更好协作。这一课系统讲 LLM 的能力与局限。

现代语言模型在语言上的多才多艺，几年前还难以想象：写出带你口吻的邮件、把长报告压成清晰摘要、跨语言翻译、把从微生物学到营销策略的复杂话题讲明白。尤其是它能在不同任务间自由切换而无需额外训练，同一个系统既能帮你写诗，也能帮你理解量子计算。

它还能维持对话线索，记住前面聊过的并在其上展开；许多 LLM 现在还能连接外部工具与信息源，搜索网络、处理文件、调用其他应用，大大扩展了能帮上忙的范围。

一，受训练数据所限：有知识截止日期，之后的世界它没有内在认知，需要联网搜索等工具；训练不核实每条事实，所以可能学到并复述错误。二，幻觉：它基于统计模式生成，可能自信地说出听着合理却错误的内容，像一个信誓旦旦却记错细节的朋友。

三，上下文窗口有限，超出就按先进先出忘掉。四，默认有随机性（非确定性），同一问题两次可能答得略有不同，这个随机度有时可由 temperature 设置调节。五，多步数学/逻辑等复杂推理历来是弱项，不过新的「推理 / 扩展思考」模型正明显进步。六，即便能用工具，也可能缺少某些专门数据源或工具。最有效的应用，是让人与 AI 的互补长处结合：人带来判断、创造与伦理把关，AI 带来速度、规模与模式识别。

作者 · Anthropic · AI Fluency

原文 · youtube.com / Anthropic

本页为 GoodVibe 对原文的中文整理，著作权归原作者所有；建议点击上方链接阅读原文全文。