Large Language Models: Overview and Analysis
Aug 20, 2026
This report finished before verdicts existed. Its conclusions are in the full report.
Files2
- LLM并列比较表（CSV）.csvCSV · 2.3 KBCSV · 2.3 KB
- LLM并列比较表（Markdown）.mdMarkdown · 2.4 KBMarkdown · 2.4 KB
Large Language Models: Overview and Analysis
Aug 20, 2026
大型语言模型（LLM）概览：基础、发展、能力、风险与未来
摘要
大型语言模型（large language model, LLM）是以大规模文本或多模态数据训练、通常拥有数十亿乃至更多参数的神经网络模型。其核心任务是：在给定上下文的条件下估计下一个词元（token）的概率，并反复生成序列。它们不是必然可靠的数据库或推理者，而是把分布式表示、训练数据中的知识与后训练形成的行为策略结合起来的概率模型。2017年Transformer问世后，预训练规模、数据、计算和后训练共同推动了通用生成式AI。
核心判断：LLM最适合作为可验证工作流中的生成与转换组件；在高风险任务中，必须辅以检索、工具、约束、评测和人类监督。
1. 基础：NLP、神经网络与语言建模
自然语言处理（NLP）研究计算机如何表示、理解和生成语言，任务包括分词、翻译、问答、信息抽取、摘要和对话。语言模型把句子概率分解为：
P(w_1,\ldots,w_T)=\prod_{t=1}^{T}P(w_t\mid w_{<t}).
早期 n-gram 模型用最近若干词近似历史，简单但有数据稀疏和固定短上下文问题。Bengio等人的神经概率语言模型（2003）用可学习词向量表示词，再用神经网络预测下一个词，标志着从计数模型转向分布式表示。
RNN用隐藏状态递归累积历史，LSTM用门控记忆缓解梯度消失和长距离依赖；但逐步处理序列限制了并行训练。神经网络通过反向传播计算损失对参数的梯度，再用梯度下降更新参数。参数是模型学到的数值；参数量是容量的粗略指标，不等于知识量、智能或可靠性。
2. Transformer与注意力机制
Vaswani等人在《Attention Is All You Need》（2017）提出Transformer，完全以注意力取代循环结构。缩放点积注意力为：
Attention(Q,K,V)=softmax(QK^T/\sqrt{d_k})V.
Query、Key、Value分别表示查询、匹配依据和被聚合的信息。自注意力允许一个位置直接关注其他位置；多头注意力在多个表示子空间并行学习不同关系。因果模型使用未来屏蔽，保证生成第t个token时不能读取真实未来token。位置编码、残差连接、层归一化和前馈网络共同提高深层训练稳定性。
text
文字/图像/音频 → token化与嵌入 → Transformer层 ↓ 概率分布 P(next token) ↓ 解码/采样 → 新token → 循环生成
BERT采用双向编码器和掩码语言模型，擅长理解类任务；GPT系列采用因果解码器，天然适合开放式生成；T5等编码器—解码器模型适合翻译、摘要等序列到序列任务。
3. Token化、预训练与后训练
Token化把文本切成词、子词、字符或字节片段。BPE、WordPiece和SentencePiece在词表大小、未知词处理和跨语言效率之间折中。模型读取的是token ID及其向量，不是人类意义上的“词”；不同语言、代码和数学符号的token效率不同，影响上下文长度与成本。
预训练在大规模、通常未标注的数据上进行自监督学习：因果模型预测下一个token，掩码模型预测被遮盖片段。研究显示损失通常随计算量、参数量和数据量近似幂律下降；Chinchilla研究进一步强调，固定计算预算下，参数量和训练token应大致同步扩展，不能只追求模型变大。
预训练后通常进行：
- 监督微调（SFT）：用高质量输入—输出示例适应任务或行为。
- 指令调优：把任务写成自然语言指令，训练模型遵循“请总结、请解释、请输出JSON”等要求；FLAN和Self-Instruct是代表性方向。
- RLHF：先收集人类对多个回答的偏好，训练奖励模型，再以PPO等强化学习方法优化语言模型。InstructGPT表明，较小但经人类反馈调优的模型可以比更大的基础模型更符合用户意图。
- 直接偏好优化及变体：直接用偏好对优化策略，训练更简单，但仍受偏好数据和目标定义影响。
“对齐”不是单一属性：有帮助、诚实、无害、隐私保护和服从用户可能冲突；RLHF也可能造成迎合、过度拒答或奖励黑客。
4. 典型开发管线与概念区分
text
目标与风险界定 → 数据取得/许可/清洗/去重/过滤 → tokenizer与架构设计 → 预训练（分布式优化） → 验证、去污染与能力评测 → SFT/指令调优/偏好优化 → 安全红队、部署与监控 → 反馈、修复、再评测、版本迭代
- 训练更新模型参数，成本高且通常离线进行。
- 推理在固定参数上运行模型产生输出；温度、top-p等控制解码。
- 提示不改参数，只组织任务说明、上下文和示例；少样本提示提供格式范例，但提示敏感性意味着小改动也可能改变结果。
- RAG先从外部文档库检索，再把证据放入上下文生成；经典RAG由Lewis等人提出，可缓解知识静态和领域知识不足，但检索错误仍会导致错误。
- 工具使用是模型调用搜索、计算器、数据库、代码解释器或业务API，再整合结果。工具带来外部事实和行动能力，也带来权限、提示注入和结果验证问题。
5. 发展史
- 1980s—2000s： n-gram及平滑技术主流。
- 1997—2014： LSTM、词向量和神经概率模型改善长期依赖与语义表示。
- 2013—2016： seq2seq与注意力推动神经机器翻译。
- 2017： Transformer实现高并行和全局依赖建模。
- 2018—2020： BERT展示预训练迁移能力；GPT-2/GPT-3展示大规模生成、上下文学习和少样本提示。
- 2022以后： 指令调优、RLHF、视觉语言模型、代码模型、长上下文、混合专家、小模型和测试时计算成为重要路线。
- 截至2026： 研究重点从单纯扩大参数转向数据质量、合成数据、工具与代理、可验证推理、成本效率、多模态和责任治理。Stanford AI Index 2025报告显示小模型能力快速提升，开放权重与专有模型差距缩小，但前沿训练资源仍高度集中于产业界。
6. 能力与边界
文本生成、改写与摘要：适合邮件、说明、创意草稿、摘要和风格转换，但可能遗漏限定条件或捏造事实。
翻译：跨语言转换能力强，低资源语言、术语一致性和文化语用仍不均衡。
编码：可补全代码、解释错误、生成测试和脚本；真实软件工程还需要环境配置、需求澄清、测试覆盖、依赖安全与维护。
推理：能进行分步解题、分类和规划，但解释不一定忠实反映内部过程；错误推理可能得到偶然正确答案。所谓“涌现能力”仍有争议，部分突变来自离散指标和提示格式。测试时计算和代码执行器可提高部分数学/规划表现，却增加延迟和成本。
多模态：视觉—语言、语音—语言和文档模型可描述图像、读取表格和进行语音交互；其限制包括视觉幻觉、OCR错误、空间关系不稳和跨模态偏见。
7. 局限与风险
- 幻觉：生成流畅却无依据的事实、引文、人物或代码；语言合理不等于世界真实。
- 偏见：继承或放大训练语料中的性别、种族、地域、政治和职业刻板印象。
- 隐私：数据收集、成员推断、提示泄漏和模型记忆可能暴露个人或机密信息。
- 版权与许可：训练语料、输出相似性、风格模仿和代码许可证存在法律与伦理争议。
- 提示敏感与攻击：提示注入、越狱和间接注入可能诱导模型泄露上下文或错误调用工具。
- 计算、能源与成本：训练和推理需要GPU、电力、冷却和数据中心；影响取决于硬件、能源结构、模型规模和调用量。
- 数据质量与时效：重复、污染、低质量、合成数据递归和代表性不足会损害能力；知识截止日期使新闻、政策和本地事实不可靠。
- 责任问题：模型可能在简单算术上失败，也可能用错误理由得到正确答案；高风险决策不能把责任转交给模型。
8. 开放权重与专有模型
开放权重模型允许下载参数并本地运行，利于隐私、复现、量化、领域适配和边缘部署；但“开放权重”不等于训练数据、代码、许可和完整训练过程开放。专有模型通常提供更成熟的托管、多模态集成和安全运营，但存在黑箱、版本漂移、API限制、数据驻留和供应商锁定。选择应依据任务、敏感性、延迟、总拥有成本、合规、可审计性和工程能力，而非单一排行榜。
9. 应用
- 教育：个性化辅导、反馈、语言练习和备课；需防代写、错误教学、隐私泄露和不平等。
- 科学：文献筛选、代码生成、实验规划和科学写作；必须保留数据与代码来源及可复现实验。
- 商业：客服、营销草拟、会议总结、知识库问答、软件开发和流程自动化。
- 医疗：病历摘要、患者沟通、临床检索和决策支持；错误、偏见、隐私和监管使人类复核不可少。
- 公共服务：多语言问答、表单辅助和热线分流；应保留可申诉、可解释、可访问的人工渠道。
10. 评测、安全与对齐
评测应同时包含能力、可靠性和社会影响。HELM在任务—领域—语言场景中联合测量准确率、校准、鲁棒性、公平性、偏见、毒性和效率，提醒我们不要只看一个总分。
应结合MMLU、GPQA、BIG-bench、GSM8K、HumanEval/SWE-bench、MMMU等离线基准与真实用户任务；测量事实一致性、引用可核验性、拒答质量、不确定性、延迟、成本、能耗、API漂移和维护性。还要进行红队、越狱、提示注入、隐私泄漏、偏见和危险能力测试，并检查训练/测试污染。
安全策略包括数据过滤、SFT/RLHF或偏好优化、模型/系统卡、内容分类器、最小权限、沙箱、输出校验、检索引用、人工复核、事件响应和持续监测。NIST的生成式AI风险管理思路强调Govern–Map–Measure–Manage全生命周期治理、红队测试和明确的继续/停止决策；对齐测试能降低风险，但不是安全证明。
11. 环境、经济与社会影响
LLM降低了文本、代码和知识工作的进入门槛，可能提升生产率并催生模型运维、数据治理和AI审计岗位；但收益可能集中于拥有数据中心、芯片和资本的组织，自动化会重组就业并扩大数字鸿沟。AI Index 2025同时记录了推理成本下降、小模型进步和开放权重扩散，以及训练计算、能源和产业集中度上升。
减缓措施包括蒸馏、量化、稀疏化、混合专家、缓存、批处理、按需调用小模型、绿色电力、碳/水披露，以及优先使用检索和规则系统解决不需要生成的问题。
12. 未来与未决问题
较可能的方向是更小而专门化的模型、多模态和长上下文、可靠工具调用与代理工作流、可验证计算、隐私保护学习、更好的数据治理、模型行为监控和标准化审计。仍不确定的是：规模是否继续带来普遍智能，代理能否稳定完成长时任务，链式思维是否真实反映推理，以及模型是否会替代整类职业。未来研究应优先采用因果、透明、可复现证据，而非单凭演示或排行榜。
结论与进一步研究问题
- LLM是大规模神经概率模型，核心目标是预测token，后训练使其更像助手。
- Transformer的自注意力和并行训练是关键，但数据质量、计算配置和后训练同样重要。
- 训练、推理、提示、RAG和工具使用是不同层次，实际系统通常组合它们。
- LLM强于生成、摘要、翻译、编码和多模态交互，但幻觉、偏见、隐私、版权、成本和不可靠推理是结构性问题。
- 开放权重与专有模型各有优势，应以真实任务、风险和总成本选择。
- 最可靠的未来是可验证、可追踪、权限受控并由人类承担责任的系统。
进一步问题包括：如何在不泄露隐私和版权内容的情况下构建高质量数据？如何评估跨语言、跨文化和长时代理的可靠性？哪些推理评测真正测量泛化而非记忆？如何把证据链和不确定性呈现给非技术用户？在医疗、教育和公共服务中何时应拒绝自动化？如何公平分配生产率收益并降低能源和就业转型成本？
可下载并列比较表：
- CSV表格
- Markdown表格
文中代表性依据包括Bengio等（2003）、Hochreiter与Schmidhuber（1997）、Vaswani等（2017）、Devlin等（2019）、Brown等（2020）、Lewis等（2020）、Kaplan等（2020）、Ouyang等（2022）、Hoffmann等（2022）、Liang等（2022）、NIST（2024）及Stanford HAI（2025）；链接已嵌入正文。文中将截至2025年的权威公开指标与截至2026年可见研究趋势区分开来；对仍有争议的主张已明确标注为未决问题。
Sources51
- 1The 2025 AI Index Report | Stanford HAI
hai.stanford.edu· cited 2×
- 2A neural probabilistic language model | Proceedings of the 14th International Conference on Neural Information Processing Systems
dl.acm.org· cited 2×
- 3Technical Performance | The 2025 AI Index Report | Stanford HAI
- 4Attention is All you Need | Semantic Scholar
semanticscholar.org
- 5Reviews: Attention is All you Need
papers.neurips.cc
- 6Test files
doi.org
- 7Test New Role
- 8Non-Autoregressive Neural Machine Translation
- 9Training language models to follow instructions with human feedback
- 10Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback
- 11Self-Instruct: Aligning Language Models with Self-Generated Instructions
- 12Instruction Pre-Training: Language Models are Supervised Multitask Learners
- 13PRINCIPLED REINFORCEMENT LEARNING WITH HUMAN FEEDBACK FROM PAIRWISE OR K-WISE COMPARISONS
openreview.net
- 14OPTIMIZATION: A RLHF
- 15Holistic Evaluation of Language Models
- 16EleutherAI/lm-evaluation-harness: v0.4.3 | Zenodo
zenodo.org
- 17Pitfalls of Evaluating Language Models with Open Benchmarks
- 18EleutherAI/lm-evaluation-harness: lm-eval v0.4.9.2 Release Notes | Zenodo
- 19stanford-crfm/helm: v0.5.2 | Zenodo
- 20TRAINING ON THE TEST TASK CONFOUNDS EVALUATION AND EMERGENCE
- 21Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
- 22A Survey on Retrieval-Augmented Text Generation for Large Language Models | ACM Computing Surveys
- 23Retrieval-augmented generation for natural language processing: a survey | Artificial Intelligence Review | Springer Nature Link
link.springer.com
- 24A Systematic Literature Review of Retrieval-Augmented Generation: Techniques, Metrics, and Challenges
mdpi.com
- 25A Survey on RAG with LLMs
sciencedirect.com
- 26Large language models (LLMs): survey, technical frameworks, and future challenges | Artificial Intelligence Review | Springer Nature Link
- 27Towards trustworthy LLMs: a review on debiasing and dehallucinating in large language models | Artificial Intelligence Review | Springer Nature Link
- 28Large Language Models: A Structured Taxonomy and Review of Challenges, Limitations, Solutions, and Future Directions
- 29Deconstructing The Ethics of Large Language Models from Long-standing Issues to New-emerging Dilemmas: A Survey
- 30A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions
- 31A survey of safety and trustworthiness of large language models through the lens of verification and validation | Artificial Intelligence Review | Springer Nature Link
- 32Artificial Intelligence Index Report 2025
- 33Research and Development | The 2025 AI Index Report | Stanford HAI
- 34AI Report Highlights Smaller, Better, Cheaper Models | Scientific American
scientificamerican.com
- 35[2504.07139v2] Artificial Intelligence Index Report 2025
arxiv.org
- 36Artificial intelligence risk management framework :
- 37Secure software development practices for generative AI and dual-use foundation models:
- 38Managing Misuse Risk for Dual-Use Foundation Models
- 39AI Risk-Management Standards Profile for General-Purpose AI (GPAI) and Foundation Models
- 40Security practices in AI development
- 41Natural Language Processing Methods for Language Modeling
- 42Two decades of statistical language modeling: where do we go from here?
ieeexplore.ieee.org
- 43Revisiting Simple Neural Probabilistic Language Models
- 44Contemporary Approaches in Evolving Language Models
- 45From feedforward to recurrent LSTM neural networks for language modeling | IEEE/ACM Transactions on Audio, Speech and Language Processing
- 46Training Compute-Optimal Large Language Models
- 47An empirical analysis of compute-optimal large language model training
- 48Reconciling Kaplan and Chinchilla Scaling Laws
- 49Beyond Chinchilla-Optimal: Accounting for Inference in Language Model Scaling Laws
- 50Chinchilla Scaling: A replication attempt
- 51Evaluating the Robustness of Chinchilla Compute-Optimal Scaling