什么是 AI 大模型

大模型可以先理解为一种通过海量数据训练出来的 AI 系统。它能阅读、理解、生成内容，也能在一定程度上完成翻译、总结、问答、代码编写、图像理解等任务。

什么是大语言模型

大语言模型通常指 LLM，也就是 Large Language Model。它主要处理文本，通过学习大量语料中的语言规律、知识关联和表达模式，形成理解与生成自然语言的能力。

参数规模大

参数可以理解为模型内部保存知识和模式的“权重”。参数规模越大，模型容量通常越强，但训练和运行成本也更高。

核心机制是预测

模型会根据前文语境，计算下一个 Token 的概率分布，再选择更合适的内容继续生成。

具备通用能力

同一个模型可以处理问答、写作、翻译、代码、信息抽取等多种任务。

一句话：大语言模型的本质，是一个通过大量文本训练出来的“语言预测系统”。

大模型从“会续写文本”到“能稳定回答问题”，通常会经历几个关键阶段。

Transformer 是现代大模型的核心架构。它的重要价值，是让模型可以更高效地理解上下文关系，并支持大规模并行训练。

里程碑意义

Transformer 让大模型具备了更强的上下文建模能力，是 GPT、BERT 等模型的重要基础。

自注意力机制

模型在处理一句话时，会关注句子中不同词之间的关系，而不是只按顺序机械读取。

并行处理能力

相比传统序列模型，Transformer 更适合利用 GPU 并行训练，因此能支撑大规模模型训练。

Token 是大模型理解和处理文字的最小单位。它不一定等于一个汉字、一个单词或一个字符，而是模型分词器切出来的片段。

模型的原子单位

模型不是直接理解整段文字，而是先把文本切成 Token，再对 Token 序列进行计算。

降低计算复杂度

模型只需要处理有限数量的 Token 组合，而不是直接处理无限复杂的自然语言。

影响上下文长度

上下文窗口通常按 Token 计算。输入越长，Token 越多，可用于推理和生成的空间就越紧张。

举个简单例子：I love AI 可能会被拆成 I、love、AI 这样的 Token；中文也会根据分词规则拆成不同片段。

大模型生成内容不是一次性写完整篇，而是一步一步预测下一个 Token。

大模型不只处理文字。按输入和输出能力，可以分成多种类型。

主要处理自然语言和代码，擅长问答、总结、翻译、写作、信息抽取和代码生成。常见代表包括 ChatGPT、Claude、Gemini、豆包等。