源起
AI领域有许多概念名词,比如:
- LLM(以及Transformer、AGI、Scaling Law);
- Token、Context、Context Window;
- Agent(以及Work flow)、Skill(以及Prompt、Tool)、MCP;
你可能都听过很多遍。
但是你真的能准确理解并说出每一个的确切含义、功能,以及它们之间的内在联系吗?
最近我发现很多人都在问这些名词是什么意思,包括一些做行政、财务的看上去跟技术工作没那么大关系的岗位,也都开始抓紧学AI了。
我意识到,AI已经像当年的互联网那样,开始从科技圈走向普及。
尤其是去年Agent能力达到了商业可用水平,对工作效率实打实的肉眼可见提高,AI应用迎来了全面的爆发。
或许,这波普惠的AI浪潮藏着万千普通人提升自我甚至逆天改命的机遇和力量。
因为工作的关系,我自己本身就经常接触和学习AI工具产品,也在关注相关的产业与投资变化。
在2024年初时我尝试做过Agent产品,但那时的Agent能力还比较羸弱,没有达到生产力的商用级别。
谁曾想一两年后就发展到如今这个程度。
这篇文章我会从普通小白用户的视角,把上面那些AI核心概念尽量用最简单直白的语言讲清楚。
如果你正在学习AI,那么这篇文章应该可以作为一个起始入门,对AI底层逻辑的理解能够上升到一个新的台阶。
目录
LLM
先来看LLM(Large Language Model),也就是中文常说的“大模型”,这是整个AI生态的底层基石和核心大脑。
之所以叫“大模型”,主要是因为模型的参数量相比于过去的小模型上升了一个新的台阶。
早期的模型
是的,大模型并非完全的新事物。首先它是一个“模型”。其实我们日常已经接触并使用过很多模型了,只是并不一定直接叫模型或者“小模型”,各有其功能的专属名字。
比如:邮箱里的垃圾邮件功能;刷短视频背后的推荐算法系统;
举这些例子,是想要说明,模型本身并不神秘。
模型可以粗略理解为一个数学函数:它接收输入,并根据训练中学到的规律给出输出。
这里要区分三个词:模型的架构,决定它大致“怎么思考”;训练方法,决定它“怎么学习”;而参数,则是训练完成后沉淀下来的大量数值,可以理解为它从数据中学到的经验。
在早期的专家系统中,这些规律主要由人手工编写:满足什么条件,就执行什么规则。
后来,机器学习和深度学习开始让模型从大量数据中自己归纳规律;强化学习则让模型通过“尝试—反馈—调整”的方式,学会更符合目标的行为。
这听上去已经带有一点“智能”的味道了,且似乎能满足人们的诉求了。
Transformer架构与神经网络
那为什么会产生所谓的大模型(LLM)?这里的“大”又是指什么?
前面有提到过,大模型的“大”,主要指的是参数量的升级,语言模型的规模在Transformer时代加速跃迁。
这个参数量爆发的故事,起始于2017年Google发布的一篇论文《Attention is all you need》提出的Transformer架构,成为现代大模型的核心技术基础(暂时不需要理解背后的技术原理)。
而AI技术之所以愿意在参数量上做这样大胆冒险的投入,在深度学习这条道路上“蒙眼狂奔”,实际上是神经网络在AI各种流派之争的胜利。
神经网络的灵感确实来自人脑神经元之间的连接,但它本质上仍是一套数学计算方法,并不等同于模拟人脑。至于我们常听到的“温度”,则主要是模型生成回答时用于调节随机性和创造性的一个设置。
这个基础性的重大发现给往后的包括ChatGPT在内的一众现代人工智能铺平了道路。2024年诺贝尔物理学奖颁给AI神经网络领域的先驱和泰斗,刚开始意料之外,实则情理之中。
大模型的参数量与Scaling Law
日常我们经常会听到今天某某大厂发布了新的模型,参数量达到多少万亿,就是模型在持续进步。
比如,公开资料显示,当前DeepSeek V4 Pro 参数量为1.6万亿;而Kimi K3达到了2.8万亿。(这里说的是总参数量并非实际使用的激活参数量,后者会更小些)
一般来说,参数量越大,模型的性能就越好,作为用户的直观感受就是我们跟AI对话会发现它能回答的问题越来越广泛,似乎无所不知,甚至能给到我们一些启发。
一般来说,在架构、训练数据和训练方法都足够好的前提下,扩大模型规模通常有助于提升能力。(但这并不意味着参数越大就一定越好;尤其是如今常见的 MoE(混合专家)模型,会同时存在“总参数量”和“每次回答实际激活的参数量”两个指标,不能只看一个数字下结论。)
这也就造成了大模型跟传统模型的一大区别,即传统模型往往是服务于某一个具体的功能模块或职能领域,而大模型却几乎无所不包(阅读、写作、翻译、总结、编程、问答、推理等方方面面),覆盖到了人们日常工作生活的方方面面。
这主要就是参数量达到一定规模量级后(再加上数据质量、训练方法、后训练优化和推理能力共同作用下)带来的让人惊艳的结果。
同时,也意味着AI从特定领域的高精尖技术走向全知全能的普及寻常成为可能,让人们感叹AGI(Artificial General Intelligence,通用人工智能)时代或许真的正在降临。
Scaling Law与大模型的演进
至于为什么将持续堆参数量达到天文数字后,突然就出现了具有通用能力的AI,这就是另一个问题了。
一直以来,业界将背后的机制归结为Scaling Law。
所谓的Scaling Law,大概是描述了这样一类现象:在一定范围内,随着参数量、训练数据和计算量增加,模型能力通常会以可预测的方式提升。它更像一条反复被验证的经验规律(有点类似摩尔定律),而不是已经被完全解释清楚的“智能产生公式”。
作为普通用户我们可以暂时先不去深究,或许我们可以将其看做是对人脑神经元的模拟,甚至将其视为一种新科技时代的神奇炼丹术。
毕竟,一个当前现实是,许多大模型厂商已经不像早期那样强调参数量的多少了。当大家的参数量都达到一个很高的门槛水平后,再往上加参数对于模型的智能性提升就比较有限了。
因而,我们需要进一步明确,大模型的“大”,除了指参数量之外,也包括背后需要的数据量和计算量,而喂给大模型的训练数据的多少、质量,以及计算性能,正在成为比参数量更重要的指标。
上面关于LLM的讨论,其实也是简要勾勒出了大模型的演进路径:
从传统模型(主要是专家规则、机器学习),经过深度学习乃至强化学习,直到Transformer技术的提出,在Scaling Law机制的作用下参数量(以及训练数据量、计算量)突破升级,最终引发了以GPT为代表的大模型乃至Agent技术的大爆发。
Token与Context
现在,你已经知道了什么是LLM及其演进(怎么来的),接着可以来看下LLM的使用。
首先碰到的一个概念名词就是Token。
Token与Tokenizer
什么是Token,以及为什么会有Token呢?
前面提到,大模型本质上是一个复杂庞大的数学函数,你给到输入,它经过数学计算后生成内容给你反馈输出,具体形态是一段文字回答(这也是为什么这波AI浪潮在开始时被称为生成式AI)。
等等,不是说大模型是要做大量数学计算的数学函数吗?为什么可以读懂我们输入的话,并且还能返回人类能看懂的语言呢?
你大概可以想到,这里面应该是有一个翻译转换的过程。
没错,这就是Token,以及背后的Tokenizer(Token的编译转换器)在发挥作用。
Tokenizer作为人和大模型之间的翻译官,将人类自然语言切分成Token,再将Token转换为LLM大模型能看懂的编码(Token ID);输出内容时就是反过来的过程。
所以,Token是大模型将自然语言文本细化切分后得到的基本处理单位(并进一步被映射为编号)。
Token的拆分方式
大模型可能并不如我们所想象的那样,是按照人类语言意义上的一个单字或一个词组来切分,而是各种可能的情形都有:
比如:字符、汉字、英文单词、一个单词的一部分、几个汉字在一起、标点符号、空格+单词,甚至是一段常见的字符串。
有了这样的拆分后,大模型在生成内容生成时,实际上就是在持续计算(根据已有概率预测)下一个Token是什么。
作为普通用户,我们这里暂时不需要再深入了解拆分和生成Token的具体方式。只需要知道,Token是大模型能处理的基本单位,因而直接影响了它能接受到和输出的内容数量。
Token直接表征了用户对大模型的使用量,因而在商业角度上成为了大模型及应用厂商收费的基础依据。
在中文文本里,一个比较粗略的经验值是:1个Token约等于1-2个汉字(会因模型、文本内容、英文比例和代码比例而有很大差异),8K的token就是1万字,相当于是一篇长文了。
如今大模型的的输入输出内容早已经不再是开始时的文字,发展为可以对文档、图片、文字、视频等多种形态进行处理(多模态大模型),背后的过程仍然是Token的编码(只是Token的类型不同,处理方式比纯文字的Tokenizer也要稍复杂些,我们先不用管它)。
Context
不管是回答问题,还是帮你做事情,影响LLM交付质量的一个重要维度,就是提问者给到的输入信息,也就是context(上下文信息)。
一般来说,给到的上下文信息越充分详实,则交付质量越好。比如你在提出问题之外,还补充了背景说明、历史来龙去脉,还贴心的附上了一些相关的资料作为参考,AI就会更加理解你的问题场景、真正想要什么,从而给出更优质的答复方案。
这一点也是比较容易理解的,可以想一下咨询师做咨询,医生问诊,拿到的信息越全面、真实,做出的判断和方案就越有效。
context上下文信息的多少,同样是用Token来衡量。
Context Window
但并不是说context多多益善,毕竟信息过载了不是好事。所以就有了context window(上下文窗口),衡量一个大模型在单次处理中能接收到信息的上限。
可以将Context window类比为一个工作桌面,放在桌面上的东西,才能被LLM看到使用,之外的就看不到了。
我们一开始讲大模型LLM的一个重要属性是参数数量,而context window就是其另一个重要属性,且后者的重要性越发突出。
这主要是因为如今的大模型要处理的问题和任务更加复杂,Context已经不仅限于单次对话里给到的输入信息了,还会自动包括历史对话的问题和回答、Agent调用的工具,还包括计算过程中可能读取的工作环境的相关内容。
举个例子,如今大模型不再是刚开始那样只处理“帮我翻译下这段话”、“给我写一首诗”的简单任务(只消耗几十个Token)了,而是可以给它指派这样的任务:
“结合我们前面的讨论内容,以及附件是公司过去5年的财报、会议记录、产品文档和代码库,帮我分析下为什么今年的利润下降。”
——类似这样的一个任务下去,可能几十甚至上百万Token就干完了。
所以,正是因为有更丰富的信息能够被塞进Context Window被输入给LLM并让它短期记住,用户才越发直观感受到模型越来越智能、越来越有“活人感”、功能越来越强大。
这也成为大模型竞争的一个重要维度。
现如今,部分前沿模型的Context Window都已经达到了百万Token(1M)的级别。
例如 Google Gemini 3 系列支持 1M Token 输入上下文,DeepSeek V4 也支持 1M;OpenAI 当前 GPT-5.6 系列部分模型的 Context Window 达到 1.05M。
这意味着什么呢?我们前面有提到8k的Token相当于是1万字的长文。而128k的token大概是20万字,相当于一本书的容量。
而1M(1百万)的token,大概是160万字,基本上是可以容纳十几本书或几十上百篇报告文档的小型资料库了。
注意,这里要区分开Context Window和Maximum Output的区别,前者是输入的最大token数量,并不等同于输出的容量。后者可则专门指模型一次最多能生成多少内容;它往往远小于上下文窗口,具体规格和计费方式也会因产品而不同。
做一个小结。
Token是大模型能处理最小信息单位。而所有输入都会转化为Token作为Context上下文信息被输入给LLM,其上限受到Context Window的限制。Context的丰富程度以及Context Window的多少,直接影响了普通用户使用大模型的直观感受体验。
Agent
Agent
以上我们简要介绍了LLM,以及使用过程中的Token和Context。下面就到了当前最火热的Agent,以及与之紧密相关的Skill、MCP。
简单来说,Agent是LLM能力上的演进升级:
传统的LLM是回答问题的大脑(能思考、推理并生成回答/方案的大脑)。
而Agent是围绕这个大脑搭建起来的一套能够执行任务的系统。
从问答到做事,这个升级在我看来是革命性的,相当于给本来就已经很强悍的大脑配上了身体、手脚,并配备了完成任务所需的工具箱、技能包、工作环境、数据库/图书馆,以及可调用的外界资源。
这就是Agent作为一个系统需要具备的模块能力,对应的就是Skill、MCP、Harness等概念。
我们先来看为什么会有Agent,以及Agent跟LLM的区别在哪里。
我们作为AI的使用者,其实也是AI的甲方,主要有两种需求场景,一种是单纯的问问题,问完也就结束了,这种是咨询;
另一种场景,是问题本身是由一个任务引发的。此时如果有人过来跟你说,我直接能帮你把这个任务给做了,要不要考虑一下?这个人在现实世界中我们一般会把他叫做代理(代理商、服务商),或者如果你是老板,这个人就是员工。
所以,AI已经从早前只是一问一答聊天,进化到了能帮你做事、直接拿到结果,这个阶段形态的AI,就是现在所谓的Agent或数字员工。
为了便于理解,举几个例子。
假如你出门要去市里一个陌生的地方。
你可以问一个路人,他会告诉你你要去的地方大概在哪里,要去的话坐公交地铁怎么走,要转几趟、在哪一站下。
但是如果你碰到了一辆网约车出租车,司机师傅会告诉你那个地方他知道怎么去,还会问题你要不要把你带过去?你如果答应了,他能直接把你送到目的地。
这个例子里,知道怎么走的路人就是传统的问答聊天LLM,而网约车司机师傅,就是一个Agent,它里面也有能回答你问题的LLM,也有能帮你直接送达目的地的能力。
在这里,会开车,就是一个Skill,而这里的车就是skill要调用的工具Tool。
再举个我自己的例子。两三年前写代码的过程中,遇到吃不准的语法或含义,或者报错信息,我都会切换到浏览器的文心一言(没错,那时还是文心一言占据了我的心智)询问,得到解释或修改建议,我再在自己的代码里调整。
再到2025年前后,明显感觉到模型能力的提升。尤其是Cursor将大模型用在编程场景中体验着实惊艳。
再往后几个月,就发现,不需要一个个具体问题问过去再自己修改了,把初始文档给它,或者直接把要做什么给它,它能完整交付最终的代码文档乃至整个项目文档——这就是Agent,以及最火热的应用场景:Vibe Coding。
Agent与Workflow的关系
上面我们举了两个例子,是不是有一些感觉了?
你可能经常也听到过Workflow(工作流),跟Agent好像一回事,但实际上有较大差别。
还拿刚才的网约车例子。一种情形是,你自己知道要去目的地怎么走,定好了路线,先去A再到B再到目的地,让司机师傅按照这个路线走,不然你担心可能绕路走偏了。
这是Workflow:核心是你预先指定了工作任务步骤流程,让AI严格照此执行。(是不是有了做监工的感觉?)
如果你只是告诉司机要去哪里,路线自己定,甚至如果遇到各种情况(比如某段路线特别拥堵),会查询最新路况信息、并制定几个备选方案给到你选择,甚至直接替你选择了最佳路线,最终送你到目的地。
这是Agent:核心是你只指定要什么目标结果,AI主动规划路径并自主选择方案执行——意味着你给到了AI更大的自主权和决策权。(是不是有了做老板的感觉?)
Agent长什么样子
现在你理解了Agent的含义(以及跟Workflow的区别),你知道了Agent是一套帮你完成做事情的系统。
你可能会问,这个系统具体是指什么?长什么样子?
我们普通用户接触到的Agent,其实就是一个工具软件,其产品形态最常见的是一个桌面软件或手机APP(也可以是命令行CLI、浏览器插件、IDE插件等)。
以业界标杆OpenAI的Agent产品Codex为例。
再看几个产品。Claude Code;Workbuddy;豆包;VSCode;
Skill
到这里,Skill以及MCP就要登场了。
Prompt
说到Skill,要先说下Prompt,这个概念从一开始大模型兴起的时候就跟着成为了热词,因为Prompt在当时的重要性,有种说法是未来会越来越流行一个叫做Prompt engineer(提示词工程)的岗位。
之所以Prompt会从一开始火热,大概是因为LLM的兴起是从Chatbot(聊天机器人)这种产品形态起步的,许多人接触使用大模型的方式就是一问一答(直到今天仍然是这样),总归要给大模型一个自然语言的提问指令。
而彼时大模型的的能力相比现在还很弱,要问出来更好的结果,强依赖于能问出一个好问题、把话讲清楚,为此很多人试出来各种五花八门的提问技巧,甚至打包售卖。综合下来,Prompt就显得很重要了。
但是后来AI不断进步突破,智能程度已经不需要像过去那样精雕细琢Prompt了。普通用户只要能大概讲清楚自己的问题、要什么,AI就能给出一个很不错的反馈结果,甚至还能帮你澄清你没想清楚的地方,猜出你的未表之言、未尽之意。
Skill
而对于能主动规划执行任务的Agent来说,Prompt这种单次提问回答的交互形态也显然满足不了需求了。
可以设想一下工作场景。
假如你要完成一项工作,过程中需要查询信息资料、使用各种工具;如果某项任务需要的能力你不具备,还需要去学习这个技能。
假如你是老板要指派一个常规工作给某个员工,这个工作常规到已经有了最佳实践SOP,来个人只要参考照着做就好。你没有必要每次给这个员工交代同样的话,直接丢文档是更高效的做法。
从这两个“假如”中,可以看出在Agent里为什么需要Skill和Tool。
Skill可以看做是一套可复用的做事方法包。
就像前面举的例子,会开车、做PPT,就是可以打包成Skill,需要时拿出来用就好;只是单次对话没有保存的Prompt显然不适合承载这个场景了。
当年黑客帝国有一个经典场景,在天台上面临即将追上来的特工,女主跟主机说赶快给一个开直升飞机的技能,拿到后女主立即驾驶直升机逃离。按我们当前讨论的语境,女主就是一个Agent,她知道什么时候该做什么事情,判断此时的逃离最快的方式是用到直升机,但是她本身不会,于是从外部获取了Skill并安装上,达成任务。
Skill长什么样子
在具体形态上,Skill是一个文件夹(可以看做是对成熟做事方法的Prompt的沉淀总结),里面包含了一份核心文档SKILL.md,说明这项任务是做什么的描述以及具体该怎么做。
此外,还包括另外一些子文件夹作为补充说明,比如存放一些相关资料(references)、过程中可能要用到的代码脚本(scripts),或者素材(assests)。这些文件夹并非必须要有,一般复杂任务可能才会用到。
Skill的这套规范标准是Claude在2025年10月提出来,因为抓住了Agent工作的核心工作机制和需求场景,其他大模型厂商纷纷跟进采用,近乎成为事实上的行业标准。
一个大模型自带能力总归是有限的。安装各种Skill,能有效提升模型的工作能力,大大扩展使用场景。
因而,如今如果要用好Agent,需要我们建立使用Skill的意识。可以自己做Skill,也可以从市面上寻找优质Skill。
Skill与Prompt的关系
有人说,Skill本质上就是Prompt,这样说是有道理的。两者的确有很大的共性。
虽然今天的模型确实不再那么依赖“提示词咒语”,但 Prompt 仍然重要,只是重点从花哨技巧,转向把任务目标、背景资料、边界条件和验收标准说清楚,也就是一种更加结构化、可复用的Prompt,将特定的能力封装、沉淀为以SKILL.md为核心的的能力集合(文件夹)。
其实,Skill的概念还比较新,业界对其边界也没有严格定义和共识。事实上,我们也不需要纠结概念之间的特别差异——
更多是在应用层面,知道Skill来源于Prompt,并可附带完成该任务相关的工具、代码、资料等内容,即插即用更方便,而且在多次使用过程中迭代升级越来越强大,就OK了。
MCP
最后,就要说到MCP了。
Agent及其Skill在完成任务的过程中,很多时候会用到外部的各种工具、数据、软件/功能模块,这就需要大模型跟这些外部各种形态服务的对接和调用。
这时你就会自然遇到一个痛点:
大模型怎么接入并调用这么多工具呢?国内国外大模型很多家,它们之间的规范各有不同;而各种工具五花八门就更多了,各有各的参数特点,甚至连编程代码都可能不一样。
这就是为什么需要MCP(Model Context Protocol,模型上下文协议),一套能让大模型对接外部各种来源服务的统一标准。
如果没有MCP,那么就意味着单个服务商要对所有的大模型每一家分别写一套对接代码,反过来也是一样的,这将是翻倍的工作量,而且非常不利于大模型的通用扩展以及各种工具的用户覆盖。
MCP 可以类比为 AI 应用接入外部世界的USB接口规范:让不同应用更容易以统一方式连接工具和数据。

这张MCP架构的图片,可以大概呈现出MCP的职能以及相关各方的关系。
MCP就像是苹果电脑跟外部各种硬件设备的的转接头,一头连接大模型应用(即前面提到的桌面软件、APP等Agent的各种形态),这些应用作为host,通过MPC clients另一头连接不同的MCP Server,Server再向应用提供工具、数据资源或预设提示模板,让模型能够在合适的授权范围内使用它们。
作为Agent的使用者来说,在任务中如果要用到某个大模型本身不具备的能力或数据,比如实时天气数据或者地图服务,就需要找到能提供这些的服务商,在你的Agent环境中安装他们开发的MCP服务器即可。
结尾
最后小结一下。
还是回到普通用户的视角,如今我们再看AI,应该是一个完整系统,而不是简单一个聊天对话框了。
这个系统大概分有三个相互依赖的层级:总指挥(Agent)根据需求,带着专业技能(Skills),通过万能插头(MCP)去调用外部各种数据和工具来完成复杂的任务。
具体来说,最顶层的 Agents 就像是总指挥,负责自主思考、统筹全局并“决定什么时候(Decides WHEN)”去做事;
中间层的 Skills 就像是专业手册或领域专家,负责“教导该怎么做(Teaches HOW)”,把干活的步骤和专业知识打包好供大模型复用;
而最底层的 MCP 则像是一根万能的“数据连接线(类似 AI 的 USB-C 接口)”,负责“提供原材料和工具(Provides WHAT)”,让 AI 能够安全、实时地连接各种外部数据库、软件和文件。
我在写这篇文章的时候,GPT-6 Astra也在今天发布了。
已经几度让人惊呼的AI,再次迎来新的里程碑。
AGI似乎已经近在咫尺。