上一章我们已经知道文本进入大模型前通常会先经过 tokenizer。但 tokenizer 只是负责切分的工具。这一章要看的是它到底把一句话切成了什么切出来的一小块一小块单位就叫 token。所以tokenizer 是“负责切”的工具token 是“切出来的结果”。大模型不是把一句话当整句来读人看到一句话时常常会把它当成一个完整整体。比如“我喜欢机器学习”人会直接理解这是一整句话。但大模型后面真正接收的通常不是“整句原样文本”。它接收的是一串按顺序排好的 token。先把 token 定义清楚token 就是文本进入模型前 被切分出来的一个基本输入单位更准确地说token 不是“字”这个概念本身也不是“词”这个概念本身。它指的是模型输入侧 一次拿来处理的一个文本片段所以你也可以先把 token 理解成模型读一句话时 一小块一小块接收的输入单位也就是说大模型不是把一句话一下子整体吞进去而是先看到一串排好顺序的小块。换句话说真正喂给模型的不是一整句原样文本而是一个按顺序排列的 token 序列Token 不一定等于一个字很多人第一次听到 token会先把它理解成“一个字”。但这并不总对。比如“机器学习”它可能被切成[“机”, “器”, “学”, “习”]这时一个 token 看起来就很像一个字。但它也可能被切成[“机器”, “学习”]甚至还可能是[“机器学习”]所以一个 token 不一定就是一个汉字。它到底有多大要看前面的切分规则。Token 也不一定等于一个完整词那反过来token 是不是就一定等于一个完整词 也不是。比如英文里的playing它可能被切成[“play”, “ing”]这时一个词被拆成了两个 token。再比如ChatGPT很好用它可能被切成[“Chat”, “GPT”, “很”, “好用”]这里的 ChatGPT 也没有被当成一个完整词整体保留。所以token 有时候比词更小有时候又可能正好就是一个完整词。它不是固定等于“字”或“词”的。在模型眼里一句话更像一个 token 序列现在可以把前面的内容合起来看了。比如一句话“我喜欢机器学习”在人眼里它是一整句话。但在模型眼里它更像是[token1, token2, token3, ...]这些 token 是按顺序排好的。后面的模型就是沿着这个顺序继续往下处理。所以理解 token 最重要的一点不是死记名字而是先建立这个直觉大模型读文本时 真正接收的不是整句原样文本 而是一个 token 序列小结token 是文本进入模型前被切分出来的基本输入单位。它不一定是一个字也不一定是一个完整词。它可能是一个字、一个词的一部分、一个完整词或者别的文本片段这取决于前面的切分规则。所以一句话真正喂给模型时送进去的不是整句原样文本而是按顺序排好的一个 token 序列。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】