《Spring Boot 3高级与架构设计》第 6 章 Spring 拥抱 AI AI 与大语言模型 阅读笔记本章主要内容AI与大语言模型介绍Spring AI 项目的整合与使用使用多轮对话多模态 AI 调用RAG 构建知识库工具调用MCP 服务器搭建与客户端侧集成。自 2023 年 ChatGPT 进入大众视野后大语言模型这一新兴技术正逐渐被应用于系统开发。开发者发现原本需要复杂算法支撑的语义理解、内容生成等现在通过 API 调用即可获得接近人类水平的效果。这种技术范式的跃迁不仅带来了效率的颠覆性提升更促进了智能客服、代码助手、文档解析等新型应用场景的爆发式增长。企业如何应用 AI、现有的系统如何有效地接入 AI已成为近几年避不开的话题作为开发者我们也应当主动求变拥抱 AI。本章从 AI 和大语言模型开始讲起逐步介绍大语言模型整合 spring-ai 框架后在项目开发中的多种使用方式难度普遍不大但新名词较多需要循序渐进接受和理解。6.1 AI 与大语言模型既然要拥抱 AI 和大语言模型首先就需要对其有最基础的认识。人工智能AI是让计算机模拟人类智能的技术旨在教会机器看、听、理解和决策大语言模型large language modelLLM是 AI 领域的一项突破性进展通过分析海量文本数据理解和生成人类语言。例如智能客服的自动回复、ChatGPT 帮助撰写文章和总结内容都是 LLM 的经典应用。在笔者编写本章之时最新推出的 LLM 已经拥有辅助编程、文学创作、文生图、文生视频等能力对许多行业都造成了很大的影响和冲击。6.1.1 发展历程LLM 并非一蹴而就而起源于神经网络、深度学习等技术。早在 2017 年Google 就发布了 Transformer 架构这个架构突破了传统卷积神经网络、循环神经网络等处理自然语言的瓶颈为后续 LLM 的发展提供了强大的技术支撑使得 LLM 能够更高效地处理自然语言。从 2018 年开始基于 Transformer 的应用开始崭露头角包括 BERT 和 GPT-1这一代的模型参数量大概是 1.1 亿左右参数量可以简单理解为 LLM 记忆的知识点或规则​。2020 年OpenAI 公司的 GPT-3 模型发布其参数量跃升至 1750 亿仅训练数据就高达 45 TB。这个规模在当时已是非常庞大而且 GPT-3 已经具备 “思维链” 的雏形即我们当下所见的 AI 对话中结合历史对话做出针对性反应的特点。2022 年底OpenAI 公司的 ChatGPT 发布它基于 GPT-3.5在与人类对话的体验上获得了质的飞跃。也正因如此在短短两个月内 ChatGPT 的用户量创纪录地破亿ChatGPT 从此进入了大众视野。在 2023 年到 2024 年中多家大厂分别发布了 LLaMA、GPT-4、Claude 3、Gemini 等更强大的大模型。2025 年初中国的深度求索公司开源发布的大模型 DeepSeek 引爆了全球 AI 圈。从业界巨头到个人创客大大小小的厂商纷纷跟进和整合让这场技术海啸迅速催生出全民 AI 的应用浪潮。时至当下LLM 的发展还在继续大厂的产品层出不穷。从神经网络到 Transformer 架构每一次技术突破都在重新定义 “智能” 的生成方式开源生态正在消解 AI 垄断让 LLM 逐渐应用在各行各业。相信随着 LLM 的发展我们能够接触到更加聪明的 LLM并使其惠及更多的行业。6.1.2 运行机制LLM 是如何工作的相信每个对 LLM 感到好奇的读者都曾产生这种疑惑。本节不会过于深入地讲解 LLM 的具体原理和细节仅从整体上介绍LLM 是如何理解人类语言并输出合理结果的。从本质上看我们与 LLM 的对话只包含 3 个步骤1我们向 LLM 输入文字2LLM 理解我们输入的文字并“思考”​3LLM 向我们输出文字。整个过程与人类之间的对话交流并无太大区别。那么我们可以类比于人与人交流的过程来理解 LLM 的运行机制将其分为 3 个工作步骤和 2 个前期准备。1 理解用户的语义在接收到用户输入的文字后LLM 会通过 3 个步骤建立语言认知。1分词tokenization​将一个完整的句子拆分为若干个模型能理解的单位标记​。中文可能被拆分为常见词如 “学习|编程|好|轻松”​​而英文单词可能会进一步被拆分如 “un|happy”​​。2建立关系网络这个步骤会用到上一步拆分的词组通过 Transformer 架构的自注意力机制分析标记之间的关联动态判断哪些词需要重点关注。3划重点其实质为注意力权重分配LLM 会根据上一步筛选的值得重视的词决定哪些词对生成结果更重要这关系到后续输出内容的推理。经过上述 3 个步骤后LLM 相当于理解了用户向它发起交流的内容。2 推理生成的内容在理解输入内容后LLM 就需要推理生成的内容其过程是根据已掌握数据中的统计规律预测最可能的下文内容可简单理解为 “从记忆中搜寻最有可能的答案”​​。例如当用户输入 “学习 Spring 的路线” 时LLM 会从本身已经掌握的知识中找出与 Spring 相关的知识并结合第 1 步划出来的重点学习、路线来推敲应该输出哪些文字。这个过程除了与 LLM 掌握的知识有关还受到其他因素的影响。其中比较容易理解的一个因素是模型温度这个参数指的是模型生成文本的随机程度模型温度数值越大越倾向于低概率生成的词输出内容越具有随机性和创造性​反之值越小则越倾向于高概率生成的词越保守​。由此可见用户输入相同的内容时LLM 每次回复的内容并不完全相同而是在多种因素的影响下最终生成不同的推理结果。3 组织输出的语言推理的步骤结束后LLM 就会将结果输出给用户但这个过程并不是直接将上一步推理的结果全盘输出因为 LLM 的工作方式实际上是“猜词”​即根据用户输入的内容和自身输出的内容来推断下一个输出的字词是什么。例如用户输入 “学习 Spring 的路线” 时可能 LLM 已经生成了 “学习 Spring”​接下来 LLM 要结合用户输入的内容和当前已经输出的内容来推断下一个输出的词假设此时计算所得 “的路线” 生成的概率是 69% ​“Framework” 生成的概率是 30%​“Boot” 生成的概率是 1%则 LLM 会选择其中概率最高的词补充到输出结果中如此往复循环直到 LLM 认为输出结果完毕。在这个组织语言的过程中某一个字词出现的概率并不是一成不变的例如当用户补充说明想着重了解 Spring Boot 的学习路线时则在 Spring 词后出现 Boot 的概率会上升。4 学习更多的知识以上 3 个步骤是 LLM 与人交互的步骤在这个过程中LLM 需要预先“学习”足够多的知识才能以一定的依据来推理内容组织语言这个预先学习的过程被称为 “预训练”​。训练 LLM 时需要给模型投喂海量数据例如让它 “通读” 百科全书包括图书、期刊、电子资料、网页、代码等。通过庞大数据量的学习后模型便会了解相应的知识也就可以应对用户提出的问题。预训练的目标是通过无监督学习让模型预测文本中的缺失部分起初不了解的​从而学习语言规律保证生成的内容更准确、自然。5 专项技能的培训除了预训练之外要想让 LLM 足够了解某一特定领域的知识还需要对其进行专项技能特训也就是大模型训练中的“微调”​。简单来说微调是向 LLM 输入特定的数据集对其进行进一步训练使其能够学习相应领域的知识以满足特定任务或领域的需要。与预训练的方式不同微调通常会使用带答案的对话数据训练例如当用户提问 “学习Spring的路线” 时微调答案告诉 LLM 应当先从 Java 基础讲起再延伸到 Spring Framework 核心框架、Spring Boot 等。经过特定领域专项训练后再遇到类似的问题时LLM 便可更加明确如何回答用户从而使输出的结果更精准。6.1.3 典型应用时至今日LLM 已在众多的行业领域中发挥强大的作用为行业的发展和革新插上了翅膀。下面简单介绍 LLM 在具体行业中的应用帮助读者感受 LLM 给我们带来的便利。1 LLM 教育永不疲倦的 AI 助教1将 LLM 引入教育行业作文可以不由改卷老师通篇阅读后给出大概分数而是交给 LLM 后由 LLM 阅读全文并给出更精准、全面的评价。2利用 LLM 的交互机制创造交互式学习配合恰当的人格预设可以有效地提升学生学习的积极性启发学生的思维。2 LLM医疗医生的辅助诊疗智库1将 LLM 引入医疗行业通过学习医院和医生的历史诊断病例LLM 可以挖掘出疾病与症状之间的关联关系和潜在联系扩大医生诊断问题的覆盖面并提高准确度。2通过阅读患者的电子病历LLM 可以提取出患者的关键时间线包括发现症状、症状演变、检查结果、用药反应等关键节点并据此生成病历摘要供临床医生参考和审核。这个过程可以有效缩短住院医师处理病历的时间。3 LLM创作源源不断的灵感永动机1将 LLM 应用到内容创作领域如网络小说、影视剧本、短视频脚本等内容创作的前期准备都可以交给AI。AI生成内容又快又好大大降低了创作的门槛。2除了个人创作者商业领域也可利用 LLM 生成广告创意、营销文案通过生成海量创意点和营销点从中选择既新颖又优质的内容可以有效提高商品销量增加企业收入。4 LLM商业强大的企业大脑中枢1电商平台通过引入售前和售后智能客服可以有效提高客服的及时响应率并且可以更好地应对买家的咨询和投诉。2企业可以利用 LLM 配合信息采集工具来分析消费者对商品的评价从中分析消费者的需求和痛点进而改进已有的产品。6.1.4 主流模型到笔者撰稿之时市面上已有多种 LLM其擅长的领域和方向有所区别落地应用也各不相同表 6-1 简要列举了几个主流 LLM并从核心特征、擅长领域、应用落地等角度进行了简单对比。表 6-1 主流 LLM 对比模型厂商主要优势适用场景GPT-5 / GPT-5.5OpenAI通用能力强推理、多模态、Agent 均衡复杂推理、企业应用、多模态任务Claude Opus 4.8 / Fable 5Anthropic编程、长上下文、Agent 编排强代码重构、长文档、自动化工作流Claude Sonnet 4.5 / 4.6Anthropic性价比高代码与长任务表现稳定日常开发、批处理、中等复杂度任务Gemini 2.5 Pro / 3 系列Google超长上下文、多模态、视频/PDF 理解强长文档、视频理解、多模态分析Qwen3-Max / Qwen3.7-Max阿里中文能力强国内部署方便中文写作、企业知识库、国内合规场景DeepSeek V4-Pro / V3.2深度求索数学、代码、性价比突出算法题、代码生成、低成本 APIGLM-5.1智谱中文严谨Agent 与工具调用强智能体、工具调用、中文企业应用Kimi K2.6 / K3月之暗面长文本、阅读总结、Agent 能力强论文/报告阅读、长文档问答MiniMax M3MiniMax编程与终端执行能力强代码库级重构、自动化开发任务Llama 4 系列Meta开源生态好可本地部署私有化部署、二次开发、研究