2026/8/23 23:18:17

让大模型从「只会说」到「能动手」:Function Calling 我踩过的那些坑

让大模型从「只会说」到「能动手」:Function Calling 我踩过的那些坑 AI 应用技术全景图 · 第6篇 / 共16篇大家好,我是程序猿Joe。上两篇把 RAG 讲完了,那套内部问答机器人上线之后评价还不错。但用了两周,同事的需求就开始变味:「既然它知道年假怎么算,能不能顺手帮我把假请了?」我第一反应是它不能。RAG 再强也只是开卷考试,它能读资料、能组织语言,可它改变不了外部世界一丁点东西。你让它查制度它很在行,你让它去 OA 上点一下提交,它连门都摸不着。要让它动手,得靠另一套机制:Function Calling。这篇讲这个,顺带把我在生产上踩过的几个真坑摊开说。先纠正一个普遍误解我问过好几个同事:Function Calling 是不是让大模型自己去执行代码?大部分人都点头。这是错的,而且错得挺致命,因为这个误解会直接影响你的安全设计。真相是模型永远不执行任何东西。它做的事只有一件:填单。你可以把它想成一个不会用电脑的老板。他知道要查订单,于是喊秘书,去,用订单系统查一下 SO20250801。老板本人碰都没碰系统,真正动手的是秘书,也就是你的代码。模型输出的不是执行结果,而是一段结构化的意图声明:{