前言:模型會說話,不代表它能做事
沒有工具的模型,只能在對話框裡回答問題。它知道很多事,但什麼事都做不了:查不了即時股價、讀不了你的資料庫、發不了一封信。加上工具之後,Agent 才真正從「聊天機器人」變成「能辦事的助手」——這正是微軟《AI Agents for Beginners》第四課要講的事。
第三課談的是「怎麼設計」:先定原則,再寫程式。第四課談的是「怎麼動手」:Function Calling(函式呼叫)是整課的核心機制,後面第 11 課的 MCP、第 5 課的 Agentic RAG、第 10 課的上線實務,全部站在這個機制上面。這篇文章先把機制講清楚,再講框架怎麼幫你省工,最後補上課程沒講、但你動手前一定要知道的落差與坑。
一、什麼是 Tool Use 設計模式
Tool Use 設計模式的核心只有一句話:給大型語言模型與外部工具互動的能力,讓它用工具來達成目標。工具就是 Agent 可以執行的程式碼:簡單如計算機,複雜如呼叫第三方服務查詢股價或天氣預報。關鍵在於,工具是為了回應「模型生成的函式呼叫」而被執行——模型決定叫什麼,你的程式負責真的去做。
這個模式適合所有「答案不在模型腦子裡」的場景:
- 動態資訊檢索: 查 SQLite 資料庫做資料分析、抓即時股價或天氣,資料會變,模型訓練完就定型了,必須現查。
- 程式碼執行與解譯: 執行程式或腳本解數學題、產生報表、跑模擬。
- 工作流程自動化: 串排程工具、郵件服務、資料管線,把重複的多步驟工作自動化。
- 客戶支援: 接 CRM、工單平台、知識庫,幫使用者解決問題。
- 內容生成與編輯: 接文法檢查、摘要、內容安全評估工具,輔助內容創作。
判斷要不要用工具,有一個簡單的標準:任務需要的資料或能力在模型訓練資料之外、會隨時間變動、或者涉及真實世界的狀態改變,就該用工具;純粹的文字推理,不需要工具。工具不是越多越好,後面會講為什麼。
二、Function Calling 的完整迴圈:五步走完一次工具使用
函式呼叫是目前絕大多數 Agent 工具使用的核心。要實作它,需要三樣東西:支援函式呼叫的模型、一份函式描述的 schema、每個函式的實作程式碼。三樣缺一不可——模型不支援,schema 寫了也沒用;schema 沒寫清楚,模型選不對工具;程式碼沒寫,選對了也執行不了。
流程分五步,如圖一所示:
1. 使用者提問,例如「舊金山現在幾點?」
2. 模型把請求拿去比對工具 schema,選出最合適的函式,回傳函式名稱與參數。注意:這一步回傳的是工具呼叫,不是答案。
3. 你的程式拿到工具呼叫,執行對應的函式。
4. 執行結果餵回模型,繼續對話。
5. 模型綜合工具結果,生成最終回答給使用者。
課程用「查詢城市時間」示範。先定義 schema,告訴模型有一個 get_current_time 函式、吃一個 location 參數:
tools = [
{
"type": "function",
"name": "get_current_time",
"description": "Get the current time in a given location",
"parameters": {
"type": "object",
"properties": {
"location": {
"type": "string",
"description": "The city name, e.g. San Francisco",
},
},
"required": ["location"],
},
}
]
接著把 schema 與使用者問題一起送給模型(這裡用的是 Azure OpenAI 的 Responses API,工具格式是扁平的 type 加 name 在同一層):
response = client.responses.create(
model=deployment_name,
input=[{"role": "user", "content": "What's the current time in San Francisco"}],
tools=tools,
tool_choice="auto",
store=False,
)
模型回傳的不是答案,而是一次工具呼叫:
[ResponseFunctionToolCall(
arguments='{"location":"San Francisco"}',
call_id='call_pOsKdUlqvdyttYB67MOj434b',
name='get_current_time', type='function_call')]
然後由你的程式解析名稱與參數、執行函式,再把結果以 function_call_output 的形式餵回模型,最後才由模型產出「舊金山現在是上午 9:24」這樣的回答。整個迴圈裡,模型只做兩件事:決定叫什麼工具、以及拿到結果後怎麼回答;所有真正會產生效果的執行,都發生在你的程式碼裡。這條分界線,就是後面所有信任與安全討論的起點。
三、六大構建模組:少了哪一塊都會痛
課程列出實作 Tool Use 模式需要的六個構建模組,值得逐一對照自己的系統:
函式/工具 Schema: 可用工具的詳細定義,包含函式名稱、用途、必要參數與預期輸出。Schema 是模型認識工具的唯一管道,寫得好不好,直接決定模型選不選得對、參數填不填得準。
函式執行邏輯: 根據使用者意圖與對話情境,決定何時、如何呼叫工具。可能是規劃模組、路由機制或條件流程,負責動態決定工具使用。
訊息處理系統: 管理使用者輸入、模型回應、工具呼叫與工具輸出之間的對話流程。迴圈的每一步訊息都要接得上,少餵一次工具結果,模型就會在下一輪憑空編答案。
工具整合框架: 連接 Agent 與各式工具的基礎設施,無論是簡單函式或複雜外部服務。
錯誤處理與驗證: 處理工具執行失敗、驗證參數、管理非預期回應。模型給的參數不一定合法,工具也不一定每次都成功,這一塊沒寫,系統遲早會在正式環境出事。
狀態管理: 追蹤對話上下文、過去的工具互動與持久資料,確保多回合互動中資料一致。工具越用越多之後,沒有狀態管理,Agent 會忘記自己剛才查過什麼、做過什麼。
六塊裡面,新手最常跳過的是錯誤處理與驗證——範例程式跑通一次就以為完成了,結果正式環境第一次遇到 API 逾時,整個對話直接斷掉。
四、框架怎麼做:從手寫迴圈到 @tool 與 Toolset
手寫迴圈能跑,但每加一個工具就要多寫一段 dispatch,工具一多就失控。框架的價值就是把這段樣板程式碼收走。
Microsoft Agent Framework 讓你用 @tool 裝飾器把 Python 函式定義成工具,框架自動序列化函式簽名、產生 schema 送給模型,並處理模型與程式碼之間的來回通訊:
from agent_framework import tool
@tool(approval_mode="never_require")
def get_current_time(location: str) -> str:
"""Get the current time for a given location"""
...
agent = provider.as_agent(
name="TimeAgent",
instructions="Use available tools to answer questions.",
tools=get_current_time,
)
response = await agent.run("What time is it?")
注意 approval_mode="never_require" 這個參數:它是教學範例的設定,意思是執行這支工具不需要人工批準。範例裡的工具只是查一張寫死的字典,所以沒關係;一旦工具改成真的查資料庫、呼叫外部 API 或寫檔案,批準模式就要改回來。教學範例的預設值,永遠不要直接帶進生產環境。
工具也不必是自己的程式碼。MCP(Model Context Protocol,第 11 課會細講)的伺服器對外發佈工具與 schema,框架連上去就能直接用。課程範例接的是一個免費的網頁搜尋 MCP 伺服器(Keenable,免帳號、依 IP 限流),提供 search_web_pages 與 fetch_page_content 兩個工具:
from agent_framework import MCPStreamableHTTPTool
web_search = MCPStreamableHTTPTool(
name="Keenable web search",
url="https://api.keenable.ai/mcp",
)
接上之後,Agent 遇到需要最新資訊的問題,就會自己呼叫搜尋、讀取頁面內容,再寫出答案——迴圈與前面手寫的完全一樣,只是工具來自遠端伺服器。提醒一點:模型寫的查詢會送到該伺服器,內部資料不要送到公開的免費伺服器。
Microsoft Foundry Agent Service 則是更進一步的代管服務:工具呼叫的解析、執行與回傳都在伺服器端自動完成,開發者不用自己寫迴圈;對話狀態由 threads 代管;內建工具分成知識工具與行動工具,可以組成 toolset 一起交給 Agent,如圖二所示:
- 知識工具(唯讀): Bing 搜尋、檔案搜尋、Azure AI Search——只能讀,不能改。
- 行動工具(會改變狀態): 函式呼叫、程式碼解譯器、OpenAPI 定義的工具、Azure Functions——可能寫入、可能花錢、可能對外發送。
課程的範例是一間虛構公司 Contoso 的銷售 Agent:自訂函式 fetch_sales_data_using_sqlite_query 負責查銷售資料庫,內建的程式碼解譯器負責算數與分析,兩者放進同一個 toolset,模型依問題決定用哪一個。這個範例也示範了模式疊加:工具呼叫解決「怎麼做」,toolset 解決「怎麼組織」。
五、細節與注意事項:課程沒講、動手前要知道的事
這一節是整篇文章最重要的部分。課程範例寫得乾淨,但乾淨的範例常常把最痛的地方藏起來。
與 Dylan 環境的落差:Foundry 不是 Ollama
課程範例預設你用 Azure AI Foundry:FoundryChatClient 吃 AZURE_AI_PROJECT_ENDPOINT 與 AZURE_AI_MODEL_DEPLOYMENT_NAME 兩個環境變數,認證走 DefaultAzureCredential()。Dylan 的環境是家中 Ollama 加 Oracle VM,這幾行不能照抄:
- 連線層要整段換掉。 FoundryChatClient 換成 Ollama 的 OpenAI 相容端點(http://<內網 IP>:11434/v1),認證那行直接刪掉——Ollama 本地端點不需要 Azure 憑證,DefaultAzureCredential() 在沒有 Azure 登入的機器上會直接報錯;Ollama 的 api_key 隨便填一個字串即可,伺服器端會忽略它。
- API 格式不同。 課程用 Responses API 的扁平工具格式,type 與 name 在同一層;Ollama 走 Chat Completions 格式,tools 陣列裡是 {"type": "function", "function": {"name": ..., "description": ..., "parameters": ...}},巢狀多一層。照抄課程的 tools 陣列貼到 Ollama,輕則被忽略、重則報錯。
- tool_choice 不支援。 課程寫 tool_choice="auto",那是預設值,寫不寫都一樣;但 Ollama 的 OpenAI 相容端點不支援 tool_choice,無法強制模型一定要叫某個工具——只能靠清楚的描述與指令引導,不能靠參數硬逼。
- 模型要挑過。 不是每個 Ollama 模型都能叫工具,只有帶 tools 標籤的模型才行;2026 年本地端較穩的是 qwen3、llama3.3、mistral-small3.2、gemma3/gemma4、gpt-oss,qwen2.5:7b 也有 tools 標籤。沒標籤的模型收到 tools 陣列,會直接用散文回答,浪費一下午除錯 JSON 是常有的事。
- 小模型偶爾會失手。 本地小模型有時會跳過呼叫、或吐出格式錯誤的參數,所以工具參數一定要在執行前驗證(型別、範圍、必填欄位),不要直接把模型給的 JSON 餵進資料庫查詢。
常見的坑與解法
坑一:schema 描述寫得太隨便,模型選錯工具或填錯參數。 解法:描述要寫「什麼時候用、什麼時候不要用」,參數加範例值。實測經驗是,描述是準確率的主要來源,寫描述的時間不要省。
坑二:工具太多,模型開始亂選。 工具清單越長,選錯機率越高;十幾個工具以上要分組或加一層路由,先由輕量規則或小模型決定類別,再把短清單交給主模型。
坑三:工具執行失敗,整個對話斷掉。 網路逾時、API 回 500、參數驗證失敗都要有處理:把錯誤訊息以文字形式餵回模型,讓它決定重試、換工具或向使用者說明;不要讓例外直接炸掉整個迴圈。
坑四:無限迴圈。 模型一直叫工具、一直拿不到滿意的結果,迴圈跑到 token 燒光。解法:設硬上限(例如最多 5 次工具呼叫),超過就停下來向使用者報告進度。
坑五:把工具結果照單全收。 工具回傳的內容可能夾帶惡意指令(例如網頁內容裡藏的提示注入),模型會把它當成指令、執行下一步。解法:工具輸出只當資料,不當指令;寫入類操作一律經過批準或白名單檢查。
信任與安全:唯讀是底線
課程的信任章節只講一件事,但講得很實在:LLM 動態產生的 SQL 最大的風險是注入或惡意操作(刪表、改資料),解法不是叫模型「小心一點」,而是把資料庫權限收緊——應用程式只拿 SELECT 角色的唯讀權限;企業場景把資料從營運系統萃取、轉換到唯讀的資料倉儲再給 Agent 查,schema 也整理成好懂的樣子。權限收緊之後,就算模型產生了最壞的 SQL,也只能讀、不能改。
延伸到一般工具設計,原則一樣:讀與寫要分級(見圖二),唯讀工具可以放寬,寫入工具必須要求確認。approval_mode="never_require" 只適用於教學範例裡那種查寫死字典的工具,一旦工具會寫入,就不能用這個設定。
落地前確認清單
- [ ] 模型支援函式呼叫嗎?本地模型有 tools 標籤嗎?實測過了嗎?
- [ ] 每個工具的 schema 有沒有寫「何時用、何時不用」?參數有範例值嗎?
- [ ] 工具參數在執行前有驗證嗎?型別、範圍、必填欄位都檢查了嗎?
- [ ] 工具失敗時,錯誤會餵回模型、重試或降級嗎?還是直接炸掉迴圈?
- [ ] 工具呼叫次數有硬上限嗎?逾時與重試策略寫好了嗎?
- [ ] 寫入類工具需要人工批準嗎?approval_mode 是按讀寫區分的嗎?
- [ ] 資料庫帳號是唯讀角色嗎?工具輸出有被當成指令的風險嗎?
- [ ] 課程宣稱中未經核實的部分:課程說 Foundry Agent Service「自動完成工具呼叫」,指的是伺服器端代勞解析與執行,但工具本身的正確性、權限與錯誤處理仍是開發者的責任;「自動」不等於「不用管」。
我的看法
結論:能用,而且值得立刻動手。 Function Calling 是所有 Agent 能力的地基——第 11 課的 MCP、第 5 課的 Agentic RAG、第 10 課的上線實務,全部站在這個迴圈上面。不懂這一課,後面每一課都只能看熱鬧。先看的部分是範例程式的形狀:它是 Azure Responses API 的形狀,Ollama 環境要換格式、換端點、換模型挑選標準,照抄會在第一步就卡住。
務實建議:不要先寫框架,先寫一支手動迴圈。挑一個你手上最常用、又不需要寫入權限的唯讀工具——例如查 WebTracker 資料庫的唯讀查詢,或查台股收盤價——用手寫的 schema 加 dispatch 迴圈跑起來,親手看一次模型選工具、你執行、結果餵回的完整過程。跑通之後再決定要不要交給框架代勞:框架省的是樣板程式碼,省不掉的是 schema 設計、驗證與權限分級。先把迴圈跑通,再談優雅。
結論
工具使用模式的核心只有一句話:模型負責「決定叫什麼」,程式負責「真的去做」。把決定權與執行權分開,Agent 才能既聰明又可控:聰明來自模型看得懂 schema、選得對工具;可控來自執行層的驗證、權限與批準。課程給的範例跑在 Azure 上,但模式本身與雲端無關——換成 Ollama 也一樣,只是端點、格式與模型挑選要自己動手改。動手之前先確認:工具清單夠不夠短、schema 夠不夠清楚、寫入操作有沒有人把關、失敗時會不會出聲。一個叫錯工具會自己停下來問的 Agent,遠比一個什麼都敢叫的 Agent 更值得信任。
來源連結
- 課程 repo:Microsoft《AI Agents for Beginners》:https://github.com/microsoft/ai-agents-for-beginners
- 本課 README(第 4 課 Tool Use):https://github.com/microsoft/ai-agents-for-beginners/tree/main/04-tool-use
- Ollama 工具呼叫實作指南(模型挑選與注意事項):https://localaimaster.com/blog/ollama-function-calling-tools
- Ollama 本地函式呼叫指南:https://jacar.es/en/function-calling-with-ollama-locally/
沒有留言:
張貼留言