用大模型與流式輸出)
04 調(diào)用大模型與流式輸出面向有 C# 后端經(jīng)驗(ASP.NET Core / HttpClient)的開發(fā)者。本章用 Node 內(nèi)置fetch調(diào)用 OpenAI 兼容的 Chat Completions 接口,先跑通"非流式 + 流式(SSE)"兩種請求,再講解協(xié)議、解析與切換真實服務(wù)的方法。全程連本地 Mock 服務(wù)即可運行,無需網(wǎng)絡(luò)、無需真實 API Key。1. 本章目標學(xué)完本章,你將能夠:理解 OpenAI 兼容的Chat Completions協(xié)議:請求/響應(yīng) JSON 結(jié)構(gòu)、messages角色、temperature、usage;看懂stream: true時基于SSE的行格式,并正確解析出delta.content,拼回完整回復(fù);用 Node 內(nèi)置fetch分別寫一次非流式與流式請求(對照 C# 的HttpClient);看懂本地 Mock 服務(wù)是怎么"裝"成大模型的,并學(xué)會把地址/密鑰/模型名切換成Ollama