用 安裝離線大模型 離線啟動不依賴外部大模型 數(shù)據(jù)不出域使用知識問答功能)
“察元AI超級智能體”是一套完整的開源AI辦公解決方案覆蓋從“安裝 → 配置 → 離線模型部署 → 完全離線使用 → 實(shí)現(xiàn)數(shù)據(jù)不出域知識問答”的全流程。 第一步安裝與配置“察元AI桌面單機(jī)版”是一個開箱即用的桌面應(yīng)用安裝過程非常便捷。1. 獲取安裝包前往項(xiàng)目的官方發(fā)布頁 https://github.com/zhgyuhuii/chayuan-desktop-releases下載適用于您操作系統(tǒng)的安裝包· Windows下載 .msi 文件?!?macOS下載 .dmg 文件。· Linux (包括國產(chǎn)系統(tǒng))下載 .deb 或 .AppImage 文件。2. 安裝與首次啟動· 安裝雙擊下載的安裝包按照向?qū)瓿砂惭b。安裝過程無需聯(lián)網(wǎng)?!?啟動雙擊桌面上的“察元AI”圖標(biāo)啟動程序。3. 首次運(yùn)行設(shè)置 (FirstRunSetup)首次啟動會彈出設(shè)置向?qū)шP(guān)鍵一步是設(shè)定你的“數(shù)據(jù)根目錄”環(huán)境變量 CHAYUAN_ROOT。之后程序會自動啟動內(nèi)置的后端服務(wù)Sidecar監(jiān)聽 127.0.0.1:62581。 第二步安裝本地離線大模型要實(shí)現(xiàn)完全離線關(guān)鍵是在本機(jī)安裝一個大型語言模型LLM服務(wù)Ollama是最主流的選擇。1. 在“中轉(zhuǎn)機(jī)”上安裝并下載模型· 在一臺可聯(lián)網(wǎng)的電腦上安裝Ollama?!?打開終端CMD或PowerShell使用 ollama pull 模型名稱 命令下載你需要的模型。例如下載輕量高效的qwen2.5:7b模型可執(zhí)行ollama pull qwen2.5:7b。· 模型下載后需找到其在本機(jī)的存儲路徑并導(dǎo)出。一個典型路徑是 ~/.ollama/models/。2. 將模型遷移到目標(biāo)機(jī)器· 將導(dǎo)出的模型文件拷貝到目標(biāo)機(jī)器無網(wǎng)絡(luò)的相應(yīng)目錄。? 第三步從安裝到應(yīng)用的路線圖你可以根據(jù)自身情況選擇路徑mermaidflowchart TDA[開始從GitHub下載br察元AI安裝包] -- B[完成首次啟動設(shè)置br選擇數(shù)據(jù)目錄]B -- C{選擇AI推理模式}C -- “我想用云端API” -- D[在“模型供應(yīng)商”配置brDeepSeek/通義千問等云端模型]D -- E[聯(lián)網(wǎng)即可使用br數(shù)據(jù)安全取決于云端服務(wù)商]C -- “我要完全離線使用” -- F[在目標(biāo)機(jī)器上br部署Ollama服務(wù)]F -- G[在目標(biāo)機(jī)器上br導(dǎo)入離線模型文件]G -- H[在察元中配置Ollama連接br地址: http://127.0.0.1:11434/v1]H -- I[完全離線使用br數(shù)據(jù)完全不出域]C -- “我是開發(fā)者” -- J[進(jìn)行二次開發(fā)]J -- K[從源碼構(gòu)建brnpm run build:wps-all]K -- I 第四步核心應(yīng)用之知識問答RAG“察元AI超級智能體”的真正價值在于其強(qiáng)大的“本地離線知識庫”功能即RAG讓你能用自然語言“對話”自己的文檔。其核心隱私承諾是所有數(shù)據(jù)包括對話歷史、知識庫、模型密鑰等均存儲在本地由你指定的目錄中默認(rèn)不會上傳至任何云端服務(wù)。1. 構(gòu)建知識庫 (Knowledge Base)· 在察元主界面直接拖拽本地的PDF、Word、Excel、PPT、Markdown等文件到對話窗口中?!?拖拽時程序會自動觸發(fā)入庫任務(wù)依次完成文本抽取、智能切片Chunking、向量計算Embedding和存儲索引。2. 進(jìn)行知識問答· 創(chuàng)建新對話點(diǎn)擊“新建對話”?!?選擇模型在對話界面頂部確保選中的是你配置好的本地Ollama模型以實(shí)現(xiàn)完全離線問答?!?選擇知識庫勾選你剛才構(gòu)建好的知識庫?!?提問在輸入框中用自然語言提出你的問題。3. 溯源與驗(yàn)證回答會附上“引用氣泡”注明信息來源。點(diǎn)擊任意一個引用氣泡即可在右側(cè)彈出原文面板并高亮定位到具體段落讓你能快速核實(shí)答案的準(zhǔn)確性。 總結(jié)為了讓你更清晰地把握全流程這里有一個高度精煉的總結(jié)· 安裝與配置GitHub下載安裝包 → 首次啟動選好數(shù)據(jù)目錄?!? 部署離線模型在中轉(zhuǎn)機(jī)下載模型 → 遷移至目標(biāo)機(jī) → 在察元中配置Ollama連接?!? 核心應(yīng)用RAG拖拽文檔自動構(gòu)建知識庫 → 新建對話并選擇知識庫 → 提問并溯源原文。希望這份詳細(xì)的全流程指南能幫助你在保障數(shù)據(jù)絕對安全的前提下順利體驗(yàn)到“AI私有知識庫”帶來的效率革命。