👍解锁全部禁忌！QWen 3.5 越狱版实测，交互感太强了🟢交互感封神！QWen 3.5 越狱版暴力测评，它真的什么都懂...🟢牛哥AI实验室 NIUGEE AI（249）
三句話摘要
介紹如何在本機電腦透過 Ollama 部署無審查開源大模型，並設定 AI 虛擬陪伴角色。 本地無審查模型的本質是移除雲端服務的過濾層，9B 速度與穩定性的組合最適合一般硬體的日常使用。 無審查模型的本質是移除過濾層，而非修改模型能力。 線上大模型拒絕特定請求，是因為模型外層加了內容過濾器；無審查版本只是拿掉這層封裝，讓模型照其原始訓練能力輸出。
重點整理
重點- 1
無審查模型的本質是移除過濾層，而非修改模型能力。 線上大模型拒絕特定請求，是因為模型外層加了內容過濾器；無審查版本只是拿掉這層封裝，讓模型照其原始訓練能力輸出。
- 2
本地部署的核心優勢是私密性與無限制性。 本地模型除了節省 API Token 費用，更重要的是可執行雲端服務因合規限制無法完成的任務，且資料完全不離開本機。
- 3
顯存容量決定可用模型規模與上下文長度。 27B 模型在 32K context 下即佔滿約 30GB 顯存；9B 模型約 7.4GB 基礎大小，context 設為 4K 最省顯存，建議依顯卡大小選擇模型與 context sizing。
- 4
27B（MoE 思考型）與 9B 各有取捨。 27B 帶 thinking 機制，情感描述顆粒度更細，但速度極慢；9B 輸出速度快且穩定，適合互動式聊天場景。
實用技巧與重點
乾貨- 工具：Ollama（本地模型管理與推理）
- 模型 1：千問系列 27B（MoE 思考型，最大 context 256K）
- 模型 2：灰灰 9B（輸出穩定，速度快）
- 27B + 32K context → 約佔 30GB VRAM（RTX 5090 幾乎滿載）
- 9B 模型檔案大小：約 7.4GB
- Context sizing 建議：顯卡小 → 4K；顯卡大 → 依需求調整，最大 256K
- TTS 工具：Index TTS（可接入 Ollama 輸出文字轉語音）
- GitHub 上有現成開源 AI 陪伴應用，可直接對接 Ollama API 介面
- Ollama 介面：標準視窗，可直接設定 system prompt 與模型參數
結論
結論“本地無審查模型的本質是移除雲端服務的過濾層，9B 速度與穩定性的組合最適合一般硬體的日常使用。”
完整解析
詳細本影片的核心主題是在本機電腦透過 Ollama 運行無審查（uncensored）開源大模型，並以此為基礎搭建 AI 虛擬陪伴應用。講者首先釐清一個常見誤解：主流線上 AI 拒絕生成特定內容，並非模型本身能力不足，而是廠商在模型外層疊加了一層內容過濾器。無審查版本的意義，僅在於移除這層封裝，讓模型依照其原始訓練能力自由輸出，與模型架構本身無關。
講者測試兩款模型。第一款是千問系列 27B，屬於 MoE 架構並具備 thinking 機制，在生成前會經歷較長的推理過程，情感描述的細膩度與文字顆粒度明顯優於小模型，但代價是顯存佔用極高——在 RTX 5090 上以 32K context 運行時幾乎壓滿 30GB 顯存，輸出速度偏慢，不適合需要即時互動的聊天場景。第二款是灰灰 9B，模型檔案約 7.4GB，輸出速度快、穩定性佳，雖然在情感表達的上限上略遜於 27B，但對大多數使用情境已足夠。講者建議顯存較小的使用者將 context size 設為 4K 以降低記憶體需求，顯卡充裕者可依需求提升。
在應用層面，講者提到可將 Ollama 的 API 介面與 GitHub 上現成的開源 AI 陪伴應用整合，再搭配 Index TTS 的語音合成功能，讓模型的文字輸出轉為語音，並可提供參考音色樣本以客製化聲線，打造完整的本地陪伴體驗。整套方案的優勢在於：資料不上傳雲端、無 API 費用、不受服務條款限制，且只需一次性的硬體投入。
最終結論是：9B 模型速度穩定適合日常互動，27B 情感深度更高但需要頂級顯卡支撐；兩款模型皆為開源，可自由在本地實驗，講者建議僅作個人私下使用，不要對外傳播生成內容。
關鍵時刻
Pipeline v2帶時間戳的重點，會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。
事實查核
Pipeline v2說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。
