用 LM Studio 在自己的電腦跑 AI
這條路適合已在電腦上使用 LM Studio 的玩家。AI 模型會在你的電腦運行;不需要雲端連線金鑰(API Key),也不會自動改用付費雲端 AI。
localhost 只代表手機自己,不會自動連上家中電腦。為了安全,夜灣的本地連線只接受本機網址,不支援區域網路或遠端網址。一、在 LM Studio 啟動本地 AI
- 到 LM Studio 官方網站 安裝 LM Studio。
- 下載並載入與你電腦硬體相容的 AI 模型。
- 如果你目前看到 Settings 設定視窗(左側有 General/Appearance/Developer/Chat),先按右上角 × 關閉。這裡要找的不是 Settings → Developer。
- 回到 LM Studio 主畫面,點左側主導覽的 Developer 頁面,在頁面上方切換 Start Server。
- 進入 Server Settings,開啟 Enable CORS,讓夜灣網頁可以向本機 AI 發出請求。
最常卡住的地方:LM Studio 的「Settings → Developer」是設定分類,不是啟動 API Server 的 Developer 主頁。若你看到的是設定視窗,先關掉它,再從主畫面左側進入 Developer。
CORS 是瀏覽器的跨網站連線保護。只在信任的網站需要連接你電腦上的 LM Studio 時開啟;不要為了連線而開啟區域網路服務或把連接埠公開到網際網路。
LM Studio 常見的本機連線網址(Base URL)是 http://localhost:1234/v1;聊天端點通常為 http://localhost:1234/v1/chat/completions。
二、在夜灣連接本地 AI
- 進入角色後,按「建立故事」→「連接 AI」。
- 在 AI 服務商(Provider)選擇 LM Studio(本地 AI)。
- 在 LM Studio 卡片直接確認「本機 API 網址」。預設為
http://127.0.0.1:1234/v1,通常不需要修改;若 LM Studio 顯示不同連接埠,再改成畫面上的位址。 - 按「讀取本機模型」,再從清單選擇 AI 模型(Model)。
- 需要時,依 LM Studio 顯示的名稱手動填寫模型代號(Model ID)。
- 完成角色與記憶設定後按「開始故事」。既有故事可按「AI 連線/切換模型」改用本地 AI,故事不會重置。
LM Studio 預設不需要連線金鑰(API Key)。只有你自行開啟 LM Studio 驗證時,才需填寫本機金鑰(API Token)。
三、卡住時怎麼檢查?
找不到 API Server:先確認你不是停在 Settings 視窗;關閉 Settings,回 LM Studio 主畫面的 Developer 頁面,再啟動 Start Server。
讀不到模型/Failed to fetch/CORS:確認 LM Studio 已啟動 Server、已開啟 Enable CORS,並用同一台電腦的瀏覽器開啟夜灣。
讀到模型但生成失敗:確認模型已載入,模型代號(Model ID)與 LM Studio 顯示完全相同;也檢查顯示記憶體和送給 AI 的故事脈絡(Context)是否超過電腦可用資源。
401 或 403:檢查是否自己開啟了 LM Studio 的本機金鑰;預設無驗證時不需填寫。
換裝置後:本地模式會記住模型與本機網址;若你使用本機金鑰,它不會存進故事存檔,需要重新輸入。
四、隱私與成本
本地模式會把角色卡、故事脈絡和聊天請求送到你電腦上的 LM Studio localhost,不會自動轉送到雲端 AI。模型與 LM Studio 是否自行記錄日誌、是否使用外部服務,取決於你安裝的軟體與模型設定。
本地推論不會產生雲端 API 逐次使用費,但仍會消耗電力、顯示記憶體與硬體資源。若另外設定雲端的記憶或狀態整理模型,該輔助請求仍會送往你指定的 AI 服務商。