Kerwin AI Information

標籤: Qwen

  • 自託管 Airi：把 AI 養在自己電腦裡

    自託管 Airi：把 AI 養在自己電腦裡

    📌 本文重點

    • Airi 可完全自託管，長駐你自己的機器
    • 支援即時語音與遊戲互動，像住在電腦裡的同伴
    • 可接本地 LLM 或雲端 API，自訂人格與長期記憶

    Airi 解決的是：想要一個「常駐在自己電腦裡」、能語音聊天、陪你打遊戲，又不把隱私丟給雲端的大型 AI 代理人。

    Airi GitHub：https://github.com/moeru-ai/airi

    核心功能：把 Airi「養」在自己機器上

    1. 自託管架構：本地 / 伺服器都能養

    Airi 是完全自託管的專案，你可以：

    • 裝在自己電腦：當成桌面語音助理、遊戲副駕駛
    • 架在家裡 NAS / 伺服器：多台裝置共用同一個 Airi
    • 放到雲端 VPS：人不在家也能連回自己的 AI

    實際能做的事：

    • 重要對話、長期記憶都留在你控制的機器
    • 想換模型、換人格、換語音，都自己改，不受商業服務限制

    你可以現在先做：

    1. 開啟 GitHub 專案頁：https://github.com/moeru-ai/airi
    2. 在 README 看「Installation」區段，決定你要：
    3. docker-compose 一鍵跑，或
    4. 用腳本 / 原始碼自己起服務

    2. 即時語音通話：真的像「住在你電腦裡的人」

    Airi 內建語音通話功能，可以做到：

    • 按一個按鈕就跟 Airi 說話，低延遲雙向語音
    • 語音輸入 + 語音輸出，像在跟 Discord 語音室裡的人聊天
    • 長時間掛在背景，隨時叫一下就回應你

    這比一般聊天機器人多了兩件事：

    • 不用切視窗打字，邊寫程式邊講話就能查資料、記 To-do
    • 遊戲全螢幕時仍可用語音讓 Airi 幫你查攻略、算資源

    你可以先準備：

    • 一個麥克風（筆電內建也可）
    • 耳機（避免回授回音）

    安裝好後，在 Airi 的 Web 或桌面客戶端裡，找到 Voice / Call / Talk 類選項，試著說一句：

    「幫我記一下，10 點要去打王。」

    確認 Airi 能聽懂、重複你剛說的提醒，就代表語音通路打通了。

    💡 關鍵： 長時間低延遲語音掛機，讓 Airi 更像常駐同事，而不是臨時叫用的聊天機器人。

    3. 跟遊戲雙向互動：Minecraft、Factorio 副駕駛

    Airi 的另一個重點，是能直接連到遊戲伺服器，讀取資訊、發送指令，目前官方強調支援：

    • Minecraft：
    • 讀取聊天、座標、玩家狀態
    • 讓 Airi 發聊天訊息、執行伺服器指令
    • 能當「伺服器管理員」、「新手顧問」或「劇情 NPC」
    • Factorio：
    • 掃描工廠狀態、產線 bottleneck
    • 建議你要擴產哪條線、缺哪種物資

    實際玩法舉例：

    • Minecraft 裡打 /askairi 我怎麼做一個自動農場？
    • Airi 在遊戲聊天裡回你步驟，同時用語音對你講解

    你可以安排一個晚上做這件事：

    1. 準備一個 Minecraft 伺服器（本地或雲端都可）
    2. 依 Airi README 中的 Minecraft / Factorio 插件說明：
    3. 在伺服器裝上 Airi 提供的插件 / 模組
    4. 在 Airi 設定檔填入伺服器位址與 API 金鑰
    5. 重新啟動伺服器並進入遊戲，測試呼叫 Airi

    4. 多平台客戶端 + 多種 LLM 後端

    Airi 支援：

    • Web 介面：瀏覽器直接用，管理設定、對話、記憶
    • macOS / Windows 客戶端：
    • 固定在桌面右下角、選單列
    • 快捷鍵喚出，直接講話或輸入文字

    LLM 後端則非常彈性：

    • 本地開源模型（透過 Ollama、LM Studio 等）
    • 雲端 API：OpenAI、Anthropic、Qwen、Gemini…（依 README 支援）

    對於想要「免費 / 低成本玩起來」的讀者，建議：

    • 若有 16GB RAM 以上 + 顯示卡：考慮用 Qwen 3.x 7B / 14B 這種偏擅長 Agent 任務的模型
    • 若硬體較弱：先用 雲端 API 的小模型（如 gpt-4o-mini 類），避開本地推論壓力

    💡 關鍵： 有 16GB RAM 加獨顯時，本地模型就能順跑，真正做到零額外流量費與隱私全在自己機器。

    你現在可以做：

    • 選擇你要的模型來源，準備好：
    • 本地：先安裝 Ollama，拉一個模型 ollama pull qwen2.5:latest
    • 雲端：到 OpenAI / Anthropic 後台申請 API Key
    • 在 Airi 設定檔裡填入：模型名稱、API Key、base URL

    適合誰用：幾個具體場景

    1. 桌面語音助理：在你電腦旁邊工作的「同事」

    可以這樣用：

    • 開會前對 Airi 說：「幫我整理這份 PDF 的重點。」
    • 寫程式時問：「這段 TypeScript 為什麼報錯？」
    • 長時間聊天：讓 Airi 記住你正在進行的專案、偏好工具

    搭配其他工具：

    • 結合 Claude Code / Cursor / codegraph 之類開發環境，把「寫程式」交給 IDE，把「討論設計、備忘錄」交給 Airi

    行動建議： 安裝好後先定義一個簡單工作流，例如：

    每天早上請 Airi 根據行事曆排三件最重要的事，晚上讓它跟你一起檢討完成度。

    2. 遊戲副駕駛：策略腦 + 資源小管家

    在 Minecraft / Factorio / 其他支援的遊戲裡：

    • 讓 Airi 記住你的長期目標（例：一週內完成終界龍擊殺 / 火車自動物流）
    • 每次登入時請它提醒：現在缺什麼資源、下一步該做什麼
    • 遊戲裡臨時問：「我現在要去哪裡刷 X 資源效率最高？」

    高級玩法：

    • 讓 Airi 按固定節奏掃描伺服器狀態，自己發現問題
    • 例如：箱子爆滿、產線堵塞，就自動在聊天頻道喊你

    行動建議： 設計一個明確角色給 Airi，例如：

    「你是我們伺服器的資源總管，只關心是否缺料，缺了就通知我並給出最短補貨路線。」

    把這段人格設定寫進 Airi 的系統提示 / persona 設定中。

    3. 長陪伴聊天夥伴 + 跨工具 Agent

    如果你想要一個可以長期記住你喜好、過去對話的 AI：

    • 利用 Airi 的記憶系統，讓它記：
    • 你常玩的遊戲
    • 你的工作類型、平常的困擾
    • 你的目標（練英文、學某個框架…）
    • 長期和它聊，讓它慢慢形成「認識你」的狀態

    再往上，可以接其他 Agent 平台：

    • 例如：
    • Airi 作為前端「主對話窗口」
    • 後面串 zero.xyz 去調用 ~8000 個工具、API
    • 串 Phasr 類工作流引擎，讓它一次跑多個任務而不丟上下文

    行動建議： 想一個你真的會常用的主題，例如「學習 Rust」，把它寫成 Airi 的長期任務：

    「你的任務是陪我在三個月內學會 Rust，定期出作業、review、提醒我寫 code。」

    💡 關鍵： 把長期學習或遊戲目標寫成任務與記憶，Airi 才能持續主動「記得你」而不是每次重來。

    怎麼開始：一個晚上就能跑起自己的 Airi

    1. 推薦最低硬體配置

    • CPU：四核心以上
    • RAM：16GB 起跳（跑本地 LLM 比較穩；如果只用雲端 API，8GB 也可）
    • 儲存：至少預留 20GB（模型 + 日誌 + 記憶）
    • 顯示卡：有獨顯最好（跑本地模型會輕鬆很多），沒有也能用雲端 API

    2. 用 Docker 一鍵跑起來

    以常見流程簡化示意（實際請以官方 README 為準）：

    # 1. 先裝好 Docker & Docker Compose
# 2. 在你想放 Airi 的資料夾裡：

git clone https://github.com/moeru-ai/airi.git
cd airi

# 3. 啟動服務
docker compose up -d

    接著：

    1. 瀏覽器開 http://localhost:PORT（PORT 依 README 為準）
    2. 看到 Airi 的 Web 介面後，先建立一個帳號 / 角色
    3. 在設定頁：
    4. 選擇 LLM 後端（本地或雲端）
    5. 設好語音輸入輸出

    如果你不熟 Docker，專案通常也會提供一鍵腳本（如 run.sh / start.ps1 類），照 README 指示執行即可。

    3. 配一個免費 / 便宜的模型

    兩條路線擇一：

    路線 A：本地開源模型（零額外成本，壓力在硬體）

    1. 安裝 Ollama：https://ollama.com
    2. 下載一個中小型模型，例如：

    bash
    ollama pull qwen2.5

    1. 在 Airi 設定裡把 LLM URL 指向 http://localhost:11434，模型名稱填 qwen2.5

    路線 B：雲端 API（硬體負擔低，按量計費）

    1. 到你喜歡的 LLM 服務註冊帳號（如 OpenAI）
    2. 建立 API Key
    3. 在 Airi 介面填入：
    4. API Key
    5. 模型名稱（例如 gpt-4o-mini）

    測試是否成功： 在 Airi 裡輸入一句：「幫我用條列整理一下 Airi 是什麼？」看能否正常回覆。

    4. 進階玩法：Minecraft 綁語音 + 自訂人格與長期記憶

    (1) Minecraft + 語音副駕駛

    大致步驟（細節以 Airi README 中的 Minecraft 節為準）：

    1. 在你的 Minecraft 伺服器安裝 Airi 專用插件 / Mod
    2. 在 Airi 後台新增一個「Minecraft 連線」，填入：
    3. 伺服器位址
    4. 驗證金鑰
    5. 設定一個提示模板，例如：

    你是這個伺服器的導遊，會用中文在遊戲聊天和語音裡同時回應玩家問題。

    測試：在遊戲裡打 /airi 這附近有什麼資源？，看聊天與語音是否同步回應。

    (2) 自訂人格 + 長期記憶

    在 Airi 的 persona 或 system prompt 區裡，可以寫：

    • 身份：

      你是住在我電腦裡的 AI 室友，平常會關心我的工作進度和遊戲計畫。

    • 口吻：

      輕鬆、直接，避免太官方的說話方式。

    • 記憶策略：

      遇到我的偏好、長期目標、常見問題時，請寫入長期記憶，下次主動提起。

    接著在 Web 介面裡，偶爾去「記憶 / memories」頁面檢查：

    • 刪掉已過時的資訊
    • 補充重要但沒被好好記錄的背景

    這樣 Airi 就會越來越像一個真的「老朋友」，而不是每次都從零開始的聊天機器人。

    最後，建議你空出一個完整晚上，按這個節奏走：

    1. 用 Docker 跑起 Airi
    2. 選一個模型 + 打通語音
    3. 寫一段屬於你的 persona
    4. 如果有 Minecraft 伺服器，再綁一次遊戲互動

    做到這四步，你就真正「把一個 AI 養在自己的電腦裡」，之後只需要慢慢調人格、調記憶，讓它變成最懂你的那一個。

    🚀 你現在可以做的事

    • 打開 Airi GitHub 專案，按照 README 用 docker compose up -d 跑起第一個實例
    • 在 Airi 設定中接上一個模型（本地 qwen2.5 或雲端 gpt-4o-mini），並測試一句對話是否正常
    • 寫一段簡短 persona（例如「AI 同事」或「伺服器資源總管」），儲存後連續跟它聊幾天觀察效果