Kerwin AI Information

標籤: 瀏覽器跑模型

  • HashAgent：一鍵分享、在地跑的 AI 代理

    HashAgent：一鍵分享、在地跑的 AI 代理

    📌 本文重點

    • HashAgent 用一條 URL 分享可用狀態代理
    • 所有設定編碼進網址，在瀏覽器本地跑模型
    • 適合團隊共享工具、PoC demo、隱私文本處理
    • 開發者可當無後端前端容器做快速試驗

    用一句話說清楚：HashAgent 是一個「用 URL 分享、在瀏覽器本地跑」的 AI 代理容器，讓你不用架伺服器，就能把一個預先設定好的 AI 小工具分享給同事或客戶。

    工具網址：https://hashagent.pages.dev/

    核心功能：把「會動的代理」裝進一條網址

    1. 用一條 URL 分享一個預先配置好的代理

    HashAgent 的設計很直覺：所有代理設定都被編碼進 URL，像是：

    • 使用哪個模型
    • 預設系統 prompt
    • 任務腳本（例如：「請幫我總結貼上的文件」）

    你只要：

    1. 打開 HashAgent：https://hashagent.pages.dev/
    2. 在設定區填好：
    3. 模型名稱
    4. 系統提示（System prompt）
    5. 任務描述或腳本
    6. 點擊產生／複製 URL，丟給同事

    對方打開連結就直接進入一個「可用狀態」的代理，不用再解釋怎麼切模型、怎麼寫指令。

    💡 關鍵： HashAgent 把完整代理配置嵌入網址，任何人點開就能直接用同一套設定。

    👉 可立即行動：

    • 想像你現在有一個固定的「會議紀錄總結」工作，把提示寫好，生成 URL，貼到團隊 Slack，讓大家以後都用這一個入口。

    2. 在瀏覽器端用 WebGPU 本地推論

    HashAgent 依賴瀏覽器 WebGPU 能力，在使用者的電腦上直接跑模型，好處很明確：

    • 文字內容不會送到外部伺服器
    • 沒有額外 API 費用
    • 測試 PoC 不用再申請雲端資源

    要讓它順利運作，你可以這樣檢查與調整：

    1. 使用支援 WebGPU 的瀏覽器：
    2. 建議：Chrome / Edge / Brave（版本越新越好）
    3. 在 chrome://flags 搜尋「WebGPU」，確認是啟用狀態（若已預設開啟可忽略）。
    4. 打開 HashAgent 頁面時，留意是否有「WebGPU not supported」類似提示，有的話換一個瀏覽器或機器測試。

    💡 關鍵： 使用者的瀏覽器與硬體決定推論是否能在本地完成，這是 HashAgent 的隱私與免伺服器優勢來源。

    👉 可立即行動：

    • 用自己的筆電和桌機各打開同一條 HashAgent URL，感受不同 GPU／CPU 下的速度差異。

    3. 支援自訂 Prompt 與任務腳本

    HashAgent 不是只有一個對話框，而是可以預設「代理該怎麼工作」：

    典型可設定內容包括（實際欄位以官方頁面為準）：

    • System prompt：定義代理角色，例如：「你是一個專門做長文摘要的助手，只輸出三段摘要與三個行動建議。」
    • 任務腳本：針對一個固定流程，例如：
    • 接收使用者貼上的原文
    • 先輸出 3 句話摘要
    • 再輸出一個行動清單

    你可以把這些寫死在設定裡，然後一鍵分享：

    • 同事只要打開網址、貼文本，就能得到同樣格式的輸出
    • 測試不同版本的提示時，只要多產幾條 URL 對比

    👉 可立即行動：

    • 做兩條代理 URL：
    • A 版：摘要偏「精簡」
    • B 版：摘要偏「詳細」
    • 實際讓同事在會議前後各用一次，收集哪一版更好用。

    適合誰用：三類典型場景

    1. 團隊共享小工具：一鍵文檔總結代理

    情境：公司裡大家都在用 ChatGPT / Claude 檢查文件，但每個人 prompt 都不一樣，輸出品質參差不齊。

    用 HashAgent 可以：

    • 把「標準版」文檔總結流程寫成 system prompt
    • 固定輸出格式（例如：摘要、風險點、下一步行動）
    • 用一條 URL 分享到團隊 wiki / Notion

    效果：

    • 新人只要打開網址＋貼文件，就能用同一套「公司標準」摘要模板。

    2. 內部 PoC：不用伺服器就能 demo 的代理

    情境：你是內部 AI 團隊，要給老闆看一個新的代理 workflow 構想，但還不想花時間架後端。

    做法：

    • 在 HashAgent 裡設定好流程 prompt
    • 選一個本地可跑的模型
    • 把生成的 URL 直接在會議現場打開 demo

    效果：

    • 不用申請雲帳號、API Key
    • Demo 環境就是瀏覽器，任何人都可以當場打開運行

    3. 個人隱私場景：本地處理敏感文本

    情境：

    • 合約書、履歷、公司內部簡報，不想丟出去雲端
    • 但又想用 LLM 做摘要、改寫、潤飾

    HashAgent 的本地推論特性很適合：

    • 打開自己的「合約總結代理」
    • 把 PDF 文本複製貼上
    • 整個過程只在自己機器上運算

    👉 可立即行動：

    • 做一條專門處理「履歷優化」的 HashAgent URL，只在求職階段自己用，且資料不離開裝置。

    實作教學：幾分鐘建立一個簡單 HashAgent

    以下用「一鍵文檔總結代理」當示範，步驟會以官方頁面目前常見結構為例（未來若 UI 調整，以頁面為準）。

    步驟一：打開 HashAgent 並選模型

    1. 進入：https://hashagent.pages.dev/
    2. 找到模型選擇欄（例如「Model」或類似欄位）。
    3. 選擇一個支援 WebGPU 的本地模型（通常會有預設選項）。

    如果頁面提供多個模型：

    • 選較小的模型：載入快、推論快
    • 選較大的模型：推論慢，但輸出品質可能更好

    步驟二：寫任務描述（System Prompt）

    在「System Prompt」或「Agent Prompt」欄位填入類似內容：

    你是一個專門為知識工作者服務的文檔摘要助手。
    使用繁體中文回答。請依照以下格式輸出：
    1. 三句話總結本文重點。
    2. 列出 3-5 個可行的下一步行動建議。
    3. 若本文有任何風險點或注意事項，請額外列出。

    這樣一來，任何人打開這條 URL，再貼入文本，都會得到相同格式的輸出。

    步驟三：生成分享 URL

    在 HashAgent 頁面通常會有某種「Share」或「Copy URL」按鈕，底層邏輯是：

    • 把你的設定序列化寫入 URL hash 或 query string
    • 例如：https://hashagent.pages.dev/#... 或 ?config=...

    操作方式：

    1. 點擊「Generate / Copy URL」
    2. 取得一條很長的連結
    3. 貼到：
    4. Slack / Teams 群組
    5. 公司內部 wiki
    6. 產品 demo 文檔

    👉 可立即行動：

    • 做好第一條代理後，請兩位同事用它來總結同一份文件，觀察輸出是否一致，微調 prompt。

    如何在不同瀏覽器 / 機器上測試效能

    HashAgent 的效能很依賴硬體與瀏覽器，以下是一個簡單測試流程：

    1. 準備一條相同的 HashAgent URL
    2. 在以下環境各測一次：
    3. Windows + Chrome
    4. macOS + Chrome / Safari（視 WebGPU 支援情況）
    5. Linux + Chromium 或支援 WebGPU 的瀏覽器
    6. 測量兩個指標：
    7. 模型載入時間（從進入頁面到可以輸出第一段文字）
    8. 單次完整回應時間（例如處理同一篇 1,000 字文章）

    若遇到太慢或無法運行，可以：

    • 換較小的模型
    • 確認瀏覽器版本已更新
    • 在設定裡調低生成長度或溫度（根據 UI 選項調整）

    💡 關鍵： 透過在不同環境測量載入與回應時間，你可以實際評估 HashAgent 是否符合團隊或產品 demo 的效能需求。

    與其他工具搭配：向量庫、Obsidian、VSCode

    HashAgent 目前偏「單體代理」，但你可以把它當作前端容器，搭配其他工具：

    • 搭配本地向量庫：
    • 在後端用你熟悉的工具（如 LlamaIndex、Local vector DB）先做檢索

    • 把檢索後的上下文貼到 HashAgent 中，由代理負責總結／解釋

    • 搭配 Obsidian：

    • 在 Obsidian 裡選一篇筆記，複製內容
    • 貼到 HashAgent 的「摘要代理」裡

    • 把輸出貼回新筆記，形成標準化摘要

    • 搭配 VSCode：

    • 將部分程式碼或 log 貼入 HashAgent 的「debug 代理」URL
    • 以預先設定好的 prompt 輔助 debug 或重構

    👉 可立即行動：

    • 建兩條代理 URL：一個專門負責「Obsidian 筆記摘要」、一個專門負責「程式碼解說」，分別收藏在瀏覽器書籤列。

    給開發者：把 HashAgent 當成前端容器

    如果你在做 LLM workflow、agent framework，HashAgent 可以扮演：

    • 「無後端 Demo 殼」：
    • 把整個 workflow 壓縮成一組 prompt + 設定

    • 用 HashAgent 的 URL 形式丟給使用者試用

    • 「早期用戶回饋管道」：

    • 你可以快速產出多個版本（不同 prompt、不同模型）

    • 用多條 URL 做 A/B 測試

    • 「內部教學模板」：

    • 把教學代理（例如：教如何寫公司標準文件）包成 URL
    • 給新員工在瀏覽器裡直接操作

    當你準備好要產品化時，再把這些代理邏輯搬到自己的前端 + 後端架構裡即可。

    小結：先從一個「可分享的摘要代理」開始

    如果你不知道從哪裡開始，建議順序：

    1. 打開 https://hashagent.pages.dev/
    2. 選一個預設模型
    3. 寫一個「公司標準的文檔摘要 prompt」
    4. 生成 URL，貼到團隊群組

    當你能用 HashAgent 成功分享第一個「會動」的代理給同事，你就掌握了這個工具的核心價值：用 URL 把 AI 工作流程裝起來，讓任何人打開就能用，且資料留在自己的裝置上。

    🚀 你現在可以做的事

    • 立刻打開 HashAgent，建立一條「公司標準文檔摘要」URL 並分享到團隊 Slack 或 Teams
    • 在兩台不同設備上用同一條代理 URL 測試 WebGPU 效能，確認是否適合正式使用
    • 為個人敏感資料（履歷或合約）設計一條專用 HashAgent 代理 URL，加入瀏覽器書籤以便重複使用