回首頁 / AI 組合企劃 / P012

離線小鋼炮工作台(Mac App):本機跑 LLM/翻譯/寫程式助手,資料零外流

一個 App 內建選好的端側模型,點一下就能在 Mac 上做摘要、翻譯、寫程式片段,不連網、不訂閱、不被計 token。

難度: medium 3–5 週(模型下載/量化管理+推理後端整合+SwiftUI;沿用 OSS Radar 已踩過的 Ollama/GGUF on M 系列經驗)。

怎麼變現

①買斷制 Mac App(Gumroad/Lemon Squeezy MoR):Free 內建 1 顆小模型+基本聊天,Pro 解鎖模型切換/批次/自訂 Prompt 範本與情境包 ②設定頁 Ko-fi。賣點『付一次、永遠免月費、隱私不上雲』打雲端 LLM 訂閱疲勞 ③聯盟帶 Mac 周邊/外接 SSD(裝模型)等工具類(不推 VPN)。網頁端 Adsterra/Monetag。

運作方式

啟動偵測 Mac 記憶體/晶片 → 推薦對應檔位(低階→MiniCPM5-1B、一般→LFM2.5 MoE)→ 選情境:通用聊天走 LFM2.5、寫程式切 Mellum2-Thinking、翻譯切 Hy-MT2-1.8B → 全部 GGUF/MoE 在本機推理,對話與檔案不出機。Pro 增加整個資料夾批次摘要/翻譯與情境 Prompt 庫。

用到的開源零件

MiniCPM5-1B(端側小鋼炮)

面壁智能 MiniCPM 系列 1B 小模型,主打端側高效能。

▸ HF trending 61 · 968 likes · 386,275 下載

🧱 AI 基礎堆疊 授權未明

Liquid LFM2.5-8B-A1B(MoE 模型)

Liquid AI 的 LFM 系列 MoE 模型(8B 參數、A1B 啟用)。

▸ HF trending 66 · 614 likes · 65,537 下載

🧱 AI 基礎堆疊 ⚠ 限非商用

JetBrains/Mellum2-12B-A2.5B-Thinking

JetBrains Mellum2 程式碼模型(12B MoE,A2.5B 啟用,含思考鏈,專為寫程式)。

▸ HF trending 79 · 283 likes · 18,273 下載

🧱 AI 基礎堆疊 授權未明

tencent/Hy-MT2-1.8B

騰訊混元 MT2 機器翻譯模型(1.8B 稠密)。

▸ HF trending 150 · 1,099 likes · 18,131 下載

🧱 AI 基礎堆疊 授權未明