Osaurus 是由 Dinoki Labs（dinoki-ai）推出的開源專案，它是一款專門為 Apple Silicon（M 系列晶片）打造的本地化大型語言模型（LLM）伺服器，整合SwiftUI 桌面應用與 SwiftNIO HTTP Server，提供 OpenAI 相容的接口，極致優化效能，專為 M1/M2/M3 Mac 設計。
功能特色亮點
-
原生 MLX 執行效能：採用 MLX / MLXLLM 框架，針對 Apple Silicon 平台高度優化，兼具速度與穩定性。
-
Apple Silicon 專屬支援：僅支援 M 系列晶片，未支援 Intel Mac，確保效能零折扣 。
-
OpenAI API 相容接口：支援
/v1/models、/v1/chat/completions（支援串流與非串流模式），對現有工具具高度相容性。 -
支援 Function/Tool Calling：模仿 OpenAI 的工具調用模式，具備
tools、tool_choice等呼叫功能與結果解析。 -
支援 Chat Template 與 Session 重用：使用模型提供的 Jinja 模板，並支援
session_id快取、多輪對話重用。 -
低延遲串流輸出：採用 Server-Sent Events (SSE) 實現快速且流暢的回傳輸出。
-
內建模型管理器 UI：可瀏覽、下載與管理 Hugging Face
mlx-community上的模型，支援 Llama、Qwen、Gemma、Mistral 等 。 -
即時系統監控：介面中提供 CPU 與記憶體使用狀況顯示，方便開發者監控資源。
-
單一 App 完整封裝：以 SwiftUI 應用為主體，整合內嵌 SwiftNIO HTTP Server，自成一體。
安裝需求與執行方式
-
系統要求：macOS 15.5 或以上版本，且須為 Apple Silicon（M1 以上）。
-
開發工具：若從原始碼編譯，需安裝 Xcode 16.4 或以上版本。
-
下載與部署：也可以使用 GitHub Releases 提供的預編譯版本，如最新的 0.0.22 版；更新與發布頻率高。
Osaurus 非常適合：
-
Mac 開發者／AI 愛好者：能快速在本地部署 LLM 服務，不用每次都連外 API，對應隱私與離線需求。
-
系統整合者／內部工具開發：搭配 OpenAI 相容接口，可無縫代替 OpenAI 後端降低成本或提升隱私安全性。
-
資源監控與模型管理也很友善：UI 清楚、操作直覺，適合想快速測試多模型效果的人。
-
喜歡探索 Apple Silicon 潛能的人：利用 MLX 架構，高效利用 M 系列與系統資源。
當然需注意的是只支援 Apple Silicon，全本地化且無內建認證機制，若開放網路使用需自行設置 Proxy 或反向代理保護。
總結推薦
Osaurus 是一款專為 Apple Silicon 精準優化的本地 LLM 伺服器，融合了效能、隱私、兼容性與開發便利性，是 Mac 使用者部署 AI 的優質選擇。功能全面、操作方便，也適合內部工具開發、離線 AI 測試，以及對 OpenAI 合規 API 有替代需求的開發者一探究竟。
