產品概覽
Jan 是什麼？
Jan 是一款跨平台、開源的 AI 助理，設計上可於本地裝置直接運行大型語言模型，確保資料隱私與用戶自主權。支援像 Llama、Mistral 等模型於本機離線運作，無需將資料傳送至外部伺服器。Jan 亦可整合 OpenAI、Anthropic 等雲端 AI API，讓有需要時功能更強大。模組化架構讓用戶能透過擴充套件與可程式化 API 深度自訂 AI 行為，非常適合重視隱私的一般用戶與開發者。
主要功能
本機優先 AI 處理
AI 模型完全在你的裝置上離線運行，所有資料皆保留於本地，確保隱私與安全，無需依賴雲端伺服器。
雲端 AI 整合
可選擇連接如 OpenAI GPT-4、Anthropic Claude 等雲端 AI 服務，擴充 AI 能力與功能。
跨平台相容性
支援 Windows、macOS 與 Linux，並針對多種硬體（如 NVIDIA GPU、Apple Silicon）最佳化。
可擴充模組化擴充功能
可透過擴充套件自訂並強化功能，加入新的 AI 引擎、工具與整合。
OpenAI 相容本地 API 伺服器
提供相容 OpenAI 標準的本地 API，可與第三方應用程式與自動化流程整合。
用戶資料自主與隱私
所有對話與檔案皆以通用格式儲存在本地，Jan 不會蒐集或販售任何資料。
使用案例
- 重視隱私的 AI 協助 : 需要 AI 協助但不想將資料暴露給雲端供應商的用戶，可完全離線運行模型。
- 開發者自訂 AI 解決方案 : 開發者可透過 Jan 的 API 與擴充套件，打造並整合自訂 AI 工作流程。
- 多模型 AI 實驗 : 在單一介面中體驗各種開源與雲端 AI 模型，方便實驗與比較。
- AI 驅動內容創作 : 利用可自訂的 AI 助理產生文本、激發創意、或自動化各種任務。
- 適用於離線或高隱私需求環境的 AI : 在無網路或高度重視資料隱私的環境下也能運作 AI 工具。
常見問題
Jan 的替代方案
LM Studio
一款桌面應用程式，讓用戶可離線探索、下載並執行大型語言模型（LLMs），兼具隱私與完整功能。
Ollama
在地推論引擎，讓使用者可於本機直接執行與管理大型語言模型（LLM），強化隱私、自訂化與離線 AI 能力。
Google AI Gemini
新一代多模態 AI 助理與平台，整合先進語言、視覺及推理能力，服務於 Google 各產品及開發者工具。
Unsloth AI
開源平台，最高 32 倍加速大型語言模型微調，顯著降低記憶體用量。
Vast.ai
一個 GPU 市集，提供平價且可擴展的雲端 GPU 租賃，具彈性定價與簡易部署，專為 AI 與高運算需求工作負載設計。
Together AI
一個雲端平台，協助用戶以超高速推論、彈性擴展與高性價比自訂模型，打造並運行生成式 AI 應用。
LiteLLM
開源 LLM Gateway，透過標準化 OpenAI 相容介面，統一存取 100+ 語言模型。
Vellum AI
端對端AI開發平臺，支援多模型協作建置、測試、部署與監控AI應用。