產品概覽
Captum 是什麼？
Captum 是一個基於 PyTorch 建構的綜合模型可解釋性庫，旨在幫助研究人員和開發者分析哪些特徵、概念或訓練示例影響了模型預測。它支援廣泛的 PyTorch 模型和包括視覺、文字和音訊在內的多種模態。Captum 提供最先進的歸因演算法，如整合梯度和基於概念的方法（如TCAV），以及通過對抗攻擊和擾動檢測漏洞的穩健性工具。其可擴展設計有助於研究和實用故障排除，以提高模型透明度和可靠性。
主要功能
多模態可解釋性
支援解釋處理圖像、文字、音訊等模型，具有廣泛的適用性。
豐富的歸因方法
包含整合梯度（Integrated Gradients）、顯著性圖（Saliency Maps）、TCAV和分層相關傳播（Layer-wise Relevance Propagation）等演算法，用於詳細的特徵和概念分析。
穩健性和對抗工具
提供快速梯度符號法（fast-gradient sign method）和投影梯度下降（projected-gradient descent）等指標和攻擊方法，用於評估和提高模型穩健性。
無縫 PyTorch 整合
與大多數 PyTorch 模型相容，僅需少量修改，包括那些使用 torchvision 和 torchtext 建構的模型。
開源且可擴展
允許研究人員在庫中輕鬆實現新的可解釋性演算法並進行基準測試。
使用案例
- 模型除錯和改進 : 識別影響預測的關鍵特徵和概念，以完善和排查模型問題。
- 可解釋性研究 : 在各種模型類型和資料模態中開發和基準測試新的可解釋性演算法。
- 公平性和偏見分析 : 使用基於概念的方法（如TCAV）來檢測和評估模型中與敏感屬性相關的偏見。
- 生產模型監控 : 提高已部署模型的透明度，幫助排查問題並向最終用戶解釋輸出結果。
常見問題
Captum 的替代方案
Chonkie
輕量高效的文本分塊函式庫，專為 Retrieval-Augmented Generation (RAG) 應用優化。
Aqora
Aqora 是加速量子創新的平台，透過實際量子挑戰、競賽與量子演算法服務推動產業發展。
Moonglow
輕鬆將本地 Jupyter notebook 連接到遠端 GPU，讓機器學習實驗能即時擴展，快速上手。
TensorFlow
開源機器學習平台，提供全面工具用於建構、訓練和部署適用於任何環境的機器學習模型。
魔搭社区
中國最大的開源模型社群，提供對視覺、語音、NLP和多模態領域超過1,000個模型的全面訪問。
Weights & Biases
AI 開發平台，協助訓練、追蹤與部署機器學習模型。
Lightning AI
一站式 AI 平台，整合建構、訓練、部署與擴展所需工具與基礎設施。
Agno
用於建構具有進階推理、記憶管理和跨多個AI模型無縫整合的自主系統的全端多Agent框架。