Opal by Google

Opal by Google 是什麼？

Opal是Google設計的一套工具，幫助開發者使用LLM建構更安全、更負責任的應用程式。整合到Google AI Studio和Vertex AI中，Opal提供可設定的安全篩選器和評估功能，在部署前和部署期間評估模型輸出是否符合安全政策和品質基準。

主要功能

• 可設定安全篩選器

  跨騷擾、仇恨言論和危險內容等類別自訂和調整安全篩選器，以符合應用程式需求。

• LLM安全評估

  使用自動化評估工具評估模型在既定安全政策下的表現，識別潛在風險和漏洞。

• 互動式原型設計

  在Google AI Studio遊樂場中即時測試提示和安全設定，立即觀察模型行為。

• Vertex AI整合

  從Google AI Studio的原型設計無縫轉移到生產規模部署，使用Vertex AI中整合的Opal工具。

• 品質和事實性檢查

  除了安全性，還可執行評估來測量模型回應的事實準確性和整體品質。

使用案例

• 發布前風險評估 : 開發者可以在推出新的基於LLM的功能或應用程式之前系統性地評估和減輕潛在安全風險。
• 負責任的AI治理 : 信任和安全團隊可以使用共享的安全設定在不同應用程式中實施和執行一致的內容政策。
• 迭代模型調優 : AI工程師可以測試提示或模型版本的變化如何影響安全性和品質，實現快速開發週期。
• 內容審核增強 : 使用安全篩選器作為第一道審核層，減少應用程式產生的有害內容量。

常見問題