Opal by Google

Opal by Googleとは？

OpalはGoogleが設計したツールスイートで、開発者がLLMを使用してより安全で責任あるアプリケーションを構築するのを支援します。Google AI StudioとVertex AIに統合されたOpalは、デプロイメント前および期間中にモデル出力を安全ポリシーと品質ベンチマークに対して評価するための設定可能な安全フィルターと評価機能を提供します。

主な機能

• 設定可能な安全フィルター

  ハラスメント、ヘイトスピーチ、危険なコンテンツなどのカテゴリーにわたって安全フィルターをカスタマイズし、調整してアプリケーション要件に合わせます。

• LLM安全評価

  自動化された評価ツールを使用して、定義された安全ポリシーに対するモデルパフォーマンスを評価し、潜在的なリスクと脆弱性を特定します。

• インタラクティブプロトタイピング

  Google AI Studioプレイグラウンドでプロンプトと安全設定をリアルタイムでテストし、モデルの動作を即座に観察できます。

• Vertex AI統合

  Google AI Studioでのプロトタイピングから、Vertex AIの統合されたOpalツールを使用して本番規模のデプロイメントにシームレスに移行します。

• 品質と事実性チェック

  安全性に加えて、モデル応答の事実的正確性と全体的な品質を測定する評価を実行できます。

ユースケース

• リリース前リスク評価 : 開発者は新しいLLMベースの機能やアプリケーションをローンチする前に、潜在的な安全リスクを体系的に評価し、軽減することができます。
• 責任あるAIガバナンス : 信頼・安全チームは、共有された安全設定を使用して、異なるアプリケーション間で一貫したコンテンツポリシーを実装し、実施することができます。
• 反復的モデル調整 : AIエンジニアは、プロンプトやモデルバージョンの変更が安全性と品質にどのような影響を与えるかをテストし、迅速な開発サイクルを可能にします。
• コンテンツモデレーション拡張 : 安全フィルターを第一のモデレーション層として使用し、アプリケーションが生成する有害なコンテンツの量を削減します。

よくある質問