Opal by Google

Opal by Google이란 무엇인가요?

Opal은 개발자가 LLM을 사용하여 더 안전하고 책임감 있는 애플리케이션을 구축할 수 있도록 도와주는 Google의 도구 모음입니다. Google AI Studio와 Vertex AI에 통합된 Opal은 배포 전과 배포 중에 모델 출력을 안전 정책과 품질 벤치마크에 대해 평가할 수 있는 구성 가능한 안전 필터와 평가 기능을 제공합니다.

주요 기능

• 구성 가능한 안전 필터

  괴롭힘, 혐오 발언, 위험한 콘텐츠 등의 카테고리에서 안전 필터를 사용자 정의하고 조정하여 애플리케이션 요구사항에 맞춥니다.

• LLM 안전 평가

  자동화된 평가 도구를 사용하여 정의된 안전 정책에 대한 모델 성능을 평가하고 잠재적 위험과 취약점을 식별합니다.

• 대화형 프로토타이핑

  Google AI Studio 놀이터에서 프롬프트와 안전 구성을 실시간으로 테스트하여 모델 동작을 즉시 관찰할 수 있습니다.

• Vertex AI 통합

  Google AI Studio의 프로토타이핑에서 Vertex AI의 통합된 Opal 도구를 사용하여 프로덕션 규모 배포로 원활하게 이동합니다.

• 품질 및 사실성 검사

  안전성 외에도 모델 응답의 사실적 정확성과 전반적인 품질을 측정하는 평가를 실행할 수 있습니다.

사용 사례

• 출시 전 위험 평가 : 개발자는 새로운 LLM 기반 기능이나 애플리케이션을 출시하기 전에 잠재적 안전 위험을 체계적으로 평가하고 완화할 수 있습니다.
• 책임감 있는 AI 거버넌스 : 신뢰 및 안전 팀은 공유된 안전 설정을 사용하여 다양한 애플리케이션에서 일관된 콘텐츠 정책을 구현하고 시행할 수 있습니다.
• 반복적 모델 튜닝 : AI 엔지니어는 프롬프트나 모델 버전의 변경이 안전성과 품질에 미치는 영향을 테스트하여 빠른 개발 주기를 가능하게 합니다.
• 콘텐츠 조정 보강 : 안전 필터를 1차 조정 계층으로 사용하여 애플리케이션이 생성하는 유해한 콘텐츠의 양을 줄입니다.

자주 묻는 질문