abliteration.ai

abliteration.ai이란 무엇인가요?

abliteration.ai는 오픈 가중치 대형 언어 모델에 제한 없는 검열되지 않은 접근을 제공하는 추론 API입니다. 플랫폼은 프롬프트 기반 탈옥에 의존하지 않고, 거부 벡터 제거(거부 방향을 가중치 수준에서 제거하는 가중치 수정 기술)를 사용합니다. 개발자는 SDK 기본 URL을 https://api.abliteration.ai/v1로 변경하기만 하면 되고, 동일한 코드를 유지하면서 더 적은 거부를 받습니다. 서비스에는 정책 코드 규칙, 할당량, 감사 로그 및 사용자 정의 실행 모드와 같은 거버넌스 제어가 필요한 팀을 위한 선택적 정책 게이트웨이가 포함됩니다. 기본적으로 abliteration.ai는 제로 데이터 보유를 실행합니다: 프롬프트는 저장되지 않고, 출력은 기록되지 않으며, 메타데이터는 보유되지 않습니다.

주요 기능

• 제한 없는 오픈 가중치 모델 접근

  호스팅되는 abliterated 모델로, 다른 LLM이 거부하는 프롬프트에 답변할 수 있으며, 보안 연구, 훈련 데이터 생성 및 엣지 케이스 평가를 지원하고 시스템 프롬프트 탈옥이 필요하지 않습니다.

• 드롭인 SDK 호환성

  OpenAI Chat Completions API, OpenAI Responses API 및 Anthropic Messages API와 완전히 호환되며, 기본 URL만 변경하면 되고 코드 재작성이 필요하지 않습니다.

• 내장 정책 게이트웨이

  정책 코드 규칙이 있는 선택적 거버넌스 계층으로, 5가지 결과(허용, 거부, 재작성, 편집, 에스컬레이션)와 Splunk, Datadog, Elastic 또는 S3로 스트리밍되는 이유 코드를 제공합니다.

• 제로 데이터 보유

  프롬프트는 저장되지 않고, 출력은 기록되지 않으며, 메타데이터는 보유되지 않고, 훈련 신호는 사용되지 않습니다. 감사 로그에는 사용자, 프롬프트 또는 응답을 식별하는 내용이 없습니다.

• 멀티모달 기능

  Chat Completions에서 스트리밍, 도구 호출, 이미지 입력 및 비디오 입력을 지원하며, 엔드포인트 전체에서 비전 입력 및 함수 호출을 사용할 수 있습니다.

• 종량제 가격 책정

  3가지 구독 계층(Builder 월 $20, Team 월 $50, Enterprise 맞춤 가격)과 $100부터 시작하는 선불 크레딧 팩(3,300만 토큰, 만료되지 않음)을 제공합니다.

사용 사례

• 합성 데이터 생성 : 선호도 쌍, 평가 행, 분류기 예제 및 엣지 케이스를 포함한 레이블이 지정된 데이터 세트를 대규모로 생성하며, 다른 LLM이 거부하는 내용이고 스키마 검증된 출력이 훈련 파이프라인에 바로 사용 가능합니다.
• 보안 및 레드팀 연구 : 보안 팀은 PoC를 작성하고, 승인된 참여를 위한 정찰 기술을 실행하며, 제공자 거부가 합법적인 방어 작업을 차단하지 않도록 레드팀 평가를 생성할 수 있습니다.
• 신뢰 및 안전 테스트 : 신뢰 팀은 해로운 행동 예제, 괴롭힘 시나리오 및 안전 평가를 생성하여 자체 중재 시스템을 테스트하고 개선할 수 있습니다.
• 사용자 정의 거버넌스가 있는 프로덕션 AI : 고위험 산업(의료, 금융, 법률)의 팀은 숨겨진 제공자 거부를 상속하는 대신 자체 정책 계층, 감사 로그 및 규정 준수 제어를 사용하여 AI를 실행할 수 있습니다.
• 모델 훈련 및 평가 개발 : 연구자는 훈련 데이터를 생성하고, 엣지 시나리오에 대한 평가 사례를 만들며, 거부 극장이 합법적인 연구 프롬프트를 차단하지 않도록 분류기 예제를 구축할 수 있습니다.

자주 묻는 질문