포트키

포트키

Portkey

100개 이상의 LLM을 통합 관리하고 안정적인 AI 서비스를 구축하는 게이트웨이

부분 무료WebAPISDK오픈소스LLM 기반멀티모달
웹사이트 방문하기portkey.ai
웨이츠 앤 바이어스와(과) 비교하기

소개

Portkey는 LLM 애플리케이션의 신뢰성, 가시성, 효율성을 극대화하는 엔터프라이즈 AI 게이트웨이입니다. 단일 API를 통해 멀티 모델을 통합 관리하며, 고도화된 폴백 시스템, 프롬프트 버전 관리, 가드레일 기능을 통해 프로덕션 환경의 LLM 운영을 최적화합니다.

활용 워크플로우

입력

Portkey Unified SDK/REST API 요청가상 키(Virtual Keys) 및 공급자 인증 정보프롬프트 관리자(Prompt Library) 템플릿커스텀 메타데이터 및 추적 ID(Trace ID)

포트키

공급자 로드 밸런싱 및 지능형 라우팅시맨틱 캐싱(Semantic Caching) 기반 중복 요청 처리가드레일(Guardrails)을 통한 PII 마스킹 및 유해성 검사자동 재시도(Retries) 및 전략적 폴백(Fallbacks) 실행실시간 관측성 데이터 로깅 및 트레이싱

출력

최적화된 LLM 응답 및 메타데이터실시간 비용 및 성능 대시보드 리포트OpenTelemetry 기반 추적 로그버전 관리된 프롬프트 스냅샷

서비스 가용성 최적화(Resilience Strategy)

특정 LLM 공급자의 속도 제한(Rate Limit)이나 장애 발생 시, 코드 수정 없이 즉시 백업 모델로 요청을 전환하여 서비스 가용성을 유지합니다.

PromptOps 워크플로우

애플리케이션 코드와 프롬프트를 분리하여, 스타트업 CTO나 AI 엔지니어가 대시보드에서 실시간으로 프롬프트를 실험하고 A/B 테스트를 수행합니다.

보안 및 컴플라이언스(Governance)

엔터프라이즈 개발자가 정의한 규칙에 따라 민감 정보를 자동 필터링하거나, 허용되지 않은 응답 패턴을 차단하여 보안 가이드라인을 준수합니다.

핵심 차별점: 단일 API 엔드포인트로 200개 이상의 LLM을 제어하며, 자동 폴백과 시맨틱 캐싱을 통해 운영 비용 절감과 엔터프라이즈급 안정성을 동시에 제공합니다.

주요 기능

  • 통합 AI 게이트웨이(200+ 모델 지원)
  • 가상 키 관리(Virtual Keys)
  • 시맨틱 캐싱 및 비용 최적화
  • 자동 폴백 및 재시도 로직
  • 고급 관측성 및 OpenTelemetry 통합
  • 중앙 집중형 프롬프트 라이브러리

가격 정보

부분 무료시작 가격: $0

무료 플랜은 월 1만 건의 로그 기록을 제공한다. Pro 플랜은 월 $25부터 시작하며 10만 건의 로그가 포함되고 초과 시 10만 건당 $9의 추가 비용이 발생한다. 엔터프라이즈 플랜은 월 1,000만 건 이상의 대규모 로그 처리를 지원하며 별도 문의가 필요하다.

가격표 확인하기

활용 사례

  • 멀티 모델 전략 수립 및 운영
  • LLM 서비스의 가용성 향상
  • 프롬프트 실험 및 배포 자동화
  • AI 응답 보안 및 품질 검증

대상 사용자

AI 제품 개발팀엔터프라이즈 개발자솔루션 아키텍트

연동 서비스

LangChainLlamaIndexOpenAIAzureAWS

태그

AI 게이트웨이LLMOps관측성프롬프트 엔지니어링안정성

최근 소식

  • 인수
    팔로알토 네트웍스, AI 게이트웨이 Portkey 인수 추진

    팔로알토 네트웍스가 AI 에이전트 부상에 대응해 AI 게이트웨이 선도사 Portkey를 인수하기로 했습니다.

    근거: [APPROX_DATE] 팔로알토 네트웍스가 2026년 4월 AI 게이트웨이 Portkey 인수를 발표했으며, 2026 회계연도 4분기에 거래 종료가 예상된다고 밝혔습니다.

  • 버전 업데이트
    Portkey, AI 게이트웨이 완전 오픈소스화

    Portkey가 거버넌스·옵저버빌리티·인증·비용 통제를 갖춘 게이트웨이를 완전 오픈소스로 공개하고 AI 에이전트용 MCP 게이트웨이를 함께 선보였습니다.

    근거: Portkey가 2026년 3월 24일 게이트웨이를 완전 오픈소스로 공개했으며, 하루 1조 토큰·1억 2천만 요청을 처리하고 2만 4천 개 조직을 지원한다고 밝혔습니다.

  • 투자
    Portkey, 프로덕션 AI 통합 컨트롤 플레인 위한 1500만 달러 시리즈 A 유치

    LLMOps 스타트업 Portkey가 AI 컨트롤 플레인 확장과 GTM 운영 확대를 위해 1500만 달러 시리즈 A를 유치했습니다.

    근거: Portkey가 2026년 2월 Elevation Capital 주도로 Lightspeed가 참여한 1500만 달러 시리즈 A를 발표했으며, 기업의 LLM·AI 에이전트 미션크리티컬 배포 확산에 대응한다고 밝혔습니다.

사용자 리뷰

리뷰를 불러오는 중...

대안 도구

이 도구 대신 사용할 수 있는 대안