스마트 라우팅
스마트 라우팅이 곧 출시됩니다.
신호 기반 모델 선택
스마트 라우팅은 모델 풀 및 엔드포인트를 선택하기 전에 작업 유형, 복잡성, 컨텍스트 크기, 개인 정보 보호 제약 조건, 지연 시간, 비용 및 캐시 신호를 평가합니다.
대화형 스마트 라우팅 데모는 정적 예제 데이터를 사용하여 계획된 요청, 정책, 플러그인 체인 및 엔드포인트 흐름을 보여줍니다.
스마트 라우팅이 곧 출시됩니다.
스마트 라우팅은 모델 풀 및 엔드포인트를 선택하기 전에 작업 유형, 복잡성, 컨텍스트 크기, 개인 정보 보호 제약 조건, 지연 시간, 비용 및 캐시 신호를 평가합니다.
대화형 스마트 라우팅 데모는 정적 예제 데이터를 사용하여 계획된 요청, 정책, 플러그인 체인 및 엔드포인트 흐름을 보여줍니다.