비용 청구는 어떻게 적용됩니까?

Red Hat AI 추론 을 이용하면 비용이 발생합니다. 모델 정렬을 사용하는 경우, 저장 위치로 사용되는 IBM Cloud® Object Storage 저장소로 사용되는 이에 대한 비용도 발생합니다.

모델을 다른 서비스에 배포할 경우, 해당 서비스에서 추가 요금이 부과됩니다.

Red Hat AI 추론 에서는 비용이 어떻게 계산되나요?

Red Hat AI 추론 사용에 따른 비용은 토큰 단위로 측정되는 지표에 따라 산정됩니다. 각 토큰은 처리 작업에 필요한 특정 양의 연산 능력에 해당합니다. 소비되는 토큰의 총 수는 데이터 생성, 모델 미세 조정 또는 추론의 규모에 직접적인 영향을 미칩니다. 이 지표는 당사의 과금 시스템의 기초가 되며, 사용자는 이를 통해 사용한 컴퓨팅 리소스에 따라 비용을 모니터링하고 관리할 수 있습니다.

합성 데이터 생성(SDG)

출력 토큰(SYN-DATA-TOKEN)은 전체 입력 분류 체계에서 서비스가 생성한 데이터의 양을 기준으로 계산됩니다. 이 텍스트는 Hugging Face 의 토큰화 라이브러리를 사용하여 Mistral 티처 모델에 대한 토큰화 정보를 바탕으로 토큰화됩니다.

모델 정렬 훈련

입력 토큰(MODEL-TRAIN-TOKEN)은 모델 정렬 훈련을 위해 시스템에 입력된 데이터의 양과, 지식 손실 없이 정확도를 높이는 데 사용되는 Granite 의 기본 지식을 바탕으로 계산됩니다. 사용되는 기초 지식 덕분에 최소한의 비용만 듭니다.

모델을 이용한 추론

추론 비용은 모델별로 입력 토큰과 출력 토큰에 대해 각각 별도로 계산됩니다. 입력 토큰은 모델에 전송된 프롬프트나 쿼리를 나타내며, 출력 토큰은 모델이 생성한 응답을 나타냅니다. 각 모델은 크기와 계산 요구 사항에 따라 고유한 가격 구조를 가지고 있습니다.

모델을 훈련하는 동안 비용 정보를 어떻게 확인하고 추적할 수 있나요?

1. Red Hat AI 추론 에서 어떤 작업을 실행하기 전에, 비용 산정 도구를 사용하여 예상 비용이 얼마일지 파악할 수 있습니다.

2. 분류 체계를 업로드하세요

3. 데이터 생성 세부 설정을 지정할 때는 작업을 시작하기 전에 예상 비용을 확인하십시오.

4. 데이터가 생성된 후에는 해당 데이터 생성 내역의 상세 정보에서 예상 출력 토큰 수를 확인할 수도 있습니다.

5. 교육 작업의 세부 사항을 설정할 때는 작업을 시작하기 전에 예상 비용을 확인하십시오.

6. 작업이 완료되면 ‘청구 및 사용 내역’에서 실제 비용을 확인할 수 있습니다. Red Hat AI 추론 와 IBM Cloud® Object Storage 저장소로 사용되는 서비스의 비용을 모두 확인할 수 있습니다.

실패한 작업에 대해서도 요금이 청구되나요?

실패한 작업에 대해서는 요금이 청구되지 않습니다. 성공적으로 완료된 작업과 사용자가 취소한 작업 모두 요금이 청구되지만, 사용자가 취소한 작업의 경우 완료된 처리량에 따라 일할 계산됩니다.