Listado de modelos

Descubre qué modelos básicos están disponibles en tu proyecto y conoce sus capacidades, para que puedas utilizar el modelo más adecuado para tu caso de uso específico y optimizar aspectos como la calidad de la respuesta, la velocidad o el coste.

Antes de empezar

  • Crea una cuenta de IBM Cloud con pago por uso o por suscripción. No se admiten cuentas de prueba. Para obtener más información o actualizar tu cuenta, consulta Tipos de cuenta.

  • Crea un proyecto Red Hat AI Inference.

  • Asegúrate de tener el rol de Writer o superior en el servicio Red Hat AI Inference. Para obtener más información, consulta Gestión del acceso a IAM.

Antes de empezar

  • Crea una cuenta de IBM Cloud con pago por uso o por suscripción. No se admiten cuentas de prueba. Para obtener más información o actualizar tu cuenta, consulta Tipos de cuenta.

  • Crea un proyecto Red Hat AI Inference.

  • Asegúrate de tener el rol de Writer o superior en el servicio Red Hat AI Inference. Para obtener más información, consulta Gestión del acceso a IAM.

  • Autentícate en la API.

  • Consigue tu punto final de API. Todas las solicitudes de API utilizan el siguiente formato básico: URL:

    https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference

    Sustituye <project_id> por el ID de tu proyecto. Para encontrarlo, ve a Red Hat AI Inference projects y abre tu proyecto.

Listado de modelos mediante la consola

La consola ofrece un entorno interactivo en el que puedes experimentar con diferentes modelos, probar indicaciones y perfeccionar tus interacciones con la IA antes de integrarlas en tus aplicaciones.

El entorno de pruebas no admite incrustaciones. Utiliza la API para crear incrustaciones.

  1. En la consola, abre el servicio Red Hat AI Inference.
  2. Haga clic en Catálogo de modelos para explorar los modelos disponibles.

Listado de modelos mediante la API

El siguiente ejemplo muestra cómo enumerar modelos. Para obtener una lista completa de los parámetros disponibles, consulta OpenAI: List Models.

curl -L 'https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference/models' \
-H 'Accept: application/json' -H "Authorization: Bearer <bearer_token>"

from openai import OpenAI
client = OpenAI(
  api_key="<bearer_token>",
  base_url="https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference",
)
models = client.models.list()
print(models)

Si supports_embeddings está en true la respuesta del modelo, este se puede utilizar para crear representaciones.

Obtener un modelo por ID mediante la API

Consultar información detallada sobre un modelo concreto te ayuda a comprender sus características, capacidades y limitaciones antes de utilizarlo en tu aplicación.

El siguiente ejemplo muestra cómo obtener un modelo por ID. Para obtener una lista completa de los parámetros disponibles, consulta Recuperar modelo.

curl -L 'https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference/models/<model>' \
-H 'Accept: application/json' -H "Authorization: Bearer <bearer_token>"

from openai import OpenAI
client = OpenAI(
  api_key="<bearer_token>",
  base_url="https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference",
)
model = client.models.retrieve("<model>")  # for example, "granite-4-0-h-small"
print(model)

Si supports_embeddings está en true la respuesta del modelo, este se puede utilizar para crear representaciones.