Saltar al contenido principal

Proveedores

NVIDIA

NVIDIA proporciona una API compatible con OpenAI en https://integrate.api.nvidia.com/v1 para los modelos Nemotron y NeMo. Autentícate con una clave API de NVIDIA NGC.

Configuración CLI

Exporta la clave una vez, luego ejecuta la incorporación y establece un modelo de NVIDIA:

export NVIDIA_API_KEY="nvapi-..."
openclaw onboard --auth-choice skip
openclaw models set nvidia/nvidia/llama-3.1-nemotron-70b-instruct

Si aún pasas --token, recuerda que queda en el historial del shell y en la salida de ps; prefiere la variable de entorno cuando sea posible.

Fragmento de configuración

{
env: { NVIDIA_API_KEY: "nvapi-..." },
models: {
providers: {
nvidia: {
baseUrl: "https://integrate.api.nvidia.com/v1",
api: "openai-completions",
},
},
},
agents: {
defaults: {
model: { primary: "nvidia/nvidia/llama-3.1-nemotron-70b-instruct" },
},
},
}

IDs de modelo

  • nvidia/llama-3.1-nemotron-70b-instruct (predeterminado)
  • meta/llama-3.3-70b-instruct
  • nvidia/mistral-nemo-minitron-8b-8k-instruct

Notas

  • Endpoint /v1 compatible con OpenAI; usa una clave API de NVIDIA NGC.
  • El proveedor se habilita automáticamente cuando NVIDIA_API_KEY está configurada; usa valores predeterminados estáticos (ventana de contexto de 131,072 tokens, 4,096 tokens máximos).

MistralOllama