Saltar al contenido principal

Agente con modelo local

Usa TraceAgentClient con cualquier modelo local compatible con OpenAI, registra una herramienta y graba un único turno trazado.

Ejecutar​

Busca el script del modelo local en la carpeta examples/ del repositorio y ejecútalo con uv run. Antes, define las variables de abajo.

Variables de entorno​

VariableDescripción
TRACE_AGENT_PROXY_URLURL del proxy del modelo local
TRACE_AGENT_TEST_MODELNombre del modelo que se usará
TRACE_AGENT_PROXY_TIMEOUTTiempo de espera de la conexión

Cuándo usarlo​

Es una buena opción cuando quieres validar la conectividad con un modelo local y comprobar que TraceAgent puede capturar las llamadas a herramientas de un LLM alojado en local.

💬 Comentarios