Translation
TranslationTraducción con LLM Auto-alojado

Traducción con LLM Auto-alojado

Inyecta un LLM auto-alojado (por ejemplo: mediante Ollama) como proveedor de traducción en la directiva @strTranslate, para traducir el valor de un campo a cualquier idioma deseado.

Descripción

Hace que un LLM auto-alojado esté disponible como proveedor de traducción en la directiva @strTranslate.

Añade la directiva @strTranslate a cualquier campo de tipo String, para traducirlo al idioma deseado.

Por ejemplo, esta consulta traduce los campos title y content de la entrada del inglés al francés usando tu LLM auto-alojado:

{
  posts {
    title @strTranslate(
      from: "en",
      to: "fr",
      provider: self_hosted_llm
    )
    
    content @strTranslate(
      from: "en",
      to: "fr",
      provider: self_hosted_llm
    )
  }
}

Autorización

Si estás alojando el LLM en tu propio servidor, no necesitarás la API key.

Si usas tu LLM auto-alojado en la nube (por ejemplo: al usar Ollama Cloud), puede que necesites proporcionar una API key, mediante la pestaña Plugin Management > Self-Hosted LLM Translation en la página de Ajustes.

Luego sigue uno de los métodos de abajo para introducir el valor.

Por Ajustes

Introduce la API key en los inputs correspondientes en la página de Ajustes, y haz clic en "Save Changes (All)":

Estableciendo la API key
Estableciendo la API key

En wp-config.php

Añade la constante GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY en wp-config.php:

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY', '{your API key}' );

Por variable de entorno

Define la variable de entorno SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY.

Configuración del LLM

Debes configurar los siguientes valores:

  • Endpoint URL: URL del endpoint HTTP para tu modelo de LLM auto-alojado. Por ejemplo:
    • http://localhost:11434/v1/chat/completions al usar formato ChatGPT y alojar el modelo LLM en tu servidor usando Ollama
    • http://localhost:11434/v1/messages al usar formato Claude y alojar el modelo LLM en tu servidor usando Ollama
    • https://ollama.com/v1/chat/completions al usar formato ChatGPT y Ollama Cloud
    • https://ollama.com/v1/messages al usar formato Claude y Ollama Cloud
  • Compatible with API endpoint from: Con qué proveedor de servicio de IA es compatible tu endpoint personalizado, con las opciones ChatGPT y Claude
  • Model: Nombre del modelo LLM auto-alojado a usar al traducir contenido.
  • Max tokens: Número máximo de tokens que el modelo puede generar en la respuesta. Mantenlo vacío para no establecer un límite para ChatGPT, o usa el valor por defecto para Claude.

Sigue uno de los métodos de abajo para introducir los valores.

Por Ajustes

Introduce el modelo en el input correspondiente en la página de Ajustes, y haz clic en "Save Changes (All)":

Estableciendo la configuración del LLM
Estableciendo la configuración del LLM

En wp-config.php

Añade constantes en wp-config.php:

  • GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL
  • GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER
  • GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL
  • GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL', 'http://localhost:11434/v1/chat/completions' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER', 'chatgpt' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL', 'translategemma' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS', '128000' );

Por variable de entorno

Define las variables de entorno:

  • SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL
  • SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER
  • SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL
  • SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS

Prompt de traducción

Puedes personalizar el prompt a pasar al LLM auto-alojado para ejecutar la traducción.

Sigue uno de los métodos de abajo para introducir el valor.

Por Ajustes

Introduce el "System message" y "Prompt template" en los inputs correspondientes en la página de Ajustes, y haz clic en "Save Changes (All)":

Estableciendo el prompt para SelfHostedLLM
Estableciendo el prompt para SelfHostedLLM

En wp-config.php

Añade la constante GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE en wp-config.php:

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE', 'Please translate strings from {$sourceLang} to {$targetLang}' );

Por variable de entorno

Define la variable de entorno SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE.