Übersetzung mit selbst gehostetem LLM

Binde ein selbst gehostetes LLM (z.B. über Ollama) als Übersetzungsanbieter in die Direktive @strTranslate ein, um den Wert eines Feldes in eine beliebige Zielsprache zu übersetzen.

Beschreibung

Mach ein selbst gehostetes LLM als Übersetzungsanbieter in der Direktive @strTranslate verfügbar.

Füge die Direktive @strTranslate zu einem beliebigen Feld vom Typ String hinzu, um es in die gewünschte Sprache zu übersetzen.

Diese query übersetzt zum Beispiel die Felder title und content eines Beitrags mit deinem selbst gehosteten LLM vom Englischen ins Französische:

{
  posts {
    title @strTranslate(
      from: "en",
      to: "fr",
      provider: self_hosted_llm
    )
    
    content @strTranslate(
      from: "en",
      to: "fr",
      provider: self_hosted_llm
    )
  }
}

Autorisierung

Wenn du das LLM auf deinem eigenen Server hostest, benötigst du keinen API-Schlüssel.

Wenn du dein selbst gehostetes LLM in der Cloud verwendest (z.B. mit Ollama Cloud), musst du möglicherweise einen API-Schlüssel angeben – über den Tab Plugin Management > Self-Hosted LLM Translation auf der Einstellungsseite.

Folge dann einer der unten beschriebenen Methoden, um den Wert einzugeben.

Über die Einstellungen

Gib den API-Schlüssel in die entsprechenden Felder auf der Einstellungsseite ein und klicke auf "Save Changes (All)":

In `wp-config.php`

Füge die Konstante GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY in wp-config.php hinzu:

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY', '{your API key}' );

Über eine Umgebungsvariable

Definiere die Umgebungsvariable SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY.

LLM-Konfiguration

Du musst die folgenden Werte konfigurieren:

Endpoint URL: HTTP-Endpunkt-URL für dein selbst gehostetes LLM-Modell. Zum Beispiel:
- http://localhost:11434/v1/chat/completions wenn du das ChatGPT-Format verwendest und das LLM-Modell mit Ollama auf deinem Server hostest
- http://localhost:11434/v1/messages wenn du das Claude-Format verwendest und das LLM-Modell mit Ollama auf deinem Server hostest
- https://ollama.com/v1/chat/completions wenn du das ChatGPT-Format und Ollama Cloud verwendest
- https://ollama.com/v1/messages wenn du das Claude-Format und Ollama Cloud verwendest
Compatible with API endpoint from: Mit welchem KI-Dienstanbieter dein benutzerdefinierter Endpunkt kompatibel ist – mit den Optionen ChatGPT und Claude
Model: Name des selbst gehosteten LLM-Modells, das beim Übersetzen von Inhalten verwendet werden soll.
Max tokens: Maximale Anzahl von Tokens, die das Modell in der Antwort generieren darf. Leer lassen, um kein Limit für ChatGPT festzulegen, oder den Standardwert für Claude verwenden.

Folge einer der unten beschriebenen Methoden, um die Werte einzugeben.

Über die Einstellungen

Gib das Modell in das entsprechende Feld auf der Einstellungsseite ein und klicke auf "Save Changes (All)":

In `wp-config.php`

Füge die Konstanten in wp-config.php hinzu:

GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL', 'http://localhost:11434/v1/chat/completions' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER', 'chatgpt' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL', 'translategemma' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS', '128000' );

Über Umgebungsvariablen

Definiere die Umgebungsvariablen:

SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL
SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER
SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL
SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE', 'Please translate strings from {$sourceLang} to {$targetLang}' );

Über eine Umgebungsvariable

Definiere die Umgebungsvariable SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE.