Zum Hauptinhalt springen

Pipes

Pipes sind eigenständige Funktionen, die Eingaben verarbeiten und Antworten generieren, möglicherweise durch Aufruf eines oder mehrerer LLMs oder externer Dienste, bevor sie Ergebnisse an den Benutzer zurückgeben. Beispiele für potenzielle Aktionen, die Sie mit Pipes durchführen können, sind Retrieval Augmented Generation (RAG), das Senden von Anfragen an Nicht-OpenAI-LLM-Anbieter (wie Anthropic, Azure OpenAI oder Google) oder das Ausführen von Funktionen direkt in Ihrer Weboberfläche. Pipes können als Funktion oder auf einem Pipelines-Server gehostet werden. Eine Liste von Beispielen wird im Pipelines-Repository gepflegt. Der allgemeine Workflow ist im Bild unten zu sehen.

Pipe Workflow

In Ihrer Weboberfläche definierte Pipes erscheinen als neues Modell mit der Bezeichnung "Extern". Ein Beispiel für zwei Pipe-Modelle, Database RAG Pipeline und DOOM, ist unten neben zwei selbst gehosteten Modellen zu sehen.

Pipe Models in WebUI