🛠️ Tools & Functions

Stellen Sie sich vor, Sie sind gerade auf Open WebUI gestoßen oder nutzen es bereits, sind aber mit all den Diskussionen über „Tools“, „Funktionen“ und „Pipelines“ etwas überfordert. Klingt alles nach mysteriösem Technik-Jargon, oder? Keine Sorge! Lassen Sie uns das Schritt für Schritt, ganz klar aufschlüsseln. Am Ende dieses Artikels werden Sie ein solides Verständnis dafür haben, was diese Begriffe bedeuten, wie sie funktionieren und warum es gar nicht so kompliziert ist, wie es scheint.

TL;DR

• Tools erweitern die Fähigkeiten von LLMs und ermöglichen es ihnen, reale Echtzeitdaten wie Wetter, Aktienkurse usw. zu sammeln.
• Funktionen erweitern die Fähigkeiten von Open WebUI selbst und ermöglichen es Ihnen, neue KI-Modellunterstützung (wie Anthropic oder Vertex AI) hinzuzufügen oder die Benutzerfreundlichkeit zu verbessern (wie das Erstellen benutzerdefinierter Schaltflächen oder Filter).
• Pipelines sind eher für fortgeschrittene Benutzer gedacht, die Open WebUI-Funktionen in API-kompatible Workflows umwandeln möchten – hauptsächlich zur Auslagerung von schweren Verarbeitungen.

Der Einstieg in Tools und Funktionen ist einfach, da alles bereits im Kernsystem integriert ist! Sie klicken einfach auf einen Button und importieren diese Features direkt aus der Community, sodass keine Programmierung oder tiefgreifende technische Arbeit erforderlich ist.

Was sind „Tools“ und „Funktionen“?

Denken wir zunächst an Open WebUI als eine „Basis“-Software, die viele Aufgaben im Zusammenhang mit der Nutzung von Large Language Models (LLMs) erledigen kann. Aber manchmal benötigen Sie zusätzliche Funktionen oder Fähigkeiten, die nicht out of the box verfügbar sind – hier kommen Tools und Funktionen ins Spiel.

Tools

Tools sind ein spannendes Feature, da sie es LLMs ermöglichen, mehr als nur Text zu verarbeiten. Sie bieten externe Fähigkeiten, die LLMs allein nicht hätten.

Beispiel für ein Tool:

Stellen Sie sich vor, Sie chatten mit einem LLM und möchten, dass es Ihnen in Echtzeit die aktuellsten Wetterberichte oder Aktienkurse liefert. Normalerweise kann das LLM das nicht, da es nur auf vortrainiertem Wissen basiert. Hier kommen Tools ins Spiel!

• Tools sind wie Plugins, die das LLM nutzen kann, um reale Echtzeitdaten zu sammeln. Mit einem aktivierten „Wetter-Tool“ kann das Modell also ins Internet gehen, Live-Wetterdaten abrufen und diese in Ihrem Gespräch anzeigen.

Tools sind im Wesentlichen Fähigkeiten, die Sie Ihrer KI geben, um ihr bei der Interaktion mit der Außenwelt zu helfen. Durch das Hinzufügen dieser Tools kann das LLM nützliche Informationen „abrufen“ oder spezialisierte Aufgaben basierend auf dem Kontext des Gesprächs ausführen.

Beispiele für Tools (erweitern die LLM-Fähigkeiten):

1. Echtzeit-Wettervorhersagen 🛰️.
2. Aktienkurs-Abrufer 📈.
3. Flugverfolgungsinformationen ✈️.

Funktionen

Während Tools von der KI während eines Gesprächs verwendet werden, helfen Funktionen dabei, die Fähigkeiten von Open WebUI selbst zu erweitern oder anzupassen. Stellen Sie sich vor, Tools sind wie das Hinzufügen neuer Zutaten zu einem Gericht, und Funktionen sind der Prozess, mit dem Sie die Küche steuern! 🚪

Lassen Sie uns das aufschlüsseln:

• Funktionen geben Ihnen die Möglichkeit, Features innerhalb von Open WebUI selbst zu ändern oder hinzuzufügen.
• Sie geben der LLM keine neuen Fähigkeiten, sondern erweitern stattdessen die Oberfläche, das Verhalten oder die Logik der Plattform selbst!

Zum Beispiel möchten Sie vielleicht

1. Ein neues KI-Modell wie Anthropic zu WebUI hinzufügen.
2. Eine benutzerdefinierte Schaltfläche in Ihrer Symbolleiste erstellen, die einen häufig verwendeten Befehl ausführt.
3. Eine bessere Filterfunktion implementieren, die unangemessene oder spammy Nachrichten aus dem eingehenden Text abfängt.

Ohne Funktionen wären all diese Dinge außer Reichweite. Aber mit diesem Framework in Open WebUI können Sie diese Funktionen problemlos erweitern!

Wo man Funktionen findet und verwaltet

Funktionen befinden sich nicht am selben Ort wie Tools.

• Tools beziehen sich auf den Modellzugriff und befinden sich in Ihren Workspace-Tabs (wo Sie Modelle, Prompts und Wissenssammlungen hinzufügen). Sie können von Benutzern hinzugefügt werden, wenn ihnen die Berechtigung erteilt wird.
• Funktionen beziehen sich auf die Plattformanpassung und befinden sich im Admin-Panel.
  Sie werden nur von Administratoren konfiguriert und verwaltet, die die Plattformoberfläche oder das Verhalten für alle Benutzer erweitern möchten.

Zusammenfassung der Unterschiede:

• Tools sind Dinge, die es LLMs ermöglichen, mehr zu tun als ihre Standardfähigkeiten (wie das Abrufen von Live-Infos oder das Ausführen benutzerdefinierter Aufgaben basierend auf externen Daten).
• Funktionen helfen der WebUI selbst, mehr zu tun, wie z. B. das Hinzufügen neuer KI-Modelle oder das Erstellen intelligenterer Datenfilter.

Beide sind als plug-in-fähig konzipiert, was bedeutet, dass Sie sie einfach mit einem Klick aus der Community in Ihr System importieren können! 🎉 Sie müssen keine Stunden mit Programmierung oder Basteln verbringen.

Was sind Pipelines?

Und dann haben wir noch Pipelines... Hier wird es technisch – aber verzweifeln Sie nicht.

Pipelines sind Teil einer Initiative von Open WebUI, die darauf abzielt, jeden Teil der WebUI mit OpenAIs API-System interoperabel zu machen. Im Wesentlichen erweitern sie das, was sowohl Tools als auch Funktionen bereits können, aber jetzt mit noch mehr Flexibilität. Sie ermöglichen es Ihnen, Features in OpenAI-API-kompatible Formate zu verwandeln. 🧠

Aber hier ist die Sache...

Sie werden Pipelines wahrscheinlich nicht benötigen, es sei denn, Sie arbeiten mit super-fortgeschrittenen Setups.

• Für wen sind Pipelines? Typischerweise für Experten oder Personen, die kompliziertere Anwendungsfälle betreiben.
• Wann benötigen Sie sie? Wenn Sie versuchen, die Verarbeitung von Ihrer primären Open WebUI-Instanz auf eine andere Maschine auszulagern (damit Ihr primäres System nicht überlastet wird).

In den meisten Fällen müssen Sie sich als Anfänger oder sogar als fortgeschrittener Benutzer keine Gedanken über Pipelines machen. Konzentrieren Sie sich einfach darauf, die Vorteile zu genießen, die Tools und Funktionen für Ihre Open WebUI-Erfahrung bieten!

Möchten Sie es ausprobieren? 🚀

Springen Sie in Open WebUI, gehen Sie zum Community-Bereich und versuchen Sie, ein Tool wie Wetteraktualisierungen zu importieren oder vielleicht eine neue Funktion zur Symbolleiste mit einer Funktion hinzuzufügen. Das Erkunden dieser Tools wird Ihnen zeigen, wie leistungsfähig und flexibel Open WebUI sein kann!

🌟 Es gibt immer mehr zu lernen, also bleiben Sie neugierig und experimentieren Sie weiter!