KI-Chatbots mit aiaibot

Retrieval Augmented Generation (RAG)

Retrieval Augmented Generation wird verwendet, um Large Language Models, wie GPT, genauer zu machen. Die Verbindung von RAG mit GPT Sprachmodellen ermöglicht uns somit eine optimale Lösung.

1. Retrieval
Zu Beginn wird seitens aiaibot mithilfe spezieller Algorithmen und gesteuert durch Workflows eine gezielte Inhaltssuche in der Wissensdatenbank durchgeführt, welche auf der Anfrage des End-Users basiert. Diese Suche zielt darauf ab, relevante Texte zu identifizieren. Um die Suche nach Wissen zu ermöglichen, wird der verfügbare Content in unsere aiaibot Plattform geladen und in Vektoren umgewandelt (Embedding). Dadurch wird sichergestellt, dass das Sprachmodell auf inhaltlich passendes Wissen zugreifen kann.

2. Augmented
Diese ausgewählten Informationen werden dann an das GPT-Modell übergeben, damit es eine passende Antwort generiert.

3. Generation
Dabei sorgen wir dafür, dass die Antwort des Sprachmodells auf die spezifischen Inhalte abgestimmt ist und aktuelle und korrekte Antworten generiert werden.

RAG mit Tools

Eine erweiterte Version von RAG, bei der das System zusätzlich externe Tools nutzen kann, um Antworten zu verbessern oder spezifische Aufgaben zu erledigen.

Funktionsweise:
Neben der Suche in einer Wissensquelle kann das System auch Tools nutzen. Die zur Verfügung stehenden Tools, sind auf das Unternehmen abgestimmt. Üblicherweise werden per API verschiedene Funktionalitäten implementiert.

Beispiele möglicher Tools: 

• Abruf von aktuellen Informationen, z.B. Flugverbindungen
• Abruf und Aktualisierung von Kundeninformationen aus/in einem CRM.
• Versenden von E-Mails
• Erstellung von Tickets und Zuordnung
• Nutzen einer Suchmaschine

Praxisbeispiel:

Zum Beispiel kann ein/e Nutzer:in den Chatbot nach dem aktuellen Abo fragen. Das Abo kann dann aber direkt auch durch den Chatbot angepasst werden und eine Bestätigungsmail kann an den/die Nutzer:in versandt werden.

AI Agents

AI Agents sind autonome KI-Systeme, die komplexe Aufgaben durch eigenständiges Planen, Entscheiden und Ausführen erledigen können. Sie kombinieren oft RAG, Tool-Nutzung und andere Mechanismen, um mehrschrittige Prozesse durchzuführen.

Funktionsweise:

1. Die KI analysiert eine Anfrage und plant, welche Schritte erforderlich sind. Dabei kann die Problemstellung in Teilprobleme unterteilt werden.
2. Die KI plant jeweils selbstständig den nächsten Schritt und nutzt die zur Verfügung stehenden Tools.
3. Der mehrstufige Prozess wird von der KI solange ausgeführt, bis die Anfrage gelöst ist.
   
   

Praxisbeispiel : 

• Ein virtueller Assistent, der auf eine Anfrage hin automatisch Reisen plant und Dokumente erstellt/verschickt.
• E-Mail Automatisierung in einer Kundenservice Organisation