Künstliche Intelligenz in GREYHOUND
Ob beim Übersetzen von Mails, der Erkennung von Absichten, der Klassifizierung von Daten oder Chatbots: Künstliche Intelligenz kann heute bereits an vielen Stellen im Arbeitsalltag helfen. Ab Version 5.5.203 build 3545 verfügt GREYHOUND über eine DSGVO-konforme, “hauseigene” KI sowie für alle, die das gesamte Weltwissen nutzen & in natürlicher Sprache kommunizieren (lassen) wollen, auch eine optionale Anbindung an OpenAI (ChatGPT). In diesem Handbuch-Artikel ist beschrieben, welche Komponenten nötig sind, um die künstliche Intelligent in GREYHOUND nutzen zu können, wie sie konfiguriert wird und wie sich die KI im Arbeitsalltag nutzen lässt.
Beispielhafter Chat-Verlauf im GREYHOUND Webchat mit der angebundenen KI “ChatGPT”.
Notwendige Komponenten für KI
Um GREYHOUND KI-fähig zu machen, sind zwingend folgende Komponenten nötig:
- GREYHOUND in der Version 5.5.203 build 3545 oder neuer
- Modul “GREYHOUND KI-Paket (BETA)“
Sowie optional, bei gewünschter Anbindung von ChatGPT / OpenAI:
- Addon „GREYHOUND Connect für OpenAI (BETA)“ für GREYHOUND
- OpenAI API
Nötige Module dem Vertrag hinzubuchen
Um die KI in GREYHOUND nutzen zu können, ist im GREYHOUND Control Center (GCC) das sogenannte “GREYHOUND KI-Paket (BETA)” dem bestehenden Vertrag hinzu zu buchen:
- Nach dem Login oben im Menü zu Verträge > V-123456789-0 > Produkte bearbeiten navigieren.
- Hier das benötigte GREYHOUND KI-Paket anhaken und die Änderungen prüfen sowie übernehmen.
Sollte das KI-Paket in der Vertragsverwaltung nicht zur Auswahl stehen, ist bitte unser Kundenservice zu kontaktieren.
- Wer zusätzlich und optional OpenAI / ChatGPT an GREYHOUND anbinden will, muss zudem das Addon “GREYHOUND Connect für OpenAI (BETA)” im GREYHOUND Control Center buchen. Das Vorgehen ist wie oben beschrieben.
Hinweis für Eigenbetriebler
- Kunden im Individualbetrieb müssen die Verwendung des gebuchten Addons zusätzlich im GREYHOUND Admin aktivieren. Außerdem sind die Funktionen des neuen Addons erst nach einem Neustart des GREYHOUND Clients verfügbar.
- Kunden im überwachten Eigenbetrieb müssen sicherstellen, dass Port 9443 in der Firewall wie hier beschrieben eingehend und ausgehend freigegeben ist.
Notwendige Server-Konfiguration
Um die künstliche Intelligenz in GREYHOUND zu aktivieren, ist eine Einstellung global im Server nötig. Wie bzw. wo die richtige Stellschraube zu finden ist, das ist somit von der gewählten Betriebsart abhängig:
Hosting
Hosting-Kunden loggen sich bitte im GCC ein und navigieren sich dort oben im Menü zu Verträge > V-123456789-0 > Hosting-Paket. Auf dieser Seite auf den Button „Einstellungen“ klicken:
Anschließend ganz unten scrollen, um auf den Button „Systemeinstellungen“ zu klicken. Auf der Seite, die sich dann öffnet, den Part zum Thema „Intelligente Klassifizierung“ finden.
Die Standard-Einstellungen sind wie folgt:
Überwachter Eigenbetrieb
Kunden im überwachten Eigenbetrieb loggen sich bitte im GCC ein und navigieren sich dort oben im Menü zu Verträge > V-123456789-0 > Eigene Server. Auf dieser Seite auf den grünen Namen des Servers klicken und anschließend auf den Button „Einstellungen“:
Anschließend ganz unten scrollen, um auf den Button „Systemeinstellungen“ zu klicken. Auf der Seite, die sich dann öffnet, den Part zum Thema „Intelligente Klassifizierung“ finden.
Die Standard-Einstellungen sind identisch mit denen auf dem obigen Screenshot im Abschnitt Hosting.
Individualbetrieb
Kunden im Individualbetrieb nehmen die Änderungen bitte direkt auf dem Server vor:
Datenschutzhinweise
Hinsichtlich des Datenschutzes ist zu unterscheiden zwischen dem Einsatz der in GREYHOUND integrierten KI und der Anbindung von OpenAI. Erstere ist DSGVO-konform, bei OpenAI / ChatGPT ist Vorsicht geboten:
- Die in GREYHOUND integrierte künstliche Intelligenz ist DSGVO-konform. Wer das GREYHOUND Hosting nutzt, für den gilt: Alle Daten verbleiben ausschließlich auf dem dedizierten Server des Kunden – es findet keine Konsolidierung der Daten aller Anwender durch uns, GREYHOUND, statt. Jeder Kunde kocht quasi sein eigenes Süppchen – mit allen Vor- und Nachteilen, die damit einhergehen. Die durch die KI-generierten Daten verlassen also nicht den Server des Kunden und sind genauso geschützt durch Zugriffe von Außen, wie alle anderen Daten, die in GREYHOUND liegen, auch. Für Kunden im Eigenbetrieb gilt: Die gesamte Hoheit der Daten liegt beim Anwender selbst. Ebenso die Verantwortung, die damit einhergeht.
- Wer OpenAI (ChatGPT) an GREYHOUND anbinden will, der muss wissen: OpenAI selbst erfasst erstmal per se keine personenbezogenen Daten – es sei denn, der Nutzer gibt diese ausdrücklich freiwillig ein. Aber natürlich speichert OpenAI die Daten, die Anwender eingeben, um Antworten zu generieren. Das ist ja der Sinn dieser KI – sie sammelt und konsolidiert alle Daten, die sie kriegen kann, um daraus zu lernen. Alles, was über diesen Kanal rein- oder rausgeht, landet also auf US-Servern und wird in irgendeiner Form weiterverarbeitet. Die Übertragung vom GREYHOUND Server zum OpenAI-Server erfolgt dabei SSL-verschlüsselt. Personenbezogene oder andere vertrauliche Daten sollten dennoch keinesfalls in ChatGPT / OpenAI einfließen! Vor der Anbindung ist es zwingend nötig, sich mit der Privacy Policy von OpenAI vertraut zu machen und individuell abzuwägen, ob ein DSGVO-konformer Einsatz möglich ist und wenn ja, unter welchen Voraussetzungen. Als Stichworte seien hier zu nennen: Drittlandübermittlung; Informationspflichten; Auftragsverarbeitungsvertrag und Transfer-Impact-Assessment; Grundsatz der Datenrichtigkeit; Unterscheidung von Trainingsdaten & Betriebsdaten sowie Rechtsgrundlage für die Verarbeitung – natürlich können wir an dieser Stelle nicht rechtlich im Detail auf alle Punkte eingehen.
Hinweis: Wir können an dieser Stelle keine (datenschutz-)rechtliche Beratung für unsere Kunden leisten.
ChatGPT via OpenAI API anbinden
GREYHOUND unterstützt auch die Einbindung von KI-unterstützter Antwortgenerierung auf Basis von OpenAI GPT3. So lassen sich per KI vollautomatisch Textantworten auf Anfragen via Chat oder Mail generieren – in Sekundenschnelle und erstaunlich passend.
Addon “GREYHOUND Connect für OpenAI” buchen
Um ChatGPT in GREYHOUND nutzen zu können, ist das Addon “GREYHOUND Connect für OpenAI” nötig. Wie dieses zu buchen ist, kann weiter oben nachgelesen werden.
OpenAI Account anlegen
Um die OpenAI API anzubinden, ist auf dieser Seite ein neuer Account zu erstellen (falls nicht schon vorhanden): https://openai.com/api/
Nach dem Login kann man auf „View API Keys“ klicken, um über den Button „Create new scret key“ einen API-Schlüssel zu erstellen, der nötig ist, um GREYHOUND und OpenAI zu verbinden. Dieser Schlüssel ist nun unbedingt sicher aufbewahren – man kann diesen später nicht mehr abrufen! Am besten behält man ihn griffbereit, denn der muss gleich in den GREYHOUND Servereinstellungen hinterlegt werden.
Tipp: Weiter oben links im Menü gibt es den Punkt „Billing“. Hier muss noch der Subscription Plan geändert werden – denn standardmäßig ist ein neu erstellter Zugang ein kostenloser Zugang. Um die API nutzen zu können, ist allerdings ein „Paid Plan“ nötig. Deshalb muss der Account nun einmal umgestellt werden in einen Bezahlaccount und unter „Payment methods“ muss eine Kreditkarte hinterlegt werden. Bei ChatGPT bzw. OpenAI zahlt man nach Verbrauch. Um keine unerwartet hohe Rechnung zu erhalten, ist es ratsam, sogenannte „Usage Limits“ zu definieren.
API-Daten im Server hinterlegen
Anschließend können die API-Daten in GREYHOUND im Server wie folgt hinterlegt werden:
- Hosting-Kunden loggen sich bitte im GCC ein und navigieren sich dort oben im Menü zu Verträge > V-123456789-0 > Hosting-Paket. Auf dieser Seite auf den Button „Einstellungen“ klicken. Anschließend ganz unten scrollen, um auf den Button „Systemeinstellungen“ zu klicken. Auf der Seite, die sich dann öffnet, ganz nach unten bis zum Part „Erweiterte KI“ scrollen.
- Kunden im überwachten Eigenbetrieb loggen sich bitte im GCC ein und navigieren sich dort oben im Menü zu Verträge > V-123456789-0 > Eigene Server. Auf dieser Seite auf den grünen Namen des Servers klicken und anschließend auf den Button „Einstellungen“. Anschließend ganz unten scrollen, um auf den Button „Systemeinstellungen“ zu klicken. Auf der Seite, die sich dann öffnet, ganz nach unten bis zum Part „Erweiterte KI“ scrollen.
- Kunden im Individualbetrieb nehmen die Änderungen bitte direkt auf dem Server vor.
Um ChatGPT an GREYHOUND anzubinden, ist nun hier der individuelle API-Key sowie die „Organization“ aus OpenAI einzutragen.
Der Wert “Maximale Anzahl an Ergebnistokens” steht standardmäßig auf 256 und muss i.d.R. nicht angepasst werden. Er legt fest, wie viele Tokens pro Prompt (= Abfrage) höchstens verwendet werden sollen. Ein Token entspricht dabei ungefähr einem Wort, aber dies hängt immer vom Anwendungsfall ab. Will man komplexe Anfragen an die KI stellen oder erwartet als Antwort nicht bloß den Textumfang einer klassischen Mail, sondern beispielsweise einen mehrseitigen Fachartikel, dann muss dieser Wert also ggfs. höher gesetzt werden. Aber Achtung: Mehr Tokens = Höhere Preise bei OpenAI! Es lohnt sich also, den Wert so gering wie möglich zu halten.
Die erforderlichen Rechte: Profile
Für GREYHOUND Operatoren
Unter Einstellungen > Profile sind für den GREYHOUND Operator und/oder diejenigen anderen Profile, deren Mitglieder die Künstliche Intelligenz in GREYHOUND konfigurieren können sollen, folgende Rechte zu erteilen:
- Intelligente Klassifizierung verwenden
- Intelligente Klassifizierung trainieren*
- Text-Klassifikatoren bearbeiten*
* Achtung: Diese Rechte dürfen nur ausgewählte und entsprechend ausgebildete Personen bekommen, die wissen, was sie tun! Für normale Anwender unbedingt den Haken nur bei „Intelligente Klassifizierung verwenden“ setzen.
Für GREYHOUND Anwender
Für alle, die lediglich automatische Textvorschläge von der KI generieren können sollen, ist das folgende Recht nötig:
- Intelligente Klassifizierung verwenden
KI-Antwortvorschlag
Die gesamte Kundenkommunikation durch die KI automatisieren, sodass keinerlei menschliches Personal mehr möglich ist? Ein Szenario, das einige herbeisehnen und andere fürchten.
Wir können dazu sagen: Wenn man die KI die gesamte Kommunikation übernehmen ließe, würde diese alles Mögliche behaupten – die dahinterliegenden Prozesse würden aber überhaupt nicht stimmen! So unbegrenzt die Möglichkeiten auch erscheinen – die KI ersetzt derzeit (noch?) keine echte Manpower. Warum? Das verdeutlich das unten stehende Beispiel.
Wenn man das Addon “GREYHOUND Connect für OpenAI” gebucht und die API wie hier beschrieben angebunden hat, taucht bei allen Nachrichten-Elementtypen in der Beantwortung der Button “KI-Antwortvorschlag” auf. Nutzt man diese Funktion, dann analysiert OpenAI den Text, erkennt die Absicht des Absenders und liefert einen passenden Mail-Antworttext – je nachdem , ob man “Persönliche Antwort” oder “Geschäftliche Antwort” gewählt hat, fällt die Formulierung entsprechend anders aus.
Im Praxiseinsatz kann das wie folgt aussehen – in diesem Beispiel geht es um einen Reiseführer, den der Kunde bestellt hat, aber stornieren möchte, weil seine Reisepläne sich geändert haben:
Innerhalb weniger Sekunden und mit nur zwei Klicks lässt sich folgende Mail-Antwort durch die KI mit Anbindung an OpenAI vorformulieren:
Erstaunlich passend, oder? Aber anhand dieses Beispiels wird auch deutlich, warum es keinen Sinn ergibt, die KI solche Anfragen vollautomatisch ohne menschliches Zutun beantworten zu lassen. Denn der Kunde würde nun die Information bekommen, dass der bestellte Reiseführer storniert worden ist, aber das entspricht ja überhaupt nicht der Wahrheit! Vielleicht werden auch die dahinter liegenden Prozesse irgendwann komplett KI-gesteuert möglich sein – heute gilt: Formulierungshilfe, ja. Aber der menschliche Verstand, der die nötigen Stellschrauben im Hintergrund dreht und beispielweise auf die Warenwirtschaft zugreift, ist noch unerlässlich.
Wer die “Magie” der KI nutzen und gleichzeitig die Kontrolle behalten will, sollte also statt einer Vollautomation in der Mail-Beantwortung durch die KI (die durchaus möglich ist) also lieber die Formulierungshilfe durch den “KI-Antwortvorschlag” und checkt die Antwort vor dem Absenden…
Nötige Benutzerdefinierte Felder
Einige KI-Funktionen im Messenger-Umfeld sind abhängig vom erkannten Gesprächsinhalt oder der Absicht. Oder sie wollen Werte an den GREYHOUND Client via E-Mail weitergeben zwecks Kontaktaufnahme eines Chat-Partners. Für die genannten Zwecke sind einige benutzerdefinierte Felder erforderlich, die im Folgenden beschrieben sind.
Sollte die folgenden benutzerdefinierten Felder nicht standardmäßig bereits angelegt sein, weil man schon länger GREYHOUND-User ist, dann sollten sie manuell angelegt werden:
Dafür bitte zu Einstellungen > Benutzerdefinierte Felder navigieren und dort auf den Button „Neues Feld erstellen“ klicken, um alle der nachfolgenden Felder vom Typ String für den Elementtyp „Messenger Nachricht“ anzulegen:
Klassifikatoren: Der Lernalgorithmus
Sind die nötigen Rechte im Profil (wie hier beschrieben) gesetzt, kann der GREYHOUND Operator unter Einstellungen > Text-Klassifikatoren die KI individuell konfigurieren. Um verstehen zu können, was genau da eigentlich passiert, wird es in diesem Kapitel etwas fachspezifisch – aber keine Sorge, wir haben das KI-Basiswissen versucht, so kurz und verständlich wie möglich zu gestalten. Generell ist nur wichtig zu wissen, dass Klassifikatoren dazu genutzt werden, um Datenmengen in verschiedene Kategorien aufzuteilen. Bei einer Spam-Erkennung gibt es zwei Kategorien: Spam vs. Kein-Spam. Im Arbeitsalltag kann es zig verschiedene Anwendungsfälle geben, z. B.: Um welche Art von Dokument handelt es sich: Rechnung, Vertrag oder Kündigung? Um welche Art von Mail handelt es sich: eBay Statusnachricht, Reklamation, Produktanfrage oder oder oder? Welche Kategorien es gibt und welche Werte überhaupt “klassifiziert” werden sollen, dass lässt sich individuell steuern.
Was sind Klassifikatoren?
Unter Klassifikatoren versteht man eine spezielle Art von Maschinellen Lernalgorithmen, mit denen man Daten in mehrere Kategorien einteilen kann. Sie werden häufig in der Künstlichen Intelligenz eingesetzt, um komplexe Datenmuster zu erkennen und zu klassifizieren. Sie sind besonders nützlich, wenn es darum geht, komplexe Probleme zu lösen oder Vorhersagen über Daten zu treffen.
In GREYHOUND stehen drei verschiedene Verfahren zur Auswahl, die beide der Analyse und Generierung von Text dienen: 1) „Support Vector Machine“, das Wahrscheinlichkeitsmodell 2) „Logic Regression“ und die “3) Vektor Ähnlichkeitssuche”.
- Logistische Regression basiert auf Wahrscheinlichkeitsergebnissen. Es wird verwendet, um Vorhersagen über die Wahrscheinlichkeit eines bestimmten Ereignisses zu machen.
- Die Grundidee des Support Vector Klassifikators ist es, Muster zu erkennen. Zwischen den erkannten Mustern versuchen SVK immer bessere Trennlinien zu finden, um eine immer bessere Treffsicherheit bei Absichten und darauf passenden Antwort zu erzielen.
- Die Vektor Ähnlichkeitssuche ist optimal, um gewichtete unscharfe Textsuchen in natürlicher Sprache durchführen zu können. Sol heißen: Dieses Modell ist geeignet, um in einem Datenraum nach dem ähnlichsten Textelement zu suchen.
Um zu verstehen, was das ganze überhaupt soll, werden im Folgenden die beiden Text-Klassifikatoren erläutert, die im Standard mit GREYHOUND ausgeliefert werden, wenn man die oben beschriebenen Vertragskomponenten gebucht hat: “Absicht erkennen” und “Textsprache“.
Text-Klassifikator: Absicht erkennen
Der Text-Klassifikator „Absicht erkennen“ versucht, die Intention einer Kundenanfrage zu erkennen, also herauszufinden: Welche Absicht hat das Gegenüber? Will er wissen, wo sein Paket ist? Will er etwas stornieren? Das Prinzip hier ist Folgendes: GREYHOUND versucht zu erkennen, welche Intention hinter der Anfrage steckt und kann dann, sofern er eine erkannt hat, entsprechende passende Antwort-Vorschläge in Textform generieren.
Im Feld Trainingsdaten kann man sehen, welche Absichten es gibt. Die Absicht ist gefolgt von einem Doppelpunkt. Dahinter folgen typische Textfragmente, die auf diese Absicht hindeuten. Beispielsweise können die Stichwörter „Preismodell“, „preislich“ oder „Preis“ auf die Absicht „Preis“ hindeuten – der Kunde will etwas zum Preis erfahren.
Die Trainingsdaten lassen sich ganz einfach erweitern oder anpassen. Sinnvoll ist bei Verwendung dieser Funktion, die Trainingsdaten um weitere Absichten zu erweitern, die für das eigene Unternehmen relevant sind.
Text-Klassifikator: Textsprache
Der Klassifikator Textsprache ist in der Lage, die Sprache einer Kundenanfrage zu erkennen. Via Regelsystem kann man diese Information dann in ein benutzerdefiniertes Feld schreiben lassen. Eine Funktion, die bereits unzählige GREYHOUND Anwender seit Jahren erfolgreich nutzen.
Pro Sprache ist es hierbei sinnvoll, eine Zeile zu verwenden. Auf das Sprachkürzel, z. B. „DE“, muss ein Doppelpunkt folgen und dahinter müssen typische deutsche Wörter folgen. Dabei geht es nicht um Akademikersprache, sondern Wörter, die in der jeweiligen Sprache besonders oft auftauchen, also beispielwiese: der, die, das, es, sind, ist etc. In der Mail-Kommunikation ebenfalls typisch: sehr, geehrte, grüße, anbei. Die Listen können an die eigenen Bedürfnisse ergänzt werden. Eine weitere Sprache lässt sich ganz einfach ergänzen, indem sie unten in der neuen Zeile im gleichen Schema erweitert wird.
Über die Klassifikatoren ist ein Anlernen der KI auch möglich unabhängig von real existierenden Daten / Elementen in GREYHOUND. Man kann die KI einfach über den Reiter „Trainingsdaten“ mit beliebigen Daten “füttern”.
Zur Veranschaulichung – Die nötige Regel zur automatischen Ermittlung der Textsprache sieht ohne KI in GREYHOUND so aus:
Dank der KI ist heute nur noch ein einziger Regelknoten nötig: „Intelligente Textklassifizierung“. Die Regel, die dasselbe tut, sieht nun so aus:
Eigene Klassifikatoren bauen
Um einen eigenen Klassifikator zu bauen, geht man (in Kurzform) wie folgt vor:
- Unter Einstellungen > Text-Klassifikatoren auf „Neuen Klassifikator erstellen“ klicken.
- Modell wählen: 1) Das Wahrscheinlichkeitsmodell „Support Vector Machine“, 2) „Logic Regression“ oder “3) Vektor Ähnlichkeitssuche” (siehe oben)
- Datenfeld festlegen: Wo sollen die Ergebnisse der Klassifikation “hingeschrieben werden”? Zur Auswahl stehen ein benutzerdefiniertes Feld, das dediziert bestimmt werden kann, oder aber ein Thema, eine Gruppe, eine Kennzeichnung oder ein Benutzer. Ebenso kann hier “Keines” gewählt werden.
- Klassen definieren und Beispielwerte liefern. Die Syntax dabei ist wie folgt: Alles vor dem Semikolon ist die Klasse, danach folgen Textdaten, also Beispielwerte, welche diese Klasse repräsentieren.
- Den Klassifikator über den Reiter „Trainingsdaten“ mit beliebigen Daten “füttern”.
- Mit “Ok” speichern.
- Klassifikator erneut öffnen und auf den Button „Modell trainieren“ klicken. Die Klassifikatoren werden ausschließlich manuell trainiert.
- Prüfergebnisse checken: Klickt man auf „Modell prüfen“, dann sieht man, wie gut das Ergebnis ist. Eine „Accuracy“ von 100 Prozent ist unrealistisch; ab 80 Prozent ist das Ergebnis super. Für den „FI-Score“ gilt: Je höher der Wert, desto besser die Klasse, die man definiert hat. Hinweis: Die beiden Werte über dem FI-Score können vernachlässigt werden.
- Eine Regel bauen, welche die Werte sinnvoll nutzt: Hat man zum Beispiel einen Klassifikator zur Themenanalyse erstellt, dann kann nun mit dem Regelknoten “Intelligente Textklassifizierung” als Datenfeld “Thema” definiert werden, sodass vollautomatisch das Thema ermittelt und auch in GREYHOUND gesetzt wird.
Wir belassen es an der Stelle mit dieser Tiefe an Informationen – für die meisten GREYHOUND-Nutzer wird das Thema “Eigene Klassifikatoren” ohnehin nicht relevant sein, da sie eine Menge an IT- und mathematischen Kenntnissen voraussetzt.
Tipp
Ähnlich wie auch bei den Regeln in GREYHOUND gilt auch hier:1) Von grob nach fein vorgehen.
2) Nicht zu viel in einen Klassifikator packen, sondern mehrere Text-Klassifikatoren bauen.Also zum Beispiel im ersten Schritt den Versuch machen, die Absicht zu erkennen: „Frage zum Produkt“, „Reklamation“, „Lieferstatus“ oder „Sonstiges“. Dieser Wert kann via Regel in ein benutzerdefiniertes Feld geschrieben werden. Im zweiten Schritt könnte ein weiterer Klassifikator alle Anfragen aus dem Bereich „Frage zu Produkt“ scannen und zuordnen, welcher Shop gemeint ist (=Gruppenzuordnung). Ebenso könnte ein dritter Klassifikator die Textsprache automatisch erkennen, sodass die Anfrage durch Schreiben des Wertes in ein benutzerdefiniertes Feld direkt im richtigen Filter zur Bearbeitung landet.
KI-Regelknoten im Überblick
Die zur Verfügung stehenden Regelknoten sind davon abhängig, ob “nur” die GREYHOUND interne KI verwendet wird oder auch das OpenAI-Addon.
GREYHOUND interne KI-Regelknoten
Im Folgenden sind die KI-Regelknoten gelistet, die im GREYHOUND KI-Paket enthalten sind und die GREYHOUND interne KI abdecken.
Der Regelknoten „Intelligente Textklassifizierung“ basiert auf der GREYHOUND eigenen künstlichen Intelligenz. Er lässt sich nutzen, um den Text automatisch zu “durchleuchten” und entsprechendes Wissen ins dafür vorgesehene benutzerdefinierte Felder zu schreiben, z. B. die Textsprache:
- Für die Verwendung des Regelknotens ist ein Klassifikator nötig, der im ersten Dropdown-Feld ausgewählt werden muss. Die über den Klassifikator ermittelten Werte / Ergebnisse lassen sich dann über diesen Regelknoten in GREYHOUND überführen – und zwar an verschiedene Stellen, die im darunter liegenden Feld ausgewählt werden:
- Wohin sollen die von der KI ermittelten Ergebnisse geschrieben werden? Wie soll das Wissen angewendet werden? Wohin mit den Ergebnissen? Zur Auswahl hier stehen: Keines, Benutzerdefiniertes Feld, aber auch auf Gruppen, Benutzer, Themen und Kennzeichnungen. Beispiel: Wenn durch den Klassifikator “Textsprache” eine Sprache ermittelt werden konnte, soll die ermittelte Sprache (aka die Klasse) bitte in das dazugehörige benutzerdefinierte Feld “Textsprache” geschrieben werden. Wählt man hingegen Gruppe, Benutzer, Thema oder Kennzeichnung aus, dann werden diese Werte in GREYHOUND durch den Regelknoten automatisch “intelligent” vergeben.
- Wählt man “Benutzerdefiniertes Feld” aus, ist Feld Nr. überhaupt nur 3 aktiv, ansonsten ist es ausgegraut. Denn an dieser Stelle legt man das benutzerdefiniertes Feld fest, in das der von der KI ermittelte Ausgabewert geschrieben werden soll.
Elemente vom KI-Training auszuschließen, z. B. wenn aus Datenschutzgründen Personaldokumente nicht berücksichtigt werden sollen, ist entweder manuell im Einzelfall oder regelbasiert möglich:
- Um einzelne Elemente manuell vom GREYHOUND integrierten KI-Training auszuschließen, ist ein Rechtsklick auf das jeweilige Element zu machen und „Bearbeiten“ zu wählen, um dann anzuhaken, welche Rückgabewerte ausgeschlossen werden sollen – für einen kompletten Ausschluss sind also alle Haken zu setzen bei “KI Ausschluss”:
- Ein KI-Ausschluss mehrerer Elemente, z. B. aller Elemente mit dem Thema „Statusnachrichten“ per Regel, ist ebenfalls möglich. Dazu gibt es den Regelknoten „KI Ausschluß“. Auch hier kann man individuell festlegen, welche Rückgabekanäle ausgeschlossen werden sollen. Es gilt also: Alle Haken gesetzt = kompletter KI-Ausschluss.
Mit diesem Regelknoten lassen sich zum Beispiel alle eBay Statusnachrichten vom Training exkludieren. Das kann dann so aussehen:
Hinweis
Dieser Ausschluss gilt natürlich nicht für OpenAI, sondern nur für die GREYHOUND-eigene KI! Bei Nutzung von OpenAI / ChatGPT hat man (derzeit noch?) keinerlei Handhabe, was mit den Daten geschieht, die an das System übergeben werden.
OpenAI Connect Regelknoten
Die Nutzung des Addons “GREYHOUND Connect für ChatGPT” erweitert die KI in GREYHOUND mit minimalen Einrichtungsaufwand um das gesamte Weltwissen aus über 220 Billionen Datensätzen. Um dieses sinnvoll nutzen zu können und diverse Fragen und Problem beantworten zu können, stehen eine Reihe neuer Regelknoten zur Verfügung, die im Folgenden beschrieben sind:
Der Regelknoten „OpenAI Absicht erkennen“ versucht anhand des Gesprächsinhalts zu erkennen, was die Absicht des Absenders ist: Geht es um eine Reklamation? Will der Kunde wissen, wo sein Paket ist? Hat er Fragen zu einem Produkt?
Für den Regelknoten ist es nötig, ein benutzerdefiniertes Feld namens „Gesprächsinhalt“ zu haben. Falls dieses noch nicht vorhanden ist, sollte es wie hier beschrieben angelegt werden. Das benutzerdefinierte Feld ist im oberen Dropdrown Menü auszuwählen. Die Auswahl “text-davinci-003” bezieht sich auf das ChatGPT-Sprachmodell, das verwendet wird. Mehr dazu hier. Im Text-Eingabefeld unten gibt an durch Komma getrennt die Werte an, die im benutzerdefinierten Feld ausgegeben werden sollen als Ergebnis, also die vermeintlichen Absichten wie z. B. “Reklamation”, “Preise” oder “Produkt”.
Sinnvoll in einer Regel eingebaut kann dieser Regelknoten beispielsweise so aussehen:
Hier würde durch die ChatGPT-Anbindung versucht, die Absicht einer Anfrage zu erkennen und diese – sofern erkannt – in ein benutzerdefiniertes Feld “Gesprächsinhalt” zu schreiben. Kann keine Absicht erkannt werden und ist das benutzerdefiniertes Feld leer, dann soll bitte eine weitere Regel ausgeführt würden namens “Frage nicht verstanden”. Dieses Szenario ist vor allem bei Chat-Bots, also schnelllebiger Kommunikation, denkbar.
Der Regelknoten „OpenAI Thema erkennen“ versucht, anhand des Element-Inhalts automatisch zu erkennen, um welches Thema es sich bei der Anfrage handelt. Ist ein entsprechendes Thema in GREYHOUND vorhanden, wird dieses automatisch gesetzt, wenn dieser Regelknoten verwendet wird. Standardmäßig sind hier alle Themen erlaubt – es kann allerdings sinnvoll sein, diese z. B. abteilungsspezifisch einzuschränken.
Der Regelknoten Automatische OpenAI Antwort“ dient dem vollautomatischen Versenden von Antworten für E-Mails auf Basis von OpenAI. Oder anders gesagt: Mit diesem Regelknoten lassen sich KI-generierte Antworten für E-Mails generieren und versenden – Mailanfragen beantworten wie von Zauberhand.
Im Praxiseinsatz kann das dann wie auf dem Screenshot gezeigt aussehen: Wenn eine Mail eingeht, schicke bitte eine Antwort raus, die unter Einsatz der künstlichen Intelligenz in professionellem Sprachtonus auf Deutsch formuliert wurde, verwende dafür bitte die Vorlage „OpenAI Antwortvorlage [E-Mail]“. An dieser Stelle wäre ergänzend noch nötig, den Status des Elements auf „Beantwortet“ zu setzen.
ACHTUNG
Diese Funktion sollte natürlich niemals auf den gesamten Posteingang angewendet werden! Die Antworten der KI mögen zwar bereits gut formuliert sein, aber wenn ein Kunde fragt, ob er seine Bestellung stornieren kann, würde ChatGPT auf diese Anfrage nett formuliert antworten, dass man die Bestellung natürlich stornieren könne und er dies bereits soeben erledigt habe. Aber Moment mal – die Anfrage wäre dann aus dem Posteingang verschwunden, der Kunde würde denken, die Bestellung sei storniert, dabei würde das überhaupt nicht der Wahrheit entsprechen! Womöglich ist der Artikel sogar von der Reklamation ausgeschlossen – ChatGPT hat hierzu keinerlei Informationen und kann solche Anfrage entsprechend gar nicht korrekt beantworten. Die KI liefert lediglich die Antwort, von der zu erwarten ist, das das Gegenüber sie hören möchte. Wenn solche automatischen Antworten rausgesendet werden soll, dann lediglich in bestimmten Fällen zu bestimmten Zwecken!
Denkbar wäre zum Beispiel folgendes Szenario: Über eine vorherige Regel wird versucht, die Absicht von Anfragen zu erkennen (siehe Regelknoten “OpenAI Absicht erkennen”). Ist das benutzerdefinierte Feld “Gesprächsinhalt” nun gleich “Produktfrage: Kinderwagen“, dann sende über den Regelknoten “OpenAI Antwortvorlage [E-Mail]” eine Mail raus in einem bestimmten Design, die den Interessenten auf eine informative Landingpage über Kinderwagen weist, die tolle-kinderwagen.de lautet. Anschließend setze das Element in den Status “Beantwortet”.
Der Regelknoten “OpenAI Antwortvorlage [E-Mail]” sollte also eher als Möglichkeit für individuelle Autoantworten anstelle von anonymen Massenmails angesehen werden – keinesfalls als Alternative für echte Service-Mitarbeiter. Denn: Die KI wird alles mögliche behaupten, wenn der Tag lang ist – “Na klar kannst Du Dein gekauftes Haus stornieren, ich habe dies soeben für Dich erledigt...”
Mit dem Regelknoten „OpenAI Antwort (nur Messenger Nachrichten)“ hat man die Möglichkeit, einen Chat-Bot “zum Leben zu erwecken”.
Dieser Regelknoten ist nur anwendbar für Messenger-Nachrichten, wie der Name schon sagt. Die Konfiguration des Regelknotens ist denkbar einfach: Im oberen Feld wird das gewünschte Sprachmodell ausgewählt (mehr dazu hier) und im Freitext-Feld darunter wird die sogenannte Prompt, also die Anweisung eingeben, die ChatGPT mitgegeben wird. Hier sind Anweisungen an das System selbst (z. B. “Du bist ein hilfreicher, freundlicher und geduldiger Service Assistent, der Deutsch und Englisch spricht“), aber auch direkte Ausgaben möglich, die der Chat-Bot “sagen” soll (z. B. “Hi, ich bin Bo, der Chat-Bot von GREYHOUND. Wie kann ich Dir heute helfen?“).
Einmal eingerichtet, kann der ChatBot so mit Kunden via Messenger-Nachricht kommunizieren und dabei auf das sogenannte Weltwissen, das OpenAI gesammelt hat, zurückgreifen, sodass er sogar Wissensfragen wie “Was ist die Hauptstadt von Frankreich?” problemlos beantworten kann.
Im Praxiseinsatz ist es sinnvoll, den Chat-Bot um einen sogenannten Human Takeover zu erweitern, der immer dann Tragen kommt, wenn der Chat-Bot die Anfrage des Gegenübers einmal nicht verstanden hat. In dem Fall könnte der Bot das Angebot machen, das Anliegen an einen ‘echten’ Service-Mitarbeiter weiterzugeben und hierfür die E-Mail-Adresse und/oder Telefonnummer sowie das gewünschte Anliegen des Chat-Partners abfragen und die getätigten Eingaben dann per E-Mail an eine definierte Mail-Adresse, z. B. service@musterfirma, zu senden, sodass ein zu bearbeitendes Element offen im Kundenservice-Filter landet, das dann von Kundenservice-Mitarbeitern aus Fleisch und Blut bearbeitet werden kann.
Mit dem Regelknoten “OpenAI Antwort mit Kontext (nur Messenger Nachricht)” ist eine Verknüpfung von bestehenden, benutzerdefinierten, kontextrelevanten Daten und dem OpenAI-Sprachmodell möglich. Er erlaubt es, kontextsensitiv über benutzerspezifische Themen intelligent zu “sprechen”.
Dieser Regelknoten ist, wie der Name schon sagt, nur im Chat, also bei Messenger-Nachrichten anwendbar und sorgt dafür, dass der Chat-Bot “sinnvolle” Gespräche führen kann, weil er in der Lage ist, den Gesprächskontext zu erhalten und somit Folgefragen stellen oder Bezug auf voran Geschriebenes zu nehmen kann.
Zusätzlich zu dem in bereits GREYHOUND bestehenden Regelknoten für die DMS-Belegdatenanalyse ist es bei Nutzung der OpenAI-API auch möglich, selbiges über eine KI zu lösen. Hierfür gibt es den Regelknoten „OpenAI Belegtypklassifizierung“. Dieser versucht bei allen Dokumenten herauszufinden, um welchen Belegtyp es sich handelt, also z. B. eine Rechnung, eine Kündigung, eine Gutschrift oder vieles mehr, und diesen Wert dann auch entsprechend in GREYHOUND zu setzen.
Erste Tests zeigen, dass die Erkennung von Dokumenten und Daten durch OpenAI erstaunlich gut ist! Selbst kleine, typische Fehler in der Texterkennung (0 statt O, Worttrennungen durch Umbrüche, Nicht-Erkennung einzelner Buchstaben etc.) werden erstaunlicherweise zuverlässig und klug “glatt gebügelt”.
Zusätzlich zu dem in GREYHOUND bestehenden Regelknoten “Dokument analysieren” ist es bei Nutzung der OpenAI-API auch möglich, selbiges über eine KI zu lösen. Hierfür gibt es den Regelknoten “OpenAI Dokument analysieren“. Bei diesem kann im oberen Dropdown-Menü ausgewählt werden, welche Felder durchsucht und gesetzt werden sollen. Im Feld darunter kann der Grenzwert festgelegt werden sollen – 100 würde bedeuten, dass nur bei 100 prozentiger Sicherheit, dass es sich um eine IBAN handelt, diese auch in das benutzerdefinierte Feld geschrieben wird (als Beispiel).
Erste Tests zeigen, dass die Erkennung von Dokumenten und Daten durch OpenAI erstaunlich gut ist! Selbst kleine, typische Fehler in der Texterkennung (0 statt O, Worttrennungen durch Umbrüche, Nicht-Erkennung einzelner Buchstaben etc.) werden erstaunlicherweise zuverlässig und klug “glatt gebügelt”.
FAQ
Der Importfilter ist bei der Erstellung von eigenen Klassifikatoren relevant. Anstatt manuell Daten zum Anlernen der KI einzufügen, ist es auch möglich, einen Filter in GREYHOUND anzulegen bzw. einen bestehenden Filter zu nutzen, der genau die Datenmenge enthält, die man klassifizieren will. Um das zu tun, ist im Bereich “Importfilter” der entsprechende Filter auszuwählen und den Icon rechts zum Importieren zu klicken. Wenn das dazugehörige Datenfeld „Thema“ ausgewählt ist, dann werden nun alle Themen der Elemente aus dem Importfilter in den Klassifikator übernommen – jeweils im bekannten Schema “Klassifikator” getrennt vom Semikolon gefolgt von Beispieldaten.
Achtung: Es ist immer vorher zu prüfen, ob die Datenmenge „sauber“ ist. Ähnlich wie beim Spamfilter kann man durch eine Datenmenge, die Fehler enthält, die KI nämlich ansonsten auch falsch trainieren.
Der Screenshot zeigt ein Beispiel, bei dem anhand des benutzerdefinierten Feldes “Textsprache” im Filter “Kundenservice” gesucht wurde:
Es ist möglich, einzelne Elemente manuell vom GREYHOUND integrierten KI-Training auszuschließen. Dazu ist ein Rechtsklick auf das jeweilige Element zu machen und „Bearbeiten“ zu wählen:
Hinweis: Dieser Ausschluss gilt nicht für OpenAI, sondern nur für die GREYHOUND-eigene KI.
Ein KI-Ausschluss mehrerer Elemente, z. B. aller Elemente mit dem Thema „Statusnachrichten“ per Regel, ist ebenfalls möglich. Dazu gibt es den Regelknoten „KI Ausschluß“:
Im GREYHOUND Server lässt sich einstellen, ob und wie oft die künstliche Intelligenz „angetriggert“ werden soll, zu lernen. Standardmäßig lernt die GREYHOUND-interne KI alle 7 Tage neu. Wo man diese Konfiguration findet, ist je nach Betriebsart unterschiedlich, wie hier beschrieben.
Welcher Wert hier richtig ist, lässt sich nicht pauschal beantworten. Ähnlich wie beim Lernen für eine Abschlussprüfung kann es einen Punkt geben, an dem der Schüler einfach genug gelernt hat – das Ergebnis wird nicht besser, wenn er noch mehr lernt. Ebenso wäre es ziemlich schmerzhaft, die Erkenntnis, dass die Herdplatte heiß ist, jeden Tag neu erlangen zu wollen – von Intelligenz könnte man da wohl nicht sprechen 😉
So ähnlich ist es auch mit der KI: Möglichst oft und viel zu lernen führt nicht unbedingt zu den die besten Ergebnissen, auch wenn man das vielleicht zunächst annehmen würde Zumal der Wissensstand sich ja womöglich gar nicht erheblich geändert hat und ein erneutes Anlernen somit unnötig Ressourcen verbrauchen würde. Zu selten führt definitiv irgendwann dazu, dass das Wissen veraltet. Auch uns fehlen an der Stelle Langzeiterfahrungen, dafür ist die KI-Technologie schlichtweg noch zu jung – einmal die Woche ist also ein Standardwert, den es zu beobachten gilt. Wer mag, kann gerne mit diesem Wert „herumspielen“ und uns an den Erfahrungen teilhaben lassen.
Soll (vorerst) überhaupt kein erneutes Training stattfinden, kann man den Haken bei “Zeitgesteuertes Training aktivieren” einfach entfernen. Über den Wert “Elementalter für Training” lässt sich bei Bedarf zudem steuern, wie alt ein Element sein in Tagen sein muss, damit es vom Training berücksichtigt wird.
Diese Informationen beziehen sich ausschließlich auf die GREYHOUND-eigene KI – was OpenAI hinsichtlich der Daten und des Trainings macht, liegt außerhalb unseres Einfluss- und Kenntnisbereichs.