Zum Hauptinhalt springen

Chats mit KI

Dieses Dokument ist ein schrittweises Tutorial für Anfänger. Es führt Sie durch den Prozess der Implementierung der KI-Chat-Funktionalität in Ihrem Casibase-Wissenssystem.

Einführung​

In den vorherigen Abschnitten haben wir Casdoor und Casibase bereitgestellt, Speicheranbieter, Modellanbieter und Embedding-Anbieter in Casibase integriert und einen Speicher hinzugefügt, um diese Anbieter zu nutzen.

Weitere Informationen zu Speichern finden Sie im Abschnitt Einen Speicher hinzufügen unserer vorherigen Dokumentation.

Jetzt implementieren wir die KI-Chat-Funktionalität in Casibase.

Schritt 1: Einen neuen Chat hinzufügen​

Klicken Sie auf die Schaltfläche Chats auf der Startseite und dann auf die Schaltfläche Neuer Chat, um einen Chat hinzuzufügen.

Casibase-Chats-hinzufügen

Schritt 2: Eine Nachricht senden​

Schreiben Sie eine Nachricht und klicken Sie zum Senden auf die Schaltfläche Senden.

Casibase-chats-davinci003

Schritt 3: Wissensdatenbank-Chat​

Darüber hinaus können Sie mit dem Chatbot in der Wissensdatenbank sprechen.

Der Wissensdatenbank-Chat hat einige Anforderungen:

  • Die Wissensdatenbank muss einen Speicher haben.
  • Der Speicher muss einen Modellanbieter haben.
  • Der Storage muss einen Embedding-Provider haben.
  • Der Speicher muss einen Speicheranbieter haben.
  • Der Speicheranbieter muss ein lesbares Dokument haben (z.B. Markdown-Datei, Docx-Datei und PDF-Datei).

Sobald Sie diese Anforderungen erfüllt haben, können Sie zur Seite Speicher zurückkehren und auf die Schaltfläche Vektoren aktualisieren klicken, um die Wissensdatenbank-Daten einzubetten.

Casibase-Speicher-Aktualisierungsschaltfläche

Während die Einbettung läuft, wird die Schaltfläche deaktiviert.

Nach Abschluss der Einbettung können Sie auf die Schaltfläche Vektoren in der Navigationsleiste klicken, um die Vektoren zu sehen.

Ergebnis:

Casibase-Vektoren-Aktualisierungsergebnis

Lassen Sie uns mit dem Chatbot in der Wissensdatenbank sprechen.

Casibase-Chats-Antwort-erhalten

Vergleich mit dem Ergebnis des Nicht-Wissensdatenbank-Chats:

Casibase-Chats-falsche-Antwort-Casdoor

Vorsicht

Die Einbettungsrate hängt mit zwei Faktoren zusammen:

  • Dokumente in der Wissensdatenbank:
    • Anzahl der Dokumente: Je mehr Dokumente, desto länger dauert die Einbettung.
    • Dokumentgröße: Je größer das Dokument, desto länger dauert die Einbettung.
  • Embedding-Anbieter:
    • API-Ratenbegrenzung: Je höher die API-Ratenbegrenzung, desto schneller ist die Einbettung.
    • API-Nebenläufigkeit: Je höher die API-Nebenläufigkeit, desto schneller ist die Einbettung.

Wenn Sie beispielsweise die OpenAI API als Embedding-Anbieter verwenden, hängt die Einbettungsrate mit der Ratenbegrenzung und Nebenläufigkeit der OpenAI API zusammen.

Fazit​

In diesem Leitfaden haben wir gelernt, wie man die KI-Chat-Funktionalität in Casibase implementiert.

Jetzt können Sie mit dem Chatbot in Casibase sprechen. Viel Spaß damit!

Weitere Informationen zu Casibase finden Sie im Abschnitt Kernkonzepte unserer Dokumentation.