So nutzen Sie Nvidias neuen Chat mit dem RTX AI Bot

Der erste Schritt besteht darin, Chat with RTX herunterzuladen und zu konfigurieren, was tatsächlich etwas komplizierter ist, als Sie vielleicht erwarten. Sie müssen lediglich das Installationsprogramm ausführen. Das Installationsprogramm ist jedoch fehleranfällig und Sie müssen Mindestsystemanforderungen erfüllen.

Sie benötigen eine RTX-GPU der 40er- oder 30er-Serie mit mindestens 8 GB VRAM sowie 16 GB System-RAM, 100 GB Festplattenspeicher und Windows 11.

Der große Vorteil von Chat mit RTX besteht darin, dass Sie Ihre eigenen Daten verwenden können. Es nutzt die sogenannte Augmented Recall Generation (RAG), um Dokumente zu durchsuchen und Ihnen auf der Grundlage dieser Dokumente Antworten zu geben. Anstatt irgendeine Frage zu beantworten, ist Chat mit RTX gut darin, spezifische Fragen zu einem bestimmten Datensatz zu beantworten.

Nvidia stellt einige Beispieldaten zur Verfügung, damit Sie das Tool ausprobieren können. Sie müssen jedoch Ihre eigenen Daten hinzufügen, um das volle Potenzial des Chats mit RTX auszuschöpfen.

Schritt 1: Erstellen Sie einen Ordner, in dem Sie Ihren Datensatz speichern. Notieren Sie sich den Speicherort, da Sie Chat with RTX auf diesen Ordner verweisen müssen. Derzeit unterstützt Chat with RTX .txt-, .pdf- und .doc-Dateien.

Schritt 2: Öffnen Sie den Chat mit RTX und wählen Sie das Stiftsymbol aus Datensatz zu teilen.

Schritt 3: Navigieren Sie zu dem Ordner, in dem Sie Ihre Daten gespeichert haben, und wählen Sie ihn aus.

Schritt 4: Wählen Sie im Chat mit RTX das Aktualisierungssymbol aus Datensatz zu teilen. Dadurch wird das Modell basierend auf den neuen Daten neu erstellt. Sie müssen das Formular jedes Mal aktualisieren, wenn Sie dem Ordner neue Daten hinzufügen oder einen anderen Datensatz auswählen.

Schritt 5: Nachdem Sie Ihre Daten hinzugefügt haben, wählen Sie im Abschnitt „KI-Modell“ das Modell aus, das Sie verwenden möchten. Chat mit RTX umfasst Llama 2 und Mistral, wobei letzteres die Standardoption ist. Probieren Sie beides aus, aber für neue Benutzer ist Mistral das Beste.

Schritt 6: Von dort aus können Sie beginnen, Fragen zu stellen. Nvidia weist darauf hin, dass beim Chatten mit der RTX der Kontext nicht berücksichtigt wird, sodass vergangene Antworten keinen Einfluss auf zukünftige Antworten haben. Darüber hinaus führen spezifische Fragen im Allgemeinen zu besseren Ergebnissen als allgemeine Fragen. Abschließend weist Nvidia darauf hin, dass die Funktion „Chat mit RTX“ manchmal falsche Daten anzeigt, wenn eine Antwort gegeben wird. Denken Sie also daran.

Schritt 7: Wenn Chat mit RTX nicht mehr funktioniert und ein Neustart das Problem nicht löst, können Sie laut Nvidia die Datei Preferences.json löschen, um das Problem zu beheben. Dieser befindet sich in C:\Benutzer\\AppData\Local\NVIDIA\ChatWithRTX\RAG\trt-llm-rag-windows-main\config\preferences.json.

Zusätzlich zu Ihren eigenen Daten können Sie den RTX-Chat mit YouTube-Videos nutzen. Das KI-Modell basiert auf Text aus einem YouTube-Video, daher gibt es einige natürliche Einschränkungen.

Erstens sieht das KI-Modell nichts, was nicht im Text enthalten ist. Man kann zum Beispiel nicht fragen, wie jemand in einem Video aussieht. Darüber hinaus sind YouTube-Skripte nicht immer perfekt. Bei Videos mit unordentlichem Text erhalten Sie möglicherweise nicht die gewünschten Antworten.

Schritt 1: Öffnen Sie den Chat mit RTX und rein Datensatz Abschnitt, wählen Sie das Dropdown-Menü aus und wählen Sie Youtube.

Schritt 2: Fügen Sie im Feld unten einen Link zu einem YouTube-Video oder einer YouTube-Playlist ein. Neben diesem Feld finden Sie eine Zahl, die die maximale Anzahl an Texten angibt, die Sie herunterladen möchten.

Schritt 3: Wählen Sie die Download-Schaltfläche neben diesem Feld und warten Sie, bis der Download der Skripte abgeschlossen ist. Wenn Sie fertig sind, klicken Sie auf die Schaltfläche „Aktualisieren“.

Schritt 4: Sobald Sie mit dem Text fertig sind, können Sie genauso chatten wie mit Ihren eigenen Daten. Spezifische Fragen sind besser als allgemeine Fragen. Wenn Sie über mehrere Videos sprechen, wird in „Chat mit RTX“ möglicherweise das Lesezeichen übersehen, wenn Ihre Frage zu allgemein ist.

Schritt 5: Wenn Sie über einen neuen Stapel Videos chatten möchten, müssen Sie die alten manuell löschen. Neben der Schaltfläche „Aktualisieren“ finden Sie eine Schaltfläche zum Öffnen eines Explorer-Fensters. Gehen Sie dorthin und löschen Sie die Texte, wenn Sie über andere Videos chatten möchten.

Empfehlungen der Redaktion