Viele Personen in meinem Umfeld nutzen täglich Chatbots wie Bard und ChatGPT. Das ist zwar sinnvoll, aber nicht ganz ungefährlich.
Ein Beispiel: ChatGPT hat in seinen Datenschutzbestimmungen festgelegt, dass alles, was du im Chatfenster eintippst, durch sie verarbeitet werden darf. Es kann also sein, dass «echte Menschen» deine Inhalte lesen.
Es gilt also: Keine persönlichen oder sensiblen Daten angeben!
Wer einen Chatbot doch nutzen möchte für das Schreiben von E-Mails und die Verarbeitung von nicht öffentlichen Daten, kann das tun, mit GPT4All. Das ist eine Software, die es dir ohne Coding-Kenntnisse ermöglicht, einen eignen Chatbot auf dem Computer zu installieren.
So funktioniert GPT4All
GPT4All ist eine Open-Source-Software, die bereitgestellt wird von Nomic AI. Das Programm gibts für Windows, Mac uns Ubuntu. Einmal installiert, lädt man sich ein Language Model herunter (also das, was schlussendlich die Verarbeitung ermöglicht) und schon ist man fertig:
Es stehen verschiedene LMs (Language Models) zur Verfügung. Manche sind grösser, manche kleiner.
Ich habe auf meinem M1-Macbook mal Wizard v1.1 installiert und dann den Test gemacht. Die Geschwindigkeit ist beeindruckend, wenn man bedenkt, dass alles komplett lokal läuft. Hier ein Video in Originalgeschwindigkeit:
Achtung: Es gibt LMs, die du über GPT4All installieren kannst, die dann trotzdem wieder über einen Server laufen und zum Beispiel bei OpenAI landen können. GPT4All warnt dich davor bei der Installation:
Wähle am besten ein LM, das diese Warnung nicht enthält.
Nutze deine eigenen Daten
Ganz spannend wird GPT4All in Kombination mit LocalDocs. LocalDocs ist ein GPT4All-Plugin, das den Chat mit deinen lokalen Dateien und Daten ermöglicht. So kannst du die komplette Leistung des LMs nutzen, um mit privaten Daten zu chatten, ohne dass die Daten deinen Computer verlassen.
Auch praktisch dabei: Wenn das LocalDocs-Plugin deine Dokumente zur Beantwortung einer Frage heranzieht, erscheinen die Quellenangaben unter der Antwort.
Auch hier gilt; Wenn du ein LM verwendest, das über einen Server läuft (siehe oben), werden deine Dateien möglicherweise bei OpenAI gespeichert.
Achtung zum zweiten: Auch mit LocalDocs kann der Chatbot halluzinieren! Inhalte also immer überprüfen.
Über mich
3 Kommentare
Tolle Idee, nur leider funktioniert das nicht wirklich. Egal, wie ich die Texte zur Verfügung stellen. Meist werden von 10 Seiten, nur die erste Seite und auch nur ein paar Zeilen „erfasst“. Auch die neueste Version Stand September 2024. Forscht man bei den Antworten nach, findet man raus, das nicht die eigenen Daten genommen werden. Auch wenn die Antworten sich gut lesen.
Dieses „Verkommen“, stelle ich auf vielen Webseiten fest, die nur noch per „KI“ gefüttert werden. Leider auch nicht gekennzeichnet.
Würde gerne Webseiten blocken, die so lieblos Will-viel-Geld-verdienen-und-ballere-Webseite-ungefiltert-mit-pseudoKI-Texten-voll erstellt sind.
Oder diese Nieschenseiten, die eigentlich nix Aussagen und Texte von anderen Seiten kopieren.
Übel, wie das Internet seit zwei Jahren verkommt und zugespammt wird….
Danke.
Wie könnte man GPT4ALL nutzen, als LernAssistent, um z.B. Lernthemen zu trainieren? Indem man Fragen gestellt bekommt, zu den vorhandenen Text-Dateien. Geht das? Falls ja, wie kann man das halluzinieren vermeiden, und sinnvolle „lernen“?
Herzlichen Dank, Liebe Grüße Alex
Die Idee ist sehr cool, Halluzinieren komplett vermeiden ist sehr schwierig.
Aber grundsätzlich sind Chatbots sicher was Cooles für die Bildungsbranche. Schau mal, was ich gerade gefunden habe: https://teachingresources.stanford.edu/resources/chatbot-as-a-teaching-tool/