- Kann eine KI Zeichen zählen?
- Start der Serie: KI-Basics
- Einführung in die Geschichte künstlicher Intelligenz
- Von Halluzinationen und Vorurteilen: Wenn KI Dinge sieht, die gar nicht da sind
- AI Snake Oil: Warum vorhersehende KI vielleicht nur ein cleverer Trick ist
- Plagi-was? Erzeugen KIs Plagiate?
- Wie erkenne ich potenzielle Fehler in KI-gestützten Prozessen?
- Energiefresser oder Effizienzwunder? Die CO₂-Bilanz von KI
- Hochrisiko-Systeme gemäss EU-AI-Act
Ganz im Zeichen dieser KI-Reihe wurde dieser Text mit KI recherchiert (you.com) und geprüft (LanguageTool). Das Feature Image ist ebenfalls KI-generiert, ausgehend von einem Prompt, den ich über einen Custom Agent basierend auf diesem Text habe erstellen lassen.
Künstliche Intelligenz hat in den vergangenen Jahren beeindruckende Fortschritte gemacht – sie löst komplexe Probleme, schreibt Texte, erkennt Bilder und hilft in Bereichen wie Medizin, Justiz oder Unterhaltung. Aber bevor wir uns in grenzenloser Euphorie verlieren, sollten wir uns zwei besondere Probleme anschauen: Bias (Vorurteile) und Halluzinationen (das Erfinden von Fakten).
Was ist KI-Bias?
Bias ist das KI-Äquivalent zu dem einen Freund, der immer nur das hört, was er hören will. KIs lernen aus Daten, und wenn diese Daten Vorurteile, Ungenauigkeiten oder Ungleichheiten enthalten, übernimmt die KI diese unkritisch. Beispiele gefällig?
- Gesichtserkennungssysteme funktionieren oft schlechter bei Menschen mit dunkler Hautfarbe, weil sie überwiegend mit Daten von Menschen mit heller Hautfarbe trainiert wurden.
- Automatisierte Bewerbungssysteme können Frauen oder Minderheiten diskriminieren, wenn die Trainingsdaten frühere diskriminierende Entscheidungen widerspiegeln.
- Sprachmodelle wie GPT reproduzieren stereotype Annahmen, weil die Texte, die sie gelernt haben, aus dem Internet stammen – und na ja, das Internet ist eben das Internet.
Was sind KI-Halluzinationen?
Halluzinationen bei KIs sind nicht wie Tagträumen, sondern eher wie ein Roboter, der mit voller Überzeugung völligen Quatsch erzählt. Warum? Weil Sprachmodelle wie GPT auf Wahrscheinlichkeiten basieren. Sie wählen Wörter, die wahrscheinlich richtig klingen, aber nicht unbedingt wahr sind. Beispiele: historische Fakten erfinden, mathematische Berechnungen falsch darstellen oder einfach mal behaupten, dass Paris die Hauptstadt von Italien ist. Fairerweise muss man auch sagen, dass die KI-Hersteller ziemlich schnell auf solche Fake News reagieren und die Fehler beheben. Soweit mir ist, schlägt Google Gemini nicht mehr vor, dass man Leim unter den Käse mischen soll, damit er auf der Pizza hält.
Warum das wichtig ist
Bias und Halluzinationen sind nicht nur nervig, sondern können ernsthafte Konsequenzen haben – primär in sensiblen Bereichen wie Medizin, Recht oder Bildung. Verzerrte Algorithmen können Ungleichheiten verstärken, während halluzinierende KIs falsche Informationen verbreiten, die in der Praxis ziemlich problematisch sein können. Minority Report lässt grüssen. Obwohl es in dem Film keine künstlichen Wesen waren. Aber das Prinzip ist in etwa dasselbe.
Was tun?
Die gute Nachricht: Es gibt Wege, diese Probleme anzugehen. Die weniger gute Nachricht: Es erfordert Zeit, Mühe und viel kritisches Denken. Ansätze sind z. B.:
- Bessere Datenqualität: Repräsentative und vorurteilsfreie Trainingsdaten sind ein Muss.
- Transparenz: KI-Systeme sollten erklären können, wie sie zu ihren Entscheidungen kommen (Stichwort: Explainable AI).
- Regulierung: Klare Standards und Ethikrichtlinien helfen, Risiken zu minimieren.
- Menschliche Kontrolle: In kritischen Anwendungen sollte immer ein Mensch ein Auge auf die KI haben.
Fazit
Bias und Halluzinationen sind nicht die Schuld der KI – sie spiegeln eher die Schwächen des Menschen wider, der sie erschaffen hat. Aber solange wir uns dieser Probleme bewusst sind, können wir daran arbeiten, die Technologie besser und fairer zu machen.
Und seien wir ehrlich: Wenn man nur wissen will, wie alt Elon Musk ist oder welcher Beatles-Song die Charts dominierte, dann ist eine klassische Suchmaschine die beste Wahl. Aber wenn man einen langweiligen Meeting-Monolog in ein lesbares Protokoll verwandeln will? Dafür ist eine gut programmierte KI ein Geschenk der IT-Götter.
Über mich
