Was KI wirklich kann – und was nicht
In Folge 2 hast du gelernt, wie du eine KI mit einem klaren Prompt ansprichst. Das ist der erste Schritt zu guten Antworten. Aber selbst der beste Prompt ändert nichts an einer zweiten Frage: Worauf kannst du dich bei der Antwort eigentlich verlassen? Diese Folge gibt dir realistische Erwartungen – damit die KI für dich nützlich wird, statt dich zu enttäuschen oder in trügerische Sicherheit zu wiegen.
Du kennst am Ende die größten Stärken der KI und ihre wichtigsten Grenzen – und weißt, warum man ihr nicht blind vertrauen darf.
KI ist ein mächtiges Werkzeug. Aber wie jedes Werkzeug hat es Dinge, die es gut kann – und solche, bei denen es sich leicht verheddert. Ein Hammer schlägt Nägel hervorragend ein – und ist für Schrauben das falsche Werkzeug. Mit KI ist es genauso: Wer weiß, wofür sie stark ist, arbeitet entspannt mit ihr. Und wer ihre Grenzen kennt, wird seltener enttäuscht – und lässt sich schwerer etwas Falsches einreden.
Was KI richtig gut kann
Kommen wir zuerst zur guten Nachricht: Vier Dinge gelingen heutigen KI-Assistenten erstaunlich zuverlässig. Die folgende Liste nennt sie mit kurzer Begründung:
- Formulieren und Umformen: Texte zusammenfassen, übersetzen, umschreiben, kürzen oder in einem anderen Ton schreiben. Sprache besteht aus wiederkehrenden Mustern – und genau solche Muster lernt eine KI besonders gut.
- Muster finden: In großen Mengen Text oder Daten auffällige Zusammenhänge, Ähnlichkeiten und Wiederholungen entdecken – zum Beispiel in Bewertungen, Notizen oder Tabellen.
- Wiederholende Aufgaben: Gleiche Arbeitsschritte schnell und ohne Ermüdung ausführen: zwanzig E-Mails im gleichen Stil, eine Liste in eine andere Form gebracht, viele kleine Textbausteine angepasst.
- Ideen liefern: Als Ideengeber für erste Entwürfe, Gliederungen, Geschenklisten oder Gegenargumente.
Kurz erklärt: Der gemeinsame Nenner ist Sprache – beziehungsweise klare, wiederkehrende Muster. So gut wie alles, was sich in Worte fassen lässt, kann ein Sprachmodell bearbeiten. Das ist seine größte Stärke und der Grund, warum es so vielseitig hilft.
Ausblick: Wie du diese Stärken in der Praxis ausschöpfst – etwa um E-Mails zu polieren, Berichte zu lektorieren oder seitenlange Texte auf den Punkt zusammenzufassen –, vertiefen wir ausführlich in Folge 06: Texte schreiben mit KI.
Wo KI an Grenzen stößt
Jetzt zur Kehrseite der Medaille. Gerade weil eine KI so flüssig formuliert, unterschätzt man leicht ihre Schwächen. Vier Grenzen solltest du von Anfang an kennen:
Halluzinationen: erfundene Wahrheiten
Eine KI erfindet manchmal Dinge, die plausibel klingen – und trotzdem falsch sind. Dafür hat sich der Fachbegriff Halluzination eingebürgert:
Halluzination
In einfacher Sprache: Wenn die KI flunkert – sie erfindet mit voller Überzeugung Dinge, die täuschend echt klingen, aber frei erfunden sind.
Eine Antwort einer KI, die überzeugend und grammatikalisch perfekt klingt, aber sachlich falsch oder frei erfunden ist – etwa ein nicht existierender Buchtitel, eine falsche Gesetzesstelle oder eine erfundene Jahreszahl. Da Sprachmodelle auf das Berechnen wahrscheinlicher Wortfolgen trainiert sind und keine echte Fakten-Datenbank abfragen, füllen sie Wissenslücken mitunter mit plausibel klingendem Unsinn.
Das kommt häufiger vor, als man denkt. Studien zählen: Chatbots erfinden in etwa 3 bis 27 von 100 Antworten etwas dazu. Bei sehr speziellen Rechtsfragen fielen in einer vielbeachteten Untersuchung sogar 58 bis 88 von 100 Antworten falsch oder erfunden aus. Am bekanntesten wurde ein Beispiel von Forschenden der Firma OpenAI: Sie fragten ein verbreitetes Chat-Programm nach dem Titel einer bestimmten Doktorarbeit – und bekamen bei drei Nachfragen drei verschiedene Antworten. Alle drei waren falsch. Nach dem Geburtstag derselben Person gefragt, nannte das Programm drei verschiedene Daten – wieder alle falsch.
Kein echtes Wissen: Sprache statt Erfahrung
Eine KI hat keine Augen, keine Hände, keine Erinnerungen. Sie erlebt die Welt ausschließlich als Text – und Text kann die Wirklichkeit nur annähern, nie vollständig einfangen. Beschreibe einen Apfel: Allein seine Oberfläche unter dem Mikroskop bräuchte Tausende von Wörtern. Deshalb kennt eine KI keine Wahrheit und keine Gefühle, sondern nur Muster aus ihren Trainingsdaten. Sie schreibt über Regen, ohne je nass geworden zu sein.
Voreingenommenheit: schief gelernte Sichtweisen
Liest eine KI überwiegend einseitige Daten, lernt sie einseitige Sichtweisen. In Daten aus dem Internet stecken unbewusst Vorurteile, Klischees und Lücken – zum Beispiel, wenn bestimmte Gruppen viel seltener vorkommen als andere.
Voreingenommenheit (Bias)
In einfacher Sprache: Wie ein Schüler, der für eine Prüfung nur ein einziges, einseitig gefärbtes Buch gelesen hat und dessen Vorurteile unkritisch übernimmt.
Eine systematische Verzerrung in den Antworten: Hat eine KI überwiegend einseitige Trainingsdaten aus dem Internet gelesen, übernimmt sie unbemerkt bestehende Vorurteile, gesellschaftliche Klischees oder unausgewogene Sichtweisen. (Wie Trainingsdaten erhoben, gefiltert und gewichtet werden, erfährst du ausführlich in Folge 05: Wie KI lernt – Daten und Training.)
Die KI übernimmt solche Verzerrungen aus ihren Daten und gibt sie in ihren Antworten wieder, ohne es zu merken. Deshalb ist bei sensiblen Themen wie Gesundheit, Recht oder Bewerbungen besondere Vorsicht geboten.
Wissens-Stichtag: gestern gestoppt
Jedes KI-Modell hat einen Wissens-Stichtag – den Zeitpunkt, bis zu dem es mit Inhalten trainiert wurde.
Wissens-Stichtag (Knowledge Cutoff)
In einfacher Sprache: Der Redaktionsschluss der KI – alles, was danach in der Welt geschah, hat sie während ihres Trainings nie gesehen.
Der feste Zeitpunkt, bis zu dem die Daten für das Training eines KI-Modells erfasst wurden. Geschehnisse nach diesem Stichtag kann das Grundmodell nicht kennen – es sei denn, es verfügt über eine integrierte Live-Websuche. (Welche aktuellen Werkzeuge das Internet in Echtzeit durchforsten können, erfährst du in Folge 11: KI-Werkzeuge und Apps im Überblick.)
Alles, was nach dem Stichtag in der Welt passiert, kennt die KI schlicht nicht. Manche Modelle dürfen live im Internet suchen und gleichen das aus – aber nur, wenn diese Suche eingeschaltet ist. Fragst du nach aktuellen Neuigkeiten, ohne dass die KI sucht, bekommst du den gestrigen Stand als Antwort.
Die folgende Grafik bringt den Kern dieser Folge in ein einziges Bild – die Waage zwischen den Stärken und den Grenzen:
Kurz erklärt: Links liegt, was der KI leichtfällt – rechts, wo sie sich verheddert. Beide Seiten gehören zusammen: Wer nur die linke Seite sieht, vertraut zu viel. Wer nur die rechte sieht, nutzt die Stärken gar nicht erst.
Warum KI-Fehler so überzeugend klingen
Warum merkt man Erfindungen nicht sofort? Weil die KI nicht stammelt, wenn sie unsicher ist. Sie formuliert ausnahmslos flüssig und freundlich – ob die Antwort stimmt oder nicht.
Ein Forschungsteam von OpenAI hat 2025 beschrieben, woher das kommt: KI-Modelle werden beim Training und in Tests fast nur auf „Treffer“ bewertet. Das ist wie bei einem Multiple-Choice-Test: Wer rät, kann Glück haben und einen Punkt bekommen. Wer ehrlich nichts ankreuzt, bekommt garantiert null Punkte. Weil Raten zählt und Zugeben nicht, lernen viele Modelle lieber zu raten – und das dann noch selbstbewusst.
Deshalb gilt der wichtigste Merksatz dieser Folge:
Die gefährlichste Eigenschaft von KI ist nicht, dass sie Fehler macht – sondern dass sie Fehler selbstsicher klingend präsentiert.
Gib der KI ausdrücklich die Erlaubnis, Wissenslücken ehrlich zuzugeben! Ergänze kritische Recherche-Prompts um den einfachen Zusatz: „Wenn du dir bei einem Fakt, einer Zahl oder einer Quelle nicht absolut sicher bist, antworte ehrlich: ‚Das weiß ich nicht‘, anstatt zu raten.“ Da Sprachmodelle darauf trainiert sind, dem Nutzer um jeden Preis eine Antwort zu liefern, bricht diese Klausel den Drang zum Raten und senkt Halluzinationen spürbar.
So bleibst du auf der sicheren Seite
Zum Glück brauchst du keine technischen Vorkenntnisse, um KI-Antworten sicher zu nutzen. Das folgende Diagramm zeigt einen einfachen Prüfweg für deine Fragen:
Kurz erklärt: Bei Gesundheit, Geld und Recht prüfst du grundsätzlich mit einer zweiten Quelle – egal wie überzeugend die Antwort klingt. Bei Alltagsfragen genügt ein kurzer Plausibilitätscheck, und sobald etwas komisch klingt, schlägst du ebenfalls nach.
Vertraue keiner KI blind. Prüfe wichtige Fakten, besonders bei Gesundheit, Geld und Recht. Eine KI ist ein Assistent und Brainstorming-Partner, kein Ersatz für deine eigene Urteilskraft. (Welche gravierenden Datenschutz- und Haftungsrisiken bei vertraulichen Daten, Geschäftsgeheimnissen oder Verträgen lauern, lernst du ausführlich in Folge 13: Datenschutz und Sicherheit mit KI.)
Übung und Merkhilfe
Mach heute drei kleine Übungen – jede dauert nur wenige Minuten:
- Frag deine KI nach einem Thema, das du gut kennst: dein Hobby, deinen Wohnort oder ein Buch, das du liebst. Lies die Antwort kritisch: Stimmt wirklich alles?
- Prüfe eine Aussage aus einer Antwort, die für dich zählt, kurz mit einer zweiten Quelle – einer seriösen Website, einem Buch oder einer Zeitung.
- Notiere dir kurz: Was hat die KI gut gemacht, wo hat sie sich geirrt?
In dieser Übung erlebst du den Unterschied zwischen verblüffendem Faktenwissen und trügerischen Halluzinationen am eigenen Leib – an einem Ort, an dem dir niemand etwas vormachen kann.
Aufgabe: Öffne deinen bevorzugten KI-Chat und tippe folgenden Prompt ein (ersetze den Platzhalter durch deinen eigenen Wohnort oder dein Heimatdorf):
Nenne mir die zehn bekanntesten Sehenswürdigkeiten, Museen oder historischen Orte in [DEIN WOHNORT] mit jeweils einem kurzen Erklärungssatz.- 1. Schritt (Prüfung): Lies die Liste aufmerksam durch. Welche Orte gibt es wirklich? Welche klingen nur plausibel, existieren aber gar nicht?
- 2. Schritt (Orts-Verwechslung prüfen): Gibt es Sehenswürdigkeiten, die eigentlich in einer Nachbarstadt oder einem gleichnamigen Ort in einem anderen Bundesland liegen?
- 3. Schritt (Das Enttarnungs-Nachhaken): Wähle einen Punkt aus, bei dem du zweifelst, und frage im selben Chat gezielt nach: „Gibt es dieses Museum an dieser Adresse wirklich oder hast du den Namen erfunden?“ Beobachte, wie die KI reagiert.
Musterlösung anzeigen (nach dem eigenen Versuch aufklappen)
Was bei diesem Test typischerweise passiert:
- Bei Großstädten (z. B. Köln, Hamburg, München): Die KI listet meist echte Top-Attraktionen auf (Dom, Speicherstadt, Marienplatz). Bei kleineren Details (z. B. Öffnungszeiten oder Eintrittspreisen) fängt sie jedoch oft an zu raten.
- Bei kleineren Städten und Dörfern: Hier treten Halluzinationen besonders deutlich zutage! Die KI erfindet gerne wohlklingende Einrichtungen wie das „Heimatmuseum Sankt Martin“, ein „Historisches Webereimuseum“ oder verlegt eine Kirche aus einem gleichnamigen Ort hunderte Kilometer weit zu dir.
- Beim Nachhaken: Konfrontierst du die KI mit der Frage „Bist du sicher, dass es das hier gibt?“, rudert sie fast immer sofort zurück: „Entschuldigung, da habe ich mich geirrt. Dieses Museum existiert dort tatsächlich nicht.“
Lerneffekt: Genau dieses wache Gespür brauchst du für deinen KI-Alltag. Du hast gelernt, dass flüssiges Formulieren nicht automatisch Wahrheit bedeutet.
Frag die KI ruhig auch nach ihrer Quelle. Aber Vorsicht: Auch Quellenangaben kann eine KI erfinden – erfundene Buchtitel und Gerichtsentscheidungen haben schon Profis in Schwierigkeiten gebracht. Eine Quelle ist erst dann echt, wenn du sie selbst unabhängig gefunden und geprüft hast.
Wissens-Check: Teste dein Wissen
Nachdem du die Lektion durchgearbeitet und den Deep Dive Podcast gehört hast: Wie gut kennst du die Stärken und Grenzen der KI? Teste dein Wissen in diesem interaktiven Quiz mit 10 Fragen:
Fazit
KI ist ein mächtiges Werkzeug: unschlagbar beim Formulieren, Mustererkennen und schnellen Umformen – und gleichzeitig ohne echtes Weltverständnis, fehleranfällig bei Fakten und an ihren Wissens-Stichtag gebunden. Ihre gefährlichste Eigenschaft ist nicht der Irrtum an sich, sondern dass sie Fehler mit vollendeter Selbstsicherheit vorträgt. Wer das weiß, nutzt ihre Stärken gelassen und prüft Wichtiges kurz mit einer zweiten Quelle nach. In der nächsten Folge widmen wir uns den zentralen Fachbegriffen wie Tokens, Kontextfenster und Parametern, damit du die Sprache der KI-Welt mühelos verstehst.
Weiter geht es mit Folge 4: Die wichtigsten KI-Begriffe.