Verlassen Sie sich bei medizinischen Notfällen, Medikamententscheidungen, psychischen Krisen, Gerichtseinreichungen, Steuern, Passwortsicherheit, echten Gefühlsmomenten, aktuellen Nachrichten, Anlageprognosen und allem, was ein Fachmann mit Lizenz unterzeichnen muss, nicht auf KI. In jedem dieser Fälle ist das Risiko, dass eine falsche KI-Antwort irreversiblen Schaden verursacht, zu hoch. Ein echter Experte oder eine geprüfte Ressource ist in diesen Situationen immer die richtige Wahl.
KI ist für viele alltägliche Aufgaben wirklich nützlich — einen Brief verfassen, eine verwirrende Rechnung verstehen, ein Rezept suchen, Ideen sammeln. Aber „KI kann bei den meisten Dingen helfen" bedeutet nicht „KI kann bei allem helfen." Es gibt spezifische Situationen, in denen die Wahl eines Chatbots statt der richtigen Ressource zu echtem Schaden führt. Dieser Leitfaden behandelt nicht die abstrakten Grenzen der KI — er ist eine konkrete Liste von Situationen, auf die Sie wahrscheinlich treffen werden, mit der richtigen Alternative für jede einzelne.
1. Ein medizinischer Notfall
Verwenden Sie keine KI. In einer Situation, in der jemand einen Herzinfarkt, Schlaganfall, eine schwere allergische Reaktion oder eine ernsthafte Verletzung erleiden könnte, zählt jede Sekunde. Eine Frage in einen Chatbot zu tippen und auf die Antwort zu warten, verschwendet Zeit, die die richtige Maßnahme — den Notruf zu wählen — nicht braucht.
Tun Sie stattdessen dies: Wählen Sie sofort 112 (europäischer Notruf) oder 110 (Polizei). Wenn Sie unsicher sind, ob es ein Notfall ist, rufen Sie trotzdem an — Disponenten sind geschult, Ihnen die Situation einzuschätzen zu helfen, während Hilfe bereits unterwegs ist.
2. Medikamentendosierung oder Wechselwirkungen
Verwenden Sie keine KI. Eine Expertenbegutachtung aus dem Jahr 2023 ergab, dass 74 % der von ChatGPT generierten Arzneimittelinformationen unvollständig oder falsch waren. KI-Chatbots werden auf Texten trainiert, nicht auf aktuellen klinischen Leitlinien oder Ihrer persönlichen Krankengeschichte — und eine falsche Antwort zu Dosierungen oder gefährlichen Kombination von Arzneimitteln kann ernsthaften Schaden verursachen.
Tun Sie stattdessen dies: Fragen Sie einen Apotheker. Apotheker sind lizenzierte Arzneimittelexperten, fast immer telefonisch erreichbar und kostenlos ohne Termin konsultierbar. Für die Überprüfung von Wechselwirkungen zwischen bestimmten Medikamenten sind Drugs.com und die Datenbank des Bundesinstituts für Arzneimittel und Medizinprodukte (bfarm.de) verlässliche öffentliche Ressourcen.
3. Eine psychische Krise
Verwenden Sie keine KI. Wenn Sie oder jemand in Ihrem Umfeld Gedanken an Selbstverletzung, Suizidgedanken oder einen akuten psychischen Notfall erlebt, ist ein Chatbot kein sicherer Ersatz für einen geschulten Krisenberater. KI kann nicht überprüfen, was ihr mitgeteilt wird, kann nicht nachfragen, wie es einer Person geht, und kann keine Hilfe anfordern, wenn es nötig ist.
Tun Sie stattdessen dies: In Deutschland rufen Sie die Telefonseelsorge an: 0800 111 0 111 oder 0800 111 0 222 — kostenlos, vertraulich und rund um die Uhr verfügbar. Für andere Länder finden Sie verifizierte Krisentelefone auf findahelpline.com.
4. Gerichtseinreichungen mit festen Fristen
Verwenden Sie keine KI zum Verfassen von Gerichtsdokumenten oder zur Berechnung von Einreichungsfristen. Das Versäumen einer Gerichtsfrist aufgrund falscher KI-generierter Informationen kann zum Verlust eines Falles führen — eine rechtliche Konsequenz, die sehr schwer rückgängig zu machen ist. KI präsentiert Informationen oft selbstsicher, auch wenn jurisdiktionsspezifische Regeln falsch oder veraltet sind.
Tun Sie stattdessen dies: Kontaktieren Sie einen zugelassenen Rechtsanwalt oder eine Beratungsstelle für Rechtsberatung. Viele Anwaltskammern haben Vermittlungsdienste mit kostenlosen Erstberatungen. Für Menschen mit geringem Einkommen bieten Beratungshilfestellen und Sozialverbände kostenlose Unterstützung.
5. Ihre Steuern — konkrete Zahlen und Fristen
Verwenden Sie keine KI zur Berechnung Ihrer Steuerschuld oder zur Bestätigung von Abgabefristen. Steuerregeln ändern sich jährlich, variieren nach Bundesland und hängen von persönlichen Umständen ab, die ein Chatbot nicht zuverlässig berücksichtigen kann. Wenn die KI Ihnen eine falsche Zahl nennt oder Sie eine Frist verpassen, tragen Sie — nicht die KI — die Konsequenzen.
Tun Sie stattdessen dies: Nutzen Sie das Portal des Bundeszentralamts für Steuern (bzst.de) oder wenden Sie sich an einen Steuerberater. Der Lohnsteuerhilfeverein bietet kostengünstige Beratung für Arbeitnehmer. Das Finanzamt ist ebenfalls kostenlos erreichbar.
6. Passwortverwaltung und Kontosicherheit
Bitten Sie KI nicht, Ihre Passwörter zu generieren oder zu speichern — und geben Sie Ihre bestehenden Passwörter in keine Chat-Oberfläche ein. Manche Chatbots speichern Gesprächsverläufe, und alles, was Sie eingeben, kann gespeichert oder protokolliert werden. Ein Chatbot kann Ihre Konten nicht wirklich absichern.
Tun Sie stattdessen dies: Verwenden Sie einen dedizierten Passwortmanager. Bitwarden ist kostenlos, Open-Source und weit verbreitet. Apple Keychain (in iPhone und Mac integriert) und Google Password Manager (in Android und Chrome integriert) eignen sich gut für die grundlegende Nutzung. Für Zwei-Faktor-Authentifizierung nutzen Sie eine Authenticator-App wie Google Authenticator oder Authy.
7. Eine Trauernachricht schreiben oder einen ernsthaften persönlichen Konflikt lösen
Lagern Sie echte emotionale Momente nicht an KI aus. Wenn ein enger Freund jemanden verliert, den er liebt, oder wenn Sie etwas reparieren müssen, das in einer wichtigen Beziehung zählt, kommt es am meisten darauf an, dass die Worte von Ihnen stammen. Eine KI-verfasste Nachricht kann hohl wirken — und im falschen Moment mehr Schaden anrichten als Schweigen.
Tun Sie stattdessen dies: Schreiben Sie selbst etwas, auch wenn es kurz und unvollkommen ist. „Ich finde nicht die richtigen Worte, aber ich denke an dich" von einem echten Menschen bedeutet mehr als ein polierter Absatz, der es nicht war. Bei ernsthaften oder anhaltenden Konflikten kann ein lizenzierter Therapeut oder Mediator strukturierte Unterstützung bieten, die KI nicht ersetzen kann.
8. Aktuelle Nachrichten während eines Notfalls überprüfen
Verlassen Sie sich nicht auf KI, wenn sich die lokale Situation von Minute zu Minute ändert. Die meisten KI-Chatbots — einschließlich der weit verbreiteten — sind nicht mit Live-Nachrichtenfeeds oder Echtzeit-Daten verbunden. In einer sich schnell entwickelnden Situation wie einer Waldbrand-Evakuierung, einer Sturmwarnung oder einem Industrievorfall kann KI selbstsicher Bedingungen beschreiben, die Stunden veraltet sind.
Tun Sie stattdessen dies: Wenden Sie sich direkt an offizielle Quellen: die Website Ihres Landkreises oder Ihrer Gemeinde, den Deutschen Wetterdienst (dwd.de), lokalen Rundfunk und Fernsehen oder das Warnsystem des Bundes (warnung.bund.de und die Warn-App NINA). Bevölkerungsschutzwarnungen kommen auch automatisch aufs Handy via Cell Broadcast.
9. Anlageentscheidungen auf Basis von KI-„Prognosen"
Lassen Sie KI-generierte Prognosen keine bedeutenden Finanzentscheidungen lenken. KI kann Marktbewegungen nicht zuverlässig vorhersagen. Sprachmodelle erzeugen plausibel klingende Texte — was bedeutet, dass sie detaillierte, selbstsichere Finanzprognosen produzieren können, die keine faktische Grundlage haben. Es gibt dokumentierte Fälle, in denen Chatbots historische Aktienkurse und Marktereignisse erfunden haben, die nie stattgefunden haben.
Tun Sie stattdessen dies: Konsultieren Sie für bedeutende Finanzentscheidungen einen zugelassenen Finanzberater — jemanden, der gesetzlich verpflichtet ist, in Ihrem Interesse zu handeln. Für kostenlose Weiterbildung sind die Verbraucherzentrale (verbraucherzentrale.de) und die Bundesanstalt für Finanzdienstleistungsaufsicht (bafin.de) verlässliche Anlaufstellen.
10. Alles, was die Unterschrift eines Fachmanns mit Lizenz erfordert
Ersetzen Sie KI nicht durch lizenzierte Fachkompetenz in Bereichen mit hohem Risiko. Wenn ein Statiker einen Bauplan abstempelt, übernimmt er die rechtliche Verantwortung dafür. Wenn ein Arzt ein Rezept ausstellt, hat er Sie untersucht und haftet professionell. KI trägt keine dieser Verantwortlichkeiten — und „die KI hat es mir gesagt" ist in keinem professionellen oder rechtlichen Kontext anerkannt.
Tun Sie stattdessen dies: Identifizieren Sie den Fachmann mit Lizenz, dessen Fachgebiet Ihren Bedarf abdeckt, und konsultieren Sie ihn. Viele Berufe bieten kostenlose Erstgespräche an. Berufsverbände in den Bereichen Recht, Medizin und Finanzplanung haben häufig Hilfsprogramme für Menschen mit begrenzten Mitteln.
Worauf Sie achten sollten
Das Gefährlichste an KI in diesen Situationen ist nicht, dass sie unsicher klingt — sondern dass sie oft völlig selbstsicher klingt. Wie wir in Kann man ChatGPT vertrauen? erklären, sind KI-Systeme darauf ausgelegt, fließenden, autoritativ klingenden Text zu erzeugen, unabhängig davon, ob die zugrunde liegenden Informationen korrekt sind. Diese Eigenschaft funktioniert gut für risikoarme kreative Aufgaben und wird in risikoreichen zu einer ernsthaften Schwachstelle.
Forschungen von AARP haben ergeben, dass Fehlinformationen die größte KI-Sorge bei älteren Erwachsenen sind — und diese Sorge ist berechtigt. Der beste Schutz ist zu wissen, welche Situationen im Voraus einen lizenzierten menschlichen Experten erfordern, keinen Chatbot.
Was Sie als Nächstes ausprobieren sollten
Für eine verständliche Erklärung, warum KI sich irrt, auch wenn sie sicher klingt, behandelt Warum erfindet KI Dinge — und wie erkennt man es? die Mechanik hinter dem Problem. Wenn Sie KI überhaupt für gesundheitsbezogene Fragen nutzen, enthält Wie man KI für Gesundheitssymptome nutzt, ohne Schaden zu nehmen die konkreten Grenzen, die es zu kennen lohnt.
