Was KI wirklich ist
Das wichtigste Phänomen, das jeder KI-Nutzer kennen muss — und warum es passiert.
KI-Sprachmodelle sind darauf trainiert, plausibel klingende Texte zu erzeugen — nicht darauf, wahr zu sein. Wenn das Modell etwas nicht weiß, erfindet es manchmal eine Antwort, die grammatisch und inhaltlich überzeugend klingt. Das passiert besonders bei Zahlen, Namen, Gesetzen und Quellenangaben.
— „Paragraph 47a des SGB XI besagt…“ (gibt es nicht)
— „Laut einer Studie der Universität Mainz von 2023…“ (wurde erfunden)
— „Der AWO-Bundesverband schreibt in seinen Leitlinien vor, dass…“ (nicht verifiziert)
— Falsche Gesetzeszitate, die real klingen
— Zahlen, Gesetze und Zitate immer selbst nachschlagen
— KI nie als Quelle zitieren — sie ist ein Entwurfswerkzeug, keine Informationsquelle
— Bei Unsicherheit: „Aus welcher Quelle stammt diese Information?“ in der KI nachfragen — und die Antwort trotzdem prüfen
— Faustregel: Je spezifischer die Behauptung, desto sorgfältiger prüfen
Immer aus Originalquellen prüfen. KI nennt oft realistische, aber erfundene Zahlen.
Paragraphen immer im Original nachschlagen — auf gesetze-im-internet.de oder beim Träger.
Was angeblich der AWO-Bundesverband, der Medizinische Dienst oder das BMAS sagt: immer verifizieren.
Viele Tools suchen inzwischen im Internet. Trotzdem kann KI Quellen falsch zusammenfassen, veraltete Seiten nutzen oder Links erfinden. Aktuelle Regelungen immer an der Originalquelle prüfen.
Besondere Verantwortung
Die AWO arbeitet mit Menschen in vulnerablen Lebenssituationen. Das stellt besondere Anforderungen an den verantwortungsvollen Umgang mit KI.
KI kann Textentwürfe, Strukturen und Ideen liefern. Sie kann niemals eine menschliche Einschätzung über einen Menschen ersetzen — ob in der Pflege, der Jugendhilfe oder der Beratung. Entscheidungen, die Menschen betreffen, bleiben Menschensache.
Immer mehr Ratsuchende fragen vorab ChatGPT & Co. — zu Elterngeld, Unterhalt, Rechten gegenüber Ämtern. Nehmen Sie das ernst statt es abzutun: Die Auskunft freundlich gemeinsam prüfen, auf verlässliche Quellen verweisen (Behörde, Gesetzestext, Fachberatung) und erklären, dass KI plausibel klingende, aber falsche Antworten geben kann. Für das Team lohnt sich eine kurze Absprache, wie Sie damit einheitlich umgehen.
Zum Mitnehmen
Zum Ausdrucken und Aufhängen — sieben Fragen, die Sie vor dem Verwenden eines KI-Textes stellen sollten.
Wenn alle Punkte zutreffen, ist der Text bereit zum Verwenden.
Was jetzt kommt
Zwei Entwicklungen, die Führungskräfte kennen sollten — eine technologische, eine rechtliche. Beide ändern nichts an der Grundregel: Der Mensch verantwortet.
Systeme, die Aufgaben selbstständig über mehrere Schritte erledigen — Mails sortieren, Dokumente erstellen, Termine anlegen. Je mehr ein System selbst handelt, desto wichtiger werden klare Regeln, Zugriffsrechte und Kontrolle. Eine nüchterne Einordnung: Modul 07.
Arbeitgeber müssen die KI-Kompetenz ihrer Beschäftigten fördern, KI-Chatbots müssen erkennbar sein (seit August 2026). Die Aufsicht liegt bei der Bundesnetzagentur. Alle Pflichten im Überblick: Modul 03.
Egal wie autonom ein System agiert: Rechtlich und ethisch haftet der Mensch dahinter. Was KI in Ihrem Namen tut, tun Sie. Prüfen, freigeben, verantworten — das bleibt Führungsaufgabe.
KI wird mächtiger — die Grundregeln ändern sich nicht: Daten schützen, Fehler prüfen, Menschen entscheiden lassen. Wer das verinnerlicht hat, kann jede neue KI-Generation sicher einführen.
KI ist ein Werkzeug — kein Wundermittel, keine Bedrohung. Führungskräfte, die es sinnvoll einsetzen, gewinnen Zeit für das, was wirklich zählt: die Menschen, für die die AWO da ist. Zum Schluss zeigt Modul 09 die aktuellen Tools im Überblick.
Zur Modulübersicht →