Tag 1: KI verstehen, Risiken erkennen, sicher nutzen
Mittwoch, 25. März 2026 · 08:30–12:30 Uhr
KI ist Ingenieurskunst
Was ist KI technisch? In diesem Block klären wir den fundamentalen Unterschied zwischen klassischer Software und künstlicher Intelligenz. Klassische Software folgt festen Regeln: Wenn X, dann Y. KI hingegen lernt aus Daten und erkennt Muster – sie berechnet Wahrscheinlichkeiten.
AltKlassische Software
Feste Regeln, deterministische Ergebnisse. Gleiche Eingabe = gleiches Ergebnis. Programmiert von Menschen.
KIKünstliche Intelligenz
Lernt aus Daten, probabilistische Ergebnisse. Gleiche Eingabe kann verschiedene Ergebnisse liefern. Trainiert auf Mustern.
Warum halluziniert KI?
LLMs (Large Language Models) haben kein „Wissen" – sie erkennen Muster und berechnen das wahrscheinlichste nächste Wort. Wenn die Trainingsdaten keine passende Antwort enthalten, „erfindet" das Modell plausibel klingende Informationen. Das nennt man Halluzination.
Trotz dieser Einschränkung ist KI nützlich: Sie kann Texte zusammenfassen, Entwürfe erstellen, Muster in Daten erkennen und repetitive Aufgaben beschleunigen. Der Schlüssel liegt darin, die Grenzen zu kennen und Ergebnisse immer zu prüfen.
Magie oder Ingenieurskunst?
Lesen Sie die drei Texte und entscheiden Sie für jeden: Ist er echt, KI-generiert (korrekt) oder KI-generiert (fehlerhaft)? Klicken Sie auf die Einschätzung unter jedem Text.
„Gemäß § 34 BauGB ist ein Vorhaben im Innenbereich zulässig, wenn es sich nach Art und Maß der baulichen Nutzung in die Eigenart der näheren Umgebung einfügt. Die Erschließung muss gesichert sein. Bei der Beurteilung sind die tatsächlichen Verhältnisse maßgebend."
„Nach § 47a BauVwVfG können Bauanträge im vereinfachten Verfahren genehmigt werden, sofern die Gemeinde keine Einwände erhebt. Die Frist beträgt 14 Werktage ab Eingang. Bei Überschreitung gilt die Genehmigung als erteilt (Genehmigungsfiktion)."
„Sehr geehrte Frau Müller, vielen Dank für Ihre Anfrage bezüglich der Baugenehmigung. Wir haben Ihren Antrag geprüft und können Ihnen mitteilen, dass die eingereichten Unterlagen vollständig sind. Die weitere Bearbeitung erfolgt in der Reihenfolge des Eingangs."
AI Literacy nach EU AI Act
Der EU AI Act (Verordnung (EU) 2024/1689) definiert in Art. 3(56) und Art. 4 die Pflicht zur AI Literacy. Alle Mitarbeitenden, die KI-Systeme nutzen oder betreiben, müssen über ausreichende Kompetenzen verfügen.
Was verlangt der AI Act konkret?
Mitarbeitende müssen:
Für Emmering bedeutet das konkret:
Die Schulung muss an den Nutzungskontext angepasst sein. Für die Gemeinde Emmering sind das: Outlook & Copilot, ChatGPT & Claude, der Website-Chatbot, n8n-Automatisierung und eventuelle AKDB-Schnittstellen.
Wo sind wir Hochrisiko?
Bewerten Sie jedes Szenario: Ist es Hochrisiko nach dem AI Act? Handelt es sich um Entscheidungsunterstützung oder eine Entscheidung? Braucht es menschliche Aufsicht?
Szenario 1: Bescheid-Formulierungen
KI schlägt Formulierungen für Verwaltungsbescheide vor. Der Sachbearbeiter übernimmt den Vorschlag und versendet den Bescheid.
Szenario 2: Chatbot für Bauanträge
Ein Chatbot auf der Gemeinde-Website beantwortet Bürgerfragen zu Bauanträgen automatisch.
Szenario 3: Bewerber-Vorselektion
KI analysiert Bewerbungsunterlagen und erstellt eine Rangliste der Kandidaten für eine Stelle im Rathaus.
Szenario 4: Sozialanträge
KI analysiert Sozialanträge und gibt eine Empfehlung zur Bewilligung oder Ablehnung.
Risiken aus der Praxis
Die Vorab-Umfrage unter den Mitarbeitenden zeigt klare Schwerpunkte: Wie kann ich KI effizient nutzen? Wie formuliere ich richtig? Welche Risiken gibt es bei KI-Antworten? Diese Fragen bearbeiten wir jetzt systematisch.
Halluzinationen & Risiken in der Praxis
Erfundene Rechtsgrundlage
KI zitiert einen Paragraphen, der nicht existiert – klingt aber absolut plausibel.
Veraltete Öffnungszeiten
KI generiert Öffnungszeiten aus veralteten Trainingsdaten – Bürger stehen vor verschlossener Tür.
Diskriminierende Formulierung
KI übernimmt Bias aus Trainingsdaten und formuliert unbewusst diskriminierend.
Halluziniertes Aktenzeichen
KI erfindet ein Aktenzeichen, das nicht existiert – führt zu Verwirrung und Vertrauensverlust.
Risikoanalyse in Gruppen
Jede Gruppe bearbeitet ein realistisches Rathaus-Szenario und beantwortet die zugehörigen Fragen.
Szenario 1: Personenbezogene Daten
Ein Mitarbeiter kopiert eine Bürgeranfrage mit vollständigem Namen und Adresse in ChatGPT, um eine Antwort formulieren zu lassen.
Fragen:
1. Liegt ein DSGVO-Problem vor?
2. Was sagt die interne Richtlinie?
3. Welche alternative Lösung gibt es?
Szenario 2: Falsche Chatbot-Antwort
Der Chatbot auf der Gemeinde-Website antwortet einem Bürger falsch zu den aktuellen Abfallgebühren.
Fragen:
1. Wer haftet?
2. Wie erkennt man den Fehler?
3. Wie verhindert man das?
Prompt Engineering für Verwaltung
Hier erfüllen wir den meistgenannten Wunsch aus der Umfrage: Wie formuliere ich Prompts richtig? Die Antwort liegt in der 5-Komponenten-Formel.
Rolle
Wer soll die KI sein? z.B. 'Du bist ein erfahrener Verwaltungsjurist einer bayerischen Gemeinde.'
Kontext
Was ist die Situation? z.B. 'Ein Bürger hat eine Beschwerde über Lärmbelästigung eingereicht.'
Ziel
Was soll erreicht werden? z.B. 'Formuliere eine sachliche, empathische Antwort.'
Format
Wie soll das Ergebnis aussehen? z.B. 'Formeller Brief, maximal 200 Wörter, mit Anrede und Grußformel.'
Einschränkungen
Was soll vermieden werden? z.B. 'Keine konkreten Rechtsauskünfte, keine Zusagen, verweise auf Beratungstermin.'
Live Prompt Workshop
Aufgabe 1: Bürgerbeschwerde beantworten
Formulieren Sie einen Prompt, der eine Antwort auf eine Bürgerbeschwerde über Lärmbelästigung generiert.
Erst: Freier Prompt
„Schreibe eine Antwort auf eine Beschwerde."
Dann: Strukturierter Prompt
Mit Rolle, Kontext, Ziel, Format, Einschränkungen
Vergleichen Sie die Ergebnisse beider Ansätze.
Aufgabe 2: Protokoll zusammenfassen
„Fasse dieses 3-seitige Protokoll strukturiert zusammen." – Erst ohne Anleitung, dann mit klarer Formatvorgabe nach der 5-Komponenten-Formel.