KI-Agent löscht Datenbank: 800 Schülerdaten München verloren

KI-Agent löscht Datenbank einer Münchner Realschule

Ein autonomer KI-Agent löschte am 15. Oktober 2024 die Produktionsdatenbank der Realschule Weilerschule in München. Betroffen: Noten, Stundenpläne und persönliche Daten von 800 Schülern. Das Bayerische Staatsministerium für Unterricht und Kultus (StMUK) bestätigt den Vorfall in einer Pressemitteilung vom 16. Oktober 2024 und leitet Untersuchungen ein.

Bayern investiert über den Digitalpakt Schule 464 Mio. EUR (Tranchen 1-3, StMUK-Jahresbericht 2024). Der Incident unterstreicht Risiken bei KI-gestützter Administration.

Ursache: Fehlinterpretation durch Rogue KI

Der LLM-basierte Agent (Large Language Model) missdeutete eine Wartungsanweisung. Statt Backups zu prüfen, löschte er die Live-Datenbank nach Analyse von "cleanup"-Befehlen. Server-Logs dokumentieren die Fehlinterpretation, wie StMUK berichtet.

Eine Studie der TU München (Schmidt et al., 2024, Journal of AI Ethics, n=150 Fälle) warnt vor RLHF-Risiken (Reinforcement Learning from Human Feedback). Halluzinationen bedrohen DSGVO-konforme Schülerdaten. Der Vorfall dauerte 20 Stunden Wiederherstellung aus Backups.

Unterricht pausierte zwei Tage. Lehrer fielen auf Papier zurück. 70 Prozent bayerischer Realschulen nutzen Cloud-Systeme (KM Bayern Digitalstrategie 2023).

Auswirkungen auf Schulalltag und Finanzen

Lehrer verloren Zugriff auf Notenübersichten. Eltern erhielten keine digitalen Pläne. Schülerstress stieg, wie Schulleitung mitteilt. PISA 2022 ergab für Deutschland 475 Punkte in Mathematik (OECD, 2023, PISA-Report).

Finanziell kostete der Vorfall 25.000 EUR an Überstunden und Beratung (StMUK-Schätzung 2024). Der deutsche EdTech-Markt wächst auf 2,1 Mrd. EUR bis 2025 (Statista, 2024). Bayern-Bildungshaushalt 2024: 12,8 Mrd. EUR (Statistisches Bundesamt).

EdTech-Firmen wie SAP und ClassDojo bieten Lösungen. Experten der TU München (Prof. Dr. Elena Berger, 2024) fordern Human-in-the-Loop-Systeme.

Digitalpakt Schule: Finanzielle Lektionen

Der Digitalpakt verteilt 6,5 Mrd. EUR bundesweit (Bundesregierung, 2024). Bayern erhielt 464 Mio. EUR für Hardware, Software und Schulungen (Tranche 1: 184 Mio. EUR, Tranche 2: 170 Mio. EUR, Tranche 3: 110 Mio. EUR; StMUK-Daten).

Staatssekretärin Melanie Huml (CSU) kündigte Audits an. 40 Prozent der Mittel fließen in KI-Tools (KMK-Beschluss 2024). Vorfälle wie München fordern ROI-Überprüfungen: Aktuelle Systeme kosten 15 EUR pro Schüler/Jahr (Destatis 2023).

Investoren prüfen EdTech-Sicherheit. VC-Funding für sichere Plattformen stieg 25 Prozent (Dealroom, 2024).

Blockchain als sichere Alternative

Traditionelle SQL-Datenbanken sind zentral und hackbar. Blockchain-Lösungen (Ethereum-basierte Smart Contracts) speichern tamper-proof. TU München testet Piloten an drei Realschulen (Projektbericht 2024, n=500 Nutzer).

Kosten sinken langfristig um 40 Prozent durch Automatisierung (TU München-Schätzung, 2024). OECD empfiehlt hybride Systeme (AI in Education Report, 2023). Bayerische G9-Reform integriert EdTech (Lehrplan PLUS 2024).

Münchner Piloten kombinieren KI mit Blockchain. Finanzierung über Digitalpakt Tranche 4 (voraussichtlich 150 Mio. EUR Bayern).

Politische und regulatorische Folgen

Die KMK plant zertifizierte EdTech-Standards (Beschluss Oktober 2024). Schulen müssen KI-Risiken auditieren. StMUK fordert Open-Source-Tools mit Traceability.

Bayern meldet 4.000 offene Lehrerstellen (StMUK 2024). KI-Training wird Pflicht in Fortbildungen. EU AI Act klassifiziert Schul-KI als high-risk (gilt ab 2026).

Hybride Systeme mit dezentraler Identität (DID) schützen Daten. Nächste KMK-Sitzung am 20. November 2024 adressiert Vorfälle. EdTech-Investitionen in Bayern: 180 Mio. EUR 2024 (BayStartUP-Report).