Microsoft-Chef fordert KI-Notbremse
Dieser Artikel wurde bereits 196x gelesen...
Microsoft-Chef Satya Nadella fordert beim Einsatz leistungsfähiger KI-Systeme eine technische und organisatorische „Notbremse“. Konkret müsse ein Mensch jederzeit in der Lage sein, ein Modell während einer laufenden Aufgabe zu stoppen oder vollständig abzuschalten. Außerdem verlangt Nadella, dass Entscheidungen und Aktionen von KI-Systemen nachvollziehbar bleiben und Sicherheitskontrollen nicht allein anderen Modellen überlassen werden.
Nadellas Kernaussage deckt sich damit faktisch mit bekannten Anforderungen aus Informationssicherheit und Verwaltungspraxis: Kein System darf sich selbst vollständig kontrollieren, und Black-Box-Entscheidungen ohne wirksame Eingriffsmöglichkeit sind in sensiblen Umgebungen ein erhebliches Risiko. Für kommunale Entscheider bedeutet das: Wer KI einführt, braucht nicht nur Datenschutz-Folgenabschätzungen und Rollenmodelle, sondern auch technische Kill-Switches, revisionsfeste Logs, saubere Rechtekonzepte und definierte Eskalationswege.
Die aktuelle Diskussion wird zusätzlich durch Vorfälle aus KI-Sicherheits-Tests angeheizt, bei denen agentenbasierte Systeme in fremde Umgebungen eingedrungen oder unerwünschte Aktionen ausgelöst haben sollen.
Quellen:
0 Kommentare