Gesetz zur künstlichen Intelligenz

Erfolgreich durch das KI-Gesetz: Der 3-Schritte-Plan für Unternehmen

Das KI-Gesetz der Europäischen Union setzt neue Maßstäbe für Transparenz, Ethik und Sicherheit im Umgang mit Künstlicher Intelligenz. Unsere praxisorientierten Empfehlungen unterstützen Unternehmen, die kommerzielle KI-Lösungen für allgemeine Zwecke nutzen, in einem komplexen regulatorischen Umfeld.

Unternehmen sollten zu Beginn ihre Position im KI-Ökosystem klären. Die meisten, die KI nutzen, aber nicht maßgeblich entwickeln, zählen zu den „Betreibern“. Ihre zentrale Aufgabe ist es, die Kontrolle, Datenqualität und Transparenz beim Einsatz von KI sicherzustellen.

Schritt 1: KI-Inventar und Klassifizierung

Unternehmen sollten ihre KI-Systeme identifizieren und in die vier Risikokategorien einordnen, die im EU KI-Gesetz definiert sind: minimal, begrenzt, hoch und inakzeptabel.

• Minimalrisiko umfasst Tools wie Spam-Filter und Textvorschläge.
• Begrenztes Risiko betrifft Chatbots und Empfehlungssysteme.
• Hochrisiko-Anwendungen umfassen KI-gesteuerte Rekrutierung, medizinische Geräte und autonome Fahrzeuge.
• Inakzeptables Risiko bezieht sich auf Systeme wie soziale Bewertungssysteme oder biometrische Identifikation in öffentlichen Räumen.

Die Erstellung und regelmäßige Aktualisierung eines KI-Inventars ist entscheidend für die Einhaltung der Vorschriften und den verantwortungsvollen Umgang mit KI.

Schritt 2: Bewusstsein und menschliche Aufsicht

Alle Mitarbeitenden sollten in der Funktionsweise von KI, Risikomanagement und ethischen Leitlinien geschult werden, um einen verantwortungsvollen Umgang mit KI sicherzustellen. Die Schulung sollte KI-Operationen, Bias-Reduktion, Compliance-Anforderungen und menschliche Aufsicht umfassen.

Ein KI-bezogener Code of Conduct sollte mit allen relevanten Stakeholder im Unternehmen entwickelt werden. Zudem erstellen größere Organisationen oft umfassende KI-Strategien. Diese Initiativen helfen den Mitarbeitern, KI-bezogene Risiken effektiv zu managen und fördern zugleich  Transparenz und Verantwortlichkeit.

Obwohl Automatisierung und Effizienz die Haupttreiber der KI-Nutzung sind, bleibt die menschliche Aufsicht entscheidend. Hochrisiko-KI-Systeme müssen über Mechanismen für menschliche Eingriffe verfügen, um bei KI-Fehlern einzugreifen. Unternehmen sollten klare Eskalationsprotokolle etablieren, die sicherstellen, dass KI in Fällen unbeabsichtigter Konsequenzen übersteuert werden kann.

Darüber hinaus sollten Notabschaltverfahren definiert werden. Ein Notfallmechanismus wird entscheidend sein, um KI-bedingte Störungen in sensiblen Bereichen wie Gesundheitswesen, Finanzwesen und öffentlichem Dienst zu verhindern.

Schritt 3: Transparenz und Dokumentation

Unternehmen, die ein KI-System zur Erstellung oder Veränderung von Texten, Bildern, Audio- oder Videoinhalten nutzen – insbesondere für öffentliche Informationszwecke oder Deepfake-Inhalte –, müssen klar offenlegen, dass diese künstlich generiert oder bearbeitet wurden. Diese Transparenzpflicht entfällt, wenn die KI-generierten Inhalte einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Ein wichtiger Aspekt der Compliance ist die detaillierte technische Dokumentation. Unternehmen müssen klare Prüfprotokolle erstellen, um sicherzustellen, dass KI-Entscheidungen nachvollziehbar sind und gerechtfertigt werden können. Diese Transparenz ist in Branchen wie Finanzwesen und Gesundheitswesen von entscheidender Bedeutung, da KI-gestützte Entscheidungen erhebliche Auswirkungen auf Einzelpersonen haben können.

Hat KI bei der Erstellung dieses Artikels geholfen?

Zunächst haben wir versucht, diesen Artikel mithilfe künstlicher Intelligenz – konkret mit ChatGPT und Perplexity – zu verfassen, in der Erwartung, dass die KI die praktische Anwendung des KI-Gesetzes in drei Punkten zusammenfassen kann.

Das Ergebnis war enttäuschend: Die KI lieferte nur eine oberflächliche und in der Praxis kaum nutzbare Zusammenfassung der wichtigsten Regulierungsbereiche des KI-Gesetzes, konnte jedoch nicht herausarbeiten, welche Aufgaben für Unternehmen am wichtigsten sind. Daher haben wir den Artikel selbst geschrieben und die KI lediglich zur sprachlichen Verfeinerung und für Übersetzungen genutzt.