• bizzmade
• Gepostet am 15. August 2024

KI System sicher und zukunftsfähig gestalten

Der AI Act ist seit dem 1. August 2024 offiziell in Kraft und stellt eine wegweisende Regelung dar, die den Einsatz von Künstlicher Intelligenz (KI) in der Europäischen Union reguliert. Diese Verordnung hat erhebliche Auswirkungen auf Unternehmen, insbesondere auf Gründer und kleine bis mittelständische Unternehmen (KMUs). In diesem Beitrag erfahren Sie, welche Anforderungen der AI Act an Ihr Unternehmen stellt, wie Sie diese umsetzen können und wie Sie sich vor hohen Bußgeldern schützen..

Überblick und aktuelle Entwicklungen zum AI Act

1. Überblick: Was ist der AI Act?

Der AI Act ist die erste umfassende Regulierung für KI weltweit, die auf einem risikobasierten Ansatz basiert. Ziel ist es, die Nutzung von KI-Systemen sicher und verantwortungsvoll zu gestalten, indem potenzielle Risiken für die Sicherheit, Gesundheit und Grundrechte minimiert werden. Der AI Act gilt für alle KI-Systeme, die innerhalb der EU entwickelt, vermarktet oder genutzt werden, unabhängig vom Standort des Unternehmens​ (European Commission)​

Der AI Act zielt darauf ab, Künstliche Intelligenz in der EU umfassend zu regulieren, um Risiken zu minimieren und gleichzeitig Innovationen zu fördern. Das Gesetz teilt KI-Anwendungen in verschiedene Risikoklassen ein, von unzulässigen bis hin zu minimal riskanten Systemen.

Wichtige Quellen und öffentliche Inhalte:

• Offizieller Entwurf des AI Acts: Hier finden Sie den vollständigen Text des aktuellen Entwurfs des AI Acts auf der Website der Europäischen Kommission.
• Europäischer Rat und Europäisches Parlament: Diese Institutionen haben entscheidende Dokumente und Diskussionen zum AI Act veröffentlicht, die regelmäßig aktualisiert werden. Hier können Sie die neuesten Entwicklungen verfolgen.
• Positionspapier der Europäischen Kommission: Ein detailliertes Papier über die Auswirkungen und Ziele des AI Acts finden Sie hier.
• Fachartikel und Berichte: Relevante Analysen zum AI Act werden in Fachmagazinen wie „Euractiv“ oder „Politico Europe“ veröffentlicht. Diese bieten tiefere Einblicke in die politischen und regulatorischen Diskussionen.

Pflichten und Vorbereitung für Unternehmen

Unternehmen, die KI-Systeme einsetzen, müssen sicherstellen, dass ihre Anwendungen den neuen Vorschriften entsprechen. Dies beinhaltet:

• Risikobewertung: Klassifizieren Sie Ihre KI-Systeme nach den vom AI Act vorgeschriebenen Risikoklassen.
• Transparenz und Nachvollziehbarkeit: Stellen Sie sicher, dass die Entscheidungsprozesse Ihrer KI-Systeme dokumentiert und für Aufsichtsbehörden und Nutzer nachvollziehbar sind.
• Datensicherheit und -qualität: Implementieren Sie Maßnahmen zur Sicherstellung der Qualität und Integrität der Daten, die Ihre KI-Systeme verwenden.
• Compliance-Management: Entwickeln Sie interne Prozesse, um die Einhaltung des AI Acts kontinuierlich zu überwachen.

Checkliste: Vorlage für ein Audit nach dem AI Act

Um sicherzustellen, dass Ihr Unternehmen die Anforderungen des AI Acts erfüllt, können Sie folgende Checkliste als Grundlage für ein internes Audit verwenden:

Vorbereitung

• Überblick über alle eingesetzten KI-Systeme im Unternehmen erstellen.
• Klassifizierung der KI-Systeme nach Risikokategorien gemäß AI Act.
• Benennung eines Compliance-Verantwortlichen für KI-Systeme.

Risikomanagement

• Bewertung des Risikos jedes KI-Systems und Dokumentation der Ergebnisse.
• Implementierung eines Risikomanagementplans für hochriskante KI-Systeme.
• Überprüfung und Sicherstellung der Qualität der verwendeten Trainingsdaten.

Transparenz und Nachvollziehbarkeit

• Dokumentation aller Entscheidungsprozesse der KI-Systeme.
• Sicherstellung, dass Nutzer informiert werden, wenn sie mit einer KI interagieren.
• Entwicklung und Implementierung von Erklärungsmechanismen für KI-Entscheidungen.

Compliance-Prozesse

• Einführung eines kontinuierlichen Monitorings der KI-Systeme.
• Regelmäßige interne Audits zur Überprüfung der Einhaltung des AI Acts.
• Schulung der Mitarbeiter zu den Anforderungen des AI Acts.

Datensicherheit

• Überprüfung und Optimierung der Datensicherheitsmaßnahmen.
• Sicherstellung, dass die verwendeten Datenquellen zuverlässig und vertrauenswürdig sind.
• Dokumentation und Implementierung von Maßnahmen zur Vermeidung von Bias in den Daten.

Externe Berichte und Audits

• Vorbereitung auf mögliche externe Audits durch Aufsichtsbehörden.
• Erstellung von Compliance-Berichten, die den Anforderungen des AI Acts entsprechen.
• Zusammenarbeit mit externen Beratern oder Experten zur Validierung der internen Prozesse.

Haftungsmanagement

• Überprüfung und ggf. Anpassung der Haftpflichtversicherungen des Unternehmens im Hinblick auf Risiken durch KI-Systeme.
• Entwicklung von Strategien zur Risikominimierung im Falle von Haftungsansprüchen.

Abschluss und Follow-Up

• Erstellung eines Abschlussberichts zum Audit mit Maßnahmenkatalog.
• Planung von Nachbesserungen und Follow-Up Audits in regelmäßigen Abständen.
• Aufrechterhaltung eines kontinuierlichen Verbesserungsprozesses für KI-Systeme.

1. Wann greift der neue AI Act in Unternehmen?

Der AI Act soll im Jahr 2024 in Kraft treten, wobei Unternehmen in der EU voraussichtlich bis 2026 eine Übergangsfrist haben, um die neuen Regelungen vollständig umzusetzen. Diese Verordnung wird die erste ihrer Art weltweit sein und zielt darauf ab, KI-Systeme nach ihrem Risiko für die Gesellschaft zu regulieren.

Wichtige Veröffentlichung: Im Juni 2023 hat der Europäische Rat seine Position zum AI Act verabschiedet, was den Weg für Verhandlungen mit dem Europäischen Parlament ebnete. Der endgültige Text des AI Acts wird im Laufe des Jahres 2024 erwartet.

Diskussionspunkte: Die derzeitige Debatte konzentriert sich auf die Definition von „hochriskanten“ KI-Systemen und die Frage, inwieweit allgemeine KI-Systeme (wie GPT-Modelle) unter diese Kategorie fallen. Unternehmen sollten die Entwicklung dieser Diskussionen genau verfolgen, da sie erheblichen Einfluss auf die Klassifizierung und damit auf die Pflichten haben könnten.

2. Welche Pflichten bestehen nach dem AI Act?

Der AI Act teilt KI-Systeme in vier Risikokategorien ein:

• Unzulässige KI: Systeme, die aufgrund ihres hohen Schadenspotenzials verboten sind (z. B. Social Scoring durch staatliche Akteure).
• Hochriskante KI: Systeme, die für sicherheitskritische oder grundrechtsrelevante Anwendungen eingesetzt werden (z. B. KI in der medizinischen Diagnose, im Kreditwesen oder in der Personalrekrutierung). Diese Systeme unterliegen strengen Anforderungen, darunter Risikomanagement, Datensicherheit, Transparenz und kontinuierliche Überwachung.
• Geringes Risiko: Systeme, die keiner direkten Regulierung unterliegen, aber Transparenzpflichten erfüllen müssen, wie z. B. die Offenlegung gegenüber Nutzern, dass sie mit einer KI interagieren.
• Minimales Risiko: Systeme, die ohne besondere regulatorische Anforderungen eingesetzt werden können. (European Commission).

Aktueller Stand: Die jüngsten Diskussionen konzentrieren sich auf die präzise Definition von Hochrisiko-Anwendungen und die Anforderungen an ihre Transparenz und Nachvollziehbarkeit. Besonders umstritten ist die Frage, wie umfangreich die Verpflichtungen zur Datenqualität und Auditierung sein sollen.

Wie können Unternehmen diese Pflichten erfüllen?

Unternehmen sollten proaktiv handeln und die folgenden Schritte einleiten, um den AI Act einzuhalten:

• Risikoklassifizierung: Unternehmen müssen zunächst ihre KI-Systeme klassifizieren, um festzustellen, ob sie als hochriskant eingestuft werden. Hierfür könnten Sie auf interne oder externe Expertise zurückgreifen.
• Compliance-Frameworks entwickeln: Für hochriskante KI-Systeme müssen Unternehmen strenge Compliance-Frameworks einrichten. Dazu gehören umfassende Dokumentation, Transparenzanforderungen und kontinuierliche Risikobewertungen.
• Datensicherheitsmaßnahmen: Eine der zentralen Pflichten wird die Sicherstellung der Qualität und Integrität der Daten sein, die zur Schulung der KI-Systeme verwendet werden. Unternehmen sollten bereits jetzt damit beginnen, entsprechende Maßnahmen zur Datenüberwachung und -prüfung zu implementieren.
• Transparenz gewährleisten: Nutzer müssen darüber informiert werden, wenn sie mit einem KI-System interagieren. Dies betrifft insbesondere Systeme, die zur Entscheidungsfindung in personalisierten Bereichen (z. B. Kredite, Versicherungen) verwendet werden.

Diskussionspunkte: Es wird weiterhin darüber diskutiert, inwieweit Unternehmen verpflichtet werden sollen, KI-Modelle öffentlich zugänglich zu machen oder externe Audits zuzulassen. Unternehmen sollten diesbezüglich auf dem Laufenden bleiben, da dies erhebliche Auswirkungen auf die Geschäftsstrategie haben könnte.

Worauf müssen Gründer und KMUs bei Ihren Entwicklungen achten?

Folgende Punkte von besonderer Bedeutung:

• Aktuelle Gesetzeslage: Berater müssen immer über den neuesten Stand der Gesetzgebung informiert sein, einschließlich der laufenden Debatten und der Positionen der EU-Institutionen.
• Risikobewertungen und Klassifizierung: Berater sollten Unternehmen bei der korrekten Einstufung ihrer KI-Systeme unterstützen und maßgeschneiderte Compliance-Strategien entwickeln.
• Implementierung von Compliance-Prozessen: Berater sollten die Implementierung von Prozessen überwachen, die sicherstellen, dass Unternehmen jederzeit den Anforderungen des AI Acts entsprechen.

Diskussionspunkte: Ein wichtiger Aspekt wird die Entwicklung von Werkzeugen zur Automatisierung von Compliance-Prozessen sein, um Unternehmen bei der kontinuierlichen Einhaltung der Vorschriften zu unterstützen.

Wie können Unternehmen hohe Bußgelder und Haftungsfallen vermeiden?

Die Nichteinhaltung des AI Acts kann schwerwiegende finanzielle Folgen haben. Bußgelder können bis zu 6 % des weltweiten Jahresumsatzes eines Unternehmens betragen. Um dies zu vermeiden, sollten Unternehmen folgende Schritte unternehmen:

• Frühzeitige Vorbereitung: Beginnen Sie bereits jetzt mit der Analyse und Anpassung Ihrer KI-Systeme, um mögliche Verstöße zu vermeiden.
• Rechtliche Beratung: Ziehen Sie spezialisierte Rechtsberater hinzu, die mit den Anforderungen des AI Acts vertraut sind und Ihnen helfen können, rechtliche Risiken zu minimieren.
• Regelmäßige Audits: Etablieren Sie interne Auditprozesse, um sicherzustellen, dass Ihre KI-Systeme kontinuierlich den regulatorischen Anforderungen entsprechen.

Diskussionspunkte: Unternehmen sollten sich auch mit potenziellen Haftungsfragen auseinandersetzen, die sich aus der Nutzung von KI ergeben, insbesondere wenn es um fehlerhafte Entscheidungen oder Diskriminierung geht. Hier könnten spezielle Versicherungen oder Haftungsbegrenzungen eine Rolle spielen.

Glossar: Wichtige Begriffe im Kontext des AI Acts

• Risikobasierter Ansatz: Ein methodischer Ansatz zur Klassifizierung von KI-Systemen basierend auf ihrem potenziellen Risiko für die Gesellschaft.
• Social Scoring: Ein System, das das Verhalten von Personen überwacht und bewertet, um soziale Punkte zu vergeben, die zu Belohnungen oder Sanktionen führen können. Solche Systeme sind im Rahmen des AI Acts verboten.
• Technische Dokumentation: Detaillierte Aufzeichnungen über die Funktionsweise eines KI-Systems, einschließlich der verwendeten Algorithmen, Daten und Entscheidungsprozesse.
• Bias: Verzerrungen in den Daten oder Algorithmen, die zu unfairen oder ungenauen Ergebnissen führen können.
• Compliance-Framework: Ein systematischer Ansatz zur Sicherstellung, dass ein Unternehmen die gesetzlichen Vorschriften und ethischen Standards einhält.

Unser Fazit

Der AI Act stellt eine der umfassendsten und strengsten Regulierungen für Künstliche Intelligenz weltweit dar. Für Gründer und KMUs ist es entscheidend, die neuen Vorschriften zu verstehen und frühzeitig umzusetzen. Indem Sie die Anforderungen des AI Acts erfüllen, können Sie nicht nur rechtliche Risiken minimieren, sondern auch das Vertrauen Ihrer Kunden stärken und sich als verantwortungsbewusster Innovator positionieren. Nutzen Sie die zur Verfügung stehende Zeit bis 2026, um Ihre KI-Systeme sicher und zukunftsfähig zu gestalten.Der AI Act stellt eine der umfassendsten und strengsten Regulierungen für Künstliche Intelligenz weltweit dar. Für Gründer und KMUs ist es entscheidend, die neuen Vorschriften zu verstehen und frühzeitig umzusetzen. Indem Sie die Anforderungen des AI Acts erfüllen, können Sie nicht nur rechtliche Risiken minimieren, sondern auch das Vertrauen Ihrer Kunden stärken und sich als verantwortungsbewusster Innovator positionieren. Nutzen Sie die zur Verfügung stehende Zeit bis 2026, um Ihre KI-Systeme sicher und zukunftsfähig zu gestalten.