Auswirkungen des AI Act auf Ihr Unternehmen
Der kürzlich verabschiedete AI Act der EU ist das weltweit erste umfassende Regelwerk für künstliche Intelligenz (KI). Ziel dieses Regelwerks ist es, Innovation und Sicherheit miteinander in Einklang zu bringen und dadurch das Vertrauen in KI-Tools zu stärken. Die Regeln richten sich in erster Linie an die Anbieter von KI-Tools und an alle, die risikobehaftete KI-Tools zur Verfügung stellen. Aber auch Unternehmen, die selbst KI-Tools einsetzen, sind betroffen. Was ist nun zu beachten?
Risikoeinstufung des AI Acts
Neben der Rolle (Anbieter, Einsetzer, Vertreiber, Importeur, Hersteller des Produkts, Bevollmächtigter), die das Unternehmen in Bezug auf KI einnimmt, hängen die Regeln vor allem von der Risikobewertung der jeweiligen KI-Use Cases ab. KI-Systeme werden von der EU in vier Kategorien eingeteilt:
- Minimales Risiko
Für Systeme mit minimalem Risiko gibt es keine speziellen Anforderungen, jedoch werden freiwillige Verhaltenskodizes empfohlen. - Begrenztes Risiko
Systeme mit begrenztem Risiko müssen Transparenzpflichten erfüllen, z.B. Chatbots müssen klar als solche gekennzeichnet sein. - Hohes Risiko
Strenge Anforderungen gelten für Systeme mit hohem Risiko, z.B. in der Medizin, im Finanzsektor oder im HR-Bereich. Anwendungen mit hohem Risiko erfordern umfassende Sicherheits- und Transparenzmaßnahmen. - Inakzeptables Risiko
Systeme, die ein inakzeptables Risiko darstellen, sind verboten (z.B. Social Scoring).
Transparenz schaffen
Anbieter von GPAI Modellen (General Purpose AI) wie z.B. Open AI sind verpflichtet eine Zusammenfassung der Trainingsdaten ihrer KI-Modelle zu erstellen, wie auch eine technische Unterlage zur Funktionsweise. Unternehmen, die diese GPAI Modelle wie Copilot oder ChatGPT nutzen, müssen gemäß Art. 50 AI Act lediglich sicherstellen, dass KI-generierte Inhalte klar als solche gekennzeichnet sind. Eine Kennzeichnung ist nicht erforderlich, wenn die Inhalte zuvor von Mitarbeitenden geprüft wurden und somit eine redaktionelle Verantwortung übernommen wird. Insofern ist die Sicherstellung einer redaktionellen Überarbeitung von KI-generierten Inhalten wichtig – diese empfiehlt sich aber ohnehin (Stichwort Halluzination). Wo eine solche Überarbeitung nicht notwendig oder sinnvoll möglich ist, sollten Sie Regeln und Prozesse zur klaren Kennzeichnung von KI-generierten Inhalten implementieren.
Für eigene KI-System ist es erforderlich, umfangreiche Dokumentationen zu führen und bei Bedarf dem AI-Büro der EU vorzulegen. Insbesondere KI-Systeme mit hohem Risiko müssen kontinuierlich überwacht und dokumentiert werden, um die Anforderungen an Sicherheit und Transparenz zu erfüllen. Es ist wichtig, KI-Systeme regelmäßig zu überprüfen und an neue regulatorische Anforderungen anzupassen. Betroffen sind davon zum Beispiel KI-Systeme, die für automatisierte Entscheidungen im Personalmanagement eingesetzt werden. Unter den Regelsatz der KI-Systeme mit hohem Risiko fallen auch alle Anwendungsfälle im Management und Betrieb von kritischer Infrastruktur oder die Bewertung von Prüfungen im Ausbildungsbereich.
Zudem müssen Mitarbeitende, die mit KI-Systemen arbeiten, geschult werden: Im Umgang mit dem System, hinsichtlich der neuen rechtlichen Anforderungen und der ethischen Aspekte von KI. Insofern noch keine KI-Richtlinien und kein Verhaltenskodex im Umgang mit KI in ihrem Unternehmen vorhanden sind, empfehlen wir, diese zu erstellen.
Sind Sie AI Act ready?
Der AI Act bietet die Chance, den Einsatz von KI verantwortungsvoll zu gestalten und gleichzeitig das Innovationspotenzial zu maximieren. Als Digitalberatung unterstützen wir Sie gerne dabei, Ihr Unternehmen optimal auf die neuen Regelungen vorzubereiten und Ihre KI-Anwendungen zukunftssicher zu gestalten.
Für detaillierte Informationen und Unterstützung kontaktieren Sie uns gerne direkt.
Das könnte Sie auch interessieren
timesaver: KI-Lösungen für den Büroalltag
Sparen Sie wertvolle Zeit, Geld und Nerven: Automatisieren Sie Ihre manuellen, nicht wertschöpfenden Tätigkeiten oder lassen Sie sich durch Generative KI unterstützen. Unser neustes Produkt, der timesaver bietet Ihnen eine Sammlung an Schritt-für-Schritt-Anleitungen und KI-Prompts, um Ihre Routineaufgaben zu beschleunigen.
[Checkliste] Copilot erfolgreich im Unternehmen einführen
Copilot, der KI-Assistent von Microsoft, kann Ihrem Unternehmen viele Vorteile bringen. Aber wie können Sie Copilot effektiv implementieren? In unserem Artikel bieten wir Ihnen eine nützliche Checkliste für die Pilotphase, die Ihnen zeigt, wie Sie Copilot erfolgreich einsetzen können.
In 3 Schritten zu mehr Effizienz (für wenig Geld!)
Ein Thema die Medien und die Arbeitswelt dominiert: Generative KI. In Kombination mit sog. Low-Code Anwendungen haben Sie mächtige Automatisierungslösungen, mit denen Sie unternehmensintern kostengünstig die Digitalisierung vorantreiben können. Die gute Nachricht: viele der Tools haben Sie heute wahrscheinlich bereits unter Lizenz! Starten Sie mit folgenden 3 Schritten.
Sie möchten mehr erfahren?
Direkter Austausch
Buchen Sie sich ganz unkompliziert einen 30 Minuten-Termin.
Wir freuen uns darauf, Ihre Fragen im persönlichen Gespräch zu beantworten.
E-Mail schreiben
Zögern Sie nicht und kontaktieren Sie uns gerne jederzeit.
Wir sind offen für Ihre Fragen und Anregungen.