Oftmals gehen die Vorstellungen von KI und wirkliche Umsetzung weit auseinander von Customer Support Assistenten auf Websites bis hin zum Autonomen Fahren, die Anwendungsfälle wachsen stetig. In den Augen vieler Anwenderinnen und Anwender bietet der Einsatz vor allem eins: Eine Automatisierung, die das Leben leichter machen soll. Auf der anderen Seite stehen Kritikerinnen und Kritiker, die vor allem das Risiko mit der KI-Anwendung sehen. “Wer haftet, wenn es mal nicht richtig gelaufen ist?“ Sind es die Entwickler, die das Programm geschrieben haben? Firmen, die entsprechenden Tools anwenden? Oder gar der Anwender oder die Anwenderin? Mit diesen Themen beschäftigt sich zurzeit eine Kommission der Europäischen Union.
KI-Risiko Fälle sind weit gefächert: Vom Unfall beim Autonomen Fahren, zu medizinischen Fehldiagnose bis hin zu geschäftlichen Fehlentscheidungen. Die Europäische Kommission möchte auf dem Gebiet der Haftungsfälle beim Einsatz von Künstlicher Intelligenz Klarheit schaffen. Aus dem Grund hat die Kommission im April 2021 einen Entwurf zur Verordnung zur Regulierung der KI-Nutzung veröffentlich. Ziel ist es, den Endnutzer zu schützen. Das Gesetzt, auch KI-Act genannt, soll dieses Jahr verabschiedet werden und richtet sich an Firmen, die KI-Systeme entwickeln, in ihren Produkten integrieren und auch in ihren Geschäftsprozessen anwenden. Firmen haben dann 24 Monate Zeit das ganze umzusetzen. Der KI-Act verfolgt einen risikobasierten Ansatz und soll an die neue Produkthaftungsrichtline der EU angelehnt werden, um Entwicklern und Firmen eine rechtliche Grundlage zu geben.
Das Ziel der Legislatur ist es die Entwicklung, Adaption sowie Anwendung von KI in der EU zu beschleunigen und weiter steigern. Zeitgleich soll mit dem risikobasierten Ansatz die Entwickler auch stärker in die Pflicht genommen werden. Der Ansatz klassifiziert KI-Systeme in einzelne Anwendungsfälle basierend auf dem Effekt und den Auswirkungen auf das menschliche Leben.
Mit dem neuen KI-Act soll vor allem Vertrauen in die Technology hergestellt werden. Generell umfasst der Gesetzvorschlag drei Bereiche.
Als Grundlage soll die EU Cybersecurity Strategy, der Digital Service Act and Digital Markets Act und Data Governance Act sein. Die Legislatur kann sich noch final ändern, jedoch sind schon einige Aspekte klar. Zum Beispiel wird im KI-Act in 4 Risiko Kategorien unterteilt: minimal, gering, hoch und unannehmbar. In der Kategorie unannehmbar sind z.B. KI-Systeme, die das menschliche sozial verhalten manipulieren oder daran bewerten. Systeme die Entscheidungen über Menschen treffen fallen somit in die Hoch Risiko Kategorie. Chatbots sowie ChatGPT würden in die minimale Kategorie fallen.
Für Firmen bleibt noch Zeit bis 2025 um das Gesetz umzusetzen, vorausgesetzt das Gesetzt wird noch 2023 verabschiedet. 2025 scheint auf den ersten Blick ausreichend zu sein, jedoch sollte die Zeitspanne hier nicht unterschätzt werden und das Gesetz sollte bereits jetzt auf dem Radar von Entwicklerteams sein. Im Jahr 2016 war auch Zeit für die Allgemeine Datenschutz-Verordnung jedoch traf viele Firmen überraschend. Frühe Planung lohnt sich und Umstellung lohnt sich. Wir können Ihnen helfen zu beurteilen inwieweit das der KI-Act Auswirkungen auf ihre Digitale Infrastruktur haben.
Der KI-Act kann als ganzheitlicher Ansatz der EU-Kommission betrachtet werden in dem auch Datenschutz und Produkthaftung miteinfließen, wie auch beschrieben in unserem Artikel zu Risiken von ChatGPT.
Wollen Sie mehr über die neue KI-Regulierung erfahren oder überprüfen wie Ihre Systeme mit der neuen Legislatur übereinstimmen und welche Bereiche verbessert werden müssen?
Gerne Hilft Ihnen unser IT Consulting Team weiter!
