1. Wie das KI-Gesetz Gestalt annahm: eine Zeitleiste
Als das KI-Gesetz im April 2021 erstmals von der EU-Kommission vorgeschlagen wurde, führte es einen risikobasierten Ansatz ein, bei dem KI-Systeme in vier Kategorien eingeteilt wurden, die von einem minimalen bis zu einem inakzeptablen Risiko reichen und sich nach dem potenziellen Schaden richten, den das System verursachen kann. Je höher das Risiko, desto strenger die Anforderungen und Verpflichtungen für die Anbieter dieser Systeme, die von Kennzeichnungspflichten für Chatbots und KI-generierte Texte und Bilder bis hin zu detaillierten Risikobewertungen, Marktüberwachungspflichten und CE-Zertifizierung reichen. Als übergreifendes Prinzip versucht das KI-Gesetz, die Autonomie von KI-Systemen einzuschränken und die Kontrolle über Entscheidungsprozesse wieder in die Hand des Menschen zu legen: Menschliche Aufsicht über KI-Systeme, Erklärbarkeit von KI-gesteuerten Entscheidungen und ein "Kill Switch", der es ermöglicht, jede vom KI-System getroffene Entscheidung durch menschliche Aufsichtspersonen zu stoppen und außer Kraft zu setzen.
2. ChatGPT: ein Grund zur Überarbeitung
Ein Blick auf den materiellen Geltungsbereich des KI-Gesetzes zeigt, dass fast alle Branchen, von der Automobilindustrie über die Justiz bis hin zum Gesundheitswesen, sich an die neue Verordnung halten müssen. Was jedoch zunächst keine große Debatte auslöste, war die Regulierung der sogenannten General Purpose Artificial Intelligence (GPAI). Dabei handelt es sich um KI-Systeme, die sich nicht eindeutig in eine Kategorie einordnen lassen, sondern für verschiedene Zwecke eingesetzt werden können, wie z. B. ChatGPT. Natürlich könnte ChatGPT zur Erstellung von Inhalten für das Online-Marketing (System mit geringem Risiko), aber auch als Schreibhilfe für Richter und Anwälte (System mit hohem Risiko) eingesetzt werden. Auch die so genannten Basismodelle, die mit einer großen Anzahl von Trainingsdaten trainiert werden, oft als Open Source zur Verfügung stehen und von KI-Entwicklern kostenlos genutzt werden können, wurden im ersten Entwurf des KI-Gesetzes nicht berücksichtigt.
Derzeit wird eine heftige Debatte über die Regulierung sowohl von GPAI als auch von Foundation Models geführt. Während beide Systeme einen beträchtlichen wirtschaftlichen Mehrwert schaffen, indem sie eine Vielzahl von nachgelagerten Anwendungsfällen ermöglichen, ringt der Gesetzgeber um das richtige Gleichgewicht zwischen Informationspflichten, Haftung für die Nutzung durch Dritte und der Nicht-Erstickung des Innovationspotenzials dieser Technologien.
3. Auswirkungen auf die KI-Industrie
Erklärtes Ziel des KI-Gesetzes ist es, in Europa eine KI-Industrie aufzubauen, die zum weltweiten Leuchtturm für verantwortungsvolle und vertrauenswürdige KI wird.
In einer Marktstudie der appliedAI Initiative wurden Startup-Gründer in Deutschland befragt, in welche Risikokategorie des KI-Gesetzes ihre Business Cases fallen würden. Es stellte sich heraus, dass 33% der Gründer glauben, dass ihre Produkte als hoch riskant eingestuft werden würden. Und 50 % glauben, dass das KI-Gesetz die Innovation in der EU verlangsamen wird, und 16 % ziehen sogar in Erwägung, die Entwicklung ihres KI-Produkts einzustellen oder in ein Land außerhalb der EU zu verlagern. Diese Tendenz wurde von mehreren Start-ups, mit denen wir gesprochen haben, bestätigt. Uns sind beispielsweise Fälle bekannt, in denen US-Investoren vielversprechende Unternehmen in die USA locken, um Rechtsunsicherheiten im Zusammenhang mit dem regulatorischen Rahmen in Europa zu vermeiden.
Andererseits erfuhren wir von Partnerfirmen und Branchenexperten in Israel, dass israelische Start-ups die Entwicklung in Europa genau beobachten und sich bemühen, das kommende KI-Gesetz einzuhalten, um den Zugang zum großen europäischen Markt zu erhalten. Offensichtlich gewinnt das Ziel der Kommission, den EU-Markt zu einem führenden Beispiel für die KI-Regulierung zu machen, bereits an Zugkraft. Vermutlich wird dieser Effekt durch den breiten Anwendungsbereich des KI-Gesetzes unterstützt, der nicht nur Unternehmen mit Sitz in der EU erfasst, sondern auch solche, die als Cloud- oder Software-as-a-Service-Anbieter Dienstleistungen für Kunden in der EU erbringen wollen. Die Idee der Kommission war es, jeden Versuch der Auslagerung von KI-Dienstleistungen in Nicht-EU-Länder mit einem niedrigeren Niveau der KI-Regulierung zu verbieten.
Wie sich herausstellt, könnte das EU-KI-Gesetz bei kluger Regulierung ein Verkaufsargument für die europäische KI-Industrie und ein Gütesiegel für ausländische Unternehmen werden.
4. Aufruf zum Handeln
Auch hier sind die Ziele des Kommissionsvorschlags gut begründet. Eine Wunschliste an den Gesetzgeber würde jedoch zumindest die folgenden Aspekte enthalten:
- Die KI-Regulierung darf die Innovation und Verbreitung der KI-Technologie nicht bremsen. Wir stehen in Europa vor einer alternden Bevölkerung und einem Mangel an Arbeitskräften. Wenn wir unseren Wohlstand erhalten wollen, müssen wir die Effizienz unserer Arbeitskräfte steigern.
- Die KI-Regulierung muss den wertvollen Beitrag von Start-ups zu unserer Wirtschaft berücksichtigen. Ohne einen reibungslosen Übergang von der universitären Spitzenforschung zur Marktreife von Spinout-Startups werden wir einen wesentlichen Teil unseres Innovationspotenzials verlieren. Unternehmensgründungen in Europa und insbesondere in Deutschland werden schon jetzt durch eine Fülle von Vorschriften erschwert. Der Gesetzgeber muss daher ausreichend regulatorischen Spielraum schaffen, damit Startups Zeit und Ressourcen investieren können, um an ihrem Geschäft zu arbeiten, bevor sie sich mit allen Feinheiten der KI-Regulierung auseinandersetzen.
- Der Regulierungsansatz des KI-Gesetzes ist an sich schon innovativ, wenn es um die Einrichtung so genannter regulatorischer Sandkästen geht, also öffentlicher Einrichtungen, die Start-ups Anleitung, Beratung und sichere Häfen bieten, um ihre Produkte zu testen. Allerdings müssen diese Sandkästen mit ausreichenden finanziellen und personellen Ressourcen ausgestattet sein, um glaubwürdige Partner innerhalb der KI-Branche zu werden.
