Warum war es so schwierig, das wegweisende KI-Gesetz der EU zu verabschieden?

Als die europäischen Gesetzgeber letzte Woche eine vorläufige Einigung über wegweisende KI-Regeln erzielten, hatten sie Grund zum Feiern.

EU-Gesetz zur künstlichen Intelligenz wurde verabschiedet Der lang erwartete Höhepunkt ist am Freitag Dies geschieht nach zwei Jahren umfassender Diskussion und auch nach einer dreitägigen „Marathon“-Diskussion zwischen der Europäischen Kommission, dem Europäischen Parlament und den EU-Mitgliedstaaten zur Lösung von Differenzen. War die ganze Nacht zurückgezogen. Kisten voller Übrig gebliebener Kaffee, Energy-Drinks und zuckerhaltige Snacks. Dies war das Umfeld, das man von Studenten erwarten würde, die sich auf Abschlussprüfungen vorbereiten, und nicht von Gesetzgebern, die an Gesetzen arbeiten, die einen Entwurf für die Regulierung der globalen KI vorgeben könnten. Das Chaos ist größtenteils auf zwei umstrittene Themen zurückzuführen, die die gesamten Verhandlungen zum Scheitern zu bringen drohten: Gesichtserkennung und robuste „Basismodelle“.

Wann wurde das Gesetz über künstliche Intelligenz erstmals vorgeschlagen? Im April 2021Ziel war es, „neue Risiken oder negative Folgen für den Einzelnen oder die Gesellschaft“ zu bekämpfen, die künstliche Intelligenz verursachen könnte. Das Gesetz konzentrierte sich auf Instrumente, die bereits in Bereichen wie Polizeiarbeit, Beschäftigung und Bildung eingesetzt werden. Doch obwohl sich das Gesamtziel des Gesetzentwurfs nicht geändert hat, hat sich die Technologie der künstlichen Intelligenz geändert ein Akt -Und schnell. Die vorgeschlagenen Regeln waren für den Umgang mit Allzwecksystemen, die allgemein als Archetypen bezeichnet werden, wie die Technologie, die dem äußerst beliebten ChatGPT von OpenAI zugrunde liegt, das im November 2022 eingeführt wurde, schlecht geeignet.

Ein Großteil der Verzögerungen in letzter Minute ist darauf zurückzuführen, dass die politischen Entscheidungsträger sich darum bemühen, sicherzustellen, dass neue KI-Technologien – sowie zukünftige Technologien, die noch entwickelt werden müssen – in den Geltungsbereich der Gesetzgebung fallen. Anstatt einfach jeden Bereich zu regulieren, in dem sie auftauchen könnten (eine Liste, die Autos, Spielzeug, medizinische Geräte und vieles mehr umfasst), nutzen Sie das Gesetz Ein Stufensystem, das KI-Anwendungen nach Risiko klassifiziert. „Hochriskante“ KI-Systeme, die die Sicherheit oder Grundrechte beeinträchtigen könnten, unterliegen strengeren regulatorischen Beschränkungen. Darüber hinaus unterliegen Systeme der allgemeinen künstlichen Intelligenz (GPAI) wie die GPT-Modelle von OpenAI zusätzlichen Vorschriften. Die mit dieser Klassifizierung verbundenen Risiken waren hoch und die Kontroverse darum heftig.

„Irgendwann sah es so aus, als ob Spannungen darüber, wie GPAI reguliert werden würde, den gesamten Verhandlungsprozess zum Scheitern bringen könnten“, sagt Daniel Laufer, leitender Politikanalyst bei Access Now, einer digitalen Menschenrechtsorganisation. „Frankreich, Deutschland und Italien haben erheblichen Druck ausgeübt, diese Systeme vollständig von jeglichen Verpflichtungen im Rahmen des KI-Gesetzes auszunehmen.“

Diese Länder, drei der größten Volkswirtschaften Europas, Die schwierigen Verhandlungen begannen im November Aus Sorge, dass strenge Beschränkungen dazu führen könnten Begrenzen Sie Innovationen Und Start-ups schaden, die in ihren Rechtsgebieten grundlegende KI-Modelle entwickeln. Diese Bedenken standen im Widerspruch zu anderen EU-Gesetzgebern, die strenge Vorschriften für die Verwendung und Entwicklung einführen wollten. Dieses in letzter Minute in die Verhandlungen zum KI-Gesetz eingebrachte Problem trug zur Verzögerung einer Einigung bei, war aber nicht der einzige Knackpunkt.

Tatsächlich scheint ein Großteil der tatsächlichen Gesetzgebung bereits Tage vor Abschluss des Interimsabkommens ungeklärt zu bleiben. Während eines Treffens zwischen europäischen Ministern für Kommunikation und Verkehr Am 5. Dezember„Die KI-Regulierung insgesamt ist noch nicht ausgereift“, sagte Bundesdigitalminister Volker Vissing.

GPAI-Systeme waren mit Anforderungen wie der Offenlegung von Trainingsdaten, dem Stromverbrauch und Sicherheitsvorfällen konfrontiert und mussten zusätzlichen Risikobewertungen unterzogen werden. Es überrascht nicht, dass OpenAI (ein Unternehmen, das dafür bekannt ist, Details über seine Arbeit preiszugeben) GoogleUnd Microsoft übte Druck auf die Europäische Union aus Zur Lockerung strengerer Vorschriften. Es scheint, dass sich diese Versuche ausgezahlt haben. Während der Gesetzgeber zuvor über eine Klassifizierung nachgedacht hat alle GPAIs gelten als „hochriskant“, die letzte Woche erzielte Einigung unterwirft sie stattdessen einem zweistufigen System, das Unternehmen einen gewissen Spielraum lässt, um die strengsten Beschränkungen des AI Act zu umgehen. Auch das, Dies hat wahrscheinlich zu Verzögerungen in letzter Minute beigetragen Es wurde letzte Woche in Brüssel aufgelöst.

„Am Ende haben wir sehr minimale Transparenzpflichten für GPAI-Systeme erhalten, mit einigen zusätzlichen Anforderungen für sogenannte ‚High-Impact‘-GPAI-Systeme, die ein ‚systemisches Risiko‘ darstellen“, sagt Laufer, aber es gibt noch einen „langen Kampf“. ” voraus, um sicherzustellen, dass die Aufsicht über diese Maßnahmen und ihre Umsetzung ordnungsgemäß funktioniert.

Es gibt auch eine strengere Kategorie: Systeme mit einem „inakzeptablen“ Risikoniveau, das nach dem KI-Gesetz völlig verboten ist. In den Verhandlungen bis in die letzten Stunden waren auch die Mitgliedsstaaten dabei Immer noch mehr Sparring Ob dazu einige der umstritteneren High-Tech-Überwachungsinstrumente gehören sollten, ist umstritten.

Zuerst das Europäische Parlament Es gab grünes Licht für ein vollständiges Verbot biometrischer Systeme zur Massenüberwachung der Öffentlichkeit Im Juli. Dazu gehörte die Erstellung von Gesichtserkennungsdatenbanken durch zufälliges Extrahieren von Daten aus sozialen Medien oder CCTV-Aufnahmen; vorausschauende Polizeisysteme basierend auf Standort und vergangenem Verhalten; Biometrische Klassifizierung basierend auf sensiblen Merkmalen wie Rasse, Religion, ethnische Zugehörigkeit, Geschlecht, Staatsbürgerschaft und politische Zugehörigkeit. Außerdem wurde die biometrische Fernidentifizierung in Echtzeit und rückwirkend verboten, mit der einzigen Ausnahme, dass die Strafverfolgungsbehörden nach gerichtlicher Genehmigung verzögerte Identifizierungssysteme zur Verfolgung „schwerer Straftaten“ verwenden dürfen. Europäische Kommission und EU-Mitgliedstaaten Er hat dagegen Einspruch erhoben Und ich bekam Zugeständnisse – für einige Kritiker geraten in Panik.

Der am Freitag verabschiedete Entwurf enthält Ausnahmen, die den eingeschränkten Einsatz der automatisierten Gesichtserkennung ermöglichen, etwa für Fälle, in denen die Identifizierung mit erheblicher Verzögerung erfolgt. Es kann auch für bestimmte Anwendungsfälle der Strafverfolgung genehmigt werden, bei denen es um Bedrohungen der nationalen Sicherheit geht, jedoch nur unter bestimmten (derzeit nicht näher spezifizierten) Umständen. Dies dürfte Mitglieder des Blocks wie Frankreich besänftigen, das auf den Einsatz KI-gestützter Überwachung gedrängt hat Überwachung von Dingen wie Terrorismus Und der nächste Olympische Spiele 2024 in ParisDoch Menschenrechtsorganisationen wie Amnesty International standen dieser Entscheidung kritischer gegenüber.

„Es ist enttäuschend zu sehen, dass das Europäische Parlament dem Druck der Mitgliedstaaten nachgibt, von seiner ursprünglichen Position abzuweichen.“ sagte Mhir Hakobyan, Advocacy-Berater für KI-Regulierung bei Amnesty International. „Während Befürworter argumentieren, dass der Entwurf nur eine begrenzte Nutzung der Gesichtserkennung erlaubt und Schutzmaßnahmen unterliegt, haben Untersuchungen von Amnesty International in… New York City, besetztes palästinensisches Gebiet, Hyderabadund an anderer Stelle erklärt er, dass es keine Schutzmaßnahmen gibt, die den Schaden verhindern können, den die Gesichtserkennungstechnologie den Menschenrechten zufügt, weshalb ein völliges Verbot erforderlich ist.

Um die Sache noch komplizierter zu machen, können wir nicht näher darauf eingehen Spezifisch Es wurden Kompromisse geschlossen, da der vollständige Text des verabschiedeten KI-Gesetzes erst in mehreren Wochen verfügbar sein wird. Technisch gesehen existiert es innerhalb der EU wahrscheinlich noch nicht offiziell auf keinenfall. Er sagt, dass Kompromisse bei diesen Vereinbarungen oft eher auf Prinzipien als auf präzisen Formulierungen beruhen Michael Phil, außerordentlicher Professor für digitale Rechte und Regulierung an der UCLA School of Law. Das bedeutet, dass es einige Zeit dauern kann, bis der Gesetzgeber die Rechtssprache verfeinert.

Da zudem nur eine vorläufige Einigung erzielt wurde, können sich die endgültigen Rechtsvorschriften noch ändern. Es gibt keinen offiziellen Zeitplan, aber Politikexperten scheinen sich in ihren Schätzungen mehr oder weniger einig zu sein: Das KI-Gesetz wird voraussichtlich Mitte 2024 nach seiner Veröffentlichung im Amtsblatt der Europäischen Union mit allen Bestimmungen in Kraft treten schrittweises Inkrafttreten in den nächsten zwei Jahren. .

Dies gibt den politischen Entscheidungsträgern etwas Zeit, herauszufinden, wie sie diese Regeln genau umsetzen können. Auch KI-Unternehmen können diese Zeit nutzen, um sicherzustellen, dass ihre Produkte und Dienstleistungen zum Zeitpunkt des Inkrafttretens der Bestimmungen den Regeln entsprechen. Letztendlich bedeutet dies, dass wir möglicherweise erst Mitte 2026 alles im KI-Recht geregelt sehen werden, also in Jahren der KI-Entwicklung Vor langer Zeit – Bis dahin müssen wir uns möglicherweise mit einer ganzen Reihe neuer Probleme befassen.