Beschwerde gegen OpenAI: Vorwurf von Verstoß gegen US-Handelsrecht

OpenAI: US-Verbraucherschutzbehörde soll ermitteln, Italien sperrt ChatGPT

Eine Forschungsorganisation mit dem Namen Center for AI and Digital Policy hat die FTC aufgefordert, gegen OpenAI Ermittlungen einzuleiten. Die Organisation beschuldigt OpenAI, mit der Markteinführung von GPT-4 gegen das US-amerikanische Handelsrecht zu verstoßen. Sie behauptet, dass das Produkt Menschen täuschen und gefährden, voreingenommen sein und ein Risiko für die Privatsphäre und die öffentliche Sicherheit darstellen kann. Die Beschwerde fordert, dass OpenAI zur Rechenschaft gezogen wird. In Italien hat die Regierung beschlossen, den ChatGPT-Dienst von OpenAI zu sperren, da er gegen das Gesetz zum Schutz persönlicher Daten verstößt.



US-Bundesbehörde tritt wettbewerbsfeindlicher Praxis entgegen


In dem 46-seitigen Dokument fordert das Policy Center die Beamten der Bundesbehörde auf, die von OpenAI erstellten generativen KI-Systeme zu untersuchen und nötigenfalls einer Regulierung zu unterwerfen, das Schreiben ist öffentlich einsehbar. Die darin adressierte Federal Trade Commission ist eine unabhängig arbeitende Bundesbehörde mit Sitz in Washington, D.C. Ihre Befugnisse gehen über die Aufgaben einer Wettbewerbsbehörde hinaus, indem sie in den USA auch den Verbraucherschutz regelt.


Bei direkten Beschwerden von Konsumenten, Organisationen oder Firmen wird die Behörde gegen einzelne Unternehmen tätig. Auch auf Anfragen des Kongresses oder nach Veröffentlichungen in den Medien kann sie einschreiten. Ziel der Behörde ist, das Funktionieren eines von Konkurrenz bestimmten Marktes sicherzustellen und unfairen oder täuschenden, wettbewerbsfeindlichen Praktiken entgegenzutreten.


OpenAI warnt vor Risiken – ohne Haftung zu übernehmen


Desinformation und Manipulationskampagnen, die Verbreitung konventioneller und unkonventioneller Waffen sowie Cybersicherheit gelten als spezifische Gefahren, die OpenAI selbst anerkannt habe. Das KI-Unternehmen selbst warnte davor, dass KI-Systeme erhebliches Potenzial zum Verbreiten und Verfestigen von Ideologien, Weltanschauungen, Wahrheiten und Unwahrheiten besitzen. Besonders kritisch sieht das Policy Center, dass das OpenAI jegliche Haftung für Folgen und Schäden durch den Einsatz seines KI-Systems ausschließt.


Die US-Behörde hat den Einsatz künstlicher Intelligenz in Produkten an mehrere Bedingungen geknüpft: Transparenz, Erklärbarkeit, Fairness, ein empirisches Fundament und Nachvollziehbarkeit sowie klare Verantwortlichkeit (responsible accountability), wodurch sich sowohl eine Rechenschaftspflicht als auch Haftbarkeit im Schadensfall ergeben. Laut der Beschwerde erfülle GPT-4 keine dieser Bedingungen, daher sei es an der Zeit, dass die Behörde eingreife. Das Policy Center schlägt eine unabhängige Aufsicht und das Evaluieren kommerzieller KI-Produkte vor, die in den Vereinigten Staaten auf den Markt kommen. Zum Schutz von Verbrauchern, Unternehmen und dem Handel insgesamt seien Maßnahmen erforderlich, weitere Veröffentlichungen von KI-Produkten durch OpenAI seien zu unterbinden.


Das Center for AI and Digital Policy ist eine in Washington, D.C. ansässige nicht gewinnorientierte Forschungsorganisation, die ein weltweites Netzwerk von KI-Regulierungsexperten und Juristen aus 60 Ländern umfasst. Das Policy Center bietet fachliche Fortbildung für Entscheidungsträger im Bereich KI-Regulierung (future AI policy leaders). Die Organisation berät Regierungen der US-Bundesstaaten und internationale Organisationen bei Regulierungsentscheidungen zu KI und aufstrebenden (emerging) Technologien.


Gegen algorithmische Diskriminierung


Die US-Behörde hatte im Februar bereits vor Werbelügen mit KI gewarnt und Marktauftritte von Anbietern kritisch unter die Lupe genommen. Damals ermahnte sie Unternehmen, die in den USA Geschäfte treiben, die behördlichen KI-Leitlinien aus April 2023 ("Aiming for truth, fairness, and equity in your company's use of AI") zu beherzigen – und zwar bereits vor der Markteinführung neuer Produkte. Die US-Regierung hatte im Oktober 2022 die Blaupause für einen "US Bill of AI Rights" auf den Weg gebracht – perspektivisch eine Grundrechtecharta für das KI-Zeitalter, die Diskriminierung durch Algorithmen verhindern soll. Datenschutz und Erklärbarkeit gehören zu den darin festgelegten Prinzipien.


Beiden Dokumenten ist gemein, dass sie keine unmittelbare Gesetzeskraft haben, aber Vorbildwirkung entfalten sollen. Seit 2021 erarbeitet die Federal Trade Commission neue Vorgaben für Produkte und Dienstleistungen im IT-Sektor ("FTC Explores Rules Cracking Down on Commercial Surveillance and Lax Data Security Practices"). Ähnlich wie bei den gesetzgeberischen Verfahren in der EU rings um den bevorstehenden AI Act steht die Einschätzung und Klassifizierung von Risiken im Zentrum der entstehenden Gesetzgebung. Ein mögliches Verbot von KI-Anwendungen wie ChatGPT steht dabei im Raum.


Italienische Datenschutzbehörde suspendiert ChatGPT


Italien hat ChatGPT "bis auf Weiteres" sperren lassen und OpenAI droht dort eine Millionenstrafe – aus Datenschutzgründen. Die italienische Datenschutzaufsicht Garante per la Protezione dei Dati Personali (kurz "Garante della privacy") ist weltweit die erste Behörde, die den Einsatz eines generativen KI-Chatbots unterbindet. Anlass für die restriktive Maßnahme war ein Sicherheitsproblem seitens OpenAI, wodurch am 20. März Chatverläufe und Zahlungsinformationen anderer Nutzer sichtbar wurden. Die massenhafte Speicherung und Nutzung personenbezogener Daten zu "Trainingszwecken" sei intransparent und stehe nicht in Einklang mit dem Schutz personenbezogener Daten in der EU. Auch fehle ein Altersfilter, um Minderjährige vor verstörendem Inhalt zu schützen. OpenAI hat nun offenbar drei Wochen Zeit, Schutzmaßnahmen zu implementieren und "das Problem in den Griff zu bekommen", hatte der Jurist und Datenschutzsachverständige Guido Scorza von der Behörde zweisprachig im eigenen Blog und gegenüber dem IT-Portal Wired mitgeteilt.


Wie Scorza gegenüber Wired erklärt, handelt es sich bei der Sperre um eine vorübergehende Maßnahme. Diese betrifft die Verarbeitung von personenbezogenen Daten. Sofern ChatGPT ohne personenbezogene Daten funktioniert, sei die weitere Verwendung kein Problem. Tatsächlich werde OpenAI den Zugang aus Italien zu seiner Software sperren oder zumindest auf Funktionen beschränken müssen, die keine personenbezogenen Daten enthalten. Wie lange es nach der Veröffentlichung des Beschlusses vom 30. März dauern kann, ist unbekannt – und noch ist wohl offen, ob OpenAI der Aufforderung nachkommen wird. Zudem sei es nicht möglich, in Verbindungen über virtuelle private Netze (VPN) einzugreifen, die es ermöglichen, die Verbindung in andere Netze außerhalb Italiens zu leiten und so per Proxy die mögliche Sperrung zu umgehen. Der Beschluss ist zweisprachig (Italienisch und Englisch) im Dokumentenbereich der Garante della Privacy abrufbar.


Reale Risiken und Science-Fiktion-Szenarien



Ein Offener Brief schlägt in diesem Zusammenhang Wellen: Das vom Future of Life Institute veröffentlichte Manifest wirft die Frage nach den Risiken großer KI-Systeme auf und fordert ein Moratorium für mindestens sechs Monate. Über 1700 teils prominente Köpfe aus der KI- und Technikwelt unterstützen den Aufruf öffentlich. Die Fachwelt reagiert gespalten: Während manchen sechs Monate Unterbrechung der Arbeit an großen KI-Modellen nicht weit genug gingen, fordern andere statt einer Zwangspause Beschleunigung, um der Risiken Herr zu werden und den Vorsprung von OpenAI und GPT-4 aufzuholen.


In einem TIME-Kommentar zum Open Letter ging ein für KI-Kritik bekannter Alignment-Forscher so weit, dramatische Zustände auf die Zukunft zu projizieren, zur Zerstörung von KI-Rechenzentren durch Bombenabwürfe aufzurufen und das Tracking aller verkauften KI-tauglichen Grafikprozessoren vorzuschlagen – Eliezer Yudkowskys Ausführungen sind Science-Fiction-reif.



Gemäßigtere Stimmen, denen sowohl an Sicherheit als auch an Forschung und Wettbewerb liegt, finden sich vielleicht in einer Petition von LAION wieder, dem Large-scale Artificial Intelligence Open Network: Dessen Mitglieder schlagen ein CERN für KI-Forschung und das Training großer Open-Source-Modelle vor. Die Petition enthält eine lesenswerte forschungsgetriebene Begründung sowie Standpunkte und Gegenstandpunkte zur laufenden Diskussion über KI-Risiken. Die Auseinandersetzung mit den Argumenten beider Seiten könnte behilflich sein, selbst zu einer sachlichen Einschätzung zu kommen.


Update
31.03.2023
20:00
Uhr

Abschnitt zur Suspendierung von ChatGPT in Italien anhand italienischer Quellen erweitert. OpenAI hat eine Aufforderung erhalten, den Länderzugang für Italien zu sperren. Funktionen der Anwendung, die ohne personenbezogene Daten auskommen, sind von dem Beschluss der italienischen Datenschutzbehörde ausgenommen. Ob und wie weit das US-Unternehmen dem nachkommt, ist weiterhin offen.






Kommentare


Anzeige