New York verklagt Amazon Web Services wegen angeblichen Verkaufs illegaler KI-Überwachungstechnologie

NEW YORK — Die New Yorker Generalstaatsanwältin Letitia James hat eine wegweisende Klage gegen Amazon Web Services (AWS), die Cloud-Computing-Abteilung von Amazon, eingereicht. Sie wirft dem Unternehmen vor, illegale KI-gestützte Überwachungstechnologie entwickelt, vermarktet und an Behörden und Strafverfolgungsbehörden verkauft zu haben. Die Klage vor einem Staatsgericht behauptet, diese Tools verstießen gegen die Bürgerrechte und Antidiskriminierungsgesetze des Staates New York, indem sie ein beispielloses Maß an Überwachung ermöglichten, von dem marginalisierte Gemeinschaften überproportional betroffen seien.

Im Mittelpunkt der Klage stehen Vorwürfe, AWS habe leistungsstarke Gesichtserkennungs- und andere KI-Analysetools bereitgestellt, die für Massenüberwachung eingesetzt werden könnten. Dies stelle eine „Bedrohung der bürgerlichen Freiheiten“ dar, wie die Generalstaatsanwaltschaft es bezeichnete. Die Klage behauptet, diese Technologien könnten zu Fehlverhaftungen, voreingenommener Polizeiarbeit und einer Einschränkung der Meinungs- und Versammlungsfreiheit führen. Generalstaatsanwalt James erklärte, Unternehmen dürften nicht von Technologien profitieren, die die Grundrechte der New Yorker untergraben.

Ziel der Klage ist es, AWS den Verkauf oder die Vermarktung dieser spezifischen KI-Überwachungsdienste an Regierungsbehörden im Bundesstaat New York zu untersagen. Sie fordert außerdem Strafen und die Herausgabe der Gewinne aus diesen mutmaßlich illegalen Verkäufen.

Diese Klage markiert eine deutliche Eskalation im Kampf um den Einsatz von KI durch Regierungsbehörden. Während sich frühere Debatten oft auf die Strafverfolgungsbehörden konzentrierten, die diese Technologie nutzen, richtet sich diese Klage gegen einen der weltweit größten Plattformanbieter. Sie wirft kritische Fragen zur Verantwortung von Cloud-Giganten wie Amazon, Google und Microsoft für die auf ihrer Infrastruktur gehosteten Anwendungen und Dienste auf. Amazon war bereits zuvor für seine Rekognition-Software in die Kritik geraten und verhängte 2020 ein Moratorium für den polizeilichen Einsatz der Technologie, das jedoch inzwischen ausgelaufen ist. Der Ausgang dieses Falls könnte einen starken Präzedenzfall für die Regulierung und den Verkauf von KI-Überwachung in den Vereinigten Staaten schaffen.