Kalifornien verabschiedet bahnbrechendes KI-Sicherheitsgesetz, das Sicherheitstests für Frontier-Modelle vorschreibt

SACRAMENTO, CA – Der kalifornische Landtag hat ein wegweisendes Gesetz verabschiedet, das die strengsten Sicherheitsvorschriften für künstliche Intelligenz in den USA schaffen könnte. Der Gesetzentwurf SB 1047 schreibt vor, dass Entwickler der leistungsstärksten KI-Systeme, sogenannter „Frontier Models“, strenge Sicherheitstestprotokolle einhalten, robuste Sicherheitsmaßnahmen implementieren und für mögliche Schäden haften müssen.

Der von Senator Scott Wiener verfasste Gesetzentwurf wurde mit knapper Mehrheit im Parlament verabschiedet und liegt nun Gouverneur Gavin Newsom zur Unterschrift oder zum Veto vor. Sollte er in Kraft treten, müssten KI-Unternehmen umfassende Risikobewertungen durchführen und dem Staat bescheinigen, dass ihre Modelle nicht für katastrophale Zwecke wie die Herstellung biologischer oder chemischer Waffen eingesetzt werden können. Der Gesetzentwurf enthält außerdem eine Bestimmung, die Entwickler dazu verpflichtet, einen „Kill Switch“ zu installieren, um ein Modell abzuschalten, wenn es unkontrollierbares oder gefährliches Verhalten zeigt.

Ein zentraler Bestandteil von SB 1047 ist die Einrichtung einer neuen staatlichen Einrichtung, der Frontier Model Division, die dem Technologieministerium unterstellt ist. Diese Stelle wäre befugt, die Entwicklung groß angelegter Modelle zu überwachen, die mit erheblicher Rechenleistung trainiert werden (definiert als Modelle, die 10^26 Ganzzahl- oder Gleitkommaoperationen verwenden).

Der Gesetzentwurf hat eine heftige Debatte zwischen KI-Sicherheitsbefürwortern und der Tech-Branche ausgelöst. Befürworter, darunter das Center for AI Safety, argumentieren, dass das Gesetz die notwendigen Schutzmaßnahmen zur Verhinderung potenzieller KI-bedingter Katastrophen bietet. Branchenverbände, darunter TechNet – das Giganten wie Google und Meta vertritt –, lehnen den Gesetzentwurf jedoch entschieden ab. Sie argumentieren, dass die starren Anforderungen und die hohen Kosten der Einhaltung Innovationen hemmen, Start-ups aus Kalifornien vertreiben und den Staat im Wettbewerb benachteiligen würden. Der Ausgang der Entscheidung von Gouverneur Newsom wird nun aufmerksam beobachtet, da sie einen starken Präzedenzfall für die KI-Governance im ganzen Land schaffen könnte.