Schlagwort: Kalifornien

Kalifornien dreht an KI-Regeln: Anthropic stützt SB 53 Transparenz statt Technik-Diktat: 15-Tage-Meldepflicht, Whistleblower-Schutz und klare Berichte. Kurzfassung | Andreas Becker, 09.09.25
gpt-image-1 | All-AI.de EINLEITUNG Kalifornien startet den nächsten Versuch, den Umgang mit mächtigen KI-Systemen zu regulieren – diesmal mit weniger Technikauflagen und mehr Offenheit. Der Gesetzesentwurf SB 53 verlangt von großen KI-Entwicklern künftig nachvollziehbare Sicherheitskonzepte, Transparenzberichte vor dem Launch und eine Pflicht zur Meldung schwerwiegender Vorfälle binnen 15 Tagen. Unterstützt wird der Ansatz vom KI-Unternehmen Anthropic – ein Signal, das auch bei Wettbewerbern für Aufmerksamkeit sorgt. NEWS Transparenz statt Detailvorgaben SB 53 zielt auf sogenannte „Frontier“-Modelle ab – also KI-Systeme, die besonders rechenintensiv trainiert wurden. Unternehmen mit mehr als 500 Millionen Dollar Umsatz, die solche Modelle entwickeln, müssen künftig offenlegen, wie sie mit potenziellen Katastrophenrisiken umgehen. Dazu gehört ein veröffentlichter Sicherheitsrahmen ebenso wie ein Transparenzbericht, der vor oder zeitgleich mit der Einführung eines neuen Modells erscheinen muss. Das Gesetz setzt klare Grenzen: Von einem „katastrophischen Risiko“ ist die Rede, wenn durch ein Modell mehr als 50 Menschen zu Schaden kommen könnten oder finanzielle Schäden von über einer Milliarde Dollar drohen. In solchen Fällen gilt eine Meldefrist von 15 Tagen – nicht an die Staatsanwaltschaft, sondern an Kaliforniens Katastrophenschutzbehörde. Unternehmen müssen zudem Hinweisgeber schützen und interne Kanäle für anonyme Meldungen einrichten. Warum Anthropic das Gesetz unterstützt Noch vor einem Jahr scheiterte ein ähnlicher Gesetzesentwurf (SB 1047) am Widerstand von Gouverneur Newsom – zu technisch, zu bürokratisch, zu wenig konsensfähig. SB 53 geht nun den Weg der Offenheit: weniger technische Vorgaben, dafür ein Rahmen, der sich an bewährten Branchenstandards orientiert. Genau das empfiehlt auch die von Newsom einberufene Expertengruppe zur KI-Politik – Vertrauen ja, aber mit Kontrolle. Anthropic begrüßt den Entwurf und verweist darauf, dass viele der neuen Vorgaben ohnehin schon Praxis seien. Das Unternehmen veröffentlicht etwa regelmäßig Risikoanalysen und technische Systembeschreibungen. Der gesetzliche Rahmen könne zudem verhindern, dass Firmen aus Wettbewerbsgründen bei Sicherheit und Offenheit Abstriche machen. Ein Kompromiss mit politischen Chancen SB 53 wurde in den letzten Wochen in wichtigen Punkten nachjustiert. Die Schwellenwerte sind nun klar definiert, der Meldeweg wurde vereinfacht und kleinere Unternehmen sind von den Pflichten ausgenommen. Damit wächst die Chance, dass der Entwurf auch politisch durchkommt – als pragmatischer Kompromiss zwischen Innovationsfreiheit und öffentlichem Schutzinteresse. Zwar gibt es weiterhin Kritik aus Teilen der Tech-Industrie, die vor wachsendem Aufwand und unnötiger Regulierung warnen. Doch die Richtung ist gesetzt: Kalifornien will bei der Kontrolle von Hochrisiko-KI nicht länger zusehen – sondern handeln, bevor es zu spät ist. DEIN VORTEIL – DEINE HILFE Kostenlose News und Tutorials – mit minimaler Werbung und maximalem Mehrwert. Damit das so bleibt und wir uns stetig verbessern können, freuen wir uns über deine Unterstützung. Teile diesen Beitrag Folge uns auf Social Media Keine KI-News mehr verpassen und direkt kommentieren! Mastodon X Bluesky Facebook LinkedIn Youtube Unterstütze uns direkt Mit einer YouTube-Mitgliedschaft (ab 0,99 €) oder einmalig über PayPal. So helft ihr uns, unabhängig neue Tools zu testen und noch mehr Tutorials für euch zu erstellen. Vielen Dank für euren Support! Youtube – Kanal PayPal – Kaffee KURZFASSUNG
SB 53 setzt auf Transparenz statt Technik-Vorgaben: Sicherheitsrahmen, Vorab-Transparenzberichte und 15-Tage-Meldepflicht für kritische KI-Vorfälle.
„Katastrophisches Risiko“ greift ab >50 Todesopfern oder >1 Mrd. $ Schaden; adressiert sind große Frontier-Entwickler mit >10^26 FLOPs und >500 Mio. $ Umsatz.
Anthropic unterstützt den Entwurf – im Sinne des „trust but verify“-Kurses der kalifornischen Expertengruppe.
Widerstand aus Teilen der Branche bleibt, doch SB 53 gilt als politisch machbarer Kompromiss nach dem SB-1047-Veto 2024.
QUELLEN
Anthropic – „Anthropic is endorsing SB 53“
California Legislative Information – SB 53 (aktuelle Fassung)
Assembly Committee Analysis – SB 53 (PDF)
KQED – Bericht zur Anthropic-Unterstützung
TechCrunch – Anthropic endorses SB 53