US-KI-Gesetz wird abgeschwächt und löst Kontroversen aus: Li Fei-Fei verurteilt es, inländische Unternehmen beobachten genau

Kaliforniens neues KI-Sicherheitsgesetz sorgt für Kontroversen, aber sein Kerninhalt verdient Aufmerksamkeit. Das Gesetz verlangt von großen KI-Unternehmen, ihre Systeme einer Sicherheitsbewertung zu unterziehen und potenzielle Risiken an die Landesregierung zu melden. Das Gesetz betont auch den Schutz der Privatsphäre der Nutzer und verbietet KI-Systemen die unbefugte Erfassung persönlicher Informationen. Trotz einiger Kritik zielt das Gesetz darauf ab, KI-Innovation und öffentliche Sicherheit in Einklang zu bringen und dient als Referenz für zukünftige KI-Regulierungen.

Das kalifornische Gesetz zur Sicherheit und Innovation bei fortschrittlichen KI-Modellen wurde nach erheblichen Abschwächungen vom Bewilligungsausschuss des kalifornischen Repräsentantenhauses genehmigt. Die wichtigsten Änderungen des überarbeiteten Gesetzentwurfs umfassen:

  1. Der Generalstaatsanwalt darf KI-Unternehmen nicht mehr vor dem Eintreten katastrophaler Ereignisse wegen Vernachlässigung von Sicherheitsproblemen verklagen. Der Fokus der Regulierung liegt nun auf tatsächlichen Schäden.

  2. Nur Entwickler, deren Modelltraining Rechenkosten von über 100 Millionen Dollar verursacht, unterliegen den Regulierungsanforderungen. Bestehende Modelle fallen nicht unter die Regulierung. Zukünftige Modelle wie Llama 4 und GPT-5 könnten reguliert werden.

  3. Das Gesetz verlangt von Cloud-Dienstleistern, Kundeninformationen zu sammeln, um Rückverfolgung durch Aufsichtsbehörden zu ermöglichen.

  4. Regulierte Unternehmen müssen Maßnahmen gegen Modellmissbrauch ergreifen, die Fähigkeit zur Notabschaltung besitzen, Erklärungen zu Sicherheitspraktiken einreichen und sich jährlichen unabhängigen Prüfungen unterziehen.

  5. Gesetzesverstöße können mit Geldstrafen zwischen 10 und 30 Millionen Dollar geahndet werden.

  6. Es gibt stark unterschiedliche Meinungen für und gegen das Gesetz. Befürworter sehen es als Mindestanforderung für effektive Regulierung, Gegner befürchten Behinderungen für KI-Entwicklung und Open-Source-Ökosysteme.

  7. Der Hauptautor des Gesetzes wies einige Kritikpunkte zurück und behauptete, es würde Innovation und Open-Source-KI nicht schaden.

  8. Der überarbeitete Gesetzentwurf enthält nun Schutzklauseln für das Fine-Tuning von Open-Source-Modellen.

Die genauen Inhalte und Auswirkungen des Gesetzes bleiben abzuwarten.