Scott Wiener: Eine neue Kraft in der KI-Regulierung
Einführung
Scott Wiener, ein neu gewählter Kongressabgeordneter aus Kalifornien, hat einen bemerkenswerten Hintergrund in der Auseinandersetzung mit den Herausforderungen, die durch fortschrittliche künstliche Intelligenz (KI) entstehen. Nachdem er zuvor als Staats senator tätig war, verfasste er wichtige Gesetzesentwürfe, die darauf abzielten, die mit KI-Technologien verbundenen Risiken zu mindern. Nach einer umkämpften Wahl, um den Sitz der ehemaligen Sprecherin des Repräsentantenhauses Nancy Pelosi in San Francisco zu besetzen, ist Wiener bereit, die nationale KI-Politik erheblich zu beeinflussen.Dringlichkeit der KI-Regulierung
In einem kürzlichen Gespräch kurz nach seinem Wahlsieg äußerte Wiener seine Bedenken hinsichtlich der rasanten Entwicklung von KI-Technologien. Seine Alarmbereitschaft wurde durch einen aktuellen Bericht der KI-Nichtregierungsorganisation METR verstärkt, der nahelegte, dass Anthropic, ein großes KI-Unternehmen, Fortschritte in Richtung rekursiver Selbstverbesserung gemacht hat. Dieses Phänomen, bei dem KI-Systeme ihre Fähigkeiten autonom verbessern können, birgt erhebliche Risiken und veranlasste Wiener, sofortige regulatorische Maßnahmen zu fordern.Wiener betonte die Dringlichkeit legislativer Maßnahmen und erklärte: "Es war meine Hoffnung, dass der Kongress vor Ende dieses Jahres entschlossen handelt, aber das scheint nicht der Fall zu sein." Er hob die Notwendigkeit eines proaktiven Ansatzes hervor, um potenzielle Katastrophen zu verhindern, die aus unregulierten KI-Fortschritten resultieren könnten.
Gesetzgeberischer Hintergrund
Wieners Engagement für die Sicherheit von KI ist gut dokumentiert. Zu seinen früheren Bemühungen gehört die Einführung von SB 1047, die darauf abzielte, robuste Vorschriften für Grenz-KI-Technologien zu etablieren; obwohl sie von Gouverneur Gavin Newsom abgelehnt wurde, legte sie den Grundstein für weitere Diskussionen über die KI-Governance. Anschließend unterstützte Wiener SB 53, ein weniger strenger Gesetzesentwurf, der letztendlich genehmigt wurde. Diese legislativen Bemühungen haben ähnliche Vorschläge auf Bundesebene inspiriert, was auf seinen Einfluss auf die Diskussion über die KI-Regulierung hinweist.Trotz der Kritik, die er für die erhebliche finanzielle Unterstützung von Public First Action, einer Nichtregierungsorganisation, die sich für die Regulierung von KI einsetzt, erhielt, verteidigte Wiener seine Position und erklärte, dass seine Erfolgsbilanz in der KI-Regulierung von Gegnern missverstanden wurde. Er sagte: "Die Angriffe auf mich wegen der Unterstützung von [Public First] waren schockierend zynisch," und hob seine Pionierrolle bei der Einführung und Umsetzung von KI-Vorschriften trotz des Widerstands aus der Tech-Branche hervor.
Zukünftige Richtungen in der KI-Politik
Wiener hat ein großes Interesse daran geäußert, in jedem Auswahlkomitee zu dienen, das sich auf künstliche Intelligenz konzentriert, ein Thema, das seit September unter den demokratischen Gesetzgebern diskutiert wird. Er setzt sich für die Schaffung eines starken bundesstaatlichen Regulierungsorgans ein, das die KI-Technologien überwacht, und lenkt die Aufmerksamkeit auf Vorschläge von Kollegen wie dem Abgeordneten Ro Khanna.Er skizzierte mehrere kritische Komponenten für eine effektive Regulierung, darunter: - Whistleblower-Schutz zur Gewährleistung von Transparenz. - Test- und Prüfanforderungen, um KI-Systeme vor der Bereitstellung zu bewerten. - Kill-Switch-Bestimmungen, um die Deaktivierung von fehlerhaften KI-Systemen zu ermöglichen. Wiener glaubt, dass der Kongress seine Aufsichtsfähigkeiten nutzen sollte, um Verantwortung innerhalb der KI-Labore sicherzustellen, und dass die öffentliche Beteiligung entscheidend für die Gestaltung der Zukunft der KI-Governance ist.
Darüber hinaus lehnt er eine umfassende bundesstaatliche Vorherrschaft über die Gesetze der Bundesstaaten in Bezug auf KI ab und argumentiert, dass die Bundesstaaten flexibel und innovativ in ihren regulatorischen Ansätzen bleiben sollten, ähnlich dem Konzept der Bundesstaaten als "Laboratorien" der Demokratie.
Die Herausforderung vor uns
Wiener ist sich der potenziellen Folgen unzureichender Regulierung bewusst. Er erklärte: "Wir müssen uns mit rekursiver Selbstverbesserung auseinandersetzen. Sobald man sich in diesem Bereich befindet, ist das wirklich potenziell ein Rezept für einen totalen Kontrollverlust." Seine Perspektive stimmt mit den Bedenken von KI-Sicherheitsbefürwortern überein, die vor den existenziellen Risiken warnen, die von unkontrollierter KI-Entwicklung ausgehen.Trotz seines Eintretens bleibt Wiener vorsichtig optimistisch hinsichtlich der Fähigkeit des Kongresses, sinnvolle Vorschriften zu erlassen. Er erkennt die historischen Herausforderungen bei der Regulierung der Tech-Industrie und die potenziellen Hindernisse, die durch politische Figuren, einschließlich des ehemaligen Präsidenten Donald Trump, die die Risiken im Zusammenhang mit KI heruntergespielt haben, entstehen.