Scott Wiener: Una Nueva Fuerza en la Regulación de la IA
Introducción
Scott Wiener, un congresista recién electo de California, tiene un notable historial en la atención a los desafíos que plantea la inteligencia artificial (IA) avanzada. Habiendo servido anteriormente como senador estatal, fue el autor de una legislación clave diseñada para mitigar los riesgos asociados con las tecnologías de IA. Tras una elección competitiva para llenar el escaño de la ex presidenta de la Cámara Nancy Pelosi en San Francisco, Wiener está preparado para influir significativamente en la política nacional de IA.Urgencia de la Regulación de la IA
En una conversación reciente poco después de su victoria electoral, Wiener expresó sus preocupaciones sobre la rápida evolución de las tecnologías de IA. Su alarma se intensificó por un informe reciente de la organización sin fines de lucro METR, que sugería que Anthropic, una importante empresa de IA, había avanzado hacia la auto-mejora recursiva. Este fenómeno, donde los sistemas de IA pueden mejorar sus capacidades de manera autónoma, plantea riesgos significativos, lo que llevó a Wiener a pedir medidas regulatorias inmediatas.Wiener enfatizó la urgencia de la acción legislativa, afirmando: "Era mi esperanza que el Congreso tomara medidas decisivas antes de que finalizara este año, pero eso no parece estar sucediendo." Destacó la necesidad de un enfoque proactivo para prevenir desastres potenciales derivados de los avances no regulados en IA.
Antecedentes Legislativos
El compromiso de Wiener con la seguridad de la IA está bien documentado. Sus esfuerzos anteriores incluyen la introducción del SB 1047, que buscaba establecer regulaciones robustas para las tecnologías de IA de frontera; aunque fue vetado por el gobernador de California, Gavin Newsom, sentó las bases para discusiones posteriores sobre la gobernanza de la IA. Posteriormente, Wiener patrocinó el SB 53, un proyecto de ley menos estricto que finalmente obtuvo aprobación. Estos esfuerzos legislativos han inspirado propuestas similares a nivel federal, lo que indica su influencia en el discurso sobre la regulación de la IA.A pesar de enfrentar críticas por recibir un apoyo financiero significativo de Public First Action, una organización sin fines de lucro que aboga por la regulación de la IA, Wiener defendió su posición, afirmando que su historial en la regulación de la IA fue malinterpretado por sus oponentes. Dijo: "Los ataques en mi contra por el apoyo de [Public First] fueron sorprendentemente cínicos," destacando su papel pionero en la introducción e implementación de regulaciones de IA frente a la oposición de la industria tecnológica.
Direcciones Futuras en la Política de IA
Wiener ha expresado un gran interés en servir en cualquier comité selecto centrado en la inteligencia artificial, un tema que ha sido discutido entre los legisladores demócratas desde septiembre. Aboga por establecer un formidable organismo regulador federal para supervisar las tecnologías de IA, llamando la atención sobre propuestas de colegas como el representante Ro Khanna.Esbozó varios componentes críticos para una regulación efectiva, incluyendo: - Protecciones para denunciantes para garantizar la transparencia. - Requisitos de pruebas y auditorías para evaluar los sistemas de IA antes de su implementación. - Disposiciones de interruptor de emergencia para permitir la desactivación de la IA que funcione incorrectamente. Wiener cree que el Congreso debería aprovechar sus capacidades de supervisión para garantizar la responsabilidad dentro de los laboratorios de IA y que la participación pública es crucial para dar forma al futuro de la gobernanza de la IA.
Además, se opone a la amplia preeminencia federal sobre las leyes estatales relacionadas con la IA, argumentando que los estados deben permanecer flexibles e innovadores en sus enfoques regulatorios, similar al concepto de los estados como "laboratorios" de la democracia.
El Desafío por Delante
Wiener es muy consciente de las posibles consecuencias de una regulación inadecuada. Dijo: "Necesitamos lidiar con la auto-mejora recursiva. Una vez que estás en ese ámbito, eso realmente es potencialmente una receta para la pérdida total de control." Su perspectiva se alinea con las preocupaciones de los defensores de la seguridad de la IA que advierten sobre los riesgos existenciales que plantea el desarrollo descontrolado de la IA.A pesar de su defensa, Wiener se mantiene cautelosamente optimista sobre la capacidad del Congreso para promulgar regulaciones significativas. Reconoce los desafíos históricos de regular la industria tecnológica y los posibles obstáculos planteados por figuras políticas, incluido el ex presidente Donald Trump, quien ha minimizado los riesgos asociados con la IA.