California avanza en una ley para controlar la Inteligencia Artificial
Editor web Maya Comunicación 
Por Juan Pablo Ojeda
En un esfuerzo por abordar los riesgos potenciales asociados con la inteligencia artificial (IA), California está avanzando en la propuesta de una nueva legislación que busca establecer un control humano riguroso sobre los sistemas de IA. El proyecto de ley, conocido como la «Ley de Innovación Segura para Modelos de Inteligencia Artificial de Frontera» (SB 1047), ha sido presentado por el senador Scott Wiener y se centra en mitigar el riesgo de que la IA sea utilizada para crear amenazas a la seguridad pública.
Objetivos del Proyecto de Ley
El proyecto de ley clasifica la IA como una posible «amenaza persistente avanzada», un término que se refiere a adversarios altamente sofisticados que pueden utilizar diversos métodos de ataque, incluidos cibernéticos, físicos y de engaño. La propuesta busca prevenir el desarrollo de armas de destrucción masiva, como biológicas, químicas y nucleares, así como armas con capacidades cibernéticas ofensivas.
Entre los requisitos del proyecto de ley, se incluye la implementación de protocolos de seguridad por parte de los desarrolladores de IA y la capacidad de apagar completamente los modelos que representen un riesgo crítico. Además, se propone la creación de una nueva división dentro de la Agencia de Operaciones Gubernamentales, que supervisará el cumplimiento y emitirá directrices. Se establecen sanciones civiles para los desarrolladores que no cumplan con las disposiciones, incluyendo multas de hasta el 10% del costo de la potencia de cálculo utilizada para entrenar el modelo y daños monetarios para las personas afectadas por incumplimientos.
Proceso Legislativo y Próximos Pasos
El SB 1047 está actualmente en la fase de votación en la Asamblea de California. Si es aprobado, regresará al Senado para una última votación. Si recibe el visto bueno en ambas cámaras, se enviará al gobernador Gavin Newsom para su firma final. Solo después de completar este proceso legislativo se convertirá en ley.
Compromiso Voluntario de Empresas Tecnológicas
Mientras se discute la legislación, varias de las principales empresas tecnológicas, incluidas Apple, Amazon, Google, Meta y OpenAI, han firmado un compromiso voluntario para promover el desarrollo de IA segura. Este acuerdo incluye realizar evaluaciones internas y externas de los modelos de IA, prohibir la creación de modelos que se autorreplican, y desarrollar mecanismos para identificar contenido generado por IA.
Este compromiso es parte de una orden ejecutiva emitida por el presidente de Estados Unidos, Joe Biden, que busca mitigar los riesgos asociados con la IA, proteger la privacidad, y fomentar la innovación responsable.
Con la legislación en proceso y las empresas del sector tecnológico tomando medidas proactivas, California se posiciona como un líder en la regulación de la inteligencia artificial, buscando equilibrar la innovación con la seguridad y la responsabilidad.
