Redacción.- En California, Estados Unidos, se está avanzando en un proyecto de ley que busca implementar un control humano sobre los sistemas de inteligencia artificial.
El objetivo de la ley es mitigar el riesgo de que la IA se utilice para crear nuevas amenazas a la seguridad pública. Esto incluye la posibilidad de desarrollar armas de destrucción masiva, como armas biológicas, químicas y nucleares, así como armas con capacidades cibernéticas ofensivas.
El borrador de la “ley de innovación segura para modelos de inteligencia artificial de frontera” y presentado por el senador Scott Wiener, clasifica a la IA como una posible “amenaza persistente avanzada”.
Esta designación se refiere a adversarios altamente sofisticados que poseen recursos significativos y pueden utilizar diversos métodos de ataque, como cibernéticos, físicos y de engaño, para poner en peligro la seguridad.
El proyecto de ley propone requisitos para que los desarrolladores implementen protocolos de seguridad y la capacidad de apagar por completo los modelos si representan un riesgo crítico.
También se crea una nueva división dentro de la Agencia de Operaciones Gubernamentales, encargada de supervisar el cumplimiento y emitir orientaciones. Además, se establecen sanciones civiles y protecciones para los denunciantes.
El proyecto de ley SB 1047 propone varias sanciones para los desarrolladores de modelos de inteligencia artificial que no cumplan con sus disposiciones. Estas incluyen:
- Multas civiles: Hasta el 10% del costo de la potencia de cálculo utilizada para entrenar el modelo en la primera infracción, y hasta el 30% para infracciones posteriores.
- Acciones civiles: Se pueden imponer medidas como la eliminación del modelo y la suspensión de su uso si representa una amenaza.
- Daños monetarios y punitivos: Para personas afectadas por incumplimientos.
Además, se establecen protecciones para los empleados denunciantes y se prevé la posibilidad de intervención judicial para garantizar el cumplimiento de las normas.
