La inteligencia artificial (IA) le está dando rienda suelta a los deepfakes, las estafas y la desinformación en todo el mundo.
En este sentido, en California ya se aplica la primera etapa de la ley SB 942 que busca que los usuarios puedan identificar con mayor facilidad cuando un contenido ha sido creado artificialmente.
La California AI Transparency Act, impulsada por el senador Josh Becker y firmada por el gobernador Gavin Newsom en 2024, obliga a las principales compañías que desarrollan modelos de IA generativa a ofrecer herramientas gratuitas para verificar el origen de imágenes, videos y audios que circulan en internet.
La norma afecta a las denominadas "covered providers", es decir, empresas cuyos sistemas de IA generativa cuentan con más de un millón de usuarios o visitantes mensuales y están disponibles públicamente en California. Entre ellas se encuentran varias de las principales plataformas tecnológicas utilizadas diariamente por millones de personas.
¿Cuáles son los cambios que introduce la ley?
La implementación de esta legislación consta de dos etapas. La primera comenzó el 1° de agosto de 2026. Desde esa fecha, las compañías alcanzadas por la ley deben ofrecer una herramienta gratuita que permita comprobar si un contenido fue generado o alterado mediante sus sistemas de IA.
Las grandes tecnológicas deben ofrecer herramientas de verificación de IA para sus usuarios. Foto: Filip Singer. EFE.
Los usuarios podrán cargar una imagen, un video o un archivo de audio, o incluso pegar el enlace de una publicación en internet, para verificar si ese material fue producido con alguno de esos modelos y acceder a información sobre su procedencia. Además, la norma establece que estas herramientas no podrán conservar los archivos enviados más tiempo del necesario para realizar el análisis ni recopilar información personal de quienes las utilicen.
La segunda fase entrará en vigor el 1° de enero de 2027. A partir de entonces, las plataformas deberán incorporar etiquetas visibles que indiquen claramente cuando un contenido haya sido generado mediante IA, facilitando que cualquier usuario pueda distinguirlo del material auténtico.
Uno de los conceptos centrales de la nueva legislación es la denominada información de procedencia digital (provenance data). Se trata de un conjunto de datos incorporados al contenido o a sus metadatos que permiten conocer quién lo creó, qué sistema de inteligencia artificial utilizó, cuándo fue generado y si posteriormente fue modificado.
En la práctica funciona como una especie de historial digital que busca facilitar la verificación de la autenticidad del contenido, especialmente en situaciones sensibles como procesos electorales, campañas de salud pública o información que pueda afectar a la seguridad de los usuarios.
La ley también exige que, siempre que sea técnicamente posible, el contenido generado mediante IA incorpore información como el nombre del proveedor, la versión del sistema utilizado, la fecha de creación y un identificador único que permita rastrear su origen.
La SB 942 no solo impone obligaciones a quienes desarrollan modelos de IA. También establece que las empresas que otorguen licencias de sus sistemas deberán asegurarse de que esas herramientas continúen incorporando los mecanismos de identificación exigidos por la ley.
Si descubren que un tercero modificó el sistema de manera que ya no pueda incluir las etiquetas o la información de procedencia obligatoria, tendrán un plazo máximo de 96 horas para revocar la licencia de uso.
En una segunda etapa, las empresas deberán incorporar etiquetas visibles a los contenidos generados con IA. Foto: Adam Vaughan. EFE. EPA.
La legislación contempla sanciones económicas para quienes incumplan las nuevas obligaciones. Las autoridades podrán imponer multas civiles de hasta $5.000 por cada infracción, y cada día que persista el incumplimiento será considerado una violación independiente, lo que puede incrementar significativamente el monto total de las sanciones. Las acciones podrán ser iniciadas por el fiscal general de California, fiscales municipales o asesores legales de los distintos condados del estado.
Todavia no hay comentarios aprobados.