A fines del año pasado, California aprobó una ley contra la posesión o distribución de material de abuso sexual infantil (CSAM) generado por IA. La ley entró en vigor el 1 de enero y la policía de Sacramento anunció ayer que ya arrestó a su primer sospechoso: un caricaturista ganador del premio Pulitzer de 49 años llamado Darrin Bell.
La nueva ley, que puedes leer aquídeclara que el CSAM generado por IA es dañino, incluso sin una víctima real. En parte, dice la ley, esto se debe a que se pueden utilizar todos los tipos de CSAM para hacer que los niños piensen que la actividad sexual con adultos es normal. Pero la ley destaca el CSAM generado por IA para recibir críticas especiales debido a la forma en que funcionan los sistemas de IA generativa.
«La creación de CSAM usando IA es intrínsecamente dañina para los niños porque los modelos de aprendizaje automático utilizados por la IA han sido entrenados en conjuntos de datos que contienen miles de representaciones de víctimas conocidas de CSAM», dice, «revictimizando a estos niños reales usando su imagen para generar Imágenes AI CSAM a perpetuidad».
La ley define la «inteligencia artificial» como «un sistema diseñado o basado en una máquina que varía en su nivel de autonomía y que puede, para objetivos explícitos o implícitos, inferir de los datos que recibe cómo generar resultados que pueden influir en entornos físicos o virtuales». «.
