El primer caso en Balears de fotografías manipuladas con Inteligencia Artificial en las que unas niñas de Felanitx aparecían en un contexto pornográfico falso acaba de ser desvelado. Las imágenes retocadas fueron difundidas de forma masiva y han ocasionado un grave perjuicio a la honra y reputación de las perjudicadas.
El caso es tan grave que ayer María del Mar Pulido, la directora de la Oficina Balear de la Infancia y Adolescencia compareció de manera urgente para alertar del mal uso de estas tecnologías informáticas. Tanto la Guardia Civil, que investiga el caso de Felanitx, como la Policía Nacional se muestran preocupados por esta moda de manipular fotos y vídeos con aplicaciones de IA, al alcance de cualquiera y pueden causar un daño irreparable, sobre todo en los menores.
Son muchas las voces que piden un mayor control de las herramientas y programas de Inteligencia Artificial, muy útiles a la hora de crear nuevos contenidos lícitos pero que conllevan un peligro enorme si caen en las manos equivocadas. Son programas que están al alcance de cualquier usuario, y que los filtros para menores pueden ser burlados con facilidad. Todos los adolescentes también han de saber que difundir y compartir este material manipulado de menores, constituye un delito de pornografía infantil, que conlleva penas graves.