Tecno. Cómo Google y OpenAI refuerzan los filtros para frenar imágenes sexuales no consentidas
OpenAI endurece bloqueos ante intentos de evasión y Google simplifica el pedido para bajar imágenes explícitas de su buscador.
El boom de la inteligencia artificial generativa abrió una puerta tan fascinante como riesgosa: la posibilidad de crear o alterar imágenes en segundos. En ese terreno, el uso para producir material sexual no consentido, incluidos deepfakes, se convirtió en una de las amenazas más urgentes para la privacidad.
La alarma se encendió con fuerza tras la crisis de Grok, la herramienta de xAI integrada a X, que quedó en el centro de la polémica por su uso para “desnudar” digitalmente a personas reales y viralizar esas piezas en redes.
IA en el empleo: qué habilidad necesitan los profesionales para no quedar atrás en 2026
La decisión de Google y OpenAI de protegerse de imágenes sexuales no consentidas
Según un relevamiento de organizaciones que monitorean abuso digital, en pocos días se habría generado un volumen masivo de imágenes sexualizadas, con reportes especialmente graves por la aparición de contenidos vinculados a menores.
La respuesta fue rápida: X limitó funciones de edición y endureció condiciones de uso, aunque el episodio dejó una conclusión incómoda para toda la industria: si el sistema permite “bordear” reglas con indicaciones creativas, el daño puede escalar antes de que alguien lo frene.
OpenAI volvió a poner el foco en sus barreras de seguridad para impedir la creación de contenido ilegal y de explotación sexual. La empresa reconoce que existen técnicas de “prompting” diseñadas para forzar resultados prohibidos y que los filtros deben actualizarse de manera constante.
En la práctica, eso implica combinar modelos de detección, listas de pedidos que se rechazan automáticamente y monitoreo para identificar nuevas formas de evasión.
ChatGPT y el trend de las caricaturas: el riesgo oculto que podría exponer tu privacidad
Google, en paralelo, eligió atacar otro eslabón: la circulación. Su buscador anunció un proceso más simple para que una víctima pida la remoción de imágenes explícitas no consentidas desde los resultados, con opción de reportar varias piezas en un mismo trámite y hacer seguimiento del pedido.
El desafío, advierten especialistas, es permanente: la IA cambia rápido y los abusadores también. Por eso, la discusión ya no es solo tecnológica, sino también de respuesta pública, reglas claras y herramientas ágiles para proteger a las víctimas.
