Empecemos por lo básico. Un hash es como una huella digital para un archivo. Tomas una foto, un video o un documento, lo procesas con una función hash y obtienes un código corto. Este código se llama valor hash.
Si cambia incluso un solo píxel de la foto, el valor hash cambia por completo. Así es como funcionan herramientas como SHA-256 . Son excelentes para comprobar si un archivo ha sido manipulado.
Pero existe un problema. El hash tradicional es demasiado estricto para la moderación de contenido en el mundo real. Si alguien cambia el tamaño de una imagen prohibida en un píxel, un hash estricto ya no coincidirá con ella. Por eso, las empresas crearon una versión más flexible llamada hash perceptual.
El hash perceptivo analiza lo que una imagen muestra realmente, no solo sus bits en bruto. Extrae características visuales de una imagen para generar una huella digital que permanece prácticamente inalterable incluso si alguien recorta, redimensiona o cambia el color de la imagen. Esta es la tecnología que se utiliza en las herramientas que detectan vídeos con derechos de autor, imágenes de spam y otro contenido dañino antes de que se propague.
Esto es precisamente lo que hace que el hash perceptivo sea inteligente. También es precisamente lo que lo hace vulnerable, y ahí es donde la IA comienza a actuar en contra de los mismos sistemas que ayudó a construir.
¿Dónde entra en juego la IA?
Las mismas redes neuronales que hacen que el hash perceptivo sea inteligente también lo hacen vulnerable.
Investigadores de la Universidad Técnica de Darmstadt estudiaron el sistema NeuralHash de Apple , diseñado para detectar CSAM en dispositivos. Descubrieron que pequeños cambios, casi imperceptibles, en una imagen podían alterar por completo su hash. Un atacante podría hacer que una imagen dañina pareciera segura para el detector, o que una foto perfectamente normal activara una falsa alarma.
Un estudio independiente reveló algo aún más significativo. Demostraron que dos imágenes completamente diferentes podían generar el mismo hash. Esto se conoce como colisión de hash y funciona porque las funciones de hash perceptuales son diferenciables. En otras palabras, se comportan como problemas matemáticos que una IA puede resolver y analizar mediante ingeniería inversa.
Esto es importante porque la idea fundamental del hash de contenido se basa en una premisa: el contenido similar debería obtener un hash similar, y el contenido diferente, uno distinto. La IA ahora puede incumplir esa premisa deliberadamente.
Sin embargo, romper los hashes es solo una parte del problema. La otra parte es aún más compleja, porque la IA no solo evade la detección, sino que también crea el contenido falso que los sistemas de detección deberían identificar.
La IA también falsifica contenido.
Existe un segundo problema que se suma al primero. Las herramientas de IA generativa ahora pueden crear deepfakes y contenido sintético que parecen completamente reales.
En los últimos años, estas falsificaciones se han vuelto mucho más convincentes y fáciles de producir. Lo que antes requería gran habilidad y herramientas costosas, ahora puede ser creado por casi cualquier persona con el software adecuado. Como resultado, la cantidad de contenido sintético que circula en línea ha crecido rápidamente, y la gente común a menudo no puede distinguir entre lo auténtico y lo generado artificialmente.
Para contrarrestar esto, algunas empresas ahora insertan una marca de agua oculta en el contenido generado por IA para que pueda ser reconocida posteriormente. La idea es buena, pero dista mucho de ser infalible. Un pequeño cambio, casi imperceptible, en un archivo puede eliminar silenciosamente esa marca de agua mientras el contenido sigue pareciendo completamente normal, lo que significa que un indicador destinado a probar la autenticidad puede simplemente desaparecer.
Así pues, nos encontramos ante dos problemas interrelacionados. La IA puede falsificar contenido que parece real, y también puede eludir los sistemas diseñados para detectar contenido falso o dañino. Para los equipos de seguridad, esto no es solo una curiosidad de investigación. Representa una deficiencia real en herramientas cotidianas como los filtros de moderación de contenido, los escáneres de protección de marca y los sistemas de detección de fraude.
No se trata de riesgos pequeños y aislados. Al combinarlos, conforman un problema empresarial mucho mayor, y eso es precisamente lo que los equipos de seguridad deben analizar a continuación.
El riesgo empresarial
Este riesgo no se limita a las plataformas de redes sociales. Afecta igualmente a las empresas, por varias razones evidentes.
- Las comprobaciones de integridad de archivos pueden ser burladas si los atacantes encuentran formas de obligar a dos archivos diferentes a compartir el mismo hash simple, lo que se conoce como colisión de hash.
- Las herramientas de protección de marca y contenido que se basan en el hash perceptual pueden eludirse, lo que permite que el contenido robado o dañino pase desapercibido para los filtros.
- Los clips de voz y vídeo deepfake pueden eludir los controles de identidad utilizados en la banca, la incorporación de personal a recursos humanos y la atención al cliente.
- Las pruebas digitales y los registros de auditoría que dependen del hash para demostrar su autenticidad resultan más difíciles de confiar si el propio método de hash puede ser manipulado.
Esto se relaciona directamente con preocupaciones más amplias ya señaladas por el NIST , que subraya que la solidez criptográfica por sí sola no es suficiente si el sistema circundante puede ser engañado mediante entradas ingeniosas creadas con inteligencia artificial.
Una cosa es conocer los riesgos, pero otra muy distinta es saber qué hacer al respecto. Por eso, veamos ahora algunos pasos prácticos.
Pasos prácticos hacia adelante
Lo cierto es que este problema no es irresoluble. Simplemente requiere un enfoque por capas en lugar de depender únicamente de una comprobación de hash.
- No confíe únicamente en el hash perceptivo. Combínelo con el hash criptográfico, las comprobaciones de metadatos y la detección basada en el comportamiento.
- Trate el contenido generado por IA como una parte normal de su modelo de amenazas, no como un caso excepcional. Cree reglas de detección que asuman que los atacantes también pueden usar IA.
- Añada una verificación de identidad sólida, como comprobaciones multifactor y detección de actividad en tiempo real, para cualquier proceso en el que un deepfake pueda causar daños reales, como transferencias bancarias o restablecimientos de contraseñas.
- Mantén actualizados tus modelos de hash y detección. Los modelos antiguos, entrenados con deepfakes antiguos, no detectarán los más recientes y realistas.
- Utilice la firma criptográfica junto con el hash para todo aquello que requiera una prueba sólida de autenticidad, como documentos legales o registros financieros.
Ninguno de estos pasos tiene por qué ser complicado. La idea clave es simple: nunca permita que un único valor hash sea el único filtro entre su organización y un contenido manipulado.
Incluso la criptografía que sustenta el hash y la firma digital actuales, los mismos métodos SHA-256 y de clave pública que mencionamos anteriormente, se enfrentará a una nueva presión una vez que las computadoras cuánticas alcancen su madurez. Implementar estas defensas multicapa ahora mismo también implica prepararse para ese próximo cambio, y este es precisamente el tipo de trabajo en el que un socio de seguridad adecuado puede ayudarle a mantenerse a la vanguardia.
Cómo puede ayudar la consultoría de cifrado
En lo que respecta a la aplicación de todo lo anterior, la base es la misma: una visión clara, precisa y en tiempo real de su postura criptográfica. Precisamente para eso están diseñados los Servicios de Asesoramiento en Cifrado de Encryption Consulting.
Nuestros servicios de asesoramiento en cifrado le ofrecen una evaluación independiente de cómo su organización utiliza la criptografía. Le ayudan a comprender cómo se generan, almacenan y rotan sus claves, qué algoritmos se emplean, dónde se protegen los datos confidenciales y dónde no, y cómo todo ello se ajusta a los estándares y plazos descritos en este blog. A partir de esta información inicial, le ayudamos a establecer una política de cifrado, fortalecer la gestión y la gobernanza de claves, subsanar deficiencias de cumplimiento y priorizar las acciones que reducen el riesgo con mayor rapidez.
Cuando esté listo para abordar específicamente la era post-cuántica, nuestros Servicios de Asesoramiento Post-cuántico amplían ese mismo trabajo a un plan de migración por etapas alineado con los estándares regulatorios CNSA 2.0 y NIST. Contáctenos para analizar su estrategia de cifrado y su preparación para la era post-cuántica. Explore nuestra gama completa de productos y servicios para ver cómo podemos ayudar a proteger su organización.
Conclusión
El hash de contenido solía ser un proceso silencioso y fiable en segundo plano, pero la IA lo ha cambiado. Los hashes perceptuales pueden ser manipulados y las marcas de agua pueden borrarse. Los deepfakes pueden eludir las comprobaciones de identidad. Nada de esto significa que el hashing sea inútil. Significa que el hashing por sí solo ya no es suficiente.
Lo correcto es tratar el hashing como una capa más dentro de un sistema de confianza más amplio, respaldado por una criptografía sólida, una buena gestión de claves, comprobaciones de identidad que asuman que los atacantes también disponen de herramientas de IA y un plan claro para la transición post-cuántica que ya está en marcha.
Si su organización desea analizar más de cerca cómo se comporta su postura criptográfica actual frente a estos nuevos riesgos impulsados por la IA, Encryption Consulting es el lugar ideal para iniciar esa conversación.
