El papel de la inteligencia artificial (IA) en la ciberseguridad moderna

Un correo electrónico de phishing generado por un modelo de lenguaje avanzado obtiene una tasa de clics del 54 %, más de cuatro veces superior a la de un correo electrónico escrito a mano. En el ámbito de la seguridad, esta misma tecnología ahora detecta robos de cuentas y amenazas internas en minutos, en lugar de días. La inteligencia artificial (IA) se ha convertido en el factor de mayor evolución en ciberseguridad y está presente en ambos frentes simultáneamente.

Publicado: diciembre de 2023. Actualizado: agosto de 2026. Revisado por el equipo de Ingeniería de Seguridad y Asesoría Criptográfica de Encryption Consulting.

Esta no es una cuestión exclusiva de criptografía. La IA en ciberseguridad abarca la ingeniería de detección, las operaciones de seguridad, el fraude y la ingeniería social, y una creciente intersección con el cifrado y la infraestructura de clave pública (PKI), ya que los modelos de IA, los agentes y los flujos de datos que los sustentan necesitan una identidad, y la identidad en la seguridad empresarial aún se basa en certificados y claves. El resto de este artículo aborda ambas perspectivas: qué hace la IA por los defensores, qué hace por los atacantes y cómo afecta a los controles criptográficos que Encryption Consulting desarrolla habitualmente.

¿Cómo está cambiando la IA la defensa de la ciberseguridad?

La IA transforma la defensa al encontrar patrones en grandes volúmenes de datos que ningún equipo de analistas puede revisar manualmente, y luego actuar sobre esos patrones con mayor rapidez que la que permite un ciclo de respuesta humano. Cuatro capacidades explican la mayor parte de las ventajas reales.

Detección de anomalías y comportamiento (UEBA)

Los modelos de análisis del comportamiento de usuarios y entidades (UEBA) establecen una base de referencia con los tiempos de inicio de sesión habituales, los volúmenes de acceso a datos y las rutas de red para cada cuenta, y luego detectan desviaciones. Así es como la IA detecta una amenaza interna o una credencial comprometida que no activa una regla basada en firmas, porque el inicio de sesión en sí parece legítimo; solo el comportamiento que lo rodea es anómalo.

Clasificación y respuesta automatizadas

Los centros de operaciones de seguridad (SOC) utilizan IA para correlacionar alertas de SIEM, EDR y registros en la nube, eliminar duplicados y ruido irrelevante, y recomendar o activar una primera respuesta, como aislar un host o deshabilitar una sesión. Este es el factor más importante para reducir el tiempo medio de respuesta (MTTR), la métrica que determina la magnitud del daño causado por una brecha de seguridad.

Detección de phishing e ingeniería social

Las plataformas de seguridad de correo electrónico ahora utilizan modelos lingüísticos para evaluar la intención del mensaje, el comportamiento del remitente y los patrones lingüísticos, en lugar de basarse únicamente en enlaces maliciosos conocidos o hashes de archivos adjuntos. Esto cobra mayor importancia cada año, ya que los correos de phishing que analizan están cada vez más generados por inteligencia artificial.

Análisis de código y vulnerabilidades

Las herramientas de análisis estático y dinámico asistidas por IA examinan el código fuente y las dependencias en busca de patrones de vulnerabilidad conocidos más rápidamente y con menos falsos negativos que los escáneres basados ​​únicamente en reglas, lo que ayuda a los equipos de ingeniería a detectar fallos antes del lanzamiento en lugar de después de un incidente.

¿Cómo está cambiando la IA el conjunto de herramientas de los atacantes?

La IA reduce el coste y aumenta la calidad de los ataques que antes requerían gran habilidad o esfuerzo manual. Tres tendencias son las más importantes para los equipos de seguridad que elaboran un modelo de amenazas para 2026.

Deepfakes y fraude de identidad sintética

Las falsificaciones de voz y vídeo se utilizan habitualmente en el fraude por correo electrónico empresarial y en el fraude de pagos a proveedores, donde un atacante suplanta la identidad de un director financiero o un contacto de un proveedor en una llamada en directo. Pindrop midió que los intentos de fraude con falsificaciones de voz contra centros de contacto aumentaron de aproximadamente uno al mes a unos siete al día durante 2024, y el Centro de Servicios Financieros de Deloitte proyecta que las pérdidas por fraude con IA generativa en Estados Unidos podrían alcanzar los 40 millones de dólares en 2027, frente a los 12.3 millones de dólares de 2023 ( Deloitte ). La precisión humana para detectar falsificaciones de vídeo sin ayuda es prácticamente aleatoria en pruebas independientes, por lo que la detección debe ser técnica, no solo fruto de la vigilancia entrenada.

Suplantación de identidad generada por IA y vulneración del correo electrónico empresarial

Los modelos generativos ahora escriben correos de phishing gramaticalmente correctos y contextualizados a gran escala, personalizados a partir de datos extraídos de LinkedIn y listas de correo comprometidas. El Centro de Denuncias de Delitos en Internet (IC3) del FBI registró pérdidas por ciberdelincuencia de aproximadamente 20.9 millones de dólares en 2025, siendo el fraude por correo electrónico empresarial y el fraude relacionado con el phishing algunas de las categorías más importantes ( Informe Anual 2025 del FBI IC3 ). La respuesta defensiva es el mismo filtrado de correo electrónico basado en IA descrito anteriormente, que se mantiene actualizado frente a un señuelo cada vez más sofisticado.

Aprendizaje automático de adversarios

Los ataques adversarios de ML se dirigen al propio sistema de IA: el envenenamiento de datos corrompe un conjunto de entrenamiento para que el modelo aprenda un patrón erróneo, los ataques de evasión crean entradas que eluden un clasificador y la inyección de comandos manipula las instrucciones de un LLM a través de su propia entrada. MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems) es la referencia estándar en este ámbito, catalogando estas técnicas de la misma manera que MITRE ATT&CK cataloga las técnicas de ataque convencionales; a principios de 2026 documentaba 16 tácticas y 84 técnicas específicas para sistemas de IA y ML ( MITRE ATLAS ). Cualquier organización que implemente IA para la seguridad debe asumir que sus propios modelos son un objetivo, no solo una herramienta.

Para un análisis más detallado de una de estas clases de ataques en particular, consulte la guía de Encryption Consulting sobre ataques de inyección de mensajes instantáneos y el análisis del Centro de Educación sobre amenazas y medidas de mitigación de la IA generativa.

¿Dónde se encuentran la IA, el cifrado y la infraestructura de clave pública (PKI)?

La IA y la criptografía se cruzan de tres maneras concretas: la IA ayuda a proteger la infraestructura criptográfica, la criptografía protege los sistemas de IA y los propios modelos de IA necesitan los controles de identidad y gestión de claves que ya tienen todos los demás sistemas de producción.

Detección de anomalías en certificados y claves asistida por IA

Los modelos de aprendizaje automático aplicados a los registros de transparencia de certificados, los registros de emisión de la autoridad de certificación (CA) y la telemetría de uso de claves pueden detectar errores de emisión, comportamiento no autorizado de la autoridad de certificación, claves débiles o duplicadas y patrones inusuales de acceso a claves mucho antes de que una auditoría manual los detecte. Esta es la misma lógica de detección de anomalías descrita anteriormente, aplicada a certificados y claves en lugar de sesiones de usuario.

Inventario criptográfico y de criptoagilidad impulsados ​​por IA

No se puede proteger, migrar ni automatizar lo que no se ha inventariado. Herramientas como CBOM Secure de Encryption Consulting utilizan el descubrimiento y la clasificación automatizados, cada vez más asistidos por IA, para crear una lista de materiales criptográficos (CBOM) en toda la empresa: qué algoritmos, longitudes de clave, certificados y bibliotecas se utilizan y dónde. Este inventario es el requisito previo para la criptoagilidad, es decir, la capacidad de reemplazar un algoritmo débil u obsoleto sin reconstruir el sistema a su alrededor, y es precisamente la información básica que una herramienta de seguridad basada en IA necesita para razonar correctamente sobre el riesgo criptográfico. Un modelo de IA entrenado con un inventario incompleto no detectará los activos que nunca vio.

Gestión clave para modelos y agentes de IA

Los agentes de IA autónomos que llaman a las API, transfieren datos o realizan acciones en nombre de un equipo de seguridad necesitan una identidad verificable, al igual que una cuenta de servicio o una máquina. Esta identidad suele ser un certificado de corta duración emitido y rotado a través de una infraestructura de clave pública (PKI), no una clave API estática ni un secreto compartido, ya que una credencial estática entregada a un agente autónomo es un objetivo persistente. Consulte la guía de Encryption Consulting para proteger la comunicación entre IA con PKI privada para conocer los mecanismos de aplicación de TLS mutuo (mTLS) e identidad basada en certificados al tráfico entre agentes, entre agentes y modelos, y entre orquestadores y trabajadores.

Cómo elegir herramientas de seguridad basadas en IA: qué evaluar

No todos los productos comercializados como "con tecnología de IA" utilizan la misma técnica, y es precisamente esa técnica la que determina la eficacia de la herramienta. Evalúe el producto según estos criterios antes de comprarlo.

• Tipo de modelo y ajuste

  Los clasificadores supervisados ​​funcionan bien para patrones de ataque conocidos con datos de entrenamiento etiquetados (familias de malware, kits de phishing conocidos). La detección de anomalías no supervisada es adecuada para amenazas nuevas o internas donde no hay ejemplos etiquetados. Los modelos de lenguaje grandes son adecuados para tareas de lenguaje natural, como el resumen de alertas y el análisis de contenido de phishing, no para la clasificación determinista. Un proveedor debería poder indicar claramente a qué categoría pertenece su modelo.

• Tasas de falsos positivos y falsos negativos, expresadas con números.

  Solicita una comparación con tus propias muestras de registro, no una afirmación publicitaria. Una alta tasa de falsos positivos provoca fatiga por exceso de alertas y hace que la herramienta se ignore; una alta tasa de falsos negativos es peor y más difícil de detectar.

• Explicabilidad

  ¿Puede la herramienta explicar por qué detectó una anomalía, de forma que un analista pueda tomar medidas al respecto? Una puntuación opaca, sin justificación alguna, ralentiza la investigación y dificulta la defensa de la herramienta en una auditoría o en una revisión posterior a un incidente.

• Integración y compatibilidad de formatos de datos

  Confirme que la herramienta ingiere sus formatos de registro SIEM, EDR y en la nube existentes sin necesidad de una canalización personalizada, y que su salida se ajusta a sus playbooks SOAR. Una herramienta que requiere reformatear cada fuente de datos genera costos operativos que reducen el ahorro de tiempo.

• Gestión de la residencia y del entrenamiento de los datos

  Es importante saber si los registros y la telemetría se utilizan para entrenar el modelo compartido del proveedor, si permanecen en una instancia aislada del inquilino o si se envían fuera de su entorno. Esta es una cuestión contractual y de cumplimiento normativo, no solo técnica.

• Controles con intervención humana

  Confirme que la herramienta admite un modo de solo detección o con control de aprobación antes de admitir la acción autónoma, y ​​que dicho control se aplique realmente, no solo esté disponible.

Un modelo de amenazas equilibrado: casos de uso, valor y riesgo de la seguridad basada en IA

Un modelo de amenazas útil considera la IA como de doble uso: cada implementación conlleva un valor defensivo y un riesgo correspondiente que requiere control. La siguiente tabla relaciona los casos de uso comunes con ambos.

Caso de uso de seguridad de IA	Valor defensivo	Riesgo primario
UEBA / detección de anomalías	Alto: detecta amenazas de patrón desconocido y riesgos internos.	Medio: falsos positivos, deriva del modelo a medida que cambia el comportamiento normal.
Clasificación de alertas del SOC y respuesta automatizada	Alto: los recortes significan tiempo para responder	De nivel medio a alto: la acción autónoma requiere estrictas medidas de seguridad.
Filtrado de correo electrónico y prevención de phishing mediante inteligencia artificial	Alto: captura señuelos generados por IA herramientas de firma fallan	De bajo a medio: evasión adversaria, formatos de señuelo novedosos
Análisis de código y vulnerabilidades asistido por IA	Medio a alto: encuentra fallos más rápido, antes del lanzamiento	Medio: falsos negativos sobre fallos lógicos novedosos
Detección de anomalías en certificados y claves asistida por IA	De nivel medio a alto: detecta errores en la emisión de superficies y mal uso de llaves desde el principio.	Medio: la precisión depende totalmente de la integridad del inventario.
Copilotos de IA generativa para analistas de seguridad	Medio: acelera la investigación y la documentación.	De nivel medio a alto: inyección de mensajes, fuga de datos en los mensajes.
Agentes de IA autónomos con acceso al sistema	Medio: extiende la cobertura más allá de las horas humanas.	Alto: amplía la superficie de ataque, requiere una gestión sólida de la identidad del agente y de las claves.

Cómo adoptar herramientas de seguridad de IA: un proceso paso a paso

La mayoría de las implementaciones fallidas de seguridad de IA fallan durante el despliegue, no en el modelo. Siga esta secuencia en lugar de activar las funciones autónomas por defecto.

1. Primero, haga un inventario de sus fuentes de datos y, cuando corresponda, de sus activos criptográficos, ya que una herramienta de IA es tan buena como la información veraz sobre la que razona.
2. Antes de evaluar a los proveedores, defina el modelo de amenazas y las métricas de éxito para el caso de uso específico, en lugar de comprar una "plataforma de seguridad de IA" genérica.
3. Pruebe la herramienta en modo de solo detección o en modo sombra contra tráfico de producción real antes de otorgarle cualquier autorización de respuesta.
4. Ajuste la tasa de falsos positivos comparándola con su propio entorno e integre su resultado con sus manuales de procedimientos SIEM y SOAR existentes.
5. Agregue controles de aprobación explícitos con intervención humana antes de permitir cualquier acción de respuesta autónoma o irreversible.
6. Amplíe sus controles de gestión de identidades y claves existentes para que abarquen el propio sistema de IA, incluidas las identidades de los agentes que cree o utilice.
7. Supervise la desviación del modelo y reevalúe la precisión de la detección según un calendario fijo, como mínimo trimestral, ya que tanto el comportamiento del atacante como su propio entorno cambian.

Compromisos entre rendimiento e interoperabilidad

Las herramientas de seguridad basadas en IA conllevan costes operativos reales que rara vez se evidencian en una demostración de prueba de concepto.

• latencia de inferencia

  La detección en línea en tiempo real (bloquear una solicitud antes de que finalice) requiere modelos de baja latencia, generalmente de aprendizaje automático clásico en lugar de modelos de lenguaje complejos. El análisis por lotes o casi en tiempo real puede tolerar un modelo más complejo y una mayor precisión.

• Calcular y calcular costes a escala

  Ejecutar modelos de lenguaje extensos en cada línea de registro o en cada correo electrónico es costoso; la mayoría de las implementaciones en producción aplican el modelo de lenguaje de forma selectiva, después de que un modelo clásico más económico haya reducido el campo de aplicación.

• Sobrecarga de normalización de datos

  Alimentar un modelo con datos consistentes y bien etiquetados procedentes de una docena de herramientas dispares (firewalls, EDR, registros de auditoría en la nube, autoridades de certificación) suele ser el mayor coste oculto de una implementación, no el modelo en sí.

• Dependencia del proveedor en los datos de capacitación

  Un modelo entrenado en gran medida con el formato de telemetría propietario de un proveedor puede ser difícil de migrar si posteriormente se cambia de proveedor de SIEM o EDR.

Ejemplos de implementación

Algunos ejemplos concretos muestran cómo se manifiesta esto en la práctica, en lugar de en abstracto.

• detección de fraude bancario

  Un banco minorista utiliza UEBA contra la telemetría de transacciones e inicios de sesión para detectar intentos de apropiación de cuentas en tiempo real, reduciendo el tiempo entre la intrusión y la detección de días a minutos.

• Clasificación de alertas del SOC en la nube híbrida

  Un centro de operaciones de seguridad (SOC) empresarial utiliza un copiloto de IA para correlacionar las alertas de los registros de AD CS locales, las pistas de auditoría en la nube y la telemetría EDR en una única cola priorizada, lo que reduce el volumen de alertas para los analistas en un orden de magnitud.

• Inventario criptográfico y criptoagilidad

  CBOM Secure aplica el descubrimiento y la clasificación automatizados a través de certificados, claves y bibliotecas para crear un inventario criptográfico en tiempo real, la base tanto para detectar anomalías criptográficas como para planificar una migración post-cuántica.

• Seguridad del correo electrónico empresarial

  Una organización implementa un sistema de filtrado de correo electrónico basado en IA, específicamente ajustado contra patrones de phishing generados por IA, junto con controles estándar de autenticación del remitente (SPF, DKIM, DMARC).

• identidad del agente autónomo

  Un equipo de DevOps emite certificados de corta duración, respaldados por PKI, a agentes de IA autónomos que llaman a API internas, de modo que cada acción del agente es criptográficamente atribuible y revocable, en lugar de autenticarse mediante un secreto compartido de larga duración.

Limitaciones

La IA no sustituye a un programa de seguridad y tiene fallos reales y bien documentados.

• Falsos positivos y falsos negativos

  Cada modelo tiene una tasa de error. Un falso negativo en un ataque dirigido es el modo de fallo más costoso y el más difícil de detectar, ya que, por definición, el modelo no lo detectó.

• Deriva del modelo

  Un modelo entrenado con el comportamiento de referencia del año pasado se degrada a medida que cambian el entorno, la población de usuarios y las tácticas de los atacantes, y necesita ser reentrenado o reajustado periódicamente, no una implementación única.

• lagunas de explicabilidad

  En particular, los modelos de aprendizaje profundo pueden generar una puntuación de riesgo sin una razón que permita su revisión, lo que ralentiza la investigación y puede suponer un problema de cumplimiento normativo en los sectores regulados.

• Riesgo adverso para el propio modelo

  El envenenamiento de datos, la evasión y la inyección instantánea, catalogados en MITRE ATLAS, atacan directamente al sistema de IA. Una herramienta de seguridad que no esté protegida contra estas técnicas puede convertirse en el punto débil que pretendía corregir.

• Autocomplacencia en la automatización

  Los equipos que confían demasiado en la clasificación automatizada dejan de revisar por completo los casos excepcionales para los que el modelo nunca fue entrenado, que es precisamente donde reside un ataque sofisticado y dirigido.

• Privacidad y fuga de datos

  Introducir registros confidenciales, código o datos de clientes en un sistema de IA generativa sin garantías claras sobre el manejo de datos puede crear un nuevo riesgo que la organización no tenía antes.

¿Qué recomendaría Encryption Consulting?

Empiece por el inventario, no por la herramienta de IA. La mayoría de las organizaciones que tienen dificultades para obtener valor de los productos de seguridad basados ​​en IA carecen de la información criptográfica y de activos que el modelo necesita para razonar correctamente. Por eso, CBOM Secure existe como una capa de descubrimiento y clasificación antes de que se confíe en cualquier herramienta de criptoagilidad o detección de anomalías para tomar decisiones. Combine esto con un servicio de asesoramiento en cifrado para gestionar la hoja de ruta de criptoagilidad que revela el inventario y vea cómo la gestión de la postura criptográfica como una disciplina continua, y no como una auditoría puntual, mantiene la precisión del inventario a medida que cambia su entorno.

En segundo lugar, desde el primer día, trate a cada agente de IA como una identidad de máquina. Un agente autónomo que se comunica con sistemas internos necesita la misma identidad temporal respaldada por certificados y el mismo proceso de revocación que cualquier cuenta de servicio, no una clave API estática que se convierte en un riesgo permanente en el momento en que se filtra. Las soluciones PKI como servicio y las soluciones PKI privadas de Encryption Consulting extienden este modelo de identidad al tráfico entre agentes y entre agentes y modelos, tal como se detalla en la guía de comunicación entre IA mencionada anteriormente.

En tercer lugar, mantenga un proceso de aprobación humana para cualquier acción automatizada que supere el bajo riesgo, y reevalúe dicho proceso a medida que se acumule el historial de la herramienta, en lugar de eliminarlo el primer día solo porque la demostración del proveedor pareció convincente.

Conclusión

La IA ha pasado de ser un complemento experimental a una parte fundamental tanto de la ciberseguridad como del arsenal de los atacantes modernos, y 2026 no es el año para considerar ninguna de las dos opciones como opcional. En defensa, la IA es realmente eficaz en la detección de anomalías, la clasificación automatizada y la detección de phishing, que cada vez es más difícil de identificar a simple vista. En ataque, los deepfakes y la ingeniería social basada en IA ya han generado pérdidas por fraude de miles de millones de dólares, y el aprendizaje automático adversario proporciona a los atacantes un manual documentado y en constante evolución contra los modelos en los que ahora confían los defensores.

Empiece por analizar el inventario antes de plantearse la cuestión de las herramientas. Si no puede determinar con certeza qué certificados, claves y algoritmos se ejecutan actualmente en su entorno, esa falta de información limitará cualquier inversión en seguridad basada en IA que realice posteriormente.

Referencias

• NIST, Marco de gestión de riesgos de IA (AI RMF 1.0), publicado el 26 de enero de 2023, y NIST-AI-600-1, Perfil de Inteligencia Artificial Generativa, lanzado el 26 de julio de 2024.
• INGLETE, ATLAS DE MITREPanorama de amenazas adversarias para sistemas de IA: 16 tácticas y 84 técnicas a principios de 2026.
• Centro de Denuncias de Delitos en Internet del FBI, Informe anual del IC3 de 2025.
• Centro Deloitte para Servicios Financieros, Se prevé que la IA generativa aumente el riesgo de deepfakes y otros fraudes en el sector bancario..
• Pindrop, en su Informe de 2025 sobre Inteligencia y Seguridad de Voz, cita un análisis del sector sobre el aumento del fraude con deepfakes en centros de contacto.