Kaspersky alerta de los peligros de la GenAI y la Computación Cuántica en manos de ciberterroristas

El evento Kaspersky Horizons 2025, hasta el año pasado conocido como NEXT, sirvió de nuevo como punto de encuentro crucial para líderes de opinión globales, periodistas y expertos en ciberseguridad, con el objetivo de abordar los desafíos más apremiantes del futuro digital. Esta edición la jornada pivotó sobre tres ejes principales: la ciberseguridad avanzada, el impacto de la Inteligencia Artificial y las implicaciones de la computación cuántica.

Con 40 grados a la sombra y un aire tórrido como el que sale de detrás de los racks de un datacenter, el nuevo Kaspersky Horizons se celebró en el emblemático hotel Riu Plaza España en Madrid entre el 30 de junio y el 2 de julio pasado. Tras un intenso día de ponencias y debates, el consenso general fue claro: la ciberresiliencia no es una opción, sino una necesidad que exige cooperación internacional, una tecnología ética y human-centric, y un compromiso activo de todos los sectores para enfrentar un cibercrimen cada vez más profesionalizado y potenciado por la IA.

El evento dio comienzo con la bienvenida y las reflexiones de Óscar Suela, director general de Kaspersky para la península Ibérica y las islas Británicas. Suela subrayó que nos encontramos en un momento “emocionante y a la vez crítico” para la ciberseguridad, la inteligencia artificial y la computación cuántica. Anticipó que, si bien existen numerosos retos, también se presenta una “gran oportunidad para entender lo que viene”. Destacó la centralidad de las consideraciones éticas en el uso de la IA, incluso equiparándolas en importancia a las consideraciones técnicas.

Asimismo, planteó una cuestión fundamental sobre el impacto de la computación cuántica en el sector, invitando a la reflexión sobre un futuro donde “no hablamos solo de ceros y unos, sino también de qúbits”. Suela expuso que el evento se centraría en la evolución de las amenazas, el impacto de la IA en todos los ámbitos de la ciberseguridad, y las profundas implicaciones de la computación cuántica, una tecnología que, aunque incipiente, ya plantea interrogantes sistémicos para la seguridad digital.

Un cibercrimen profesionalizado

La primera keynote estuvo a cargo del hacker ético y divulgador de ciberseguridad Clément Domingo, conocido como SaxX. Domingo ofreció un inquietante retrato de la cibercriminalidad actual, que ha abandonado el amateurismo para transformarse en una industria profesionalizada y altamente organizada. Advirtió que ya existen más de 2.000 grupos cibercriminales a nivel mundial, con unos 40 muy activos y al menos diez con impacto global. Subrayó que estos grupos están “a veces más y mejor organizados que las empresas clásicas”, operando desde oficinas, con horarios estándar, departamentos de finanzas, recursos humanos e incluso celebraciones corporativas de team building y employee branding.

Casos como LockBit, que superó los 1.000 millones de dólares en ingresos en menos de dos años, o Logit, cuyo jefe obtuvo más de 500 millones de dólares en un año y medio, ilustran la «alarmante» rentabilidad del cibercrimen. Domingo estimó que el cibercrimen es ya la tercera economía mundial, solo superada por China y EEUU.

La Inteligencia Artificial ha sido un motor clave en esta profesionalización. Según Domingo, la IA “ha acelerado los tiempos”, permitiendo que tareas que antes requerían días se realicen en horas. Los ciberdelincuentes utilizan IA generativa para crear malware, deepfakes, correos de phishing hiperrealistas y automatizar la selección de objetivos y el lanzamiento de campañas. La facilidad de acceso a estas herramientas, incluso en deep webs como Plat Market donde se venden cuentas de ChatGPT con información privada, está atrayendo a una nueva generación de delincuentes, incluyendo jóvenes que logran ganancias millonarias sin apenas experiencia.

Ahora los rescates se calculan con algoritmos de  IA, usando herramientas como ZoomEye o Shodan para calcular de manera personalizada el botín del rescate de cada víctima, llegándose a cifras de hasta 248 millones de dólares en 2024. Domingo alertó sobre la creciente dificultad para distinguir lo real de lo fake en un mundo donde las imágenes y voces generadas por IA son indistinguibles de la realidad. Su mensaje final fue contundente: “La tecnología por sí sola no basta. Si quien conduce no sabe cuándo frenar, da igual lo avanzado que sea el coche”, subrayando que el factor humano sigue siendo el eslabón crítico.

Necesidad de una colaboración global

Jochen Michels, director de Asuntos Públicos de Kaspersky en Europa, enfatizó la imperiosa necesidad de una colaboración a nivel global para hacer frente a la creciente sofisticación de las ciberamenazas. Argumentó que, dado que los delincuentes colaboran entre sí, gobiernos, empresas y universidades deben hacer lo mismo para combatirlos eficazmente en su mismo orden de magnitud. Citó la iniciativa No More Ransom, co-creada por Kaspersky y Europol, como un ejemplo exitoso de alianza público-privada contra el ransomware.

Michels resaltó también el papel central de la IA en la ciberseguridad defensiva, indicando que Kaspersky detecta 468.000 nuevas piezas de malware al día, lo cual sería imposible sin la ayuda de la IA. Sin embargo, advirtió sobre el uso malicioso de estas tecnologías por parte de los atacantes que a diferencia de los “buenos”, se mueven sin cortapisas ni límites morales. De ahí que Michels detallase una serie de principios éticos clave por los que las empresas deberían conducirse para distinguirse de los “malos”:

• Transparencia: Explicar cómo y dónde se usa la IA, con revisiones de código fuente disponibles en sus 30 Centros de Transparencia globales.
• Seguridad: Prioridad máxima con pruebas exhaustivas, auditorías y red teaming.
• Control humano: Mecanismos de supervisión experta en tiempo real para corregir el funcionamiento de los sistemas de IA/ML si es necesario.
• Privacidad: Cumplimiento estricto de normativas como GDPR, la Ley de IA de la UE y la Ley de Ciberresiliencia.
• Finalidad defensiva exclusiva: Usar la IA/ML solo para proteger a los clientes y organizaciones, nunca con fines ofensivos.
• Apertura al diálogo: Publicar documentos, interactuar con expertos y contribuir a iniciativas globales.

Kaspersky ha desarrollado, además, guías prácticas para startups y desarrolladores que buscan integrar la seguridad desde las primeras fases del diseño de sistemas de IA, abogando por un enfoque de «seguridad por diseño» para un uso responsable y concienciado de la IA.

Más desafíos éticos y sociales

Una mesa de debate bajo el título «Responsible AI: desafíos, elecciones y cambio» reunió a Liliana Acosta (investigadora en ética de la IA de Thinker Soul), Clément Domingo (evangelista) y Marc Rivero (investigador principal de Seguridad en GReAT de Kaspersky). Los panelistas abordaron cuestiones como la concentración de poder en pocas empresas tecnológicas, la opacidad de los modelos de IA, los sesgos algorítmicos, la erosión del pensamiento crítico o la falta generalizada de comprensión a nivel usuario sobre cómo funciona realmente la IA.

Liliana Acosta destacó que, en caso de brechas de seguridad, las consecuencias recaen con más dureza sobre los colectivos más vulnerables, subrayando la necesidad de “sistemas justos y éticos, no solo eficaces”. Los ponentes defendieron la importancia de equipos multidisciplinares, auditorías internas y externas, y la incorporación de la ética como criterio técnico y estratégico desde las primeras fases de desarrollo de cualquier sistema de IA. Concluyeron que “no podemos dejar la ética en manos del algoritmo”, enfatizando la necesidad de una supervisión humana y principios claros.

La amenaza cuántica

La computación cuántica fue uno de los temas centrales del evento, abordado por Sergey Lozhkin, responsable del equipo de Análisis e Investigación Global de Kaspersky para APAC y META, así como en una mesa de discusión «Hope vs. Hype» con Pilar Troncoso (Chief Relations Officer en QCentroid) y Johannes Verst (CEO y fundador de Quantum Business Network), moderado por Anne Mickler (responsable de Comunicación de Kaspersky Alemania).

Lozhkin advirtió que, aunque el hardware cuántico aún no ha alcanzado la capacidad necesaria para romper los algoritmos de cifrado actuales (como RSA o AES), su evolución es “imparable”. Destacó el preocupante escenario del «store now, decrypt later», donde los datos cifrados hoy, debido a su posible valor a largo plazo, son almacenados por atacantes con la intención de descifrarlos en el futuro, cuando la capacidad cuántica lo permita.

“Las decisiones de seguridad que tomemos hoy determinarán la resiliencia de nuestra infraestructura digital durante las próximas décadas”, sentenció Lozhkin, urgiendo a gobiernos, empresas y proveedores de infraestructuras a adaptarse “ya” para evitar vulnerabilidades sistemáticas insuperables. Afirmó que el impacto real llegará cuando se produzca el primer ataque cuántico, y que muchas empresas no actuarán proactivamente hasta entonces.

Pilar Troncoso abogó por una visión pragmática de la computación cuántica, instando a las organizaciones a “identificar casos de uso concretos y empezar a experimentar desde ya” para preparar sus infraestructuras para el cambio. Su empresa, QCentroid, se enfoca en ayudar a organizaciones a probar soluciones cuánticas reales.

Verst puso el foco en el impacto económico y geopolítico, señalando que, si bien EEUU tiene el capital y China el músculo estatal, Europa posee el talento pero necesita escalar y una estrategia nacional clara que contemple tecnologías como QKD (distribución de claves cuánticas) o QRNG (generación de números aleatorios cuánticos). Los panelistas coincidieron en que Europa no puede permitirse quedarse atrás en esta carrera, ya que cuando la “ventaja cuántica llegue, no habrá tiempo para reaccionar”.

FunkSec: un RaaS impulsado por IA

Finalmente, la jornada de Kaspersky Horizons 2025 fue cerrada con la keynote de Marc Rivero, investigador principal de Seguridad en GReAT de Kaspersky, quien desveló en exclusiva los hallazgos sobre FunkSec, un nuevo grupo de ransomware activo desde apenas finales de 2024, y que ya ha superado en alcance y daño a grupos de malware más veteranos.

FunkSec representa una evolución significativa del cibercrimen, siendo, hasta la fecha, el primer malware conocido que ha sido parcialmente desarrollado con Inteligencia Artificial. Este ransomware multiplataforma, programado en lenguaje Rust, combina cifrado, exfiltración de datos y funciones de evasión en un único binario, capaz de desactivar más de 50 procesos en los equipos infectados y desaparecer tras una sesión de autolimpieza.

FunkSec opera bajo un modelo de Ransomware-as-a-Service (RaaS), ofreciendo soporte y herramientas generadas con IA a sus afiliados para facilitar y personalizar los ataques. Su estrategia se basa en rescates sorprendentemente bajos (a veces de menos de 10.000 dólares), complementados con la venta de datos robados a terceros en la Deep Web a precios reducidos, lo que facilita un alto volumen de ciberataques y una rápida consolidación de su reputación. Rivero enfatizó que la IA generativa “reduce las barreras de entrada y acelera la creación de malware”, permitiendo a atacantes con poca experiencia desarrollar herramientas sofisticadas dañinas a gran escala.

Rivero también abordó otros temas críticos de ciberseguridad:

• Comodidad vs. Seguridad: Destacó la frase “cuanto más confortable o cómodo estás, menos seguro eres”. Explicó que las medidas de seguridad necesarias, como la autenticación de doble factor o los cambios frecuentes de contraseña, a menudo resultan molestas para el empleado, creando un desafío constante para las empresas que buscan equilibrar la protección con la usabilidad.
• Ingesta de datos y proveedores externos: Señaló los riesgos de seguridad asociados a la ingesta de datos por parte de la IA, especialmente cuando el proveedor no está dentro de la zona de control de datos de la empresa (por ejemplo, fuera de la UE y su GDPR). Subrayó la dificultad incluso para los CIO de saber dónde se alojan verdaderamente sus datos y la necesidad de mecanismos de cooperación industrial para asegurar que los proveedores se alineen con los estándares de tratamiento de datos regionales.
• Zero Trust: Afirmó que la filosofía Zero Trust no es la única solución válida, sino una pieza más del rompecabezas de la ciberseguridad. Es ideal para redes grandes que requieren un control estricto, pero su aplicación puede no ser viable para todas las empresas, especialmente aquellas sin la madurez necesaria para manejar su gestión o que por su tamaño se vean sobrepasados por la complejidad técnica. La clave es aplicar las técnicas adecuadas al ecosistema de cada organización para aumentar la madurez, la ciberresiliencia y la ciberhigiene.
• Concienciación y Autenticación Multifactor (MFA) contra Phishing: Para terminar, Rivero enfatizó que la concienciación del usuario es fundamental para combatir el phishing. Sin embargo, también son cruciales las medidas técnicas como el bloqueo automático de credenciales comprometidas y, sobre todo, la implementación generalizada de la autenticación de doble factor (MFA), que aumentaría significativamente la complejidad para los atacantes de comprometer credenciales.

Mensaje final: La ciberresiliencia se construye hoy

El Kaspersky Horizons 2025 concluyó con un mensaje unánime: la ciberresiliencia no se improvisa. Se construye desde hoy, con visión, con principios y con una actitud abierta al cambio. Frente al avance de la IA en manos del cibercrimen y la inminente amenaza de la computación cuántica, la única defensa efectiva es la cooperación internacional, la ética tecnológica y el compromiso activo y compartido de todos los sectores, desde gobiernos y grandes corporaciones hasta pymes y el usuario final. El evento en Madrid dejó claro que, más allá de las herramientas tecnológicas, es fundamental prepararse, colaborar y poner a las personas en el centro de la estrategia de ciberseguridad. Porque sin duda la cosa se va a poner al rojo vivo.