IA en el canal: Cómo las empresas pueden equilibrar el potencial de la IA con los riesgos en ciberseguridad
El avance innovador de la Inteligencia Artificial permite hoy en día analizar datos, reconocer patrones, automatizar la robótica y la conciencia perceptiva, dotándole de la capacidad y eficiencia analítica propia de los humanos. Se trata de un mercado del que se estima que alcance los 2 millones de dólares en 2030, lo que supone una revolución en la producción y su adaptación a todos los sectores.
Ignacio López Monje, vicepresidente para el sur de Europa de la división de negocio Enterprise Computing Solutions de Arrow, analiza a continuación los vertiginosos avances que ha supuesto esta tecnología, pero también los riesgos que puede conllevar y cómo enfrentarse a ellos: “Las aplicaciones “inteligentes” son cada vez más frecuentes, impulsadas por sofisticados algoritmos de aprendizaje y redes de procesamiento neuronal que respaldan cálculos complejos y una rápida toma de decisiones. La IA se ha estado utilizando desde los años 50, pero no ha sido hasta ahora cuando ha experimentado un crecimiento exponencial”.
Para procesar esta evolución, la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA, por sus siglas en inglés) ha dividido la progresión de la IA en “olas”:
- Primera Ola: “descubrir y reconocer”. En esta primera fase se desarrollaron los sistemas basados en reglas. El Machine Learning, entendido como el conjunto de tecnologías y algoritmos para el entrenamiento de datos, permite a los sistemas de IA identificar patrones y extraer conclusiones basadas en la lógica. Aprovechando la experiencia previa para tener una comprensión cada vez mejor, los equipos automatizados pueden analizar su alrededor y tomar decisiones contextualizadas rápidas.
- Segunda Ola: “sentir y ver”. Basada en el entrenamiento de conjuntos de datos y el aprendizaje, la IA permite a los sistemas y a los robots percibir información ambiental que respalda los análisis inteligentes. Es lo que se denomina “visión artificial” por la capacidad de darle “ojos” a los equipos modernos. Impulsada por una combinación de sofisticados componentes de hardware y software, la visión artificial se apoya en la IA para analizar, interpretar y adaptarse, pudiendo respaldar acciones cada vez más inteligentes.
A medida que crece la productividad impulsada por IA, es necesario también ampliar de forma exponencial la gestión de la potencia que demanda y de la administración de los datos en los que se apoya. Para ello es necesario también una mayor velocidad y capacidad de los centros de datos, sensores y componentes sofisticados y conjuntos de conectores ultraconfiables, diseñados para soportar entornos exigentes.
Equilibrar los riesgos y la promesa del potencial de la IA
Como se suele decir: “un gran poder, conlleva una gran responsabilidad”, ya que el propio desarrollo de la IA puede convertirse en una amenaza si se manipula para fines no autorizados. En un enfoque tradicional de seguridad, las vulnerabilidades se atribuyen a problemas dentro de la estructura del sistema. La IA introduce nuevas vulnerabilidades debido a sus complejos modelos de datos e interdependencia, lo que representa una naturaleza dual de la IA y, en consecuencia, un desafío para la seguridad empresarial. Podría darse un escenario en el que un sistema de IA diseñado para defender una infraestructura se enfrente a otro sistema de IA diseñado para derribarla.
Frente a este escenario, las empresas deben adaptarse y redefinir sus estrategias de protección, para evitar que la IA manipule sus conjuntos de datos o sus sistemas. La vigilancia se vuelve primordial.
Algunas buenas prácticas pasan por examinar el ciclo de vida del producto o sistema de IA en busca de vulnerabilidades, evaluar la seguridad y disponibilidad de los datos con los que se entrenan los algoritmos, así como desarrollar planes de mitigación de amenazas específicos para IA e integrarlos en sus planes generales de recuperación en caso de ciberataque. Además, contar con un proveedor especializado en servicios y soluciones de TI y seguridad, siempre ayudará a las empresas que lo necesiten a comprender, ejecutar y rentabilizar la seguridad de forma integral.
“En resumen, la revolución de la IA Generativa encierra un mundo de posibilidades para el rendimiento empresarial y sus avances pueden permitir a las empresas y socios de canal detectar nuevas oportunidades de negocio, aumentar la eficiencia y descubrir nuevos ingresos potenciales para hacer evolucionar sus negocios. Sin embargo, es necesario tener en cuenta que el uso de esta tecnología también puede significar la evolución de las vulnerabilidades de ciberseguridad. Encontrar el equilibrio adecuado y contar con el asesoramiento de socios experimentados y especializados puede ser una combinación ganadora”, concluye el máximo directivo de Arrow.