¿IA o AI? La Inteligencia Artificial es la herramienta y la Automatización Inteligente es el resultado
Para la mayoría de las organizaciones, la implantación de la Inteligencia Artificial (IA) se basa en dos factores: obtener análisis de datos a gran escala y lograr mayores niveles de automatización para aumentar la productividad, mejorar los procesos empresariales y reducir los costes. Luego se trata de automatizar inteligentemente.
AUTOMATIZAR significa generar tareas específicas sin que las personas tengan que realizarlas. Una vez establecido un proceso en un programa, puede repetirse tantas veces como sea necesario, produciendo siempre el mismo resultado. La automatización tradicional requiere que, desde el principio, todos los aspectos, desde el input al output, se planifiquen y esbocen cuidadosamente y, una vez definidos, el proceso automatizado puede ponerse en marcha para que funcione según lo previsto.
La ventaja de la automatización inteligente (AI) es que permite a las máquinas ocuparse de procesos simples o complejos sin que éstos tengan que definirse explícitamente. La AI suele utilizar el aprendizaje automático, la inteligencia artificial generativa y el procesamiento del lenguaje natural para sugerir formas de analizar datos o tomar medidas basándose en los datos y patrones de uso existentes. En esencia, la inteligencia artificial es la herramienta que permite la automatización inteligente, que es el resultado final. Proporciona a las personas la información adecuada en el momento oportuno, lo que les permite centrarse en actividades estratégicas en lugar de en el análisis de datos.
La inteligencia artificial, como el deep learning y el machine learning, ofrece el potencial de automatizar el procesamiento masivo de datos y los flujos de trabajo destacando la información más relevante a los operadores para mejorar las respuestas a las necesidades empresariales y tomar las decisiones correctas rápidamente. Teniendo esto en cuenta, la automatización inteligente puede ayudar a las empresas a adherirse a diversas normas y regulaciones de la industria, al tiempo que reduce los costes de cumplimiento.
La inteligencia artificial está siendo «democratizada» por diversas soluciones de análisis de vídeo que, especialmente en el campo de la seguridad electrónica, han recorrido un largo camino. Por ejemplo, en los eventos deportivos, las cámaras basadas en IA recopilan datos sobre vehículos y personas en el interior de los estadios y sus zonas perimetrales –exclusivamente de forma anónima– y proporcionan una lista de atributos (por ejemplo, color de la ropa, sombrero, gafas, mochila) que pueden utilizarse para los controles de seguridad o para identificar automáticamente los cuellos de botella y facilitar el flujo de personas durante los distintos momentos de un partido o un concierto.
En definitiva, la tecnología no hace nada diferente de lo que haría un ser humano: simplemente lo hace más rápido y con mayor eficacia, comprometiendo menos recursos. De hecho, la tecnología no toma decisiones, sino que hace sugerencias. El uso de funciones de aprendizaje automático ayuda a los vigilantes de seguridad, proporcionándoles una serie de informaciones recogidas mediante el análisis automatizado de metadatos de vídeo. Esto también hace posible intervenir en situaciones en tiempo real en lugar de a posteriori, utilizando secuencias de vídeo para revisar e investigar lo sucedido.
Maximizar el uso de la inteligencia artificial en el ámbito de la seguridad
Una de las mejores formas de capitalizar los nuevos avances en inteligencia artificial en el sector de la seguridad electrónica es adoptar una plataforma abierta. La arquitectura abierta ofrece a los profesionales de la seguridad la libertad de explorar nuevas aplicaciones a medida que las soluciones de inteligencia artificial salen al mercado y seleccionar las que mejor se adapten a sus objetivos.
Es bueno recordar siempre que la inteligencia artificial es un medio para lograr una automatización inteligente que ayude a las personas a optimizar los procesos y mejorar la productividad. El desarrollo y la implantación responsables son el principio fundamental que subyace a todo ello: todo tipo de organización debe comprometerse con la protección de datos, la privacidad y el uso ético de la inteligencia artificial; aspectos indispensables para mantener la resiliencia de las TI, generar confianza y contribuir al bienestar de la sociedad.
LMM: oportunidades y riesgos para el mundo de la seguridad
Los modelos LLM (Large Language Model) son generadores de nuevas oportunidades para desarrollar cada vez más la automatización en diversos campos, incluido el sector de la seguridad electrónica. Sin embargo, es fundamental conocer sus limitaciones y posibles riesgos.
Los LLM utilizan un método de entrenamiento de IA denominado “no supervisado”, ya que se alimentan de datos extraídos de Internet y, en consecuencia, las respuestas que ofrecen no siempre son precisas, veraces o imparciales. Por lo tanto, especialmente en un contexto de seguridad, pueden surgir riesgos o situaciones engañosas. De hecho, los LLM pueden plantear riesgos en relación con la privacidad y la confidencialidad porque en algunos casos también aprenden de datos que contienen información confidencial.
En el caso de las acciones maliciosas, se podría explotar la tecnología de IA pidiendo a los chatbots que escriban scripts que exploten vulnerabilidades o pirateen aplicaciones. Aunque se trata de ejemplos hipotéticos, merece la pena considerar cómo podrían utilizarse indebidamente estas tecnologías. Por eso, en el ámbito de la seguridad electrónica, estos modelos deben operar en un entorno restringido y gestionarse correctamente para aprovechar todas sus ventajas, pero de forma segura. En estos momentos, hay mucho entusiasmo y los LLM ofrecen un gran potencial. Los desarrolladores ya están haciendo mucho hincapié en las prácticas de desarrollo responsables para garantizar que la tecnología sea segura.
En el ámbito de la seguridad electrónica, los algoritmos de machine learning y deep learning se utilizan habitualmente para detectar patrones y clasificar datos sin depender de la inteligencia artificial generativa, por lo que los resultados obtenidos por estos algoritmos se basan en probabilidades y requieren supervisión humana para determinar su precisión. Los LLM, debido a sus grandes requisitos computacionales, no siempre son la mejor solución para resolver un problema concreto. Por ejemplo, para controlar la asistencia en una sala de reuniones, una solución que utilice sensores que detecten la presencia física puede ser más eficiente que un sistema de cámaras basado en IA que utilice visión por ordenador para contar el número de personas que hay en la sala.
Por último, para garantizar un uso más responsable y eficiente de la inteligencia artificial y del LLM, es necesario implantar un sistema sólido de pruebas, supervisión y retroalimentación de los usuarios que garantice que las decisiones críticas siempre sean tomadas por seres humanos y que las tareas automatizadas y sus resultados se utilicen para proporcionar información que mejore la propia capacidad de juicio del ser humano.
Por Rafael Martín, Sales Director, Southern Europe, Genetec
«La inteligencia artificial es la herramienta que permite la automatización inteligente, que es el resultado final. Proporciona a las personas la información adecuada en el momento oportuno, lo que les permite centrarse en actividades estratégicas en lugar de en el análisis de datos» (Rafael Martín, Genetec)