Como llevar la Inteligencia Artificial a la periferia

Edge IA en la cancha

Todos tenemos nuestras aficiones y nuestros deberes, y si podemos juntar los dos es mucho más llevadero, hacer de taxi para mis hijos, pero a la vez aprovechar para ver sus partidos de baloncesto une ambas cosas. Y me diréis que tiene que ver esto con el Edge y la IA, pues bastante, al final como humanos acabamos replicando y aplicando el sentido común y estrategias que funcionan desde el mundo personal al tecnológico.

Un equipo y un partido de baloncesto no deja de ser un sistema distribuido, con un grupo de jugadores realizando acciones y generando información, y un orquestador que desde la banda recoge y analiza lo que pasa para tomar decisiones sobre la marcha, pero hay varios tipos de orquestadoras (entrenadores), está el pasivo que simplemente observa los chavales y realiza los cambios basándose en un programa preestablecido para que todos jueguen y cumplir el expediente, está el activo, muy motivado y amante de los aspavientos pero que solo realiza estrategias de acción reacción y su éxito pasa por usar repetitivamente los mismos jugadores de confianza todo el rato, y luego está el analítico (el bueno) que se anticipa a la dinámica del juego, que prevé como impactaran los cambios en el juego del equipo y que utiliza los recursos sabiamente y de forma coherente.

Llevar la IA al Edge es como tener un entrenador de baloncesto que no solo reacciona a lo que sucede en la cancha, sino que también anticipa las jugadas del rival. Este entrenador analiza los datos en tiempo real para tomar las decisiones más acertadas. No ser autómatas preprogramados, o sistemas muy llamativos con alarmas y gráficos, la IA en el Edge es capacidad de predicción y anticipación, analizando datos in situ para tomar las decisiones más correctas, es nuestro entrenador ideal. Esta capacidad de tomar decisiones en la cancha no es gratuita, requiere también de un trabajo fuera de ella, (en la nube, centralizado) para aprender, recoger información, visualizar situaciones, estudiar estrategias y aplicar nuevos algoritmos en la pista, que se adapten a los datos y mejoren de forma continua el rendimiento de los jugadores para conseguir el mejor resultado.

Descentralizar centralizando

El objetivo principal es descentralizar el procesamiento, llevando la inteligencia desde la nube hasta el borde del campo de juego. Esto nos permite reducir la latencia y tomar decisiones de forma más rápida y local, como un entrenador que observa y ajusta la estrategia en tiempo real. Necesitamos, pero, partir de la centralización del dato para poder entrenar los algoritmos de IA que permitan mejorar esta toma de decisiones. El entrenamiento y aprendizaje de algoritmos, basados en los datos recogidos por múltiples sistemas Edge, es la clave para adaptar y optimizar modelos de IA para que funcionen eficientemente en dispositivos Edge, por lo tanto la nube o el servidor central, sigue manteniendo un papel relevante para poder distribuir la inteligencia en el borde. Nuestro entrenador debe ver muchos partidos (datos), estar al caso de las tácticas de otros entrenadores (algoritmos) y formarse académicamente o asistir a clínics (tecnología) para aplicar óptimamente su IA en los partidos y ganarlos.

Pero no solo eso, el segundo entrenador (otros dispositivos Edge), puede tener una visión distinta del partido, su interacción, al igual que la compartición de información entre dispositivos permite incrementar la capacidad de la toma de decisiones.

El secreto del entrenador

No es ningún secreto que los grandes entrenadores guardan sus mejores jugadas en secreto. Aunque muestran cómo funcionan, siempre tienen un 'librito' de estrategias bien guardado. El Edge ha estado siempre con nosotros, incorporado como sistema de control de una máquina con múltiples sensores y actuadores, y a las que cada vez más se incorpora también la IA, pero pro su propia construcción y a veces aislamiento la seguridad es más fácil de encapsular.

Los sistemas Edge incorporados en nuestras redes como nodos de decisión, presentan (o pueden presentar) un nivel de exposición mayor, por lo tanto, es clave contar con estrategias de protección tanto al acceso como a las comunicaciones mediante sistemas de cifrado y certificados que garanticen que ni los datos transportados ni los almacenados en el propio Edge pueden ser vulnerados.

Nuestro entrenador Edge digital, necesita de la comunicación y la coordinación centralizada para poder mantener el libro de jugadas al día, la gestión del dispositivo, el mantenimiento y actualización de algoritmos, así como la actualización de seguridad y procesos basados en una capa de gobierno y gestión remota, son claves para mantener los niveles de eficiencia optimización, pero también los de seguridad y protección frente a amenazas.

La tecnología es clave para ganar el partido

Los nuevos sistemas cada vez más potentes (el señor Moore tras 40 años sigue obstinado con su teoría de doblar la capacidad de los procesadores), con tecnologías que integran las capacidades de IA incluso en sistemas reducidos.

TPU (Tensor Processing Units) orientados a sistemas de mayor escala en datacenters, con capacidades de procesado IA de alta velocidad basado en sistemas de cálculo matriciales:

• Entrenamiento a gran escala de modelos de Machine Learning en Cloud
• Procesado masivo para la comprensión de tareas basadas en lenguaje natural en asistentes virtuales.
• Sistemas de recomendación a gran escala en plataformas de e-commerce
• Analítica en tempo real de datasets de gran volume para dominios financieros o científicos.

O los sistemas NPU (Neural Processing Units) mucho más orientados a sistemas de bajo consumo y acotados que permiten el procesado de IA basado en múltiples frameworks (TensorFlow, PyTorch, o ONNX) que mediante la compactación de los modelos combinados con el hardware, permite aplicaciones como:

• Visión por computador en tiempo real para la detección de patrones y eventos
• Reconocimiento de voz en asistentes de voz en sistemas de bajo consumo
• Sistemas de monitoreo y diagnosis en tiempo real para dispositives de salud
• Sistemas industriales que requieren de toma de decisiones en tiempo real.

Pero no solo la capacidad de computación de nuestra IA habilita el partido, la miniaturización ha contribuido a poder contar cada vez con mayor número de sensores distribuidos con una capacidad de generar información mayor, incluso con sistemas de sensores sin baterías que de forma ininterrumpida pueden abastecernos de datos. O también de dispositivos complejos de IoT, con capacidades propias para la recogida y procesamiento de los datos, como podrían ser los equipos de control de rendimiento de los deportistas (y que para los que están en la élite), esa tecnología les permite controla el cansancio y rendimiento de los jugadores y que nuestro Edge entrenador les de un respiro.

Ventajas y desventajas

Nuestro entrenador, ese crack meticuloso y estudioso del baloncesto, que sabe aplicar la mejor solución en cada momento, es alguien que todos quieren en su equipo. Responde rápido, reduce la latencia en las decisiones y mejora la eficiencia del equipo:

• Responde rápido y reduce la latencia en las decisiones, su capacidad de procesar en local todos los datos nos permite respuestas rápidas, y por lo tant eficiencias mayores y probablemente menos derrotas.
• No necesita compartir los datos para operar, y protege su conocimiento, su privacidad de como toma las decisiones, no hace falta llevar el dato al servidor o a la nube.
• Mejora los anchos de banda, sus sistema se basa ya en conclusiones, decisiones e indicadores, no hace falta llenar la red de datos y preguntas.
• Mantiene siempre su Autonomía Operativa, funciona independientemente de que tenga o no conexión con la nube.

Pero como todos, los entrenadores buenos tienen sus manías y sus problemas, que se deben tener en cuenta, y evaluar la aplicabilidad en cada caso de uso o equipo que nos encontramos.

• No son infalibles, y su autonomía es la que es, obviamente seria ideal poder tener 25 entrenadores en la cancha (servidores TPU) y contar con minutos de tiempo muerto de 4 horas para procesar cantidades ingentes de datos, como podríamos tener en la nube. Acotar el tipo e impacto de las decisiones es muy relevante para el coste de la infraestructura a desplegar.
• El desarrollo de la IA puede ser complejo y su mantenimiento en el Edge también, nuestro entrenador necesita de un mantenimiento, y aprendizajes continuos gestionado fuera de la pista para poder mantener la operatividad deseada.
• La seguridad, si bien sea muy cauteloso con su conocimiento, este entrenador puede llegar a ser vulnerable a ataques si no empleamos las medidas de seguridad adecuadas (una buena cláusula de ciber-recisión es necesaria).

Multidisciplinar

Lo siento dicen que la cabra tira al monte y para mi el baloncesto es lo que me ha tirado siempre, pero está claro que esto es aplicable a cualquier disciplina deportiva o sector en nuestro caso.

Empezando por los más obvios como la automatización Industrial con el monitoreo y control de maquinaria ya sea basado en datos o en imagen para su control en tiempo real i mejorar la eficiencia y reducir tanto paradas no deseadas como reducir mermas. Los vehículos Autónomos, procesando datos del vehículo, del entorno o incluso de otros vehículos para tomar decisiones de seguridad o rendimiento del vehículo en tiempo real.

O sectores con un alto impacto como la salud, para la monitorización y generación de alertas y respuestas inmediatas a situaciones de riesgo vital, basados en algoritmos de IA avanzados, o en ciudades y edificios inteligentes, gestionando movimientos, anticipando situaciones de peligro y seguridad mediante el análisis de datos de sensores y sistemas IoT.

¿Así pues, a quien fichamos?

Hemos visto múltiples aspectos que impactan directamente en cual es nuestra solución ideal para llevar la IA al Edge. Hay muchas soluciones (como entrenadores), algunos que nos podemos permitir, otros que no, pero siempre la evaluación de las necesidades reales de la aplicación, nos permitirán encontrar un candidato con la latencia apropiada, la seguridad y la capacidad de adaptarse al equipo y al club, solo tenemos que asesorarnos para tomar la decisión correcta.

Lo importante es tener los datos necesarios para que nuestro entrenador pueda conocer a los jugadores (sensores y actuadores), cómo juegan (datos) y construir el mejor conjunto de jugadas (algoritmos de IA). Así, podremos poner en la cancha un equipo ganador.