La Universidad Nacional de Seúl presenta TACToC y mzCache para acelerar la IA móvil
Dos nuevos marcos de software recortan hasta 14 veces los costes de transmisión inalámbrica y reducen los retrasos de respuesta en los dispositivos de borde.
Traducido automáticamente del original en inglés Leer el original
Ingenieros de la Universidad Nacional de Seúl han desarrollado dos herramientas de software diseñadas para reducir el tráfico de datos y la latencia cuando los dispositivos móviles descargan tareas en servidores remotos de inteligencia artificial. Los marcos recortan el consumo de ancho de banda hasta 14,5 veces y acortan más de cinco veces los tiempos de respuesta iniciales de los teléfonos inteligentes.
La transmisión selectiva sustituye el streaming de vídeo para los modelos remotos
El offloading de inferencia permite que los teléfonos inteligentes, las plataformas de robótica y las cámaras de vigilancia envíen datos de sensores visuales a servidores externos para realizar cálculos complejos de inteligencia artificial. Los estándares de compresión convencionales como H.265 priorizan la fidelidad visual para el ojo humano y transmiten detalles innecesarios que los algoritmos de visión artificial no necesitan. Para resolver esta ineficiencia, un equipo de investigación dirigido por el profesor Kyunghan Lee, del Departamento de Ingeniería Eléctrica e Informática de la Universidad Nacional de Seúl, creó una innovación tecnológica llamada TACToC, acrónimo en inglés de Task-Adaptive Communication for Task-oriented Communications, según informa TechXplore.
Una única arquitectura de codificador reduce el cambio de parámetros a 12,5 milisegundos
La comunicación orientada a tareas convencional exige entrenar codificadores y decodificadores dedicados para cada tarea de visión concreta. La arquitectura TACToC utiliza en cambio un único codificador capaz de describir tareas, que combina la estimación de características relevantes con la incorporación de tareas basada en prompts, según la investigación presentada en la conferencia ACM MobiCom 2026 celebrada en Austin, Texas. El sistema estima cuánto contribuye cada característica visual a un objetivo y selecciona solo esas características. Adaptar el sistema a una nueva tarea requiere actualizar aproximadamente 1.900 parámetros mediante tokens ligeros entrenables en lugar de reentrenar el modelo, lo que completa los cambios de tarea en unos 12,5 milisegundos.
Rendimiento en pruebas con cinco tareas de visión artificial
Las pruebas con cinco cargas de trabajo estándar —segmentación semántica, estimación de pose, descripción de imágenes, clasificación de imágenes y estimación de profundidad— mostraron reducciones del coste de comunicación de entre 1,5 y 14,5 veces, manteniendo la pérdida de precisión dentro de los 3 puntos porcentuales. En una unidad de procesamiento de borde NVIDIA Jetson AGX Orin, el software procesó aproximadamente 21 fotogramas por segundo. En condiciones inalámbricas reales, TACToC redujo el consumo de ancho de banda en torno a un 16,7% respecto a la compresión de vídeo H.265 y un 41,1% respecto a esquemas anteriores de comunicación orientada a tareas. Los autores también presentaron mzCache, un marco complementario de gestión de memoria que acortó hasta 5,5 veces el tiempo hasta la primera respuesta al restaurar aplicaciones de aprendizaje automático en teléfonos inteligentes, lo que supone una invención prometedora para cualquier startup de computación de borde.
Lee también en The Patent: OpenAI y Anthropic afirman que la IA resolvió un problema informático de 27 años
