L'université nationale de Séoul dévoile TACToC et mzCache pour accélérer l'IA mobile
Deux nouveaux cadres logiciels réduisent jusqu'à 14 fois les coûts de transmission sans fil et raccourcissent les délais de réponse sur les appareils en périphérie.
Traduit automatiquement de l’original en anglais Lire l’original
Des ingénieurs de l'université nationale de Séoul ont développé deux outils logiciels destinés à réduire le trafic de données et la latence lorsque les appareils mobiles déportent des tâches vers des serveurs d'intelligence artificielle distants. Ces cadres logiciels réduisent la consommation de bande passante jusqu'à 14,5 fois et raccourcissent de plus de cinq fois les temps de réponse initiaux des smartphones.
La transmission sélective remplace le streaming vidéo pour les modèles distants
Le déport d'inférence permet aux smartphones, aux plateformes robotiques et aux caméras de surveillance d'envoyer des données de capteurs visuels à des serveurs externes pour des calculs complexes d'intelligence artificielle. Les normes de compression classiques comme H.265 privilégient la fidélité visuelle pour l'œil humain, en transmettant des détails inutiles dont les algorithmes de vision par ordinateur n'ont pas besoin. Pour remédier à cette inefficacité, une équipe de recherche dirigée par le professeur Kyunghan Lee, au département de génie électrique et informatique de l'université nationale de Séoul, a mis au point une innovation technologique baptisée TACToC, pour Task-Adaptive Communication for Task-oriented Communications, comme le rapporte TechXplore.
Une architecture à encodeur unique ramène la commutation de paramètres à 12,5 millisecondes
La communication orientée tâche classique exige d'entraîner des encodeurs et des décodeurs dédiés pour chaque tâche de vision. L'architecture TACToC utilise en revanche un encodeur unique, capable de décrire la tâche, qui combine l'estimation des caractéristiques pertinentes avec un plongement de tâche fondé sur des prompts, selon les travaux présentés à la conférence ACM MobiCom 2026 à Austin, au Texas. Le système estime la contribution de chaque caractéristique visuelle à un objectif et ne sélectionne que ces caractéristiques. Adapter le système à une nouvelle tâche nécessite de mettre à jour environ 1 900 paramètres via des jetons entraînables légers plutôt que de réentraîner le modèle, ce qui permet des changements de tâche en près de 12,5 millisecondes.
Les performances mesurées sur cinq tâches de vision par ordinateur
Les tests menés sur cinq charges de travail standard — segmentation sémantique, estimation de pose, légendage d'images, classification d'images et estimation de profondeur — ont montré des réductions du coût de communication de 1,5 à 14,5 fois, tout en maintenant la perte de précision sous 3 points de pourcentage. Sur une unité de traitement en périphérie NVIDIA Jetson AGX Orin, le logiciel a traité environ 21 images par seconde. Dans des conditions sans fil réelles, TACToC a réduit la consommation de bande passante d'environ 16,7 % par rapport à la compression vidéo H.265 et de 41,1 % par rapport aux schémas de communication orientés tâche antérieurs. Les auteurs ont aussi présenté mzCache, un cadre de gestion de la mémoire complémentaire qui réduit jusqu'à 5,5 fois le délai de première réponse lors de la restauration d'applications d'apprentissage automatique sur smartphone, une invention prometteuse pour toute start-up de l'informatique en périphérie.
À lire aussi sur The Patent : OpenAI et Anthropic affirment que l'IA a résolu un problème d'informatique vieux de 27 ans
