Dans l’internet des objets, l’edge AI (ou IA en périphérie) consiste à faire tourner un modèle d’IA entraîné sur l’appareil lui-même, ou sur un petit ordinateur placé juste à côté, au lieu d’envoyer les données brutes vers un centre de données pour les analyser. Une caméra qui reconnaît une personne sans diffuser la moindre vidéo, un capteur de moteur qui repère sur sa propre puce un schéma de vibration inhabituel, un micro qui entend une vitre se briser : tous prennent leur décision localement et n’envoient que le résultat.
Cette architecture règle de vrais problèmes de bande passante, de latence et de confidentialité. Elle soulève aussi une question qui retient moins l’attention que les puces. Une fois qu’un appareil a décidé qu’« il y a quelqu’un au quai de chargement », qui d’autre doit le savoir, et que doit-il se passer ensuite ?
L’essentiel
- L’edge AI exécute l’inférence, c’est-à-dire l’application d’un modèle entraîné, sur l’appareil ou à proximité, tandis que l’entraînement se fait généralement toujours dans le cloud.
- Elle l’emporte sur la latence, la bande passante et la confidentialité, et perd sur la taille des modèles et la facilité de mise à jour.
- Les bons cas d’usage suivent un même schéma : beaucoup de données brutes, une décision locale rapide et un petit résultat qui vaut la peine d’être envoyé.
- Une détection en périphérie devient bien plus utile quand une plateforme peut la combiner, par des règles, avec des portes, des alarmes et d’autres appareils.
Qu’est-ce que l’edge AI ?
L’edge AI est une intelligence artificielle qui s’exécute là où les données sont produites, en « périphérie » (edge) du réseau, plutôt que dans un cloud central. Le travail qui passe en périphérie, c’est l’inférence : prendre un modèle déjà entraîné et l’appliquer à de nouvelles données, comme une image de caméra ou une seconde de mesures de vibration. L’entraînement d’un modèle demande de grandes quantités de données et de puissance de calcul, c’est pourquoi il se fait généralement toujours dans un centre de données. Le modèle terminé est ensuite réduit, puis copié sur l’appareil.
Cette réduction est une grande partie du métier. Un modèle entraîné avec des nombres sur 32 bits peut souvent être converti en entiers sur 8 bits, une étape appelée quantification, qui divise sa taille par quatre environ et l’accélère sur des processeurs simples, au prix d’une faible perte de précision. L’élagage (pruning) supprime les connexions qui contribuent peu. Beaucoup de puces actuelles intègrent aussi une unité de traitement neuronal (NPU), un bloc de silicium conçu précisément pour ce type de calcul, qui permet à une caméra ou à une passerelle de faire tourner un modèle de détection en ne consommant que quelques watts.
Les appareils d’edge AI sont très variés. Au bas de l’échelle, des microcontrôleurs dotés de quelques centaines de kilooctets de mémoire font tourner de tout petits modèles qui reconnaissent un mot d’activation ou classent une vibration. Au milieu, les caméras intelligentes exécutent la détection d’objets à bord. En haut, un ordinateur compact posé sur une étagère du local technique peut servir plusieurs caméras ou machines à la fois. Tous ont un point commun : ils transforment des données brutes volumineuses en un événement léger et porteur de sens.
Il est utile de distinguer l’edge AI de la notion plus large d’edge computing. L’edge computing désigne tout traitement effectué près de l’endroit où les données sont produites : filtrer des mesures, compresser de la vidéo, faire tourner une boucle de régulation locale. L’edge AI en est la partie où le traitement est un modèle entraîné qui porte un jugement, comme « ce bruit est celui d’une vitre qui se brise » ou « cette vibration ressemble à celle d’un roulement usé ». Une passerelle qui fait la moyenne de dix mesures de température fait de l’edge computing ; une caméra qui reconnaît un chariot élévateur fait de l’edge AI.
Edge AI vs IA dans le cloud : quelles différences ?
L’edge AI et l’IA dans le cloud fonctionnent généralement ensemble au sein d’un même système, et chacun excelle dans des domaines différents :
| Calcul edge AI | IA dans le cloud | |
|---|---|---|
| Temps de réponse | Des millisecondes, sans aller-retour réseau | Dépend de la connexion, de quelques dizaines à quelques centaines de millisecondes, voire davantage |
| Bande passante | N’envoie que les résultats | Exige l’envoi des données brutes |
| Confidentialité | Les images ou le son bruts peuvent rester sur l’appareil | Les données brutes quittent le site |
| Taille du modèle | Limitée par la mémoire et l’énergie de l’appareil | Les très grands modèles sont envisageables |
| Mises à jour | Chaque appareil doit recevoir le nouveau modèle | Une seule mise à jour, utilisée par tous |
| Fonctionne hors ligne | Oui | Non |
La ligne « Bande passante » se chiffre facilement. Une caméra 1080p qui encode en H.264 à environ 4 mégabits par seconde produit à peu près 43 gigaoctets par jour si elle diffuse en continu. Dix caméras de ce type qui envoient tout dans le cloud pour analyse feraient passer plus de 400 gigaoctets par jour par la connexion du site. Si chaque caméra exécute plutôt la détection localement et envoie un court message JSON, disons 300 octets, chaque fois qu’elle voit une personne, même 1 000 détections par jour représentent environ 300 kilooctets par caméra.
Le compromis se voit dans ce que chaque côté peut savoir. La caméra sait ce qu’il y a dans sa propre image, et rien d’autre. Le cloud, ou une plateforme qui collecte les événements de nombreux appareils, voit l’ensemble du site, mais seulement à travers les résumés envoyés depuis la périphérie. La plupart des bonnes architectures gardent les deux : l’appareil décide vite de ce qu’il a vu, et un système central décide de ce que cela signifie compte tenu de tout ce qui se passe par ailleurs.
Les configurations hybrides répartissent souvent le travail en étapes. L’appareil fait tourner un petit modèle rapide qui repère presque tout ce qui est intéressant, en acceptant quelques fausses alertes. Seuls les moments signalés, un court extrait vidéo ou quelques secondes de données de vibration, partent vers un modèle plus grand dans le cloud pour un second avis. La connexion du site transporte un filet de données au lieu d’un déluge, et le modèle coûteux ne voit que les cas difficiles.
Les équipes ont tendance à sous-estimer les mises à jour. Une flotte de 300 caméras peut finir par faire tourner trois versions différentes du modèle si les mises à jour échouent sur certaines d’entre elles. Chaque événement doit donc indiquer quelle version du modèle l’a produit, afin qu’un changement soudain du nombre de détections puisse être rattaché à une mise à jour plutôt qu’à un changement sur le site.
Cas d’usage de l’edge AI dans l’IoT
Les cas d’usage d’edge AI les plus solides ont une forme commune. Un capteur produit beaucoup de données brutes, une décision doit être rapide ou rester privée, et le résultat utile est petit. Les exemples ci-dessous montrent ce schéma dans différents contextes ; ce sont des illustrations, pas un panorama complet du domaine.
La surveillance de l’état des machines est un cas classique. Un capteur de vibration sur un moteur échantillonne des milliers de fois par seconde. Envoyer tout cela par une radio basse consommation n’est pas réaliste ; un petit modèle embarqué dans le capteur apprend donc à quoi ressemble une vibration normale et ne remonte qu’un score ou un indicateur « le schéma du roulement a changé » à quelques minutes d’intervalle.
L’inspection visuelle de la qualité sur une ligne de production exige des décisions en une fraction de seconde, avant l’arrivée de l’article suivant. Une caméra dotée d’un modèle embarqué peut rejeter une étiquette mal imprimée en quelques millisecondes, là où un aller-retour vers le cloud laisserait passer l’article défectueux.
Le comptage de personnes et le suivi de l’occupation se prêtent bien à l’edge pour des raisons de confidentialité. Un capteur ou une caméra peut compter combien de personnes se trouvent dans une pièce et n’envoyer que ce nombre : les images ne quittent jamais l’appareil. Les équipes des services généraux obtiennent les informations dont elles ont besoin pour le nettoyage, le chauffage et l’aménagement des espaces sans stocker d’images.
La détection de sécurité sur le périmètre d’un site est le cas que la plupart des gens imaginent. Une caméra capable de distinguer une personne d’une branche qui se balance ou d’un chat qui passe envoie bien moins de fausses alertes qu’une simple détection de mouvement, et ce sans flux vidéo permanent.
Les exploitations agricoles appliquent la même idée à une autre échelle : des caméras installées aux postes d’alimentation ou sur des pièges classent les animaux ou les nuisibles, et des appareils solaires envoient une poignée de résultats par jour par radio longue portée.
L’edge AI n’en vaut pas toujours la peine. Un capteur de température qui remonte une mesure toutes les 15 minutes produit quelques kilooctets par jour, et un simple seuil côté serveur s’en charge parfaitement. Un modèle sur l’appareil ajoute du coût, de la consommation et un processus de mise à jour, sans rien apporter. La règle empirique : ne placer de l’intelligence en périphérie que lorsque les données brutes sont trop volumineuses, trop sensibles ou trop lentes à envoyer.
Comment les appareils d’edge AI se connectent-ils au cloud ?
Beaucoup d’appareils d’edge AI remontent leurs résultats sous forme de petits messages via un protocole standard, souvent MQTT, un protocole léger de publication/abonnement très utilisé dans l’IoT. L’appareil publie quelque chose comme {"event": "person", "zone": "dock-2", "confidence": 0.91} sur un topic, et tout ce qui est abonné à ce topic le reçoit. Certains appareils envoient plutôt des webhooks ou passent par le cloud propre à leur fabricant : vérifiez donc quelles sorties un modèle d’appareil prend en charge avant de l’acheter.
Un message d’événement utile contient plus que l’étiquette. L’identifiant de l’appareil, un horodatage issu de l’horloge de l’appareil, le score de confiance et la version du modèle servent tous par la suite. Choisissez le seuil de confiance avec soin : un seuil de 0,5 capte davantage d’événements réels et davantage de faux, tandis que 0,9 est plus discret mais en manque certains. Envoyer le score lui-même, plutôt qu’un simple oui ou non, permet au côté récepteur de choisir un seuil différent selon l’heure de la journée, sans toucher à la caméra.
Recevoir le message n’est que la première étape. Un événement « personne détectée » au quai de chargement ne signifie pas la même chose à 14 h un jour de semaine et à 2 h un dimanche, ni encore la même chose selon que la porte du quai est ouverte ou fermée. Pour transformer une détection en action pertinente, il faut que quelque chose la combine avec le reste du site.
Cette combinaison, c’est précisément ce que fait un moteur de règles. Dans Kilo, un connecteur MQTT reçoit le message de la caméra et l’achemine vers le bon appareil, soit par un motif de topic, soit par un identifiant d’appareil lu dans la charge utile JSON. Une règle démarre ensuite à partir de cette mesure, et une étape « Enrichissement » récupère le dernier état d’un capteur d’ouverture sans fil installé sur le même quai : une seule règle peut ainsi raisonner sur les deux.
Si la porte est ouverte en dehors des heures de travail, la même règle peut déclencher une alarme critique qui parvient à la personne d’astreinte et envoyer une commande à un contrôleur d’éclairage qui allume l’éclairage de la cour. Vous dessinez cette logique une seule fois, sous forme de logigramme, dans le moteur de règles de Kilo, avec pour seules entrées la détection de la caméra et l’état de la porte.
La caméra se charge localement du lourd travail sur les pixels, et la plateforme du contexte, des personnes et des actions de suivi. Aucune des deux n’a besoin d’être remplacée quand l’autre change : un meilleur modèle de détection l’an prochain s’intègre sans toucher aux règles, tant qu’il continue de publier le même message.
FAQ sur l’edge AI dans l’IoT
L’edge AI a-t-elle besoin d’internet ?
Non, l’inférence s’exécute localement : un appareil continue donc à détecter même quand la connexion tombe. Internet sert à transmettre les résultats ailleurs et à recevoir les mises à jour du modèle. Beaucoup d’appareils mettent leurs événements en mémoire tampon pendant une coupure et les envoient une fois la liaison rétablie.
Qu’est-ce que le TinyML en edge AI ?
Le TinyML est la branche de l’edge AI qui fait tourner des modèles sur des microcontrôleurs, des puces dont la mémoire se mesure en kilooctets et la consommation en milliwatts. Des frameworks comme TensorFlow Lite for Microcontrollers, désormais intégré à LiteRT de Google, permettent d’exécuter de petits modèles pour des tâches comme la détection de mots-clés ou la reconnaissance de gestes, sur batterie et pendant de longues périodes.
Quel est un exemple d’edge AI dans la vie quotidienne ?
Les smartphones en sont remplis. Le déverrouillage par reconnaissance faciale, le tri des photos sur l’appareil et la détection du mot d’activation qui guette le nom d’un assistant vocal s’exécutent tous localement sur le processeur du téléphone, c’est pourquoi ils continuent de fonctionner sans réseau.
Vous pouvez reproduire le scénario du quai avec un contact de porte et une caméra qui publie ses détections via MQTT. Kilo Electronics propose des capteurs d’ouverture de porte et de fenêtre, et deux appareils plus une règle qui déclenche une alarme quand une personne est détectée alors que la porte est ouverte tiennent dans l’offre gratuite de Kilo, avec un tableau de bord qui affiche les deux mesures.