Na internet das coisas, edge AI significa executar um modelo de IA treinado no próprio dispositivo, ou em um pequeno computador ao lado dele, em vez de enviar dados brutos a um data center para análise. Uma câmera que reconhece uma pessoa sem transmitir vídeo para lugar nenhum, um sensor de motor que identifica um padrão de vibração incomum no próprio chip, um microfone que ouve uma janela se quebrando: todos eles tomam a decisão localmente e enviam apenas o resultado.
Essa abordagem resolve problemas reais de largura de banda, atraso e privacidade. Ele também levanta uma pergunta que recebe menos atenção do que os chips. Quando um dispositivo já concluiu que "há uma pessoa na doca de carga", quem mais precisa saber disso, e o que deve acontecer em seguida?
O essencial
- A edge AI executa a inferência, ou seja, a aplicação de um modelo treinado, no dispositivo ou perto dele, enquanto o treinamento geralmente continua acontecendo na nuvem.
- Ela ganha em latência, largura de banda e privacidade, e perde em tamanho de modelo e facilidade de atualização.
- Os bons casos de uso seguem um padrão: muitos dados brutos, uma decisão local rápida e um resultado pequeno que vale a pena enviar.
- Uma detecção na borda fica muito mais útil quando uma plataforma consegue combiná-la com portas, alarmes e outros dispositivos por meio de regras.
O que é edge AI?
Edge AI, ou IA na borda, é a inteligência artificial que roda onde os dados são produzidos, na "borda" da rede, e não em uma nuvem central. O trabalho que passa para a borda é a inferência: pegar um modelo que já foi treinado e aplicá-lo a dados novos, como um quadro de câmera ou um segundo de leituras de vibração. Treinar um modelo exige grandes volumes de dados e muito poder computacional, por isso o treinamento geralmente continua acontecendo em um data center. Depois, o modelo pronto é reduzido e copiado para o dispositivo.
Reduzir o modelo é uma parte importante do ofício. Um modelo treinado com números de 32 bits muitas vezes pode ser convertido para inteiros de 8 bits, uma etapa chamada quantização, que reduz o tamanho dele a mais ou menos um quarto e o deixa mais rápido em processadores simples, com uma perda pequena de precisão. A poda remove conexões que contribuem pouco. Muitos chips atuais também incluem uma unidade de processamento neural, um bloco de silício feito exatamente para esse tipo de aritmética, que permite a uma câmera ou a um gateway rodar um modelo de detecção consumindo poucos watts.
Os dispositivos de edge AI variam bastante. Na ponta menor, microcontroladores com algumas centenas de kilobytes de memória rodam modelos minúsculos que reconhecem uma palavra de ativação ou classificam uma vibração. No meio, câmeras inteligentes executam a detecção de objetos no próprio aparelho. No topo, um computador compacto em uma prateleira da sala técnica pode atender várias câmeras ou máquinas ao mesmo tempo. Todos têm uma característica em comum: transformam dados brutos pesados em um evento leve e significativo.
Vale separar a edge AI do termo mais amplo computação de borda. Computação de borda significa fazer qualquer processamento perto de onde os dados são produzidos: filtrar leituras, comprimir vídeo, rodar uma malha de controle local. A edge AI é a parte disso em que o processamento é um modelo treinado fazendo um julgamento, como "este som é de vidro quebrando" ou "esta vibração parece de um rolamento desgastado". Um gateway que tira a média de dez leituras de temperatura está fazendo computação de borda; uma câmera que reconhece uma empilhadeira está fazendo edge AI.
Edge AI vs IA na nuvem
A computação com edge AI e a IA na nuvem geralmente trabalham juntas em um mesmo sistema, e cada uma é melhor em coisas diferentes:
| Computação com edge AI | IA na nuvem | |
|---|---|---|
| Tempo de resposta | Milissegundos, sem ida e volta pela rede | Depende da conexão, de dezenas a centenas de milissegundos ou mais |
| Largura de banda | Envia só os resultados | Exige o envio dos dados brutos |
| Privacidade | Imagens ou áudio brutos podem ficar no dispositivo | Os dados brutos saem do local |
| Tamanho do modelo | Limitado pela memória e pela energia do dispositivo | Modelos muito grandes são viáveis |
| Atualizações | Cada dispositivo precisa receber o novo modelo | Atualiza uma vez e todos usam |
| Funciona offline | Sim | Não |
A linha da largura de banda é fácil de traduzir em números. Uma câmera 1080p codificando em H.264 a cerca de 4 megabits por segundo produz aproximadamente 43 gigabytes por dia se transmitir sem parar. Dez câmeras assim enviando tudo para a nuvem para análise empurrariam mais de 400 gigabytes por dia pela conexão do local. Se, em vez disso, cada câmera rodar a detecção localmente e enviar uma mensagem JSON curta, digamos de 300 bytes, sempre que vir uma pessoa, mesmo 1.000 detecções por dia somam cerca de 300 kilobytes por câmera.
A contrapartida aparece no que cada lado consegue saber. A câmera sabe o que está no próprio quadro e mais nada. A nuvem, ou uma plataforma que reúne eventos de muitos dispositivos, enxerga o local inteiro, mas só pelos resumos que a borda envia. A maioria dos bons projetos mantém os dois: o dispositivo decide rapidamente o que viu, e um sistema central decide o que isso significa diante de tudo o mais que está acontecendo.
Configurações híbridas muitas vezes dividem o trabalho em etapas. O dispositivo roda um modelo pequeno e rápido que pega quase tudo o que é interessante, aceitando alguns alarmes falsos. Só os momentos sinalizados, um clipe curto ou alguns segundos de dados de vibração, vão para um modelo maior na nuvem, para uma segunda opinião. A conexão do local carrega um filete de dados em vez de uma enxurrada, e o modelo caro só vê os casos difíceis.
As equipes tendem a subestimar as atualizações. Uma frota de 300 câmeras pode acabar rodando três versões diferentes de modelo se as atualizações falharem em algumas delas. Por isso, cada evento deve informar qual versão do modelo o gerou, para que uma mudança repentina na contagem de detecções possa ser atribuída a uma atualização, e não a uma mudança no local.
Casos de uso de edge AI na IoT
Os casos de uso de edge AI mais fortes têm o mesmo formato. Um sensor produz muitos dados brutos, uma decisão precisa ser rápida ou privada, e a saída útil é pequena. Os exemplos abaixo mostram esse padrão em contextos diferentes; são ilustrações, e não um mapa completo da área.
O monitoramento de condição de máquinas é um caso clássico. Um sensor de vibração em um motor faz milhares de amostragens por segundo. Enviar tudo isso por um rádio de baixo consumo não é viável, então um modelo pequeno no sensor aprende como é a vibração normal e informa só uma pontuação ou um aviso de "padrão do rolamento mudou" a cada poucos minutos.
A inspeção visual de qualidade em uma linha de produção exige decisões em uma fração de segundo, antes que o próximo item chegue. Uma câmera com modelo embarcado consegue rejeitar uma etiqueta mal impressa em milissegundos, enquanto uma ida e volta à nuvem deixaria o item com defeito passar.
A contagem de pessoas e a ocupação funcionam bem na borda por motivos de privacidade. Um sensor ou uma câmera pode contar quantas pessoas estão em uma sala e enviar só o número, de modo que as imagens nunca saem do dispositivo. As equipes de gestão predial recebem as informações de que precisam para limpeza, aquecimento e planejamento de espaços sem armazenar gravações.
A detecção de segurança no perímetro é o caso que a maioria das pessoas imagina. Uma câmera que sabe distinguir uma pessoa de um galho balançando ou de um gato passando envia muito menos alertas falsos do que a simples detecção de movimento, e faz isso sem um fluxo de vídeo constante.
As fazendas usam a mesma ideia em outra escala: câmeras em comedouros ou armadilhas classificam animais ou pragas, e dispositivos movidos a energia solar enviam um punhado de resultados por dia por rádio de longo alcance.
A edge AI nem sempre compensa. Um sensor de temperatura que informa a cada 15 minutos produz alguns kilobytes por dia, e um simples limite no servidor dá conta disso perfeitamente. Um modelo no dispositivo acrescenta custo, consumo de energia e um processo de atualização, sem ganho nenhum. A regra prática é colocar inteligência na borda só quando os dados brutos são grandes demais, sensíveis demais ou lentos demais para enviar.
Como os dispositivos de edge AI se conectam à nuvem?
Muitos dispositivos de edge AI informam seus resultados como mensagens pequenas por um protocolo padrão, muitas vezes o MQTT, um protocolo leve de publicação e assinatura muito usado na IoT. O dispositivo publica algo como {"event": "person", "zone": "dock-2", "confidence": 0.91} em um tópico, e qualquer assinante desse tópico recebe a mensagem. Alguns dispositivos enviam webhooks ou usam a nuvem do próprio fabricante, então verifique quais saídas um modelo suporta antes de comprar.
Uma mensagem de evento útil traz mais do que o rótulo. O ID do dispositivo, um carimbo de data e hora do relógio do dispositivo, a pontuação de confiança e a versão do modelo ajudam mais tarde. Escolha o limite de confiança com cuidado: um limite de 0,5 pega mais eventos reais e também mais eventos falsos, enquanto 0,9 é mais silencioso, mas deixa alguns passarem. Enviar a própria pontuação, e não só um sim ou não, permite que o lado que recebe escolha um limite diferente conforme a hora do dia, sem mexer na câmera.
Receber a mensagem é só o primeiro passo. Um evento de pessoa detectada em uma doca de carga significa uma coisa às 14h de um dia útil e outra às 2h de um domingo, e muda de novo se a porta da doca estiver aberta ou fechada. Para transformar uma detecção em uma ação sensata, algo precisa combiná-la com o restante do local.
Essa combinação é o trabalho de um motor de regras. No Kilo, um conector MQTT recebe a mensagem da câmera e a direciona para o dispositivo certo, seja por um padrão de tópico, seja por um ID de dispositivo lido do payload JSON. Uma regra então parte dessa leitura, e uma etapa de Enriquecimento busca o estado mais recente de um sensor de porta sem fio na mesma doca, para que uma única regra possa raciocinar sobre os dois.
Se a porta estiver aberta fora do horário de trabalho, a mesma regra pode disparar um alarme crítico que chega à pessoa de plantão e enviar um comando a um controlador de iluminação que acende as luzes do pátio. Você desenha essa lógica uma única vez, como um fluxograma, no motor de regras do Kilo, com a detecção da câmera e o estado da porta como suas duas entradas.
A câmera cuida localmente do trabalho pesado com os pixels, e a plataforma cuida do contexto, das pessoas e das ações seguintes. Nenhum dos dois precisa ser substituído quando o outro muda, então um modelo de detecção melhor no ano que vem se encaixa sem mexer nas regras, desde que continue publicando a mesma mensagem.
Perguntas frequentes sobre edge AI na IoT
A edge AI precisa de internet?
Não. A inferência roda localmente, então um dispositivo continua detectando mesmo quando a conexão cai. A internet é necessária para entregar os resultados em outro lugar e para receber atualizações de modelo. Muitos dispositivos guardam seus eventos durante uma queda e os enviam assim que a conexão é restabelecida.
O que é TinyML na edge AI?
TinyML é o ramo da edge AI que roda modelos em microcontroladores, chips com memória medida em kilobytes e consumo de energia em miliwatts. Frameworks como o TensorFlow Lite for Microcontrollers, que hoje faz parte do LiteRT do Google, permitem rodar modelos pequenos para tarefas como detecção de palavras-chave ou reconhecimento de gestos com bateria por longos períodos.
Qual é um exemplo de edge AI no dia a dia?
Os smartphones estão cheios dela. O desbloqueio facial, a organização de fotos no próprio aparelho e a detecção da palavra de ativação que fica atenta ao nome de um assistente de voz rodam localmente no processador do celular, e é por isso que continuam funcionando sem sinal.
Você pode ensaiar o cenário da doca com um contato de porta e uma câmera que publica suas detecções por MQTT. A Kilo Electronics vende sensores de porta e janela, e dois dispositivos mais uma regra que dispara um alarme quando uma pessoa é detectada com a porta aberta cabem no plano gratuito do Kilo, junto com um dashboard mostrando as duas leituras.