En mai je vous ai présenté le kit M2 HAT pour le Raspberry Pi 5. Il permet d’accueillir des SSD 2230 et 2242. La Fondation a prévu un kit qui va faire son effet : La carte M2 HAT est en effet capable d’accueillir un accélérateur IA (intelligence artificielle) Hailo 8L qui peut monter jusque 13 TOPS (Trillons d’opération par seconde). De quoi booster bien des projets, non ?
Au sommaire :
Sortie d’un Kit Raspberry Pi AI à base de M2 HAT et de l’accélérateur AI Hailo 8L
Le kit Raspberry Pi AI associe un accélérateur d’IA Hailo 8L au format M.2 au Raspberry Pi M.2 HAT+ pour permettre aux clients d’accéder à d’excellentes performances d’inférence sur le Raspberry Pi 5. C’est le premier d’une gamme d’accessoires « Raspberry Pi AI » que la Fondation lancera cette année pour améliorer les capacités d’IA de ses produits.
Basé sur l’accélérateur Hailo 8L avec des performances d’inférence allant jusqu’à 13 TOPS (Trillions d’opérations par seconde : Un trillion est l’entier naturel qui vaut 1012 (1 000 000 000 000), soit mille de milliards ou un Téra. Merci Serge pour la précision – source Wikipedia – ).
L’accélérateur est conforme à la spécification HAT+.
Le Kit est livré pré-assemblé sur un Raspberry Pi M.2 HAT+ et donc prêt à l’emploi si vous le connectez à un Raspberry Pi 5.
Le logiciel est entièrement intégré à la pile logicielle de la caméra du Raspberry Pi.
Fourni avec un connecteur empilable de 16 mm et des entretoises/vis pour permettre au M.2 HAT+ d’être installé sur un Raspberry Pi 5 avec le refroidisseur actif en place.
Une intégration parfaite
- Le processeur Hailo 8L est entièrement intégré dans l’environnement Raspberry pi OS.
- Les logiciels Hailo (pilotes Hailo, HailoRT et Hailo Tappas) peuvent être facilement installés à l’aide du gestionnaire de paquets apt.
- Entièrement intégré au logiciel de caméra (libcamera / rpicam-apps / picamera2)
- Plusieurs démonstrations intégrant le traitement de réseaux neuronaux utilisant le matériel Hailo figurent dans le framework de post-traitement rpicam-apps qui sera publié le 4 juin.
- De plus, Hailo fournit également des démonstrations d’IA avancées pour Raspberry Pi.
Utilisation sur Raspberry Pi 5
Le GitHub d’Hailo donne les indications et les exemples pour utiliser le module avec le Raspberry Pi 5. En particulier l’installation du module sur le Raspberry Pi 5 (hard et soft).
Et voilà le résultat sur un Pi 5 avec sa caméra !
C’est bien pour les makers ?
L’ajout d’une carte Hailo 8L au format M2 sur la carte HAT PCIe du Raspberry Pi 5 peut révolutionner les pratiques des makers de plusieurs façons :
- Accélération des performances d’IA : La carte Hailo 8L est conçue pour accélérer les tâches d’IA. Elle peut donc améliorer considérablement les performances des programmes d’IA sur le Raspberry Pi 5.
- Intégration avec la caméra Raspberry Pi : L’intégration de la carte Hailo 8L avec les logiciels de gestion de la caméra du Raspberry Pi permet d’effectuer des tâches d’IA en temps réel sur les flux vidéo. Cela ouvre des possibilités pour des applications comme la reconnaissance d’objets, la détection de mouvement, et bien plus encore.
- Facilité d’utilisation : L’utilisation d’une carte HAT PCIe rend l’installation de la carte Hailo 8L facile et accessible aux makers. De plus, l’intégration avec les logiciels existants de Raspberry Pi signifie que les utilisateurs peuvent commencer à utiliser l’IA accélérée sans avoir besoin de beaucoup de connaissances techniques.
- Coût réduit : Le Raspberry Pi 5 est une plateforme à faible coût, et l’ajout d’une carte Hailo 8L est une manière abordable d’ajouter des capacités d’IA accélérée à un projet. Cela rend l’IA plus accessible aux makers et aux professionnels.
L’ajout d’une carte Hailo 8L sur un Raspberry Pi 5 peut transformer la manière dont les makers utilisent l’IA, en rendant l’IA accélérée accessible, abordable, et facile à utiliser. C’est une véritable révolution pour les makers et les amateurs d’IA.
L’accélérateur AI HAilo 8L
L’accélérateur d’IA d’entrée de gamme Hailo-8L, qui peut atteindre 13 téra-opérations par seconde (TOPS), est conçu pour prendre en charge les produits d’entrée de gamme nécessitant une capacité d’IA limitée ou des performances moindres. Il est proposé à un prix compétitif et se caractérise par une efficacité supérieure en termes de surface et de puissance par rapport aux autres produits de la catégorie. L’accélérateur Hailo-8L AI offre un traitement exceptionnel à faible latence et à haute efficacité, capable de gérer des pipelines complexes avec de multiples flux en temps réel et le traitement simultané de plusieurs modèles et tâches d’IA. Il est compatible avec la suite logicielle complète Hailo-8, éprouvée sur le terrain, pour une mise à niveau future transparente vers des capacités d’IA plus élevées.
La documentation est disponible en ligne. (et ci-dessous)
Module M2 Hailo 8L
Le module M.2 Hailo-8L d’entrée de gamme est un module d’accélération d’intelligence artificielle compatible avec les facteurs de forme M.2 Key B+M et Key A+E . Le module AI est basé sur le processeur AI Hailo-8L qui autorise 13 téra-opérations par seconde (TOPS) avec une grande efficacité énergétique et un bon rapport coût-efficacité. L’accélérateur M.2 AI est doté d’une interface PCIe Gen-3.0 à deux voies, offrant des performances AI sans précédent pour les appareils périphériques nécessitant une capacité AI limitée ou des performances moindres. Le module M.2 peut être branché sur un appareil périphérique existant doté d’une prise M.2 pour exécuter en temps réel et à faible consommation des inférences de réseaux neuronaux profonds pour un large éventail de segments de marché. Grâce au compilateur de flux de données complet et éprouvé de Hailo et à sa prise en charge des cadres d’IA standard, vous pouvez facilement porter vos modèles de réseaux neuronaux et passer en toute transparence à des produits Hailo-8 de plus grande capacité pour les mises à niveau futures.
La documentation est disponible en ligne. (et ci-dessous)
Hailo Tappas
TAPPAS est un ensemble d’exemples d’applications complètes fourni par Hailo, mettant en œuvre des éléments de pipeline et des tâches d’IA pré-entraînées.
Il démontre le scénario d’intégration des systèmes Hailo pour des cas d’utilisation spécifiques sur des systèmes prédéfinis (plates-formes logicielles et matérielles). Il peut être utilisé pour des évaluations, des codes de référence et des démonstrations.
Le but est d’accélérer la mise sur le marché en réduisant le temps de développement et l’effort de déploiement, simplifier l’intégration avec la pile de logiciels d’exécution de Hailo et fournir un point de départ aux clients pour affiner leurs applications.
Vidéos de présentation par la Fondation
Conclusion
L’intégration de la carte M2 Hailo 8L avec le Raspberry Pi 5 va certainement révolutionner le domaine de l’IA embarquée. Cette combinaison offre une accélération remarquable des programmes d’IA, rendant les applications d’IA plus rapides et plus efficaces.
Pour les makers et les professionnels, c’est une aubaine car cela permet d’explorer de nouvelles possibilités dans l’IA à un coût réduit. De plus, cette solution est facilement accessible et peut être mise en œuvre sans nécessiter une expertise technique approfondie. Cela signifie que l’IA est désormais plus accessible aux amateurs et aux professionnels, ouvrant la voie à une multitude d’applications innovantes.
Au final, l’utilisation de la carte M2 Hailo 8L sur un Raspberry Pi 5 est un pas en avant significatif pour l’avenir de l’IA embarquée à faible coût. C’est une avancée prometteuse qui a le potentiel de transformer de nombreux secteurs et de stimuler l’innovation dans le domaine de l’IA.
Si vous utilisez ce kit dans vos projets n’hésitez pas à nous en faire part pour une description sur le blog 🙂
Vous trouverez ce kit sur le site Kubii : https://www.kubii.com/fr/4343-ai-kit-raspberry-pi.html pour 78,60€. Il est actuellement en précommande (4 juin 2024) mais sera disponible dans un délai d’une semaine environ. Les informations pour installer et configurer l’extension AI est sur cette page : https://www.raspberrypi.com/documentation/accessories/ai-kit.html
Sources
https://www.kubii.com/fr/4343-ai-kit-raspberry-pi.html
https://github.com/hailo-ai/hailo-rpi5-examples
https://www.raspberrypi.com/documentation/accessories/ai-kit.html
https://www.raspberrypi.com/news/raspberry-pi-ai-kit-available-now-at-70/
https://github.com/hailo-ai/Hailo-Application-Code-Examples
https://github.com/hailo-ai/tappas
Super !
Merci François pour l’article !
Oui, une petite révolution ! une de plus !
Petite remarque / question :
on ne peut plus utiliser de disque SSD si on utilise le module AI ???
Bonjour Fred
Eh non c’est l un ou l’autre
il y aura peut être un jour une carte avec 2 M2 ?
amitiés
François
bonjour
merci beaucoup pour cette remarque. j’ai hésité sur la valeur et opté pour la version wikipedia
je vérifie et rectifie
cdt
francois
En fait, c’est même plus confus que ça, parce que ce que les anglo-saxons appellent un trillion (avec leur échelle courte) s’appelle chez nous un billion (échelle longue) et vaut 10^12.
Et ce que nous appelons un trillion en français (échelle longue) vaut 10^18 et s’appelle chez les anglo-saxons (échelle courte) un… quintillion !
Petite correction : si le trillion vaut bien 1018 dans l’échelle longue qu’utilisent les francophones, il n’en va pas de même dans l’échelle courte utilisée dans le monde angle-saxon, où il ne vaut « que » 1012.
Or, les spécifications sont en anglais et l’échelle à utiliser est l’échelle courte. Ce n’est donc pas un milliard de milliard d’opérations par seconde que permet cet accélérateur, mais « seulement » mille milliards ce qui , bien qu’un million de fois moins performant, reste beaucoup!
C’est cool la direction que c’est en train de prendre avec des puces dédiées moins chères qui consomment moins et prenne surtout beaucoup moins de place qu’une grosse carte graphique !