Kit IA avec Hailo 8L pour Raspberry Pi 5 - 13 TOPS - PCIe

Kit IA basé sur module Hailo 8L pour Pi 5 - Puissance de 13 TOPS

Le kit d'intelligence artificielle (AI Kit) pour Raspberry Pi 5 est basé sur un accélérateur neuronal Hailo 8L inséré dans un HAT M.2 de la fondation.
Grâce au module Hailo 8L AI, cette configuration propose une solution d'intelligence artificielle accessible, bon rapport qualité-prix et bon rapport efficacité-puissance pour Raspberry-Pi 5.
Ce kit permet d'explorer des applications tels que: identification humaine + posture, identification d'objet, contrôle de processus, sécurité intelligente, automatisation domestique et robotique.

Voyez les informations dans l'article de présentation sur Raspberry Pi

L'accélérateur IA dispose d'une puissance de traitement de 13 TOPS (13 tera-operations par seconde) pour l'inférence de son réseau neuronal. Grâce au canal de communication PCIe du Pi 5, l'accélérateur peut efficacement transférer des informations avec les coeurs du Raspberry-Pi. Cela permet aussi d'optimiser la transmission des données en provenance des modules caméra.

L'accélérateur IA est capable de produire des résultats à raison de 13 frames/seconde sans sollicité le SoC du Pi 5. Les 4 coeurs du Pi 5 encore disponibles pour vos propres applications.
A contrario, sans accélérateur AI, l'inférence d'un réseau neuronal serait prit en charge par les 4 coeurs du Pi 5. Il en résulterait que 2 à 3 frames/seconde avec tous les coeurs du SoC monopolisé par l'inférence. Il resterait bien peu/pas de ressources pour vos propres applications.

Il parait évident que la plupart des applications exploiterons le module IA avec le module caméra (ou deux caméras pour une vue stéréoscopique).
De nombreux modèles IA pré-entraînés sont disponibles, cela permet de profiter rapidement des possibilités du Kit. A noter que le module Hailo 8L ne dispose pas d'assez de puissance pour permettre la création et l'entraînement de vos propres modèles.

Une version de Raspberry-Pi OS pour Pi 5 détectera automatiquement le Hailo et ne NPU (Neuronal Processing Unit) sera disponible pour les traitements IA.
Les application rpicam-apps camera intégrées dans Raspberry Pi OS supporte le module IA (support natif), et utilisera automatiquement le NPU pour exécuter des tâches de post-traitement (tâche compatibles avec le NPU).

Le kit IA propose un ordonnanceur particulièrement efficace pour l'accélérateur matériel. Il permet de d'exécuter plusieurs réseaux neuronaux sur une seule caméra -OU- un/plusieurs réseau neuronal sur deux caméras (traitement concurrent) voir source.

Note: ce produit nécessite un Raspberry-Pi 5 et une caméra pour fonctionner.

Besoin d'utiliser les GPIO avec the AI Kit? Voyez notre GPIO Replicator qui peut être soudé sur le stacking header avant de placer le HAT du AI Kit.

Que peut on réaliser avec ce kit ?

Ce que l'on peut faire avec une unité de traitement neuronal (NPU) dépend des modèles entraînés disponibles.
Hailo propose une grande quantité de modèles publiques pré-entraînés sur son dépôt hailo_model_zoo et la documentation AI Kit de Raspberry-Pi vous guidera pas à pas dans les différentes étapes d'utilisation.

La liste complète des modèles Hailo 8L est disponible dans cette sous-page du dépôt, certains modèles sont documentés dans le dépôt exemples Hailo pour Raspberry-Pi 5.

Voici quelques vidéo de démonstration:

• Reconnaissance d'objets dans le trafic (Youtube)
• Reconnaissance d'objets au bureau (Youtube)
• Estimation de pose/posture d'une personne (Youtube)
• Segmentation/découpe de sujet (Youtube)

Jeff Geerling à également publié une très belle Pi AI video a propos du Kit Hailo 8L pour Raspberry-Pi 5.

Détails techniques

• pour Raspberry Pi 5
• Accélérateur Hailo 8L avec performance de 13 TOPS pour l'inférence
• HAT+ format
• Pre-assemblé sur un HAT M.2 (prêt à l'emploi)
• Pastille thermique entre le module et le HAT (disperse la chaleur entre les différents composants, améliore les performances)
• Intégration complète avec  la pile logicielle de la caméra Raspberry-Pi
• Température de fonctionnement: 0°C à 50°C (T° ambiente)
• Peut être monté sur un Raspberry Pi 5 + Active Cooler

Contenu

Pour chaque commande, vous recevrez un HAT M.2 équipé du module IA Hailo 8L. Un pastille thermique placée entre la module IA et la HAT permet d'évacuer la chaleur.
Le kit est fourni avec un connecteur (stacking header) de 16mm, des entretoises et vis.
Le Ruban PCIe est également inclus. Voir les instructions d'assemblage dans la documentation du AI Kit.

Le M.2 HAT peut être placé sur le Raspberry Pi 5 même s'il est équipé d'un Active Cooler.

Attention: Raspberry-Pi et Active Cooler ne sont pas inclus.