Raspberry Pi a récemment dévoilé son nouvel accessoire, l’AI HAT+ 2, conçu pour la Raspberry Pi 5. Ce module promet d’améliorer les fonctionnalités de l’appareil pour des applications liées à l’intelligence artificielle générative, le tout à un prix abordable. Équipée d’un accélérateur neuronal Hailo-10H et de 8 Go de RAM, cette carte permettrait d’exécuter des modèles de langage de grande taille directement sur l’appareil, sans connexion Internet nécessaire. Voici tous les détails.
Raspberry AI HAT+ 2, fiche technique
Raspberry AI HAT+ 2 | |
|---|---|
Processeur | Hailo-10H AI (40 TOPS de performance d’inférence en INT4) |
Mémoire | 8 Go de RAM |
Charge de travail | Inférence de vision par ordinateur et modèles d’IA générative |
Intégration logicielle | Intégration complète avec le système de caméras Raspberry Pi |
Compatibilité | Compatible avec Raspberry Pi 5 |
Installation | Comprend un connecteur empilable de 16 mm, des séparateurs et des vis (dissipateur en option) |
Prix | 130 dollars |
Une carte pour modèles en local
L’AI HAT+ 2 représente une avancée significative par rapport à son prédécesseur, qui se concentrait uniquement sur la vision par ordinateur. Ce nouveau modèle répond à la demande croissante d’exécution de modèles de langage localement et sans Internet.
Selon Raspberry Pi, cette carte offre 40 TOPS de performance d’inférence grâce au Hailo-10H. L’ajout de 8 Go de RAM LPDDR4X est une nouveauté majeure, permettant ainsi de libérer le processeur de la Raspberry Pi 5 pour d’autres tâches pendant que l’accélérateur gère le traitement de l’IA.
Divers modèles de langage, comprenant DeepSeek-R1-Distill, Llama 3.2, et plusieurs versions de Qwen, seront disponibles dès le lancement. La société prévoit d’ajouter prochainement des modèles plus larges et permettra aux utilisateurs d’adapter ces modèles pour des cas d’usage spécifiques.
Plus qu’un simple accessoire
Bien que l’AI HAT+ 2 offre des capacités intéressantes, il convient de noter que le Hailo-10H est limité à une puissance de 3W. Cette contrainte énergétique, tout en promouvant une meilleure efficacité comparée au chip de la Raspberry Pi 5, entraîne un rendement brut inférieur.
Bien que les 8 Go de RAM supplémentaires soient précieux, la version de 16 Go de la Raspberry Pi 5 reste supérieure en termes de mémoire disponible pour les modèles de langage, de nombreux modèles nécessitant plus de 10 Go de RAM.
Cependant, cette carte représente une alternative intéressante pour permettre à la Raspberry Pi 5 d’exploiter l’accélérateur tout en utilisant ses propres ressources pour d’autres tâches.
À qui est destiné cet accessoire ?
L’AI HAT+ 2 conserve les capacités de vision de son prédécesseur et peut exécuter simultanément des modèles de vision et de langage. Elle pourrait intéresser les applications énergivores nécessitant une combinaison de ces deux traitements, comme les systèmes d’automatisation industrielle ou les dispositifs IoT.
Elle pourrait également servir de kit de développement pour les entreprises souhaitant intégrer le Hailo-10H dans leurs produits.
Pour les utilisateurs cherchant simplement à exécuter des modèles de langage en local, le meilleur choix reste la Raspberry Pi 5 avec 16 Go de RAM.
Prix et disponibilité
L’AI HAT+ 2 est déjà disponible pour 130 dollars, bien que le prix puisse varier selon les distributeurs en France. Des exemples, tutoriels et documentation pour tirer parti de la carte sont accessibles sur le GitHub de Hailo.
Points à retenir
- La AI HAT+ 2 est prévue pour enrichir l’écosystème de la Raspberry Pi en termes de capacités d’IA.
- Elle permet d’exécuter des modèles de langage localement, sans connexion à Internet.
- La carte peut empiler ses fonctions avec des applications de vision par ordinateur.
- Sa capacité d’inférence est un atout majeur pour des projets nécessitant des ressources limitées.
- Les utilisateurs pourront ajuster les modèles aux besoins spécifiques grâce à LoRA.
En conclusion, l’arrivée de l’AI HAT+ 2 soulève des questions passionnantes sur l’avenir des applications embarquées en intelligence artificielle. Alors que les technologies évoluent rapidement, il est crucial de réfléchir aux possibilités qu’offrent de tels dispositifs locaux. Les utilisateurs, développeurs et entreprises devraient s’interroger sur la manière dont ils pourraient tirer parti de cette innovation pour créer des solutions plus efficaces et autonomes.
