Raspberry Pi AI Kit (mit Hailo-8L B+M, 13 TOPS)

Das Raspberry Pi AI Kit kombiniert einen HAILO-8L Accelerator mit dem M.2 HAT, für eine Beschleunigung insbesondere von Bilderkennungsalgorithmen (Computer Vision). 

Hinweis: Wir führen auch beide Produkte separat: Pi 5 M.2 HAT und HAILO-8L B+M Key. Bitte beachten Sie dass die Produkte hier im Bundle von uns deutlich günstiger angeboten werden können, bereits montiert sind und auch ein verbautes Wärmeleitpad im Lieferumfang enthalten. Der separate Kauf empfiehlt sich daher nur falls dieses Set ausverkauft ist. 

Hinweis: wir führen außerdem das gesamte Sortiment von HAILO. Hier ist die Produktkategorie für die HAILO-Beschleuniger in unserem Shop.

Technische Daten

HAILO-8L Accelerator

• bis zu 13 TOPS (trillion operations per second = 13 Billionen Rechenoperationen pro Sekunde / 1,3 * 10^13 Rechenoperationen)
• führt Deep Learning Neural Networks mit hoher Leistungseffizienz aus
• besonders gut für CNNs geeignet (Computer Vision Anwendungen)
• M.2 2242 Formfaktor (B+M Key)
• Abmessungen: 22×42 mm
• Interface PCIe Gen-3.0, 2 Lanes (zum Pi nur 1 Lane nutzbar)
• Unterstützt TensorFlow, TensorFlow Lite, Keras, PyTorch, ONNX (Bitte bei Bedarf Unterstützung auf Pi anfragen!)
• ermöglicht parallel mehrere Modelle & Streams zu prozessieren
  

M.2 HAT

• kompatibel mit einem Pi 5 (HAT+) Spezifikation
• mit HAILO-8L Modul bereits zusammengebaut
• mit 16 mm Stacking Header und Abstandshaltern + Schrauben geliefert, so dass der Active Cooler auf dem Raspberry Pi 5 installiert sein kann
• Thermal Pad vorinstalliert zwischen dem HAILO-8L Modul und dem M.2 HAT+
• nutzt Raspberry Pi 5 Single lane PCIe 2.0 Interface

Softwareunterstützung

• Komplette Integration in Raspberry PI Kamera-Softwarestack
• mit aktuellem Raspberry Pi OS wird das Hailo Modul automatisch erkannt und für Postprocessing Aufgaben von rpicam-apps eingesetzt

Hinweise

• Verkauf ohne Raspberry PI 5, dieser muss separat dazu bestellt werden, die Abbildung dient der Illustration
• Das Modul kommt bereits zusammengebaut
• Der M.2 HAT ist nur mit dem Raspberry Pi 5 kompatibel, das HAILO-8L Modul kann jedoch auch mit einer CM4 Lösung die eine M.2 Schnittstelle bietet eingesetzt werden. 
• Betriebstemperatur: 0°C - 50°C (Umgebungstemperatur)

Dokumentation & Downloads

• Raspberry Pi AI Kit Documentation
• HAILO AI Module Homepage
• M.2 HAT+ Documentation
• HAILO-8L Beispielcode für Raspberry Pi 5

Beratung durch buyzero

Wir beraten Sie ob Ihr Modell auf dem Raspberry Pi AI Kit lauffähig ist, und ob Sie Ihr Projekt auf dem AI Kit umsetzen können. Kontaktieren Sie uns dazu bitte.

FAQ

Was sind Beispielanwendungen für dieses Modul?

Man kann mit diesem Modul sogenannte Deep Learning Algorithmen, insbesondere CNNs (convolutional neural networks), beschleunigen. 

Dazu gehören:

• Pose Estimation - Schätzung der Pose eines Menschen
• Objekterkennung mit Bounding Boxes (bspw. wo ist ein Fahrrad im Bild, und was ist es)
• Segmentierung - markiere die Bereiche eines Bildes die eine Banane einnimmt
• Nummernschilderkennung
• Gesichtserkennung
• u.v.m.

Würde es Sinn machen, den HAILO-8 statt dem HAILO-8L in Kombination mit dem Raspberry PI einzusetzen?

Da der Raspberry Pi 5 nur eine PCI Express Lane hat, könnte der HAILO-8 nur in einigen Randfällen mit genügend Daten versorgt werden - bei denen die Modelle entsprechend komplex sind. In anderen Fällen wäre der HAILO-8 für den Raspberry Pi vermutlich Overkill. 

Wir bieten in unserem Shop auch das HAILO-8 M-Key Modul an, für diejenigen Nutzer, die es trotzdem ausprobieren möchten. 

Kann ich Modelle für den HAILO-8L auch auf einem HAILO-8 laufen lassen?

Ja, das ist möglich! Modelle die für den HAILO-8L kompiliert worden sind laufen auch auf einem HAILO-8.

Ich benötige mehr TOPS, da ich eine komplexe Anwendung habe, was kann ich tun?

Das HAILO-8 Modul, das wir ebenso in unserem Shop anbieten, hat 26 TOPS, aus den weiter oben genannten Gründen muss für das Modell im Einzelfall geprüft werden ob es mit genügend Daten gefüttert werden kann um diese 26 TOPS voll auszuspielen. 

Wir bieten in unserem Shop auch eine Lösung mit 52 TOPS - das Biscotti Modul an. Es nutzt dazu zwei HAILO-8 Module, und hat einen E1.S Anschluss - der nicht mit dem M.2 HAT kompatibel ist, sondern mit Storage Servern (dem EDSFF E1.S Standard). 

Dadurch kann das Biscotti Dual HAILO Modul auch in Clustern verbaut werden, und in einem 19'' Server bspw. auf 1600 TOPS skaliert werden. Wir stehen gerne bei Fragen zur Verfügung!

Ist der HAILO-8L eine gute Alternative zum Google Coral? 

Ja, der HAILO-8L hat eine hervorragende Kompatibilität mit dem Pi 5 und eine gute Softwareunterstützung. Bei vorherigen Raspberry Pi Generationen, bspw. dem Raspberry Pi 4, empfehlen wir weiterhin den Coral USB Accelerator.

Kann ich LLMs auf dem HAILO-8L ausführen, bpsw. LLAMA?

LLMs = Large Language Modelle (so etwas wie ChatGPT / GPT4-o, bzw. LLAMA, Falcon, usw.)

Nein, dafür ist der HAILO-8L nicht ausgelegt. Grafikkarten auf denen diese LLMs typischerweise laufen haben schnellen direkt angebundenen Speicher. Der HAILO-8L hat unter anderem nicht genügend Speicher, um diese Modelle laden zu können. 

HAILO hat ein zukünftiges Produkt, den HAILO-10 angekündigt. Dieser wird eine Speicherschnittstelle haben, und auch GenAI Anwendungen wie LLMs besser unterstützen.

Kann ich damit Modelle trainieren?

Nein, der HAILO-8 ist ausschließlich für die Inferenz (int8) gedacht. Zum Training von Modellen wird typischerweise eine klassische GPU eingesetzt.

HAILO bietet hier Unterstützung mit einer Reihe von vorgebauten Docker-Containern, mit denen Modelle trainiert und auch angepasst werden können.

Das Model Build Environment wird wie im Diagramm gezeigt auf einem eigenen dafür vorgesehenen Computer betrieben, der über die notwendigen technischen Parameter verfügt. HAILO-8 selbst ist für Edge-Anwendungen gedacht, für die Inferenz, zusammen mit der HailoRT Runtime.

Wir unterstützen gerne bei technischen Fragen zu Modellen.

Physikalische Abmessungen

Alle Abmessungen in mm. Nur als Referenz, nicht für 3D-Modellierung geeignet.

Misc

• Raspberry Pi SKU: SC1438
• Raspberry Pi Bezeichnung: Raspberry PI AI Kit
• HS Code: 8473302000
• Country of origin: TW (Taiwan)
• Packungsmenge einer Großverpackung: 50 (auf dieser Seite bestellen Sie ein Stück, wenden Sie sich bei Großbedarf gerne an uns)
• Lead Time (Nachlieferzeit): aktuell 12 Wochen

Hinweis: wir führen außerdem das gesamte Sortiment von HAILO. Hier ist die Produktkategorie für die HAILO-Beschleuniger in unserem Shop.

 

 

 

 

 

English Description

Raspberry Pi AI Kit with HAILO-8L Accelerator and M.2 HAT

The Raspberry Pi AI Kit is the perfect solution for those looking to accelerate their image recognition algorithms (Computer Vision). Equipped with a HAILO-8L Accelerator and the M.2 HAT, this kit is particularly powerful and efficient.

Specifications

• HAILO-8L Accelerator

  • Up to 13 TOPS (13 trillion operations per second)
  • Executes Deep Learning Neural Networks with high efficiency
  • Ideal for CNNs (Computer Vision applications)
  • M.2 2242 form factor (B+M Key)
  • Dimensions: 22×42 mm
  • PCIe Gen-3.0 Interface, 2 Lanes (only 1 lane usable with Pi)
  • Supports TensorFlow, TensorFlow Lite, Keras, PyTorch, ONNX

• M.2 HAT

  • Compatible with Raspberry Pi 5 (HAT+ Specification)
  • Pre-assembled with the HAILO-8L module
  • Includes 16 mm stacking header and spacers + screws
  • Pre-installed thermal pad between HAILO-8L module and M.2 HAT+
  • Utilizes Raspberry Pi 5 single lane PCIe 2.0 interface

Software Support

• Full integration into the Raspberry Pi camera software stack
• Automatic recognition of the Hailo module with the current Raspberry Pi OS

Notes

• Sold without Raspberry Pi 5, must be ordered separately.
• Module comes pre-assembled.
• Only compatible with Raspberry Pi 5, HAILO-8L module can also be used with CM4 solutions.
• Operating temperature: 0°C - 50°C

Documentation

• Raspberry Pi AI Kit Documentation
• HAILO AI Module Homepage
• M.2 HAT+ Documentation
• HAILO-8L example code for Raspberry Pi 5
• Consultation by buyzero

Consultation and Support

We advise you if your model can run on the Raspberry Pi AI Kit and if you can implement your project. Please contact us.

1. Example Applications

   • Pose Estimation
   • Object detection with bounding boxes
   • Segmentation
   • License plate recognition
   • Facial recognition

2. HAILO-8L vs. HAILO-8

   • The HAILO-8 is often overkill for the Raspberry Pi 5 due to the single PCI Express lane.

3. Model Compatibility

   • Models from HAILO-8L also run on HAILO-8.

4. Need more TOPS?

   • HAILO-8 module with 26 TOPS and Biscotti Dual HAILO module with 52 TOPS available.

5. HAILO-8L vs. Google Coral

   • HAILO-8L is an excellent alternative with good compatibility and software support.

6. LLMs on HAILO-8L?

   • No, HAILO-8L is not suitable for LLMs.

7. Training models?

   • No, HAILO-8 is only for inference.

Key Data

• SKU: SC1438
• Designation: Raspberry PI AI Kit
• HS Code: 8473302000
• Country of origin: TW (Taiwan)
• Bulk packaging quantity: 50
• Lead Time: 12 weeks