Die Axelera Metis AIPU (AI Processing Unit) ist ein leistungsfähiger KI-Beschleunigerchip für Deep Neural Networks, mit speziellem Fokus auf Computer Vision Anwendungen. 

Metis ist besonders für den Betrieb von großen Vision-Netzwerken, hohen Framerates, oder den Betrieb vieler Kamerastreams und/oder Vision-Netzwerke gleichzeitig geeignet. Gemäß Axelera AI wird diese Leistung mit besonders hoher Effizienz erreicht, d.h. geringer Leistungsaufnahme. 

Das ist die PCI-Express Variante des Metis AI Coprocessors. Zum Betrieb wird eine Host-CPU benötigt.

Technische Daten

Axelera AI PCIe AI accelerator card, quad-core Metis AIPU

• Modellnummer: AXE-BME20P1AA04A01
• Performance: bis zu 214 TOPS (INT8)
• Formfaktor: PCIe single slot, HHHL (half height, half length)
• Interface: PCIe Gen 3, 4-lanes (4 GB/s bidirektional)
• On-Board RAM: 4 GB DRAM
• Betriebstemperatur: -20 bis +70°C
• Typische Leistungsaufnahme: 4-8 W
• Sicherheitsfeatures: Secure Boot, Root of Trust

Hinweis: auf Anfrage bieten wir auch eine Variante dieser Karte mit 16 GB DRAM an.

Softwareunterstützung (Inferencing)

Axelera stellt für die Softwareintegration ihre Lösung Voyager SDK zur Verfügung. 

• führt Deep Learning Neural Networks mit hoher Leistungseffizienz aus
• besonders gut für CNNs geeignet (Computer Vision Anwendungen)
• ermöglicht parallel mehrere Modelle & Streams zu prozessieren
• Linux, Windows
• Großer Modellzoo, unter anderem für:
  • Image classification (ResNet-50, MobileNetv2)
  • Object detection (MobileNetv2-SSD, YOLOv5, YOLOv6, YOLOv7, YOLOv8, YOLOv9)
  • Segmentation (DeepLabv3, YOLOv8-seg, U-Net)
  • Poste estimation (Yolov8-pose)
• Unterstützt PyTorch, ONNX und TensorFlow (via ONNX)
• Kompatibel mit ARM und x86 Systemen.

Der Compiler unterstützt Pytorch und ONNX Modelle. Quantisierung (Quantization) und Graph-Optimierung (Graph optimization) werden dabei automatisch durchgeführt, um optimale Performance und Genauigkeit zu erzielen.

Einsatzgebiete

• Sicherheit (Security)
• Industrie 4.0 (Industry 4.0)
• Retail
• Mobility
• Logistik (Logistics)
• Robotik (Robotics)
• Medizinischer Bereich (Medical)
• Gastgewerbe, Hotellerie (Hospitality)
• Versorgungsbetriebe (utilities) - bspw. Wasseraufbereitung, Energieversorgungsunternehmen
• Agrikultur (Agritech)

Dokumentation & Downloads

• Axelera AI Kundenportal
• Axelera AI Blog 
• Axelera AI auf Github

Beratung durch buyzero

Wir beraten Sie ob Ihr Modell auf dem Axelera AI Metis Chip lauffähig ist, und ob Sie Ihr Projekt mit Hilfe von Axelera AI umsetzen können. Kontaktieren Sie uns dazu bitte.

FAQ

Was sind Beispielanwendungen für dieses Modul?

Man kann mit diesem Modul sogenannte Deep Learning Algorithmen, insbesondere CNNs (convolutional neural networks), beschleunigen. 

Dazu gehören:

• Pose Estimation - Schätzung der Pose eines Menschen
• Objekterkennung mit Bounding Boxes (bspw. wo ist ein Fahrrad im Bild, und was ist es)
• Segmentierung - markiere die Bereiche eines Bildes die eine Banane einnimmt
• Nummernschilderkennung
• Gesichtserkennung
• u.v.m.

Kann ich Modelle die auf NVIDIA laufen mit diesem Chip laufen lassen? Was sind die Vorteile von Axelera vs. NVIDIA?

Im einzelnen müssen Modelle und Software-Stacks portiert werden (und bspw. quantisiert werden, von fp32 auf int8). Das ist vor allem interessant bei Anwendungen in denen Sie in industriellen Temperaturbereichen arbeiten, oder ein beschränktes Power-Budget haben. 

Wir beraten Sie ob Ihr Modell auf dem Axelera AI Metis Chip lauffähig ist, und ob Sie Ihr Projekt mit Hilfe von Axelera AI umsetzen können. Kontaktieren Sie uns dazu bitte.

Weitere Vorteile sind die Langzeitverfügbarkeit, der industrielle Fokus von Axelera, sowie die Verfügbarkeit von kompakteren Lösungen (M.2) mit höheren TOPS vs. bspw. der NVIDIA Jetson Plattform.  

Ich benötige mehr TOPS, da ich eine komplexe Anwendung habe, was kann ich tun?

Axelera bereitet eine Karte mit vier Metis Chips vor - Kontaktieren Sie uns dazu bitte, falls Sie dazu weitere Informationen haben möchten. Eine weitere Alternative ist ein Cluster aus Biscotti-Modulen (die auf HAILO-8 basieren):

Wir bieten in unserem Shop eine Lösung mit 52 TOPS - das Biscotti Modul an. Es nutzt dazu zwei HAILO-8 Module, und hat einen EDSFF E1.S Anschluss - der in Storage Servern zum Einsatz kommt. 

Dadurch kann das Biscotti Dual HAILO Modul auch in Clustern verbaut werden, und in einem 19'' Server bspw. auf 1600 TOPS skaliert werden.

In Kooperation mit dem Hersteller Unigen können wir mit einer Lead Time von ca. 6 Monaten auch Axelera-Cluster für Sie realisieren.

Wir stehen gerne bei Fragen zur Verfügung, kontaktieren Sie uns um uns Ihre Anforderungen zu schildern!

Ist Axelera AI / der Metis Chip eine gute Alternative zum Google Coral? 

Google Coral hat 4 TOPS (8 TOPS in der Dual Edge Variante). Bei Anwendungen die bislang dezentral viele Coral Chips eingesetzt haben, könnte Axelera Metis eine interessante Alternative sein.

Für ein Upgrade mit weniger Leistungsbedarf empfehlen wir HAILO-8 in die engere Auswahl zu ziehen (13 TOPS - 26 TOPS). 

Kann ich LLMs auf Axelera Metis ausführen, bpsw. LLAMA?

LLMs = Large Language Modelle (so etwas wie ChatGPT / GPT4-o, bzw. LLAMA, Falcon, usw.)

Nein, dafür ist der Axelera Metis Chip nicht ausgelegt. Eine kommende Generation, Axelera Europa, wird LLMs unterstützen.

Kann ich damit Modelle trainieren?

Nein, Axelera Metis ist ausschließlich für die Inferenz (int8) gedacht. Zum Training von Modellen wird typischerweise eine klassische GPU eingesetzt.

Wir unterstützen gerne bei technischen Fragen zu Modellen.

Misc

• Axelera SKUs / alternative Bezeichnungen: 
  • AXE-BME20P1AA04A01
  • PCIe AI accelerator card. Powered by quad-core Metis AIPU
    
  • Metis Omega PCIe Board
  • A96BD002467
• HS Code: 85176200
• Country of origin: ?
• auf dieser Seite bestellen Sie ein Stück, wenden Sie sich bei Großbedarf gerne an uns
• Lead Time (Nachlieferzeit): aktuell ? Wochen

English Description

The Axelera Metis AIPU (AI Processing Unit) is a powerful AI accelerator chip designed for deep neural networks, with a specific focus on computer vision applications.

Metis is particularly suited for operating large vision networks, achieving high frame rates, or managing multiple camera streams and/or vision networks simultaneously. According to Axelera AI, this performance is achieved with exceptional efficiency, meaning low power consumption.

This is the PCI-Express version of the Metis AI coprocessor and requires a host CPU for operation.

Specifications

• Model: Axelera AI PCIe AI Accelerator Card, quad-core Metis AIPU
• Model Number: AXE-BME20P1AA04A01
• Performance: Up to 214 TOPS (INT8)
• Form Factor: PCIe single slot, HHHL (half height, half length)
• Interface: PCIe Gen 3, 4 lanes (4 GB/s bidirectional)
• On-Board RAM: 4 GB DRAM (16 GB variant available upon request)
• Operating Temperature: -20 to +70°C
• Typical Power Consumption: 4-8 W
• Security Features: Secure Boot, Root of Trust

Software Support (Inferencing)

Axelera provides its Voyager SDK for seamless software integration:

• Executes deep learning neural networks with high performance efficiency
• Optimized for CNNs (Computer Vision Applications)
• Allows parallel processing of multiple models and streams
• Supported Platforms: Linux, Windows

Model Zoo includes:

• Image Classification: ResNet-50, MobileNetv2
• Object Detection: MobileNetv2-SSD, YOLO (v5–v9)
• Segmentation: DeepLabv3, YOLOv8-seg, U-Net
• Pose Estimation: YOLOv8-pose

Supported Frameworks:

• PyTorch, ONNX, TensorFlow (via ONNX)
• Compatible with ARM and x86 systems

The compiler supports PyTorch and ONNX models, with automatic quantization and graph optimization for optimal performance and accuracy.

Applications

• Security
• Industry 4.0
• Retail
• Mobility
• Logistics
• Robotics
• Medical
• Hospitality
• Utilities (e.g., water treatment, energy providers)
• Agriculture

Documentation & Downloads

• Axelera AI Customer Portal
• Axelera AI Blog
• Axelera AI GitHub

Consulting Services

We offer guidance on whether your model can run on the Axelera AI Metis chip and if your project can be implemented with Axelera AI. Please contact us for details.

FAQs

What are example applications for this module?

This module can accelerate deep learning algorithms, especially CNNs. Example use cases:

• Pose estimation (detecting human body positions)
• Object detection with bounding boxes (e.g., identifying a bicycle in an image)
• Image segmentation (marking regions occupied by objects, such as a banana)
• License plate recognition
• Facial recognition

Can I run models designed for NVIDIA on this chip? What are the advantages of Axelera vs. NVIDIA?

Models and software stacks must be ported (e.g., quantized from FP32 to INT8). This is particularly appealing for applications requiring industrial temperature ranges or limited power budgets.
Key benefits of Axelera:

• Long-term availability
• Industrial focus
• Compact solutions (e.g., M.2 modules with higher TOPS compared to NVIDIA Jetson platforms)

Contact us for more information and advice.

I need more TOPS for a complex application. What can I do?

Axelera is developing a card with four Metis chips. Contact us for more information.
Alternatively, you can scale using Biscotti modules (based on HAILO-8), with solutions offering up to 1600 TOPS in server clusters.

Is Axelera AI/Metis a good alternative to Google Coral?

Google Coral offers 4 TOPS (8 TOPS in the Dual Edge variant). Axelera Metis is an interesting alternative for applications previously using decentralized Coral setups. For upgrades requiring less power, consider HAILO-8 (13–26 TOPS).

Can I run LLMs like LLAMA on Axelera Metis?

No, the Metis chip is not designed for LLMs. The next generation, Axelera Europa, will support LLMs.

Can I use this for training models?

No, the Metis chip is exclusively for inference (INT8). Model training typically requires a GPU.

Miscellaneous

• SKU/Alternative Designations:
  • AXE-BME20P1AA04A01
  • PCIe AI accelerator card. Powered by quad-core Metis AIPU
    
  • Metis Omega PCIe Board
  • A96BD002467
• HS Code: 85176200
• Lead Time: Currently ? weeks

For bulk orders, please contact us.

Sicherheitsangaben

• Lesen Sie die Bedienungsanleitung sorgfältig durch, bevor Sie das Produkt verwenden.
• Stellen Sie sicher, dass alle Montage- und Installationsanweisungen des Herstellers sorgfältig befolgt werden.
• Verwenden Sie das Produkt nur für den vorgesehenen Zweck.
• Die unsachgemäße Nutzung dieses Produkts kann zu schweren Verletzungen oder Sachschäden führen.
• Nicht für Kinder unter 10 Jahren geeignet.
• Bei unsachgemäßer Verwendung besteht eine Verletzungsgefahr.
• Dieses Produkt entspricht den geltenden Sicherheitsanforderungen der Europäischen Union.
• Dieses Produkt wurde gemäß der GPSR geprüft, die sicherstellt, dass alle relevanten Sicherheitsanforderungen für Konsumgüter eingehalten werden.

Nachverfolgbarkeitsinformationen

Jedes Produkt verfügt über eines oder mehrere der folgenden Merkmale:

• Ein CE-Kennzeichen, das die Einhaltung der Sicherheits-, Gesundheits- und Umweltschutzanforderungen der Europäischen Union anzeigt.
• Eine eindeutige Serien- oder Chargennummer, um die Nachverfolgbarkeit zu gewährleisten und bei Bedarf Rückrufaktionen zu unterstützen.
• Hersteller- und Importeurangaben für den Kundensupport und Sicherheitsanfragen.

Überwachung und Berichterstattung von Vorfällen

Für den unwahrscheinlichen Fall eines Produktproblems haben wir Verfahren implementiert, um:

• Kundenbeschwerden zeitnah bearbeiten.
• Schwerwiegende Vorfälle über das EU Safety Gate/RAPEX-System melden.
• Mit den Marktüberwachungsbehörden zusammenarbeiten, um die öffentliche Sicherheit zu gewährleisten.

Kontakt:

• Email: support [@] pi3g.com
• Telefon: 0341 / 392 858 40

Dieses Produkt ist vollständig mit allen geltenden EU-Vorschriften konform, um die Sicherheit unserer geschätzten Kunden zu gewährleisten.