You can find the english description of the Axelera Metis Lenovo Eval System below.

Die Axelera Metis AIPU (AI Processing Unit) ist ein leistungsfähiger KI-Beschleunigerchip für Deep Neural Networks, mit speziellem Fokus auf Computer Vision Anwendungen.

Metis ist besonders für den Betrieb von großen Vision-Netzwerken, hohen Framerates, oder den Betrieb vieler Kamerastreams und/oder Vision-Netzwerke gleichzeitig geeignet. Gemäß Axelera AI wird diese Leistung mit besonders hoher Effizienz erreicht, d.h. geringer Leistungsaufnahme.

Das ist die PCI-Express Variante des Metis AI Coprocessors. Zum Betrieb wird eine Host-CPU benötigt, diese ist hier enthalten.

Technische Daten

Axelera AI PCIe AI accelerator card, quad-core Metis AIPU

Modellnummer: AXE-SAALN010
Performance: bis zu 214 TOPS (INT8)
Formfaktor: PCIe single slot, HHHL (half height, half length)
Interface: PCIe Gen 3, 4-lanes (4 GB/s bidirektional)
On-Board RAM: 4 GB DRAM
Betriebstemperatur: -20 bis +70°C
Typische Leistungsaufnahme: 4-8 W
Sicherheitsfeatures: Secure Boot, Root of Trust

Hinweis: auf Anfrage bieten wir auch eine Variante dieser Karte mit 16 GB DRAM an.

Softwareunterstützung (Inferencing)

Axelera stellt für die Softwareintegration ihre Lösung Voyager SDK zur Verfügung.

führt Deep Learning Neural Networks mit hoher Leistungseffizienz aus
besonders gut für CNNs geeignet (Computer Vision Anwendungen)
ermöglicht parallel mehrere Modelle & Streams zu prozessieren
Linux, Windows
Großer Modellzoo, unter anderem für:
- Image classification (ResNet-50, MobileNetv2)
- Object detection (MobileNetv2-SSD, YOLOv5, YOLOv6, YOLOv7, YOLOv8, YOLOv9)
- Segmentation (DeepLabv3, YOLOv8-seg, U-Net)
- Poste estimation (Yolov8-pose)
Unterstützt PyTorch, ONNX und TensorFlow (via ONNX)
Kompatibel mit ARM und x86 Systemen.

Der Compiler unterstützt Pytorch und ONNX Modelle. Quantisierung (Quantization) und Graph-Optimierung (Graph optimization) werden dabei automatisch durchgeführt, um optimale Performance und Genauigkeit zu erzielen.

Einsatzgebiete

Sicherheit (Security)
Industrie 4.0 (Industry 4.0)
Retail
Mobility
Logistik (Logistics)
Robotik (Robotics)
Medizinischer Bereich (Medical)
Gastgewerbe, Hotellerie (Hospitality)
Versorgungsbetriebe (utilities) - bspw. Wasseraufbereitung, Energieversorgungsunternehmen
Agrikultur (Agritech)

Dokumentation & Downloads

Beratung durch buyzero

Wir beraten Sie ob Ihr Modell auf dem Axelera AI Metis Chip lauffähig ist, und ob Sie Ihr Projekt mit Hilfe von Axelera AI umsetzen können. Kontaktieren Sie uns dazu bitte.

FAQ

Was sind Beispielanwendungen für dieses Modul?

Man kann mit diesem Modul sogenannte Deep Learning Algorithmen, insbesondere CNNs (convolutional neural networks), beschleunigen.

Dazu gehören:

Pose Estimation - Schätzung der Pose eines Menschen
Objekterkennung mit Bounding Boxes (bspw. wo ist ein Fahrrad im Bild, und was ist es)
Segmentierung - markiere die Bereiche eines Bildes die eine Banane einnimmt
Nummernschilderkennung
Gesichtserkennung
u.v.m.

Kann ich Modelle die auf NVIDIA laufen mit diesem Chip laufen lassen? Was sind die Vorteile von Axelera vs. NVIDIA?

Im einzelnen müssen Modelle und Software-Stacks portiert werden (und bspw. quantisiert werden, von fp32 auf int8). Das ist vor allem interessant bei Anwendungen in denen Sie in industriellen Temperaturbereichen arbeiten, oder ein beschränktes Power-Budget haben.

Wir beraten Sie ob Ihr Modell auf dem Axelera AI Metis Chip lauffähig ist, und ob Sie Ihr Projekt mit Hilfe von Axelera AI umsetzen können. Kontaktieren Sie uns dazu bitte.

Weitere Vorteile sind die Langzeitverfügbarkeit, der industrielle Fokus von Axelera, sowie die Verfügbarkeit von kompakteren Lösungen (M.2) mit höheren TOPS vs. bspw. der NVIDIA Jetson Plattform.

Ich benötige mehr TOPS, da ich eine komplexe Anwendung habe, was kann ich tun?

Axelera bereitet eine Karte mit vier Metis Chips vor - Kontaktieren Sie uns dazu bitte, falls Sie dazu weitere Informationen haben möchten. Eine weitere Alternative ist ein Cluster aus Biscotti-Modulen (die auf HAILO-8 basieren):

Wir bieten in unserem Shop eine Lösung mit 52 TOPS - das Biscotti Modul an. Es nutzt dazu zwei HAILO-8 Module, und hat einen EDSFF E1.S Anschluss - der in Storage Servern zum Einsatz kommt.

Dadurch kann das Biscotti Dual HAILO Modul auch in Clustern verbaut werden, und in einem 19'' Server bspw. auf 1600 TOPS skaliert werden.

In Kooperation mit dem Hersteller Unigen können wir mit einer Lead Time von ca. 6 Monaten auch Axelera-Cluster für Sie realisieren.

Wir stehen gerne bei Fragen zur Verfügung, kontaktieren Sie uns um uns Ihre Anforderungen zu schildern!

Ist Axelera AI / der Metis Chip eine gute Alternative zum Google Coral?

Google Coral hat 4 TOPS (8 TOPS in der Dual Edge Variante). Bei Anwendungen die bislang dezentral viele Coral Chips eingesetzt haben, könnte Axelera Metis eine interessante Alternative sein.

Für ein Upgrade mit weniger Leistungsbedarf empfehlen wir HAILO-8 in die engere Auswahl zu ziehen (13 TOPS - 26 TOPS).

Kann ich LLMs auf Axelera Metis ausführen, bpsw. LLAMA?

LLMs = Large Language Modelle (so etwas wie ChatGPT / GPT4-o, bzw. LLAMA, Falcon, usw.)

Nein, dafür ist der Axelera Metis Chip nicht ausgelegt. Eine kommende Generation, Axelera Europa, wird LLMs unterstützen.

Kann ich damit Modelle trainieren?

Nein, Axelera Metis ist ausschließlich für die Inferenz (int8) gedacht. Zum Training von Modellen wird typischerweise eine klassische GPU eingesetzt.

Wir unterstützen gerne bei technischen Fragen zu Modellen.

Misc

Axelera SKUs / alternative Bezeichnungen:
- AXE-BME20P1AA04A01
- PCIe AI accelerator card. Powered by quad-core Metis AIPU
- Metis Omega PCIe Board
- AD-PEG-AM1A (A96BD002***)
HS Code: 85176200
Country of origin: ?
auf dieser Seite bestellen Sie ein Stück, wenden Sie sich bei Großbedarf gerne an uns
Lead Time (Nachlieferzeit): aktuell ? Wochen

English Description

The Axelera Metis AIPU (AI Processing Unit) is a powerful AI accelerator chip designed for deep neural networks, with a specific focus on computer vision applications.

Metis is particularly suited for operating large vision networks, achieving high frame rates, or managing multiple camera streams and/or vision networks simultaneously. According to Axelera AI, this performance is achieved with exceptional efficiency, meaning low power consumption.

This is the PCI-Express version of the Metis AI coprocessor and requires a host CPU for operation.

Specifications

Model: Axelera AI PCIe AI Accelerator Card, quad-core Metis AIPU
Model Number: AXE-BME20P1AA04A01
Performance: Up to 214 TOPS (INT8)
Form Factor: PCIe single slot, HHHL (half height, half length)
Interface: PCIe Gen 3, 4 lanes (4 GB/s bidirectional)
On-Board RAM: 4 GB DRAM (16 GB variant available upon request)
Operating Temperature: -20 to +70°C
Typical Power Consumption: 4-8 W
Security Features: Secure Boot, Root of Trust

Software Support (Inferencing)

Axelera provides its Voyager SDK for seamless software integration:

Executes deep learning neural networks with high performance efficiency
Optimized for CNNs (Computer Vision Applications)
Allows parallel processing of multiple models and streams
Supported Platforms: Linux, Windows

Model Zoo includes:

Image Classification: ResNet-50, MobileNetv2
Object Detection: MobileNetv2-SSD, YOLO (v5–v9)
Segmentation: DeepLabv3, YOLOv8-seg, U-Net
Pose Estimation: YOLOv8-pose

Supported Frameworks:

PyTorch, ONNX, TensorFlow (via ONNX)
Compatible with ARM and x86 systems

The compiler supports PyTorch and ONNX models, with automatic quantization and graph optimization for optimal performance and accuracy.

Applications

Security
Industry 4.0
Retail
Mobility
Logistics
Robotics
Medical
Hospitality
Utilities (e.g., water treatment, energy providers)
Agriculture

Documentation & Downloads

Consulting Services

We offer guidance on whether your model can run on the Axelera AI Metis chip and if your project can be implemented with Axelera AI. Please contact us for details.

FAQs

What are example applications for this module?

This module can accelerate deep learning algorithms, especially CNNs. Example use cases:

Pose estimation (detecting human body positions)
Object detection with bounding boxes (e.g., identifying a bicycle in an image)
Image segmentation (marking regions occupied by objects, such as a banana)
License plate recognition
Facial recognition

Can I run models designed for NVIDIA on this chip? What are the advantages of Axelera vs. NVIDIA?

Models and software stacks must be ported (e.g., quantized from FP32 to INT8). This is particularly appealing for applications requiring industrial temperature ranges or limited power budgets.
Key benefits of Axelera:

Long-term availability
Industrial focus
Compact solutions (e.g., M.2 modules with higher TOPS compared to NVIDIA Jetson platforms)

I need more TOPS for a complex application. What can I do?

Axelera is developing a card with four Metis chips. Contact us for more information.
Alternatively, you can scale using Biscotti modules (based on HAILO-8), with solutions offering up to 1600 TOPS in server clusters.

Is Axelera AI/Metis a good alternative to Google Coral?

Google Coral offers 4 TOPS (8 TOPS in the Dual Edge variant). Axelera Metis is an interesting alternative for applications previously using decentralized Coral setups. For upgrades requiring less power, consider HAILO-8 (13–26 TOPS).

Can I run LLMs like LLAMA on Axelera Metis?

No, the Metis chip is not designed for LLMs. The next generation, Axelera Europa, will support LLMs.

Can I use this for training models?

No, the Metis chip is exclusively for inference (INT8). Model training typically requires a GPU.

Miscellaneous

SKU/Alternative Designations:
- AXE-BME20P1AA04A01
- PCIe AI accelerator card. Powered by quad-core Metis AIPU
- Metis Omega PCIe Board
- A96BD002467
HS Code: 85176200
Lead Time: Currently ? weeks

For bulk orders, please contact us.