Altera FPGA AI Suite

La FPGA AI Suite di Altera è una piattaforma di sviluppo completa progettata per semplificare la creazione di soluzioni di inferenza IA sugli FPGA. La piattaforma si integra perfettamente con i principali framework IA come TensorFlow e PyTorch, oltre che con il toolkit OpenVINO, consentendo un'efficiente ottimizzazione e implementazione dei modelli. La suite sfrutta il software Quartus Prime di Intel^® per facilitare l'integrazione dell'IP di inferenza IA nei progetti di FPGA, garantendo alte prestazioni e bassa latenza. Inoltre, supporta una vasta gamma di modelli pre-addestrati provenienti dall'Open Model Zoo, consentendo una rapida e semplice conversione e distribuzione dei modelli. Questo rende la FPGA AI Suite di Altera la scelta ideale per gli sviluppatori che desiderano sfruttare la potenza degli FPGA per applicazioni IA in settori come telecomunicazioni, data center e automazione industriale.

Caratteristiche

Prestazioni elevate: FPGA Agilex™ 7 M-Series può raggiungere una prestazione teorica massima di 88,5 INT8 TOPS, o 3679 frame Resnet-50 al secondo con un utilizzo al 90% del FPGA.
Bassi costi totali di gestione con semplice integrazione del sistema: si può integrare l'IP IA con altri componenti a livello di sistema per ottenere un ingombro ridotto, un minor consumo energetico e una minore latenza.
Supporto front-end IA: si può utilizzare un front-end IA come TensorFlow, Caffè, Pytorch, MXNet, Keras e ONNX.
Flussi semplici e standard: è possibile creare e aggiungere l'IP di inferenza IA ai progetti FPGA attuali o emergenti con il software Quartus Prime o Platform Designer.
Accesso a modelli pre-addestrati: la FPGA AI Suite supporta la maggior parte dei modelli nell'Open Model Zoo.

Conversione dei modelli pre-addestrati senza soluzione di continuità: il toolkit OpenVINO converte i modelli della maggior parte dei framework standard in rappresentazioni intermedie.
Generazione di IP IA ottimizzato premendo un pulsante: genera senza soluzione di continuità l'IP di inferenza ottimale da modelli IA pre-addestrati, scansionando lo spazio di progettazione per ottenere le risorse ottimali verso obiettivi prestazionali.
Validazione anticipata di modelli senza hardware: l'emulazione software con precisione al bit dell'IP di inferenza IA è disponibile tramite l'interfaccia del plugin OpenVINO, consentendo una valutazione più rapida dell'accuratezza del modello senza hardware.

Applicazioni

Visione del computer
Diagnostica medica per immagini
Settore industriale
Data centre

Automazione industriale
Telecomunicazioni
Settore militare
Braodcast

Flusso di sviluppo delle inferenze

Il flusso di sviluppo combina, senza soluzione di continuità, un flusso di lavoro hardware e software in un flusso di lavoro IA end-to-end generico. I passaggi sono i seguenti:

1. OpenVINO Model Optimizer converte il modello pre-addestrato in file di rete di rappresentazione intermedia (.xml) e file di pesi e bias (.bin).

2. Il compilatore della FPGA AI Suite è utilizzato per:

- Fornire metriche stimate di area o prestazione per un determinato file di architettura o produrre un file di architettura ottimizzato. (Architettura si riferisce ai parametri dell'IP di inferenza, come dimensione dell'array PE, precisioni, funzioni di attivazione, ampiezze delle interfacce, dimensioni delle finestre, ecc.)

- Compilare i file di rete in un file .bin con le partizioni di rete per FPGA e CPU (o entrambi), insieme a pesi e bias.

3. Il file .bin compilato viene importato dall'applicazione di inferenza dell'utente nella fase di runtime. Le interfacce di programmazione delle applicazioni (API) di runtime includono Inference Engine API (partizione runtime CPU e FPGA, inferenza di pianificazione) e IA FPGA (memoria DDR, blocchi hardware FPGA).

4. Sono disponibili progetti di riferimento per dimostrare le operazioni basiche di importazione del file .bin e di esecuzione dell'inferenza su FPGA con CPU host di supporto (processori x86 e Arm^®) nonché operazioni di inferenza senza host.

5. L'emulazione software dell'IP della FPGA AI Suite è accessibile tramite l'interfaccia del plugin OpenVINO, consentendo una valutazione più rapida dell'accuratezza dell'IP IA FPGA senza accesso all'hardware (disponibile solo per FPGA Agilex™ 5).