Sistema di inferenza AI MIC-743-AT

Il sistema di inferenza IA MIC-743-AT di Advantech integra NVIDIA^® Jetson T5000™ e offre fino a 2.070 TFLOPS (FP4). Questo sistema è dotato di un'architettura CPU Arm^® Neoverse V3AE a 64 bit SMP e 14 core, 128 GB di memoria LPDDR5X e un SSD da 1 TB preinstallato. Il sistema di inferenza IA MIC-743-AT integra 2.560 core NVIDIA^® CUDA^® e 96 Tensor core di quinta generazione, con frequenza MAXN fino a 1,57 GHz. Questo sistema supporta HDMI, USB 3.2 Gen 2, M.2 key A+E (Wi-Fi^®) e M.2 key B (LTE). Il sistema di inferenza IA MIC-743-AT include NVIDIA Jetpack™ 7.0 preinstallato e supporta molteplici casi d'uso per modelli IA di grandi dimensioni nelle applicazioni di IA generativa. Questo sistema gestisce carichi di lavoro IA complessi, inclusi i modelli linguistici di grandi dimensioni (LLM), modelli visione-linguaggio (VLM) e analisi video all'edge.