40 TOPS M.2 AI算力模块

40 TOPS，支持 LLaMA 2.0 和 YOLOv8
• 4 通道 PCIe Gen4 高速接口
• 支持 AI 框架：TensorFlow、Torchscript、PyTorch&ONNX、Caffe、Mxnet
• 处理器： 恩智浦、英伟达、高通、赛灵思
• 支持新一代人工智能和变压器模型
• 可在边缘设备上实现实时、低延迟和高效人工智能推理
• 为可扩展的人工智能解决方案提供多芯片支持
• 稳定扩散 1.4 ~10s（20 次迭代）
• ResNet50-2ms 延迟