40 TOPS AI 加速器

40 TOPS，支持 LLaMA 2.0 和 YOLOv8
• 板对板连接器 (B2B)，4 通道 PCIe Gen4 高速接口
• 支持 AI 框架：TensorFlow、Torchscript、PyTorch&ONNX、Caffe、Mxnet
• 处理器（已测试）： 恩智浦、英伟达、高通、赛灵思
• 支持新一代人工智能和变压器模型
• 可在边缘设备上实现实时、低延迟和高效人工智能推理
• 为可扩展的人工智能解决方案提供多芯片支持
• 稳定扩散 1.4 ~10s（20 次迭代）
• ResNet50-2ms 延迟