英特尔打造高效异构AI系统：结合自家Gaudi3与英伟达B200

在2025 OCP全球峰会上，英特尔展示了结合Gaudi3加速器与英伟达B200 GPU的异构AI系统。该系统通过分工处理模型预填充与解码任务，在Llama模型上相较纯B200方案实现最高70%的同TCO性能增益，并采用400GbE NIC、DPU及51.2Tb/s交换芯片，提升了扩展能力。
来源：https://tech.ifeng.com/c/8nbH7DBgFkn