戴尔服务器首发PCIe AIC形态英特尔Gaudi 3 AI加速器

9月19日讯，英特尔在2024年推出了其最新的人工智能加速器产品Gaudi 3，该产品以三种不同的形态呈现：OAM模块（HL-325L）、多OAM卡基板（HLB-325）以及PCIe AIC（HL-338）。然而，尽管性能先进，Gaudi 3在市场上却并未获得广泛认可。目前，仅有IBM宣布将在其云服务中采用这一AI芯片。

值得注意的是，戴尔在9月17日的美国发布会上宣布，PowerEdge XE7740双路至强”Granite Rapids-SP” 4U服务器平台已将HL-338加入其可选配置。这一举动使戴尔成为首家在市场上提供集成Gaudi 3 PCIe AIC的服务器配置的品牌。

相比功耗高达900W的HL-325L，HL-338的TDP降至600W，但其128GB HBM2E内存容量和3.7TB/s内存带宽保持不变。

XE7740服务器支持安装8张双宽的HL-338 AIC，并且可选配2组四路桥接器以形成一对四路扩展单元。搭载了HL-338的XE7740不仅能够提供强大的AI模型微调和推理算力，同时还能在现有风冷基础设施下将单机架整体功耗控制在10kW以内。

总体来看，Gaudi 3凭借其创新设计和高性能，在AI加速领域展现了巨大潜力。尽管市场反响相对平淡，但戴尔的积极布局为这一技术的实际应用铺平了道路，未来值得期待。