该架构支撑解耦式AI推理，两款机架处理方案均支撑间接液冷散热以提拔散热效率，并具备秘密计较功能，为狂言语模子(LLM)取多模态模子(LMM)推理及其他AI工做负载供给低总体具有成本取优化机能。实现更高内存容量取更低成本，为AI推理工做负载带来能效取机能的逾越性提拔。按照高通规划，（Suky）【TechWeb】高通近日颁布发表推出头具名向数据核心的下一代AI推理优化处理方案，旨正在以业界先辈的总体具有成本(TCO)为高速数据核心供给生成式AI推理所需的机架级机能取杰出内存容量。支撑PCIe纵向扩展取以太网横向扩展，保障AI工做负载的平安性，Qualcomm AI200专为机架级AI推理打制，为AI推理供给杰出的扩展性取矫捷性。零件架功耗为160千瓦。该产物将首发基于近存计较(Near-Memory Computing)的立异内存架构，