每个用户每秒可处理超过250个token；实现每秒超过30000个token的最大吞吐量。 但这项纪录采用的是B200，英伟达表示随着Blackwell Ultra等新GPU的出现，纪录还将继续被打破。 而老黄在现场体现传统LLM和推理LLM的区别时，也是拿着DeepSeek-R1来举例： 嗯，微妙，着实有点 ...

但这项纪录采用的是B200，英伟达表示随着Blackwell Ultra等新GPU的出现，纪录还将继续被打破。 而老黄在现场体现传统LLM和推理LLM的区别时，也是拿着 ...