什么是NIM服务？这是英伟达在2024年新推出的软件产品，主要助力AI应用开发。Forrester副总裁兼首席分析师戴鲲曾向21世纪经济报道记者表示，NIM是个推理平台，融合了底层的CUDA、对自身和第三方大模型的支持、对主流推理框架和云平台的集成，可以加速生成式人工智能模型推理全过程，是NVIDIA企业级AI平台的最后一块拼图。

这项计划由OpenAI和软银牵头发起，Arm、微软、英伟达、甲骨文都将作为关键技术伙伴参与其中，目标是在未来4年内投资5000亿美元（约合3.64万亿人民币）在美国建立多个AI数据中心。