长勺智库长勺智库
话题文章任务
登录
NNVIDIA GenerativNVIDIA Generativ发布于 1 小时前
NVIDIA Megatron Core 支持大规模预训练的逐位确定性

逐位确定性可提升大规模预训练中的调试、验证与可复现恢复能力,尤其适用于跨数千 GPU 训练万亿参数模型的复杂场景。

20
AI生成式AI推理算力
20
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 1 天前
KDD Cup 数据分析智能体的可靠性经验

NVIDIA KGMON 团队在 KDD Cup 2026 Data Agents 竞赛中获得第二名,其核心思路是让智能体框架更小、更清晰、更易验证。

100
AI生成式AI推理算力
100
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 3 天前
AICR v1.0:面向 GPU 集群的开放、稳定、可验证配置

AICR v1.0 旨在解决 GPU 加速 Kubernetes 集群中组件版本兼容复杂、部署后排障困难的问题,提供更稳定、可验证的集群配置方式。

150
AI生成式AI推理算力
150
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 16 天前
SWE-Serve:暴露本地测试与真实推理服务之间的差距

SWE-Serve 用 53 个任务评估 AI 编码补丁在真实推理服务路径中的表现,关注补丁通过本地测试却在上线服务中失败的问题。

580
AI生成式AI推理算力
580
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 16 天前
AI 负载上线前,先验证 GPU 集群是否真正就绪

GPU 集群通过健康检查并不等于能稳定运行大规模 AI 训练。慢 GPU、链路负载退化或路由配置问题,都可能在任务运行数小时后才暴露。

590
AI生成式AI推理算力
590
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 17 天前
TensorRT 多 GPU 推理能力已在 Dynamo-Triton 中集成

生成式 AI 的算力与显存需求正超出单 GPU 能力。TensorRT 11.0 起支持多设备推理,可让单个网络跨多块 GPU 执行。

340
AI生成式AI推理算力
340
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 17 天前
NVIDIA 机密计算用于私密高性能 AI 推理

随着大模型推理处理更多敏感信息,NVIDIA 提出通过机密虚拟机与机密 GPU,在可信环境中运行生产级 AI 推理工作负载。

360
AI生成式AI推理算力
360
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 23 天前
TensorRT Edge-LLM 在 Jetson AGX Thor 上加速边缘智能体推理

NVIDIA 称 TensorRT Edge-LLM 在 Jetson AGX Thor 上完成 MLPerf Edge Agentic Benchmark,速度提升至 6.4 倍。

830
AI生成式AI推理算力
830
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 24 天前
Dense 与 MoE 模型:活跃参数、吞吐量与选择场景

MoE 模型可在每个 token 上只激活部分参数,例如 30B 模型每次仅用约 3B 参数,从而在容量与计算成本之间取得不同权衡。

830
AI生成式AI推理算力
830
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-09-01 05:01
NVIDIA将蛋白质结构预测能力引入AI科研助手

智能体AI正在改变科研流程。通过集成NVIDIA BioNeMo NIM微服务,AI科研助手可以调用蛋白质结构预测模型,辅助研究人员分析数据、提出假设并优化实验方向。

980
AI生成式AI推理算力
980
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-28 05:01
Qwen3.8-Flash-Next 在 NVIDIA GB300 NVL72 上探索智能体编程

阿里巴巴开放 Qwen3.8-Flash-Next 模型权重,作为下一代 Qwen4 架构的预览。该模型采用多模态 MoE 架构,原生支持 262,144 Token 上下文,并被用于探索智能体编程场景。

1290
AI生成式AI推理算力
1290
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-25 05:02
Groq 3 LPX 加入 Vera Rubin,瞄准长上下文超低延迟推理

NVIDIA Groq 3 LPX 是面向 Vera Rubin 平台的交互式 AI 推理加速器。它可与 Vera Rubin NVL72 配合,进一步强化平台在长上下文场景中的高速交互能力,并覆盖从小型到大型、开放与闭源模型等多类 AI 工作负载。

1380
AI生成式AI推理算力
1380
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-25 05:01
NVIDIA Vera CPU 如何应对智能体 AI 集群挑战

智能体 AI 工作负载具有高度波动和不可预测性。NVIDIA 认为,除了负责模型计算的 GPU,CPU 在任务编排、工具执行和沙箱计算中同样关键,并以 Vera CPU 面向这类 AI 基础设施需求。

1240
AI生成式AI推理算力
1240
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-25 05:01
智能体 AI 推高推理负载,英伟达强调 Vera Rubin 与 Blackwell 能效

随着 AI 智能体从单轮问答转向推理、工具调用、多智能体协作等多步工作流,推理计算需求持续增长。英伟达称,Vera Rubin 与 Blackwell 平台正面向这一趋势提升单位功耗下的智能体 AI 性能。

1290
AI生成式AI推理算力
1290
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-21 05:02
用 CLI、Skills 与 AI 编程智能体开发 NVIDIA Holoscan 应用

NVIDIA 探索如何让通用 AI 编程智能体利用 Holoscan 的示例、文档和开发工具进行应用开发,并结合 HoloHub 参考应用与组件,验证智能体辅助边缘实时 AI 开发的可行性。

1270
AI生成式AI推理算力
1270
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-21 05:01
生成式推荐正在重塑大规模推荐系统

大语言模型推动推荐系统从传统的嵌入相似度范式转向生成式建模:根据用户历史行为序列,直接预测下一步动作或目录中的下一个物品,为大规模推荐系统提供新的建模思路。

1270
AI生成式AI推理算力
1270
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-20 05:02
NVIDIA SkillEvaluator:如何评估 AI Agent 的技能效果

NVIDIA 介绍 SkillEvaluator,用于衡量技能包能否真正提升 AI Agent 的任务表现。技能通过封装指令、示例和工具使用指南,帮助 Agent 减少无效探索与 Token 消耗,更快完成专业任务。

1230
AI生成式AI推理算力
1230
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-20 05:02
NVIDIA 推出 Cosmos 3 Edge,面向机器人端侧控制

NVIDIA 推出 Cosmos 3 Edge,一款面向机器人端侧运行的 4B 全模态模型,其中包含基于 Nemotron 的 2B 推理模块,旨在降低世界模型部署到机器人板载计算硬件的难度。

1240
AI生成式AI推理算力
1240
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-20 05:02
用 NVIDIA FLARE 构建联邦多模态 AI 工作流

视觉语言模型需要跨机构数据进行适配,但原始数据往往无法集中。联邦学习可让数据保留在本地,同时协调多方训练,为多模态 AI 提供一种兼顾协作与数据本地化的方案。

1270
AI生成式AI推理算力
1270
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-19 05:02
AI 编程智能体如何降低材料原子模拟门槛

原子级材料模拟不仅需要科学知识,还依赖高效计算实现和易用的软件接口。NVIDIA ALCHEMI Toolkit 试图降低后两方面的门槛,并探索让 AI 编程智能体参与材料模拟工作流。

1150
AI生成式AI推理算力
1150
AI生成式AI推理算力
每日签到未签到

每天签到一次,持续获得积分。

@2024-2027长勺智库浙ICP备2024134526号浙公网安备33011002017958
?
未登录用户

登录后查看个人信息与任务进度。

去登录