V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
windyboy
V2EX  ›  NVIDIA

英伟达发布 DGX Spark 和 DGX Station 两款个人 AI 计算机

  •  
  •   windyboy · 1 天前 · 789 次点击

    http://www.itbear.com.cn/html/2025-03/755774.html

    DGX Spark ,这款被英伟达冠以“全球最小 AI 超级计算机”称号的设备,早在今年 1 月的 CES 2025 上就已初露锋芒。其紧凑的设计,尺寸为 150×150×50.5mm ,却蕴藏着强大的计算能力。从今日开始,DGX Spark 正式开放预订,售价为 3000 美元(约合人民币 21691 元)。

    DGX Spark 搭载了 GB10 Grace Blackwell 超级芯片,以及由 10 个 Cortex-X925 和 10 个 Cortex-A725 组成的 20 核 ARM 处理器,提供了每秒 1000 万亿次运算( TOPS )的 AI 性能。内存方面,它配备了 128GB LPDDR5x 统一内存,带宽高达 273Gb/s 。DGX Spark 还支持 M.2 PCIe NVMe 存储、WiFi 7 、蓝牙 5.3 以及 10GbE ConnectX-7 智能 NIC 网卡,接口包括 4 个 40Gbps 的 USB4 接口和一个 HDMI 2.1 接口。其功耗为 170 瓦,运行定制的 DGX OS 系统。


    这玩意还可以多个计算设备高速链接,个人 AI 数据中心的时代要来了吗?

    4 条回复    2025-03-20 15:27:15 +08:00
    niubilewodev
        1
    niubilewodev  
       1 天前
    LPDDR5x 带宽太低了。这么大内存也没啥意义。
    qqjt
        2
    qqjt  
       5 小时 38 分钟前
    定制芯片,定制系统,价格死贵,这是给个人用户的吗我说白了
    402124773
        3
    402124773  
       4 小时 5 分钟前
    我估计这玩意不会在国内上市。
    WuSiYu
        4
    WuSiYu  
       8 分钟前
    1L 说的很对,LPDDR5x 带宽不行,跑推理的话要想速度过得去只有大 MoE 模型(比如 Deepseek R1 671B 完整版)能利用上这么大内存。但其实个人跑个 qwq-32b 之类的也挺好了,大 MoE 完全是为了云端大规模设计的,个人跑成本反而远远更高
    微调场景的话 fp4 稀疏的 1000TFLOP/s ,换算到实用的 fp16 稠密也就 128TFLOP/s ,算力不如半张 4090 ,也并不堪用
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4966 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 20ms · UTC 07:35 · PVG 15:35 · LAX 00:35 · JFK 03:35
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.