博文

目前显示的是标签为“Mini主机”的博文

苏妈掀桌了!AMD小主机本地硬刚英伟达,235B顶级大模型居然能塞进午餐盒?

这一次,苏妈是真的把桌子掀了。就在整个AI硬件圈都以为严谨、庞大的AI大模型必须继续“住在云端”、住在数据中心、住在英伟达高昂的机柜里时,AMD直接端出来了一个午餐盒大小的迷你小主机,彻底打破了这个行业的默认规则。 外网有数码博主对这件事的评价特别狠: AMD用这么一台小盒子,直接打穿了英伟达4000美元级别桌面AI算力的想象空间。 一开始,很多人也以为这只是又一次常规的硬件升级——无非是新APU、新核显跑分、新CPU的老套路。但是,当看到这两个数字组合在一起的时候 racial,所有科技爱好者和开发者恐怕都要愣一下: 128GB统一内存 以及 235B(2350亿参数)级别大模型本地运行 。这两项参数放在一起,才是这件事情真正引爆行业的命门。 过去桌面 AI 的致命痛点:不是算力不够,而是“显存太小” 过去这么多年,桌面端玩AI一直有一条默认的潜规则: 小模型可以在本地电脑玩一玩,但真正的严肃大模型必须上云。 为什么?因为本地电脑有一个巨大的硬件瓶颈叫做“显存”。强如英伟达的顶级消费级显卡,RTX 4090也只有24GB显存,即便是传闻中的RTX 5090也只有32GB显存。听起来这已经很豪华了,但在动辄千亿参数的严肃大模型面前,这点显存就像是你拿着一个普通的饭盒,却想装下一整锅汤——根本装不进去。 一旦模型装不进显存,后面的算力再强、优化软件写得再漂亮,通通都是废话。所以过去普通人或小团队想要用高性能大模型,基本只有一条路可选: 租别人的服务器,用别人的云端算力,按月交昂贵的订阅费,并且还要把自己的核心业务数据发送到别人的机器上。 Ryzen AI Max 的杀手锏:打破“饭碗”的统一内存 而AMD这次最狠的地方,就是在这条坚不可摧的行业规则上,硬生生地撕开了一道巨大的口子。 带来这个改变的芯片叫做 Ryzen AI Max+ 395 。我们不需要去死记这个复杂的型号,只需要记住它最关键的底层大招: CPU和GPU共享同一块巨大的统一内存。 翻译成大白话就是:以前在传统的PC架构里,CPU有CPU的饭碗...