RTX 5090用户狂喜!英伟达免费送1.9倍AI性能:本地跑模型再也不用折腾
创始人
2026-09-04 17:02:25

快科技9月4日消息,英伟达在IFA 2026上宣布多项本地AI重大升级。三款主流智能体应用Hermes Agent、OpenClaw和Perplexity Portable Computer将支持Windows一键本地部署。用户无需手动下载模型或调整参数,程序自动检测GPU并完成配置。

在性能提升上,llama.cpp(大语言模型推理框架)最新优化在GeForce RTX 5090上实现最高1.9倍推理吞吐提升。Qwen3.6-27B模型token吞吐量提升50%,Qwen3.6-35B加速达90%。

与此同时,推理框架vLLM在RTX PRO 6000 Blackwell上实现了20%的速度提升,双DGX Spark集群则达到1.4倍提升。

除了让已有模型跑得更快,英伟达还大幅降低了本地AI的部署门槛。Perplexity Portable Computer将于9月登陆Windows和Linux平台,提供一键本地部署功能,不过需要配备24GB及以上显存的英伟达GPU。

完成本地部署后,用户可在本地完整运行工作流,不消耗积分,必要时才将部分任务提交云端,且上传前需获得用户许可。

Perplexity只是本次支持一键部署的三款应用之一。Hermes Agent由Nous Research开发,是通用型智能体。配置完成后可调用工具、跨任务保持上下文、跨会话记忆信息并随时间积累可复用技能。OpenClaw号称GitHub最大AI项目,已获超38万星标。

英伟达同步开放NVIDIA PAIR工具测试版。该工具可自动发现家庭局域网内所有兼容PC,将独立推理请求路由至空闲算力设备,实现多机协同推理。此外,PAIR还兼容Windows、macOS和Linux,支持RTX 20系列及更新GPU。

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

喜玛银庄APP商品订购投资骗局...   喜玛银庄APP白银、铂金“现货订购”骗局警示:无资质平台涉嫌非法期货交易,投资者爆仓后如何维权?...
吉鑫乐享APP炒贵金属订购交易...   近期,多名投资者反映在“吉鑫乐享APP”进行贵金属投资时遭遇严重亏损,甚至血本无归。看似正规的“...
易掘金APP虚假期货投资骗局,...   “易掘金”的APP它打着“高收益、灵活投资”的旗号,宣称通过“商品订购”就能轻松赚钱,吸引了不少...
在大吉订购APP订购交易亏损被...   近期,不少投资者反映在“大吉订购App”上投资白银、铂金等商品遭遇严重亏损。该平台宣称提供现货订...
铂银壹号APP商品订购交易亏损...   许多中小投资者误以为网上的“商品现货订购”是合规合法的理财渠道,殊不知这背后隐藏着巨大的合规风险...
兴鑫淘金APP贵金属订购交易亏...   白银、贵金属或其他商品类投资,除国家批准的正规期货交易场所及持牌期货公司外,市面上大量第三方交易...
铂银掘金APP无资质的违规平台...   铂银掘金等平台的投资者,往往是被“注册送现金”“充值返现券”“首单免亏”等广告话术吸引,进而下载...
八方淘金APP订购交易不合规,...   “八方淘金APP”“铂银掘金APP”“铂银壹号APP”等软件被指以“现货订购”为名,实际采用高杠...
在指尖订购APP订购商品亏损被...   指尖订购APP这类平台,表面是“订购交易”,实则是披着电商外衣的非法期货陷阱。绝大多数投资者被蒙...
在犀贝易购APP做商品订购交易...   市面上打着“现货投资”“贵金属交易”旗号的APP并不少,但真正合规、受监管的平台并不多。犀贝易购...