RTX 5090用户狂喜!英伟达免费送1.9倍AI性能:本地跑模型再也不用折腾
创始人
2026-09-04 17:02:25

快科技9月4日消息,英伟达在IFA 2026上宣布多项本地AI重大升级。三款主流智能体应用Hermes Agent、OpenClaw和Perplexity Portable Computer将支持Windows一键本地部署。用户无需手动下载模型或调整参数,程序自动检测GPU并完成配置。

在性能提升上,llama.cpp(大语言模型推理框架)最新优化在GeForce RTX 5090上实现最高1.9倍推理吞吐提升。Qwen3.6-27B模型token吞吐量提升50%,Qwen3.6-35B加速达90%。

与此同时,推理框架vLLM在RTX PRO 6000 Blackwell上实现了20%的速度提升,双DGX Spark集群则达到1.4倍提升。

除了让已有模型跑得更快,英伟达还大幅降低了本地AI的部署门槛。Perplexity Portable Computer将于9月登陆Windows和Linux平台,提供一键本地部署功能,不过需要配备24GB及以上显存的英伟达GPU。

完成本地部署后,用户可在本地完整运行工作流,不消耗积分,必要时才将部分任务提交云端,且上传前需获得用户许可。

Perplexity只是本次支持一键部署的三款应用之一。Hermes Agent由Nous Research开发,是通用型智能体。配置完成后可调用工具、跨任务保持上下文、跨会话记忆信息并随时间积累可复用技能。OpenClaw号称GitHub最大AI项目,已获超38万星标。

英伟达同步开放NVIDIA PAIR工具测试版。该工具可自动发现家庭局域网内所有兼容PC,将独立推理请求路由至空闲算力设备,实现多机协同推理。此外,PAIR还兼容Windows、macOS和Linux,支持RTX 20系列及更新GPU。

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

起底“优品订购”APP非法期货...   “优品订购”APP根本不具备任何合法的交易资质。其背后的运营方仅凭随便注册一家公司、开发一款交易...
小投资大回报,投资者损失惨重:...   5元、4元、3元就可投资,月入过万、低投资高收益、在家都能赚钱的贵金属投资宣传,现在已经到处都是...
乐富智享APP虚假宣传与非法期...   乐富智享APP涉嫌违规!警惕非法期货交易陷阱!近期,随着黄金、白银等贵金属行情的持续火热,一股“...
炒贵金属稳赚不赔?揭秘“琼海订...   网上热炒的“琼海订购APP”炒贵金属真能稳赚不赔吗?投资者一旦深陷其中并造成亏损,又该何去何从?...
掌上生财APP非法贵金属交易平...   近期,市面上涌现出大量现货交易软件,尤其是贵金属交易平台,普遍涉嫌非法期货业务。这些软件大多缺乏...
起点订购APP虚假贵金属期货交...   近期,大量投资者反映在“起点订购APP”参与贵金属交易时遭受严重资金损失。该平台以“现货订购”为...
全新易购APP贵金属非法期货局...   “充值送现”、“首单免赔”、“下载就送钱”……当你看到这些标语时,请立刻警惕!这根本不是什么投资...
披着“现货订购”外衣的非法期货...   近年来,随着互联网金融的快速发展,各类投资理财平台层出不穷。然而,在这些看似诱人的高收益承诺背后...
充多少亏多少?"拇指...   “只需几元就能投资贵金属,轻松月入过万?”当你看到这样的广告时,请务必提高警惕。近期,不少投资者...
一通智投APP被指涉嫌非法期货...   贵金属期货交易本应在正规期货公司开户进行,因为正规交易不仅有一定的本金门槛,还需要投资者通过严格...