英特尔开源 NPU 加速库，方便使开发人员优化其 AI 应用_资讯

IT之家

2024-03-03 09:06:55

IT之家 3 月 3 日消息，@Tony Mongkolsmai 发现，英特尔已经在 GitHub 上开源了其 NPU 加速库，支持 Windows 和 Linux。

开发人员可以按照相应文档对其软件进行优化，从而适配新一代 AI 模型，包括 TinyLlama 和 Gemma-2b-it。

根据官方描述：英特尔 NPU 加速库是一个 Python 库，旨在利用英特尔神经处理单元 (NPU) 的强大性能在兼容硬件上执行高速计算，从而提高应用的效率。

英特尔还表示其 NPU 加速库目前不断开发中，后续将推出各种能显著提高性能的功能，截至IT之家发稿已经实现了 8bit 量化、Float16 支持、torch.compile支持等，后续还将支持 NPU / GPU 异构计算等功能。

进行功能后续软件模型性能 b-it 开发人员包括支持

⚠️

本网站信息内容及素材来源于网络采集或用户发布，如涉及侵权，请及时联系我们，发送链接至2697952338@QQ.COM，我们将第一时间进行核实与删除处理。

四川大.决策投顾坑骗股民没有任... 四川大.决策投顾坑骗股民没有任何实力，诱导交服务费，喊单布局承诺短时间内高收益。证券投资咨询行业的本...

钱坤云老师1980元课程是否可... 钱坤证券确实是一家正规的投顾公司。但这并不能说明他们公司的宣传就符合实际，从案例中不难看出，业务员完...

金证投顾29800元实战班是真... 金证投顾29800元实战班是真的吗?股民分享真实退费经历!金证投顾服务费是可以退的。如果认为金证投顾...

汇阳投顾是正规公司吗服务费能退... 在监管的灰色边缘，众多投资顾问依然疯狂揽客；在高利益诱惑下，投资者血本无归的悲剧一次又一次上演。如果...

上海海能投顾交了服务费被骗成功... 上海海能投顾交了服务费被骗成功退款，承诺收益怂恿交费不可靠，屡屡亏损真相揭晓,一步教你轻松退款!在跟...

四川大.决策投顾付费荐股不可靠... 四川大.决策投顾付费荐股不可靠，明确答复:可退款!流程公开，有法可依!四川大.决策投顾正规吗？四川大...

天相智投可靠吗误导性宣传把股友... 北京天相财富收取股民服务费没效果会员费能退回来？北京天相财富并不靠谱，在北京天相财富业务员的诱导下购...

原创海... 12月23日，以“智绘零碳未来共赴绿色新程”为主题的海尔智家碳中和战略发布会在青岛盛大举行。发布会...

四川大.决策投顾付费荐股不可靠... 四川大.决策投顾付费荐股不可靠，层层升级只为收取服务费，已维权退费!四川大.决策投顾服务费是可以退的...

爱赢开福投顾怎么样可靠吗误导性... 爱赢投顾正规吗？爱赢投顾靠谱吗？爱赢投顾荐股频频亏损是被骗了吗？交了服务费能退吗？爱赢投顾揭开！爱赢...