奇安信董事长齐向东:多方面入手 确保人工智能安全发展
创始人
2025-02-24 07:40:19

DeepSeek横空出世,彰显了我国在科技创新上的巨大潜力。针对AI和科技创新等话题,证券时报记者日前对话奇安信董事长齐向东。

他认为,在传统产业转型升级的过程中,人工智能发挥着“领头雁”效应;建议继续守护并延续AI创新的“草根化”趋势,保持“自下而上”的创新张力。同时,对于人工智能发展面临的安全问题,他认为要从技术保障、制度保障、成果应用三方面入手,系统提升安全能力,确保人工智能安全发展。

记者:人工智能是新一轮科技革命的核心技术,也是大国博弈的重要阵地。您认为,发展人工智能将对我国在国际竞争中增加哪些优势和话语权?人工智能将为传统产业转型升级带来哪些影响?

齐向东:人工智能是引领未来发展的颠覆性技术和前沿技术,也是注定要走进千家万户的关键共性技术。大力发展人工智能,能切实增强我国在数字经济、高水平人才引育和产业链供应链完整性等方面的优势,提升我国在国际技术标准与安全治理等领域的话语权。

在传统产业转型升级的过程中,人工智能发挥着“领头雁”效应。作为传统产业数字化转型中最重要的变革驱动力量,人工智能已在研发、生产、管理全环节广泛应用,涌现出上百种场景和模式。但是,人工智能也大幅提升了网络攻击的烈度和广度,网络攻击窗口不断扩大、网络攻击手段不断革新、网络犯罪门槛持续降低,给传统产业发展带来了新风险、新挑战,引发了社会高度关注。

记者:DeepSeek的开源策略打破“巨头垄断”模式,同时,包括DeepSeek在内的“杭州六小龙”也都是“野生”的民营企业。在您看来,中国AI创新是否有“草根化”的趋势?

齐向东:我国AI创新的“草根化”趋势确实很明显,这跟国家的前瞻性布局、政策扶持以及全方位的资源投入密不可分。AI属于通用型创新,它的独特之处在于并非由权威主导,而是由广大创业者主导的。这次DeepSeek的爆火,以及”杭州六小龙”等科创企业的成功,都很好地印证了这一点。但我们也必须清楚,没有国家作为坚实后盾,这些“草根”力量也是难以茁壮成长的。今年年初,国家AI产业投资基金成立,为技术创新和应用拓展释放了更多增长空间。

继续守护并延续AI创新的“草根化”趋势,保持“自下而上”的创新张力,对我国AI产业发展乃至整个科技创新生态意义重大。建议国家从政策引导、优化营商环境、生态协同等维度入手,进一步激发民间创新创业热情。比如,出台专门针对科创民营企业的创新政策,酌情给予创新保护期、税收减免、财政补贴等;用好金融工具,设立专项风险补偿基金,以资金支持激发创新活力;同时优化算力调度、牵头建设公共技术服务平台等等。

记者:不久前DeepSeek线上服务受到大规模恶意攻击,这也让大模型的安全问题受到关注。据奇安信XLab实验室监测到的最新情况,近期对DeepSeek的网络攻击是否仍在继续?

齐向东:近期针对DeepSeek的网络攻击行为仍未完全停止。2月10日,我们检测到一个新的僵尸网络moobot曾短暂参与过攻击,但并未造成实质影响。2月初,我们通过持续跟踪监测发现,针对DeepSeek的仿冒网站、钓鱼网站数量已经超过2千个,并且在快速增加,于是再次发布预警,提醒用户保持警惕,DeepSeek官方也对此事作出回应。

日前,我们发现目前活跃地运行DeepSeek等大模型的服务器有九成没有采取安全措施。这种“裸奔”状态会导致任何人不需要任何认证即可随意调用、在未经授权的情况下访问这些服务,极有可能造成数据泄露和服务中断,甚至可以发送指令删除所部署的DeepSeek、Qwen等大模型文件,存在严重的安全隐患。

记者:积极构建高可靠人工智能安全体系,着力为用户提供有效的安全防护,既要用人工智能去驱动安全,又要做好人工智能自身安全。您认为,目前人工智能的发展面临哪些安全问题?

齐向东:人工智能发展面临的安全问题大致可以分为三类。第一类是人工智能大模型自身的安全问题。开发风险、数据风险、应用风险和基础环境风险这四大安全风险比较突出。

第二类是利用人工智能开展网络攻击的问题。人工智能促进了网络攻击手段的更新迭代,“饱和式”攻击成为可能,攻击者可以瞬时发动海量攻击打垮已有的网络安全体系。人工智能还提升了“以假乱真”的能力,深度伪造、认知战、钓鱼等威胁加剧。攻击者可利用人工智能“换脸变声”输出虚假信息,开展网络诈骗,或输出背离主流价值观的内容危害认知安全。

第三类是通过攻击人工智能引发的“网络攻击大爆炸”。未来人工智能会成为社会的基础设施,当大模型嵌入智慧城市、工控系统、智慧政务等关键领域时,会放大漏洞等传统安全威胁,一旦人工智能大模型遭到攻击可能会牵一发而动全身,引发社会服务中断、生产停滞、隐私数据泄露等安全事件。

针对这些安全问题,要从技术保障、制度保障、成果应用三方面入手,系统提升安全能力,确保人工智能安全发展。第一,建立适配大模型的纵深防御体系,筑牢人工智能的安全根基。第二,制定大模型安全强制合规要求,夯实人工智能安全发展的制度保障。第三,推广“AI+安全”创新成果落地,走好提升安全能力的必经之路。

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

四川大 决 策是不是? 夸大收... 四川大 决 策是不是? 夸大收益坑股民交费,维权可追回!  投资有风险,投资需谨慎!针对网上素未谋面...
2026云手机选购指南:五大品... 在2026年的科技浪潮中,云手机凭借其无需本地高端硬件、可随时随地访问的独特优势,成为众多用户的得力...
四川大 决 策短线擒牛靠谱吗?... 四川大 决 策短线擒牛靠谱吗? 误导性宣传欺骗股民服务费!教你一招退款!  投资有风险,投资需谨慎!...
见证历史!重磅榜单,刚刚发布 【导读】2025年权益基金净值增长28.73%,最牛业绩刷新历史纪录 中国基金报记者方丽曹雯璟 20...
国 诚投资实战班能赚钱吗? 宣... 国 诚投资实战班能赚钱吗? 宣传与实际严重不符,误导欺诈投资者!  投资有风险,投资需谨慎!针对网上...
2026年实现健康转变的三大关... 每年的一月,很多人都在为自己的新年决心而努力,然而,超过一半的决心者在几个月后就会回到旧的生活方式。...
中国证监会修订发布《公开募集证... 为落实《推动公募基金高质量发展行动方案》,进一步降低基金投资者投资成本,规范公募基金销售市场秩序,保...
“股神”巴菲特,正式退休! 现年 95 岁的传奇投资人沃伦・巴菲特(Warren Buffett)今天(2026 年 1 月 1...
万 隆服务费可以要回吗? 承诺... 万 隆服务费可以要回吗? 承诺收益是!可成功追回损失!  投资有风险,投资需谨慎!针对网上素未谋面的...
不抽烟不喝酒也得癌? “医生,我一辈子不抽烟不喝酒,怎么会得这么重的癌?”门诊里,62岁的老张攥着确诊报告,声音都在发颤。...