探索新路径 筑牢AI产业安全根基
时间:2025-03-03 12:51:16来源:经济参考报
 近来,DeepSeek遭到黑客持续攻击,侧面反映出国产大模型面临的安全困境。

  不可否认,以DeepSeek为代表的中国开源大模型的崛起,不仅降低了大模型训练和部署的成本,加速了人工智能技术的普及,也打破了技术封锁与商业壁垒的双重禁锢,推动人工智能行业走向更加开放的新时代。但是,如同一把双刃剑,作为开源大模型,DeepSeek同样需要面对所有开源软件共同的安全挑战:由于源代码开放,开源软件的安全问题比闭源软件更加复杂,攻击者可以自由查看、修改源代码,进而引发潜在的安全漏洞。

  这并非杞人忧天,DeepSeek的遭遇就证实了这个规律:一方面,来自外部的网络攻击持续时间长、破坏力大、手段多、变化快;另一方面,在部署和应用中发现的漏洞,暴露出多种安全风险。

  有鉴于此,2025开年以来,各家安全公司严阵以待,纷纷探索新路径、新范式,以筑牢网络安全防线,为国产大模型保驾护航。

  比如,亚信安全与亚信科技近日联合发布的大模型安全解决方案,其思路可以归纳为“以人工智能护航人工智能”,不仅融合了亚信科技大模型产品在重点行业领域的丰富实践经验,而且依托亚信安全在大模型安全领域的研究成果和技术实力,打造了兼具实战需求和大模型发展要求的安全解决方案,由云安全防护系统、大模型安全网关、终端数据防护系统、AI应用风险防护系统四大系统提供防护,为大模型建立起覆盖基础层、模型层、工具层和AI应用层的四层纵深防护。与此同时,该方案还提供两项专业服务,即人工智能风险评测和人工智能安全服务,定期进行风险评测评估,护航大模型及应用安全。

  今后,随着越来越多应用场景的落地,国产大模型仍将面临层出不穷的新风险。大模型安全不应该只是“亡羊补牢”,更应该未雨绸缪,重构安全体系。

  对此,多位受访专家表示,应重视大模型在安全架构、漏洞响应、数据合规等方面的“系统性短板”,从多个层面入手,综合运用多种手段,打造全方位、多层次的安全防护网络,尤其是要建设大模型的“原生安全”能力。

  更为重要的是,大模型在安全领域的应用潜力巨大,凭借其卓越的推理能力、定制化的训练方式和开源特性,能够有效提升各种安全任务的执行效率和准确性。因此,探索大模型在安全领域的创新应用、以大模型治理大模型安全问题成为重要方向。

  业界已经形成共识,大模型是一个覆盖多行业的交叉生态系统,大模型安全风险的综合治理不仅仅只是技术问题,需要政府、企业、科研机构等多方力量参与其中,群策群力,夯实国产大模型发展的基础,打开思路为人工智能产业保驾护航。

标签:

  • 上一篇文章: “潮玩之都”抢抓市场机遇
  • 下一篇文章: 最后一页
  • 生活指南
  • 长三角地区元宵节后首趟务工团体包车从阜阳启程

    阜阳北站下辖的阜阳西站负责集中务工团体票办理业务。返岗务工人员

  • 王健林,再卖万达广场

    中新网北京2月11日电(记者 左宇坤)王健林的资产出售计划还在继续。

  • (新春见闻)九寨沟新春入境游走热

    中新社成都2月2日电 题:九寨沟新春入境游走热作者 单鹏 安源九

  • 中国考古博物馆推出云展览 八千年龙文化精品文物永久展示

    中新网北京1月24日电 (记者 孙自法)在中华民族传统甲辰龙年岁尾、

  • 铁路12306已累计发售春运期间车票3.11亿张

    记者从中国国家铁路集团有限公司获悉,1月25日,铁路春运迎来节前客

  • 春节进入倒计时!多部门联合发布2025春节假期安全提示

    中新网1月24日电 据应急管理部网站消息,24日,应急管理部、国家防

  • 文旅新探|千米长宴年味浓

     近日,记者亲身体验了重庆江津中山镇千米长宴,撞上了一场热

  • 桃江县:水库除险加固,确保农田用水无忧

    连日来,湖南益阳市桃江县各除险加固水库项目施工方正在抢抓工期,

  • 开源鸿蒙5.0正式发布 底座及配套能力快速稳定成熟

    中新网北京12月20日电 (记者 刘育英)记者20日从开放原子开源基金

  • 2025年上半年山西高等教育自考实践性环节12月1日起报名

    11月30日省招考中心发布消息,2025年上半年我省高等教育自学考试部

  • 黑龙江发布冰雪旅游行业经营者反垄断合规提示

    为维护冬季冰雪旅游和亚冬会期间旅游市场公平竞争市场环境、提升冬

  • 增量政策提振楼市 “刚需族”受多重利好呵护

    -金融稳增长一线观察增量政策提振楼市 刚需族受多重利好呵护今年以

  • 意甲综合:国米完胜恩波利 尤文平帕尔马

     新华社罗马10月30日电(黎梦青)意大利足球甲级联赛第10轮30

  • 前三季度北京经济增长稳、韧性强 提质向新显活力

    前三季度,北京信息、金融、工业增加值合计占北京市地区生产总值超

  • 青云上府人头攒动,国庆楼市持续升温 每日讯息

    国庆黄金周不打烊、不放假,加班加点促销售,正在成为这个假期多地

  • 实时焦点:浙江文化观察:如何打造大运河“超级IP”?

    中新网杭州9月20日电(林波)在位于浙江绍兴的浙东运河博物馆内,文物

  • 民生
    • 天津大学“低空智能感知关键技术与应用”摘吴文俊人工智能科技进步一等奖

    • 海南飞行汽车应用示范岛项目启动

    • 福州网红打卡点——烟台山历史风貌区引游人

    • 福建寿宁:党建引领猕猴桃产业 协同发展助力乡村振兴