AI技术浪潮下的安全挑战,高效与安全如何同存?
一夜爆红、遥遥领先、深度思考、MOSS在世!这些词汇都不足以形容DeepSeek的热度。2025年1月以来,国产人工智能大模型DeepSeek凭借其开源特性和深度思考服务,迅速占领市场,用户量激增,导致DeepSeek服务器时长宕机,相信大家都见到过“服务器繁忙,请稍后再试”这一熟悉的场景。
然而,其爆火背后却成为网络犯罪分子的新目标。近日国家计算机病毒应急处理中心近期捕获的仿冒DeepSeek安卓客户端木马病毒,通过诱导用户安装“更新包”窃取银行信息、拦截短信,甚至阻止卸载,直接威胁用户财产与隐私。
▲诱导用户权限的假冒”DeepSeek“(图片源自网络)
类似案例并非孤例:AI生成的虚假视频被用于诈骗、伪造新闻扰乱社会秩序等事件频发,例如四川网警查处的10起AI编造谣言案件中,不法分子利用“AI千文”“翠绿笔墨”等工具批量生成虚假信息,造成恶劣社会影响。
这些事件揭示了一个核心矛盾:AI技术提升效率的同时,其滥用风险正以前所未有的速度侵蚀数字信任。
-01- 效率与安全的天平:AI时代的双重需求
效率驱动的AI应用场景
▲图片源自网络
然而,这种效率导向的扩张往往伴随安全投入的滞后。例如,Wiz安全团队发现DeepSeek的数据库曾因配置错误暴露用户聊天记录与密钥,一个属于DeepSeek的可公开访问的ClickHouse数据库,它暴露了高度敏感的信息,包括用户的聊天记录、密钥和敏感的内部信息,以及超过一百万行的日志流,并允许完全控制数据库操作。此案例凸显了技术迭代中安全管理的重要性。
安全漏洞的巨大代价
据报道,仿冒DeepSeek的木马程序通过伪装官方图标、混入搜索引擎推荐页等方式传播,普通用户难以辨别。网络安全专家指出,此类病毒一旦安装,可在后台快速窃取银行账户信息,且无法卸载,用户只能通过重置设备或专业修复解决。更严峻的是,攻击者可能将恶意代码与真实功能捆绑,使仿冒程序更具迷惑性。
专家表示,攻击者利用技术以极低的成本让仿冒DeepSeek程序出现在搜索引擎推荐页中,每天都能监测到大量带有DeepSeek字样的仿冒网址,极具迷惑性,普通用户稍不注意很容易中招。此外,仿冒病毒也会混入一些小众应用市场。
-02- 新的发展前景与挑战
作为数字经济的重要组成部分,AI技术的发展前景毋庸置疑,但多年来,AI也一直被视为一把“双刃剑”。如对于大数据与算力的强依赖将限制其快速发展,超预期的新应用新模式正引发市场担忧,以及可能带来的网络安全、合规、知识产权等风险也将给数字治理带来新的挑战。
网络攻击
人工智能可用来自动锁定目标,也可自动识别图像验证码进而通过系统的审核认证,而一旦AI智能让验证防护的手段失效,则可能导致系统数据泄露和遭受网络攻击。
网络钓鱼
利用ChatGPT等AI技术生成的钓鱼邮件不会有任何拼写错误或奇怪的格式,而这些通常是区分钓鱼与合法邮件的关键。攻击者可以借助AI创造多种钓鱼邮件,使其可能成为强大的网络钓鱼工具,尤其对英语不流利的攻击者特别有用。
数据投毒
“投毒”是指在人工AI智能训练数据中加入伪装数据、恶意样本等,可导致训练的算法模型决策出现偏差。主要有两种攻击方式:一种是采用模型偏斜方式,攻击训练数据样本。另一种则采用反馈误导方式,攻击人工智能的学习模型本身。隐私泄露
相对于互联网对上网习惯、消费记录等信息的采集,人工智能应用采集的信息包括了人脸、指纹、声纹、虹膜、心跳、基因等,具有很强的个人属性,一旦泄露或者滥用将产生严重后果。
网络安全是当今全球企业面临的战略挑战,在AI快速发展和全行业数字化的当下,网络攻击面也在不断扩大。在人工智能技术应用层面,企业需要考虑的主要风险包括隐私、对抗性网络安全和第三方风险。
-03- SSL证书,构建可信数字身份基石
作为依法设立的电子认证服务机构与数字信任云服务商,天威诚信长期为企业提供全球可信的全类型SSL证书。以DeepSeek仿冒事件为例,SSL证书可从以下层面提供防护:
验证官方身份,阻断仿冒入口
仿冒程序常通过虚假网站或非官方链接传播。SSL证书通过HTTPS协议与绿色锁标识,确保用户访问的是经CA机构严格验证的DeepSeek官方网站而非钓鱼页面(www.deepseek.com)。例如,DeepSeek官方多次声明仅通过官网与应用商店分发正版程序,SSL证书正是这一声明的技术背书 。
加密数据传输,防止中间人攻击
木马病毒常通过劫持通信窃取敏感信息。SSL证书采用TLS加密协议,确保用户与服务器间的数据传输(如账号密码、验证码)全程加密,即使被截获也无法解密。例如,仿冒DeepSeek病毒依赖获取短信验证码实施诈骗,而SSL加密可有效阻断此类攻击链。
提升企业安全治理能力
针对自托管AI模型的数据泄露风险(如Wiz报告中提到的DeepLeak数据库暴露),企业可通过部署SSL证书保护API接口与内部通信,防止敏感数据在传输过程中被窃取。同时,扩展验证型证书(EV SSL)可展示企业实名信息,增强用户对AI服务提供方的信任。
网络安全是当今全球企业面临的战略挑战,在AI快速发展和全行业数字化的当下,网络攻击面也在不断扩大。在人工智能技术应用层面,企业需要考虑的主要风险包括隐私、对抗性网络安全和第三方风险。
▼
*本文中部分图片均来源于网络,如涉及版权问题可联系删除。
最新发布
- 以密筑基 司掌未来 | 天威诚信亮相2025浪潮数字企业创新大会,展现密码合规新力量
- 关税风暴下,企业如何用密码打赢这场“安全战”?
- 天威诚信出席九恒星2025年度AI赋能资金管理新动能培训会,为企业管理注入可信基因
- 天威诚信出席中国信通院2025铸基计划年度会议,以密码基座护航新质生产力
- 工业互联网 | 面向商用密码的安全策略与合规路径
- 央视315数据黑产曝光:技术滥用下的隐私危机与数字信任重构
- 筑牢数据安全防线,激活数据要素价值——天威诚信护航数据全生命周期安全
- 以密铸基 | 天威诚信亮相2025金蝶集团全球生态合作伙伴大会,共绘数字化安全新蓝图
- 开年迎鸿运,利是传大吉!SSL证书开年钜惠活动重磅上线
- AI技术浪潮下的安全挑战,高效与安全如何同存?
相关推荐
- 以密筑基 司掌未来 | 天威诚信亮相2025浪潮数字企业创新大会,展现密码合规新力量
- 关税风暴下,企业如何用密码打赢这场“安全战”?
- 天威诚信出席九恒星2025年度AI赋能资金管理新动能培训会,为企业管理注入可信基因
- 天威诚信出席中国信通院2025铸基计划年度会议,以密码基座护航新质生产力
- 工业互联网 | 面向商用密码的安全策略与合规路径
- 央视315数据黑产曝光:技术滥用下的隐私危机与数字信任重构
- 筑牢数据安全防线,激活数据要素价值——天威诚信护航数据全生命周期安全
- 以密铸基 | 天威诚信亮相2025金蝶集团全球生态合作伙伴大会,共绘数字化安全新蓝图
- 开年迎鸿运,利是传大吉!SSL证书开年钜惠活动重磅上线
- AI技术浪潮下的安全挑战,高效与安全如何同存?