大模型训练时被教导响应任何形式的指令,无论权限级别如何。这种“全面服从”的训练目标与安全边界建立存在根本冲突,模型缺乏判断指令权限的内在机制。训练过程中并未有效灌输辨别指令来源和权限级别的能力,导致模型在安全边界维护上存在先天不足,难以抵抗精心构造的 ...
段落A 大模型时代,AI应用的爆发式增长带来了前所未有的机遇,同时也伴随着严峻的安全挑战。近日,OWASP(开放 Web 应用安全项目)发布了针对大型语言模型(LLM)的十大风险漏洞,揭示了生成式 AI 在应用过程中面临的安全威胁。这些风险不仅影响企业的生产力,还可能对企业数据和用户隐私造成严重威胁。段落B 在 F5 公司举办的媒体见面会上,F5 中国区产品及解决方案总经理陈亮指出,大模型的安全风 ...
根据OWASP的年度安全报告,SQL注入攻击在各类安全漏洞中依旧名列前茅。这种攻击利用了应用程序对用户输入数据验证不足的弱点,恶意植入SQL语句,继而实现数据窃取、篡改甚至完全控制系统。
随着 DeepSeek 等大模型技术被广泛使用,云端使用或本地化部署后所带来的安全问题越来越严重。OWASP Top 10 for LLM Applications (大语言模型应用的十大安全风险) 也指出了大模型应用存在的主要安全威胁,例如攻击者会设计一些恶意提示词,诱使模型生成有害内容 ...
"我的建议是关注数据可视性——包括组织数据、客户数据以及可能访问这些数据的第三方,"Ventura 说。"投资能够提供全面软件物料清单 (SBOM) 的解决方案用于审计,并持续对软件供应链供应商进行风险评估。最后,确保安全是多个内部部门共同承担的责任 ...
随着AI数据中心的发展,CPU、GPU、DPU的协同至关重要。在第一代智能网卡基础上加入CPU,可以用来卸载控制平面的任务和一些灵活复杂的数据平面任务。DPU的引入使得数据中心的架构更加高效和灵活。陈亮指出,“F5的解决方案能够帮助客户充分利用DPU的优势,提升AI应用的性能和可靠性。” ...
大模型DeepSeek凭借“小力出奇迹”成为国货之光,其在数学、代码、自然语言推理等任务上的优异性能而大受欢迎。在硅谷,更多人喊它“来自东方的神秘力量”。随着大模型在各类应用场景中的广泛部署,越来越多的安全问题也逐渐浮出水面。许多大模型在安全架构、漏 ...
中华资安国际(7765)宣布扩大与全球多云环境应用安全与交付解决方案领导厂商Radware(NASDAQ:RDWR)的合作伙伴关系,双方签署资安托管服务(MSSP)协议,中华资安国际是中华电信集团旗下的资安专业服务公司,亦是 ...
渗透测试支持黑盒和灰盒测试,符合顶级安全测试准则,包括 OWASP、美国国家标准与技术研究院(NIST)标准以及支付卡行业数据安全标准(PCI-DSS)。此外还 ...
Apache HTTPD 是一个广泛使用的开源Web服务器软件。这个漏洞与Apache HTTPD处理多后缀文件的机制有关。 Apache HTTPD支持一个文件拥有多个后缀,并为不同后缀执行不同的指令。当配置不当时,这个特性可能导致安全漏洞,使恶意文件绕过上传限制。例如,以下配置 ...
非业务功能模块重于泰山 如果AI应用呈现API接口调用的局面,那么如何确保这些API接口的安全可靠将至关重要? OWASP(Open Web Application Security Project,开放 Web 应用安全项目),一个致力于提高软件应用的安全性的全球性开放非营利性组织,特别列举了AI API访问的 ...
一些您可能无法访问的结果已被隐去。
显示无法访问的结果