LLM 时代下的 SAST ：Corgea 方案解读
本文解读了国外公司Corgea提出的结合LLM（大型语言模型）和SAST（静态应用安全测试）的创新解决方案——BLAST（业务逻辑应用安全测试）。其通过CodeIQ语义理解引擎结合AST（抽象语法树）技术，增强传统SAST的检测能力。BLAST能够处理特殊框架行为、减少误报，并通过语义理解检测业务逻辑漏洞。
- 1
- 1
- wh4am1
- 发布于 2025-05-20 09:00:00
- 阅读 ( 1661 )
wh4am1
基于树模型对恶意代码的静态分析方法
你将学到什么？ ✅ 决策树的数学基础：信息增益 vs. 基尼系数 vs. 增益率，如何影响模型表现？ ✅ Bagging vs. Boosting：为什么随机森林能并行，而XGBoost必须串行训练？ ✅ XGBoost的工程优化：二阶泰勒展开、正则化、特征重要性如何让预测更精准？ ✅ AST（抽象语法树）实战：如何把PHP代码转换成机器学习可用的数值特征？ ✅ 调参技巧与评估指标：如何用网格搜索和Fβ分数平衡准确率与召回率？
- 0
- 1
- 1gniT42e
- 发布于 2025-04-30 09:01:48
- 阅读 ( 1651 )
基于影子栈的大模型系统防御技术
在传统系统安全中有一个典型的技术—影子栈（shadow stacks），它可以防御内存溢出攻击。那么类似于影子栈创建一个影子内存空间，如果可以正常栈中建立与目标LLM实例（LLMtarget）并行的影子LLM防御实例（LLMdefense），那理论上就是可以实现防御的
- 0
- 0
- elwood1916
- 发布于 2025-05-09 09:40:07
- 阅读 ( 1604 )
大模型应用提示词重构攻击
前言 用大模型LLM做安全业务的师傅们一定知道，提示词对于大模型在下游任务的表现的影响是很重要的。 因为大模型本质上是条件概率建模器，其输出严格依赖于输入上下文。在无监督预训练之后，这...
- 0
- 1
- elwood1916
- 发布于 2025-06-03 10:00:02
- 阅读 ( 1542 )
基于条件干预的大模型推理时防御
之前很多研究工作已经表明，大语言模型（LLMs）的一个显著特点是它们能够通过激活中的丰富表示来处理高级概念。这一特性也使得在去年NeurIPS（人工智能顶会）上出现了很多与激活引导（activation steering）等技术的有关的工作
- 0
- 0
- elwood1916
- 发布于 2025-06-05 09:00:00
- 阅读 ( 1285 )
基于注意力操纵的AIGC版权风险规避技术
扩散模型的背后一个很核心的风险就是未授权数据集使用的问题。当然，这种侵权分为两种，一种是使用文生图模型得到的图像，其版权归属问题，比如之前的新闻提到，北京互联网法院全国首例“AI文生图”著作权侵权案获最高法院“两会”工作报告关注
- 1
- 0
- elwood1916
- 发布于 2025-05-26 09:00:02
- 阅读 ( 1283 )
LLM安全交叉领域与从业者技能矩阵
着大型语言模型（LLM）在商业和社会领域的广泛应用，其安全性已成为一项关键议题。本文旨在为LLM安全领域奠定基础，阐述其核心定义、原则、面临的主要威胁，并介绍相关的治理框架，以展示LLM安...
- 1
- 1
- 洺熙
- 发布于 2025-07-04 16:15:01
- 阅读 ( 1256 )
LLM安全基础与各厂商安全策略设计
LLM安全基础 在深入探讨大语言模型（LLM）的安全风险与防护策略之前，建立一个清晰、坚实的基础认知至关重要。这不仅是为了确保后续讨论的有效性，更是因为对核心术语、基本原则及其内在逻辑的...
- 1
- 0
- 洺熙
- 发布于 2025-07-04 16:14:51
- 阅读 ( 1094 )
LLM概述与全景解析
LLM概述与全景 1 什么是 LLM？ LLM是基于深度神经网络架构的预测模型。在通过在海量的语料库上进行大规模训练，学习并内化语言的统计规律,语义关联及上下文依赖, 训练目标通常是预测序列中的下...
- 0
- 0
- 洺熙
- 发布于 2025-07-04 16:14:46
- 阅读 ( 1085 )