AI 时代的 mcp 攻防探讨

模型上下文协议（Model Context Protocol, MCP）是一种用于在分布式系统中管理和共享模型上下文的协议，广泛应用于机器学习、区块链和物联网等领域。然而，随着MCP的广泛应用，其安全性问题也日益凸显。

• 0
• 0
• 逍遥~
• 发布于 2025-06-10 09:00:03
• 阅读 ( 741 )

大模型应用提示词重构攻击

前言 用大模型LLM做安全业务的师傅们一定知道，提示词对于大模型在下游任务的表现的影响是很重要的。 因为大模型本质上是条件概率建模器，其输出严格依赖于输入上下文。在无监督预训练之后，这...

• 0
• 1
• elwood1916
• 发布于 2025-06-03 10:00:02
• 阅读 ( 716 )

基于注意力操纵的AIGC版权风险规避技术

扩散模型的背后一个很核心的风险就是未授权数据集使用的问题。当然，这种侵权分为两种，一种是使用文生图模型得到的图像，其版权归属问题，比如之前的新闻提到，北京互联网法院全国首例“AI文生图”著作权侵权案获最高法院“两会”工作报告关注

• 1
• 0
• elwood1916
• 发布于 2025-05-26 09:00:02
• 阅读 ( 690 )

基于条件干预的大模型推理时防御

之前很多研究工作已经表明，大语言模型（LLMs）的一个显著特点是它们能够通过激活中的丰富表示来处理高级概念。这一特性也使得在去年NeurIPS（人工智能顶会）上出现了很多与激活引导（activation steering）等技术的有关的工作

• 0
• 0
• elwood1916
• 发布于 2025-06-05 09:00:00
• 阅读 ( 547 )