RSS订阅 立即发帖
筛选:  最新的 推荐的 热门的

还能这样对大模型输入投毒

对protswigger的第三个大模型prompt注入靶场进行实战记录

AI 供应链安全：MCP 协议下自动化 AI 架构中的隐式执行风险实测

随着大语言模型（LLM）从单纯对话向自动化执行演进， MCP (Model Context Protocol) 协议正迅速成为连接模型大脑与外部工具（文件、数据库、API）的标准“USB接口”。然而，这种高度集成的架构也引入了一个AI隐式执行的风险。不同于传统的前端提示词注入，基于 MCP 的攻击发生在系统底层的协议交互阶段。本文将通过两个小实验实测复现，演示如何通过篡改MCP工具元数据，诱导模型进入逻辑陷阱，从而实现敏感数据的静默外泄。

  • 1
  • 2
  • 11123
  • 发布于 2026-01-06 09:46:20
  • 阅读 ( 2034 )

【2025补天白帽黑客盛典】推广漏洞的特殊思路

通杀国内主流互联网厂商的推广漏洞思路分享。

第五届“湾区杯”CTF Final - Blind writeup

本题描述了一个现实场景常见的模型：即无法采用多模态模型时，先使用ASR模型将语音转换为文字，接着调用大模型进行回答。

  • 0
  • 2
  • Cain
  • 发布于 2025-12-31 10:00:01
  • 阅读 ( 1790 )

AI安全之间接提示词注入实现RCE(CVE-2025-53773绕过分析)

AI安全之间接提示词注入实现RCE(CVE-2025-53773绕过分析)

  • 1
  • 1
  • mhxiang
  • 发布于 2025-12-29 09:45:04
  • 阅读 ( 1758 )

补齐SDLC最后一块拼图：LLM 在应用安全中的实践探索

随着DevSecOps的推进，应用安全已逐步融入SDLC各阶段，一个长期存在的问题依然突出：安全工具往往能发现问题，却难以判断其真实性、可利用性及处置优先级。这些持续消耗研发与安全团队的时间精力。近年来随着大语言模型的迅速发展，为这一困境提供了新的可能，本文结合实际应用安全建设经验，重点探讨AI在硬编码、SCA、漏洞挖掘等场景中的应用安全实践方法。

  • 2
  • 1
  • hyyrent
  • 发布于 2026-01-21 09:00:01
  • 阅读 ( 1718 )

第五届“湾区杯”CTF Final - 耄耋 writeup

本题给出了数千张小猫的图片，数据分为两类：AI生成和人工拍摄，期望选手对数据完成区分，即完成人工智能生成图片伪造检测技术。

  • 0
  • 2
  • Cain
  • 发布于 2025-12-31 09:00:02
  • 阅读 ( 1714 )

【补天白帽黑客城市沙龙-长沙站】车身控制OS的另一面：开源架构下的星环OS安全研究

该议题将以星环0S为研究对象，从系统架构、任务调度、通信接口(CAN、Ethernet、UDS)到供应链安全风险，系统分析开源RTOS在车身控制系统中的潜在安全隐线钓缄鸰麵璉笄忧。通过威胁建模与攻击面映射，本议题展示实证研究发现与典型案例，还提出可落地的防护建议，旨在帮助行业在享受开源带来机遇的同时，更好地识别和化解潜在威胁。

KV-Cache：大语言模型推理加速的双刃剑—隐私风险与防御实战

在2025年，大语言模型（LLM）推理服务已全面进入多租户时代，KV Cache作为核心加速技术，让Prefill阶段并行计算、Decode阶段复用历史键值，带来5–8倍的吞吐提升。然而，这把“双刃剑”也暴露了严重的安全隐患：共享缓存下的时序侧信道可直接泄露用户Prompt；更隐蔽的History Swapping能悄无声息劫持输出话题；腐败攻击则通过扰动Key向量引发幻觉与性能崩坏。

  • 0
  • 0
  • Wh1tecell
  • 发布于 2026-01-20 09:00:02
  • 阅读 ( 1693 )

【2025补天白帽黑客盛典】大模型时代的移动端攻防：基于LLM的App漏洞挖掘

本议题将分享一种基于LLM Agent的App漏洞挖掘。通过引入MCP方式，结合精细化的Prompt工程与工作流编排，将复杂的挖洞过程拆解为可控的原子任务。将展示如何使用LLM强大的代码审计能力，实现对App隐蔽漏洞的高效、精准捕获。

新型提示词注入：image-scaling

多模态AI系统（如Gemini、Claude、GPT-4o等）在处理用户上传图像时，通常会先对高分辨率图片进行缩放（resize）以匹配模型输入尺寸。这本是标准预处理步骤，却被安全研究人员武器化成一种隐蔽的间接提示词注入攻击：攻击者在原始大图中嵌入肉眼几乎不可见的恶意指令，当系统缩放图像时，这些指令才会“显现”并被视觉模型读取，从而触发数据泄露、越狱或其他恶意行为。

  • 0
  • 0
  • Wh1tecell
  • 发布于 2026-01-27 09:00:02
  • 阅读 ( 1486 )

【2025补天白帽黑客盛典】当AI成为自己的红队：自动化越狱样本构造方法

当大模型深度融入社会运转，其安全边界正面临前所未有的挑战越狱攻击通过精心构造的提示词，可绕过安全限制诱导模型生成有害内容。传统人工构造样本效率低下，而让AI成为自身的红队，正是破解这一困境的创新路径。本议题系统阐述四层自动化越狱样本构造体系:从基础规则化批量生成,到 AI自主创新,再到学术前沿复现与动态定制化生成。

一文搞懂Shiro站点打法全思路

作为以Java反序列化为载体的经典老洞Shiro的RememberMe硬编码反序列化攻击，它在攻防演练中屡见不鲜，帮助攻防人员拿下一个又一个点。今天作为安服仔的笔者介绍Shiro硬编码Key反序列化的经典打法。笔者几次护网中都遇到几次Shiro，也总结了一点许经验，在这里与各位师傅们分享。

  • 3
  • 3
  • B0T1eR
  • 发布于 2026-01-29 09:00:00
  • 阅读 ( 1398 )

跨层残差绕过LLM内生安全

2025年LLM的内容安全已经有质的飞跃了，基于模型内生安全、外挂的安全审核模型、改写模型等等手段，传统的基于提示词工程的黑盒攻击逐渐难以突破愈发完善的防御机制，而白盒攻击通过直接操纵模...

  • 0
  • 3
  • Holiday
  • 发布于 2026-01-22 09:00:00
  • 阅读 ( 1267 )

第三届“天网杯” AI赛道 writeup合集

  • 1
  • 1
  • Cain
  • 发布于 2025-12-30 09:00:01
  • 阅读 ( 1178 )

【2025补天白帽黑客盛典】木马藏在权重里：大模型攻击链的越狱、投毒、对抗样本与 ROP 链的连环戏法

本议题提出「权重寄生攻击链」核心框架以大模型权重为寄生载体，通过"入口突破一威胁潜伏一伪装掩护一终极爆发"的闭环传导，将文本越狱、模型投毒、对抗样本、OllamaROP链四类攻击串联的完整威胁链路，打破单一攻击场景的孤立认知，揭示大模型从上层语义到底层系统的全维度安全风险。

Ai安全漏洞剖析-CVE-2025-68664

LangChain 是一个用于构建基于ai大语言模型(LLM)应用程序的框架。在受影响版本中，存在序列化注入漏洞。

  • 0
  • 0
  • 逍遥~
  • 发布于 2026-01-23 09:00:02
  • 阅读 ( 1143 )

传统 GDB 多进程调试的缺陷与 Patch 方法的救赎

在调试多进程程序（如 Web 服务器及其 CGI 子进程）时，gdb 虽提供 follow-fork-mode 与 detach-on-fork 用于跟踪父子进程，但在实际中因子进程生命周期短、fork 频繁及进程依赖复杂等因素，这些机制常难以捕获目标子进程，甚至影响服务运行。为此，本文介绍一种更稳定的方法：在目标程序入口 patch 一段机器码，使进程启动后进入无限循环等待 gdb --attach；完成附加后再恢复原始指令，从而在多进程环境中获得可控且可靠的调试条件。

  • 2
  • 3
  • all
  • 发布于 2025-12-26 09:43:49
  • 阅读 ( 1142 )

【2025补天白帽黑客盛典】I flip WASM bits

我们针对Blackhat ASIA 2023议题:Attacking WebAssembly Compiler of WebKit使用的方法进行了改进，对Firefox、Chrome浏览器WASM模块进行fuzz并发现了多个漏洞。我们针对其中Firefox浏览器一个典型的WASM漏洞进行了详细分析,包含Firefox的一些机制和针对WASM memory的优化,揭示了漏洞产生的本质原因:新的WASM提案和功能的实现导致一些边界检查的绕过，实现新功能时旧功能的代码修改不完全导致新漏洞的出现。

当AI被“反向操控”：图像模型反演攻击全流程揭秘

模型反演攻击（Model Inversion Attack, MIA）是机器学习隐私领域的一大隐患：攻击者仅通过访问模型输出或内部信息，就能“逆向工程”出训练数据的敏感特征。本文聚焦图像分类模型的黑白盒反演攻击，以通俗易懂的方式，从原理到代码、从实验到分析，全链路演示这一攻击的威力与风险。

  • 0
  • 0
  • Wh1tecell
  • 发布于 2026-01-26 09:00:00
  • 阅读 ( 756 )