RSS订阅 立即发帖
筛选:  最新的 推荐的 热门的

我用MCP开发了一个AI目录扫描分析工具

本工具结合了当下的MCP协议中sse方案，给传统的目录扫描工具dirsearch对接上了AI大模型，并对扫描结果进行数据筛选及深度分析并输出漏洞报告。

  • 3
  • 4
  • Elite
  • 发布于 2025-04-29 10:00:00
  • 阅读 ( 385 )

基于微调CLIP的多模态大模型安全防御

大模型在各种任务上都有广泛的应用，但是从其本质来说，扩大模型规模意味着需要增加训练数据的数量和多样性，这就需要从网络上抓取数十亿条数据，这个过程是无需人工监督的。 那么这也就会带来隐患，因为其中可能会有很多不适当的、有害的内容。 尽管现在模型的开发者普遍采用了过滤器和自动检查，但这种做法仍然会引入一些不适当的内容，最终导致模型产生不安全、有偏见或有毒的行为。

  • 0
  • 0
  • elwood1916
  • 发布于 2025-04-29 09:00:02
  • 阅读 ( 278 )

多语言和多口音音频大型语言模型的越狱攻击

本文将深入探讨多语言音频模型在实际应用中面临的安全挑战，特别是音频越狱攻击的机制与影响。我们将学习攻击者如何利用模型的漏洞，通过精心设计的音频输入绕过安全机制，诱导模型生成不当内容。

  • 0
  • 0
  • Werqy3
  • 发布于 2025-04-28 09:00:02
  • 阅读 ( 373 )

vulnhuntr: LLM与SAST结合的AI产品漏洞自动化挖掘

通过结合静态代码分析和大语言模型（LLM）的方式来批量检测AI产品中的潜在漏洞

  • 1
  • 0
  • leeh
  • 发布于 2025-04-27 09:43:38
  • 阅读 ( 418 )

多智能体系统安全危机：从通信劫持到数据投毒，AI协作背后的隐患

在当今数字化浪潮中，多智能体系统（MAS）正逐渐成为解决问题的新范式。想象一下，一群由大型语言模型（LLM）驱动的智能体，它们各司其职，却又紧密协作，共同完成复杂的任务。这种系统不仅高效、可扩展性强，还能够像人类团队一样灵活应对各种挑战。然而，正如硬币的两面，这些强大的功能也带来了独特的安全风险。

  • 0
  • 1
  • Halo咯咯
  • 发布于 2025-04-25 09:33:57
  • 阅读 ( 394 )

基于嵌入扰动的大模型白盒越狱攻击

大模型（以下均用LLMs指代）发展迅速，但引发了大家对其潜在滥用的担忧。虽然模型开发者进行了大量安全对齐工作，以防止 LLMs 被用于有害活动，但这些努力可被多种攻击方法破解，典型的就是在社区里多篇文章中一直在强调的越狱攻击。这些攻击方法能找出安全对齐技术的漏洞，促使开发者及时修复，降低 LLMs 带来的安全风险

  • 0
  • 0
  • elwood1916
  • 发布于 2025-04-24 09:39:13
  • 阅读 ( 390 )

浅谈常见edu漏洞，逻辑漏洞➡越权➡接管➡getshell，小白如何快速找准漏洞

之前闲来无事承接了一个高校的渗透测试，测试过程中没有什么复杂的漏洞，是一些基础的edu常见漏洞，适合基础学习，于是整理一下和师傅们分享。

未授权服务加固与泛解析字符绕过

面向公网资产多轮加固的业务、异常的业务，通过泛解析字符让服务抛出异常信息回显，定位到无需认证的位置，缩短未授权业务测试的日常时间成本。

  • 12
  • 7
  • echoa
  • 发布于 2025-04-22 16:44:26
  • 阅读 ( 1421 )

都2025年了，这十大 LLM 安全工具你该关注了！

在人工智能飞速发展的今天，大型语言模型（LLMs）已经深入到我们生活的方方面面，从智能客服到内容创作，从医疗诊断到金融分析，它们的身影无处不在。然而，随着 LLMs 的广泛应用，其安全性问题也日益凸显。数据泄露、未经授权的访问、模型被恶意操纵……这些风险不仅威胁到企业的正常运营，还可能对用户隐私和社会稳定造成严重影响。今天，就让我们一起走进 LLM 安全的世界，看看那些在 2025年值得关注的安全工具，它们是如何为 LLMs 筑起坚固的安全防线的。

  • 1
  • 0
  • Halo咯咯
  • 发布于 2025-04-22 09:44:41
  • 阅读 ( 681 )

智能汽车安全-漏洞挖掘到控车攻击

本文专注讲解真实漏洞、挖掘技巧、实际控车案例和个人的建议，不涉及复杂的汽车架构、网络拓扑、车内通信等技术，所有人都可放心食用

  • 5
  • 5
  • OYyunshen
  • 发布于 2025-04-21 09:41:43
  • 阅读 ( 972 )

同态加密来袭！Javelin为AI嵌入向量穿上“安全铠甲”

在数字化时代，人工智能（AI）和机器学习（ML）正深刻改变着我们的生活和工作方式。其中，向量嵌入（vector embeddings）作为现代算法的核心概念，正扮演着至关重要的角色。它将抽象数据（如文本、图像或分类标签）转化为数值向量，让机器学习模型能够处理和理解复杂的数据。然而，随着AI的广泛应用，数据安全和隐私保护问题也日益凸显。今天，我们就来聊聊如何用同态加密（Homomorphic Encryption, HE）技术来守护AI嵌入的安全。

  • 0
  • 0
  • Halo咯咯
  • 发布于 2025-04-18 09:41:05
  • 阅读 ( 4694 )

RAG架构大揭秘：三种方式让AI回答更精准，更懂你！

在人工智能飞速发展的今天，我们已经习惯了与各种智能系统打交道，从聊天机器人到智能搜索引擎，它们似乎无处不在。但你有没有想过，这些系统是如何真正理解我们的需求，并给出准确回答的呢？今天，就让我们一起深入探索一下前沿的RAG（Retrieval-Augmented Generation，检索增强生成）技术，看看它如何让AI变得更“聪明”。

  • 0
  • 0
  • Halo咯咯
  • 发布于 2025-04-16 09:47:06
  • 阅读 ( 812 )

我用NodeJS+electron自研了个C2和木马并绕过了360+火绒内存扫描(附源码)

NodeJs可以写后端、electron又可以打包成exe，还可以通过主进程命令执行，那么不就可以自研一个C2了吗？

拆解大模型“越狱”攻击：对抗样本如何撕开AI安全护栏？

本文系统拆解大模型面临的越狱攻击技术，揭示攻击者如何通过巧妙设计突破AI安全限制

  • 5
  • 5
  • Werqy3
  • 发布于 2025-04-14 10:08:47
  • 阅读 ( 1700 )

MCP Server 攻击面初探与思考

从安全角度来看，MCP 增加了更多 AI 安全实践机会，AI 安全再也不是议题中的 ”AI 赋能“，也不再是实验室层面才能进行的理论研究，未来也可能会像 SRC 挖掘那样百花齐放，鉴于 MCP 技术较新且笔者水平有限，有不足和错误之处请师傅们批评斧正

  • 2
  • 3
  • 385
  • 发布于 2025-04-10 10:38:27
  • 阅读 ( 8647 )

浅谈AI部署场景下的web漏洞

总结了一些部署过程中出现可能的漏洞点位，并且分析了对应的攻防思路

  • 1
  • 0
  • 7ech_N3rd
  • 发布于 2025-04-09 17:30:36
  • 阅读 ( 1792 )

面向大模型的生成-利用式越狱攻击

目前做安全大模型或者说做大模型安全，基本都会有必要的两步，分别是对齐以及红队。 因为随着大模型在各种应用场景中的广泛使用，越来越多的人开始担忧这些模型可能被滥用，尤其是在传播有害或不道德内容方面。由于这些模型的开放性和广泛的使用群体，它们的潜在风险也变得更加显著。开放源码的语言模型尤其令人担忧，因为其代码和训练数据是公开的，任何人都可以访问、修改甚至恶意利用

  • 0
  • 0
  • elwood1916
  • 发布于 2025-04-07 10:00:18
  • 阅读 ( 9116 )

Pydash set方法原型链污染漏洞分析：以Bottle框架环境变量泄露为例

NCTF遇到了一道pydash题目，似乎与SUCTF2025出的一道SU_blog都是这个知识点，遂想基于这道题分析一下链子。其实还可以结合idekctf那道题

  • 0
  • 0
  • 梦洛
  • 发布于 2025-04-02 09:46:42
  • 阅读 ( 1319 )

【补天白帽黑客城市沙龙-西安站】巧用Chrome-CDP远程调用Debug突破JS逆向

演讲议题：巧用Chrome-CDP远程调用Debug突破JS逆向

【补天白帽黑客城市沙龙-西安站】深度解析EDR和用特定手法将它绕过

演讲议题：深度解析EDR和用特定手法将它绕过