4RSvYgSuIBhtech.huanqiu***articleAI安全防线再遭突破：心理诱导让Claude主动输出违禁内容/e3pmh164r/e3pmtmdvg<article><section data-type="rtext"><p>【环球网科技综合报道】5月7日消息，据The Verge报道，最新安全研究显示，主打安全特性的 Anthropic Claude 人工智能模型，可通过心理施压、刻意奉承等非技术手段突破安全防线，主动输出恶意代码、危险物品制作教程等违禁信息，暴露出人工智能模型在心理层面的安全漏洞。</p><p>此次测试由人工智能红队测试公司 Mindgard 开展，针对 Claude Sonnet 4.5 版本进行。测试过程中，研究人员未使用违禁词汇，也未直接索要非法内容，仅通过尊重吹捧、佯装好奇、轻微心理操控等审讯人员常用的诱导手段，逐步让模型对自身内容限制规则产生自我怀疑，进而不断突破安全边界。</p><p><i class="pic-con"></p><p>Mindgard 创始人兼首席科学官彼得・加拉根表示，此次攻击本质是利用 Claude 乐于助人、顺从协作的特性实施心理操控，印证人工智能模型风险暴露面不仅存在于技术层面，更存在于心理层面。这类对话式心理攻击极难防御，且并非 Claude 独有，其他聊天机器人也易遭遇同类漏洞攻破，随着 AI 智能体普及，依托社会心理操控的攻击手段将愈发常见。</p> <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader> <p>值得关注的是，Anthropic 长期以 AI 安全为核心优势，在过往多项红队安全测试中表现优异，但此次测试暴露其安全流程存在疏漏。Mindgard 于 4 月中旬按该公司漏洞披露政策上报发现后，仅收到模板化回复，且被误判为账号封禁咨询，截至相关时间节点仍未获正式回应。（纯钧）</p></section><img src='/image/153844-0' alt='AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容'> </article> <div class="bdshare"> <div class="bdsharebuttonbox iconfont" data-tag="share_1"> <a class="bds_weixin" data-cmd="weixin"></a> <a class="bds_sqq" data-cmd="sqq"></a> <a class="bds_qzone" data-cmd="qzone"></a> <a class="bds_tsina" data-cmd="tsina"></a> <a class="bds_tqq" data-cmd="tqq"></a> <a class="bds_more" data-cmd="more"></a> </div> <script> window._bd_share_config = {common : {bdText : 'AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容_盘山网站建设_网站建设公司_网站建设设计制作_seo优化',bdDesc : '...',bdUrl : '',bdPic : ''},share : [{"bdSize" : 16}]} with(document)0[(getElementsByTagName('head')[0]||body).appendChild(createElement('script')).src='http://bdimg.share.baidu.com/static/api/js/share.js?cdnversion='+~(-new Date()/36e5)]; </script></div> <div class="post-nav"> <div class="post-prev"><a href="/detail/47108.html" title=" 如何实现电脑定期自动热备份？"> 上一篇 : 如何实现电脑定期自动热备份？ </a></div> <div class="post-next"><a href="/detail/47360.html" title="周杰伦为什么不告粥饼伦黑伦侵犯他的名誉权?"> 下一篇 : 周杰伦为什么不告粥饼伦黑伦侵犯他的名誉权? </a></div> </div> </div> <div class="post relates imgRel"> <div class="title"> <h3>猜你喜欢</h3> </div> <div class="PostShow"> <ul class="slider3"> <li> <div class="post-img loading"> <a class="pic float-left" href="/detail/47864.html" title="《欢天喜地七仙女》中 「仙女下嫁凡人」 的设定，在今天是否过时？" rel="bookmark"> <div class="msk"></div> <i class="fa fa-search"></i> <img class="b-lazy" src="/public/tupian/136.jpeg" data-src="/public/tupian/136.jpeg" alt="《欢天喜地七仙女》中 「仙女下嫁凡人」 的设定，在今天是否过时？" style="width:100%;"/> </a> </div> <h4><a href="/detail/47864.html" title="《欢天喜地七仙女》中 「仙女下嫁凡人」 的设定，在今天是否过时？">《欢天喜地七仙女》中 「仙女下嫁凡人」 的设定，在今天是否过时？</a></h4> <i> “仙女下嫁凡人”的设定在今天也能找到对照，比如孔雀女下嫁凤凰</i> </li> <li> <div class="post-img loading"> <a class="pic float-left" href="/detail/47019.html" title="为什么Rust的包管理器Cargo这么好用？" rel="bookmark"> <div class="msk"></div> <i class="fa fa-search"></i> <img class="b-lazy" src="/public/tupian/133.jpeg" data-src="/public/tupian/133.jpeg" alt="为什么Rust的包管理器Cargo这么好用？" style="width:100%;"/> </a> </div> <h4><a href="/detail/47019.html" title="为什么Rust的包管理器Cargo这么好用？">为什么Rust的包管理器Cargo这么好用？</a></h4> <i> 好用，指 request 被一个死了九年的包占用。 新来的</i> </li> <li> <div class="post-img loading"> <a class="pic float-left" href="/detail/47057.html" title="能发一张在暧昧期的聊天记录吗？" rel="bookmark"> <div class="msk"></div> <i class="fa fa-search"></i> <img class="b-lazy" src="/public/tupian/137.jpeg" data-src="/public/tupian/137.jpeg" alt="能发一张在暧昧期的聊天记录吗？" style="width:100%;"/> </a> </div> <h4><a href="/detail/47057.html" title="能发一张在暧昧期的聊天记录吗？">能发一张在暧昧期的聊天记录吗？</a></h4> <i> 凌晨4点40到首都机场，然后我就真去接机了，然后她就真给我加</i> </li> <li> <div class="post-img loading"> <a class="pic float-left" href="/detail/47943.html" title="Rust开发Web后端效率如何？" rel="bookmark"> <div class="msk"></div> <i class="fa fa-search"></i> <img class="b-lazy" src="/public/tupian/46.jpeg" data-src="/public/tupian/46.jpeg" alt="Rust开发Web后端效率如何？" style="width:100%;"/> </a> </div> <h4><a href="/detail/47943.html" title="Rust开发Web后端效率如何？">Rust开发Web后端效率如何？</a></h4> <i> 先叠几个定语： 你要是写Reactive Web，用Web </i> </li> </ul> </div> </div> </div> </div> </div> <footer class="footer"> <div class="footer-text"> <div class="ftNav"> <a href="/list/huibuzhen" title="辉埠镇">辉埠镇</a> <a href="/list/qianshanxian" title="铅山县">铅山县</a> <a href="/list/binhuzhen" title="滨湖镇">滨湖镇</a> <a href="/list/huangtangxiang" title="黄塘乡">黄塘乡</a> <a href="/list/guchengqu" title="古城区">古城区</a> <a href="/list/huanghexiang" title="黄河乡">黄河乡</a> </div> <p>版权@|备案:<a href="https://beian.miit.gov.cn/" rel="nofollow" target="_blank">粤IP*******</a>|<a href="/sitemap.xml">网站地图</a> <a href="https://beian.miit.gov.cn/" target="_blank" rel="nofollow"></a> <a href="/sitemap.xml" target="_blank">XML地图</a></p> </div> </footer> <div class="weixinBox"> <div class="img"><img src="/template/moban252/skin/images/ewm.png"/></div> <p>手机扫一扫添加微信</p> </div> <div class="page-bg"></div> <div id="backTop"> <span class="ft-tel"><i class="iconfont"></i><small class="telTop"></small></span> <span class="ft-wx"><i class="iconfont"></i><small class="weixin"><b class="fa fa-caret-right"></b><img src="/template/moban252/skin/images/ewm.png"></small></span> <span class="ft-qq"><a href="http://wpa.qq.com/msgrd?v=3&uin=&site=qq&menu=yes" target="_blank" class="socialLink s-qq" rel="nofollow"><i class="iconfont"></i></a></span> <span id="gttop" onclick="return false;" title="返回顶部"> <i class="iconfont"></i> </span> </div> <div class="lfooter"> <ul> <li><a href="/"><img src="/template/moban252/skin/images/dbsy.png" width="30" height="30"> <p>网站首页</p> </a></li> <li><a href="tel:"><img src="/template/moban252/skin/images/dbdh.png" width="30" height="30"> <p>电话咨询</p> </a></li> <li><a href="http://wpa.qq.com/msgrd?v=3&uin=&site=qq&menu=yes"><img src="/template/moban252/skin/images/dbqq.png" width="30" height="30"> <p>QQ咨询</p> </a></li> <li><a href="/"><img src="/template/moban252/skin/images/dblx.png" width="30" height="30"> <p>AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容_盘山网站建设_网站建设公司_网站建设设计制作_seo优化</p> </a></li> </ul> </div> <!--<div id="backTop"> <span id="gttop" onclick="return false;" title="返回顶部"><i class="iconfont"></i></span> </div>--> <script src="/template/moban252/skin/js/lib.js"></script> <script src="/template/moban252/skin/js/function.js"></script> </body> </html>
