4RSvYgSuIBhtech.huanqiu***articleAI安全防线再遭突破：心理诱导让Claude主动输出违禁内容/e3pmh164r/e3pmtmdvg<article><section data-type="rtext"><p>【环球网科技综合报道】5月7日消息，据The Verge报道，最新安全研究显示，主打安全特性的 Anthropic Claude 人工智能模型，可通过心理施压、刻意奉承等非技术手段突破安全防线，主动输出恶意代码、危险物品制作教程等违禁信息，暴露出人工智能模型在心理层面的安全漏洞。</p><p>此次测试由人工智能红队测试公司 Mindgard 开展，针对 Claude Sonnet 4.5 版本进行。测试过程中，研究人员未使用违禁词汇，也未直接索要非法内容，仅通过尊重吹捧、佯装好奇、轻微心理操控等审讯人员常用的诱导手段，逐步让模型对自身内容限制规则产生自我怀疑，进而不断突破安全边界。</p><p><i class="pic-con"></p><p>Mindgard 创始人兼首席科学官彼得・加拉根表示，此次攻击本质是利用 Claude 乐于助人、顺从协作的特性实施心理操控，印证人工智能模型风险暴露面不仅存在于技术层面，更存在于心理层面。这类对话式心理攻击极难防御，且并非 Claude 独有，其他聊天机器人也易遭遇同类漏洞攻破，随着 AI 智能体普及，依托社会心理操控的攻击手段将愈发常见。</p> <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader> <p>值得关注的是，Anthropic 长期以 AI 安全为核心优势，在过往多项红队安全测试中表现优异，但此次测试暴露其安全流程存在疏漏。Mindgard 于 4 月中旬按该公司漏洞披露政策上报发现后，仅收到模板化回复，且被误判为账号封禁咨询，截至相关时间节点仍未获正式回应。（纯钧）</p></section><img src='/image/153844-0' alt='AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容'> </p> <div class="pagination"> <ul></ul> </div> </article> <div class="article-tags"> </div> <div class="article-actions clearfix"> <style>.shares img{ float:left}</style> <div class="shares"> <strong>分享到：</strong> <a href="javascript:;" data-url="" class="share-weixin" title="分享到微信"> <img src="/template/moban394/skin/images/fx_03.png"></a> <a etap="share" data-share="qzone" class="share-qzone" title="分享到QQ空间"> <img src="/template/moban394/skin/images/fx_05.png"></a> <a etap="share" data-share="weibo" class="share-tsina" title="分享到新浪微博"> <img src="/template/moban394/skin/images/fx_07.png"></a> <a etap="share" data-share="tqq" class="share-tqq" title="分享到腾讯微博"> <img src="/template/moban394/skin/images/fx_09.png"></a> <a etap="share" data-share="qq" class="share-sqq" title="分享到QQ好友"> <img src="/template/moban394/skin/images/fx_11.png"></a> <a etap="share" data-share="renren" class="share-renren" title="分享到人人网"> <img src="/template/moban394/skin/images/fx_13.png"></a> <a etap="share" data-share="douban" class="share-douban" title="分享到豆瓣网"> <img src="/template/moban394/skin/images/fx_15.png"></a> </div> </div> <nav class="article-nav"> <span class="article-nav-prev"><a href="/detail/86025.html" title=" Rust 使用 Result 的错误处理方式与 Golang 使用 error 的方式有什么本质区别？"> 上一篇 : Rust 使用 Result 的错误处理方式与 Golang 使用 error 的方式有什么本质区别？ </a> </span> <span class="article-nav-next"><a href="/detail/86416.html" title="女孩子腿非常白是什么体验？"> 下一篇 : 女孩子腿非常白是什么体验？ </a> </span></nav> <div class="postitems"> <div class="title"> <h2>相关内容</h2></div> <ul> </ul> </div> </div> </div> <aside class="sidebar" id="rig"> <div class="widget"> <div class="title"> <h2>热门标签</h2> </div> <div class="d_tags"> </div> </div> </div> <div class="widget d_postlist" id="tuijian"> <div class="title"> <h2>推 荐</h2> </div> <ul> <li><a href="/detail/86866.html" title="中国和美国哪个的领土面积大？" > <img src="/public/tupian/141.jpeg" alt="中国和美国哪个的领土面积大？"> </a></li> <li><a href="/detail/86092.html" title="能不能发一张你相册里最好看的自拍照？" > <img src="/public/tupian/179.jpeg" alt="能不能发一张你相册里最好看的自拍照？"> </a></li> <li><a href="/detail/86181.html" title="女生腰细是怎样的体验？" > <img src="/public/tupian/162.jpeg" alt="女生腰细是怎样的体验？"> </a></li> <li><a href="/detail/86308.html" title="有哪些优秀的量化交易策略？" > <img src="/public/tupian/21.jpeg" alt="有哪些优秀的量化交易策略？"> </a></li> <li><a href="/detail/86714.html" title="只用321原则备份家用Nas 数据而不组建raid阵列的人，不怕哪天备份全部同时损坏导致无法恢复吗？" > <img src="/public/tupian/176.jpeg" alt="只用321原则备份家用Nas 数据而不组建raid阵列的人，不怕哪天备份全部同时损坏导致无法恢复吗？"> </a></li> <li><a href="/detail/86042.html" title="HTTP/3 解决了什么问题，又引入了什么新问题？" > <img src="/public/tupian/46.jpeg" alt="HTTP/3 解决了什么问题，又引入了什么新问题？"> </a></li> <li><a href="/detail/86406.html" title="已经有 Web 了，为什么国内还有各种小程序，快应用这种畸形的产物？" > <img src="/public/tupian/152.jpeg" alt="已经有 Web 了，为什么国内还有各种小程序，快应用这种畸形的产物？"> </a></li> <li><a href="/detail/86469.html" title="美国为什么不原封不动照抄50年前载人登月方法？" > <img src="/public/tupian/33.jpeg" alt="美国为什么不原封不动照抄50年前载人登月方法？"> </a></li> <li><a href="/detail/86694.html" title="GitHUb上有哪些令人惊艳的开源软件？" > <img src="/public/tupian/178.jpeg" alt="GitHUb上有哪些令人惊艳的开源软件？"> </a></li> </ul> </div> <div class="widget d_postlist" id="renmen"> <div class="title"> <h2>热 门</h2> </div> <ul> <li><a href="/detail/86897.html" title="php的性能要比node.js高很多吗？" > <img src="/public/tupian/81.jpeg" alt="php的性能要比node.js高很多吗？"> </a></li> <li><a href="/detail/86635.html" title="大家的NAS都是24小时不关机吗？" > <img src="/public/tupian/73.jpeg" alt="大家的NAS都是24小时不关机吗？"> </a></li> <li><a href="/detail/86380.html" title="现在已经有5K、6K、8K分辨率显示器，那么8K之后是什么？" > <img src="/public/tupian/138.jpeg" alt="现在已经有5K、6K、8K分辨率显示器，那么8K之后是什么？"> </a></li> <li><a href="/detail/86388.html" title="Node.js是谁发明的?" > <img src="/public/tupian/49.jpeg" alt="Node.js是谁发明的?"> </a></li> <li><a href="/detail/86023.html" title="你读过最冷门，但「含金量极高」的书是什么？" > <img src="/public/tupian/74.jpeg" alt="你读过最冷门，但「含金量极高」的书是什么？"> </a></li> <li><a href="/detail/86707.html" title="字节引入Rust是否代表J***a的缺点Go也没解决？" > <img src="/public/tupian/104.jpeg" alt="字节引入Rust是否代表J***a的缺点Go也没解决？"> </a></li> <li><a href="/detail/86298.html" title="想知道这个女孩是谁?" > <img src="/public/tupian/151.jpeg" alt="想知道这个女孩是谁?"> </a></li> <li><a href="/detail/86475.html" title="出国给你最大的感受是什么？" > <img src="/public/tupian/60.jpeg" alt="出国给你最大的感受是什么？"> </a></li> <li><a href="/detail/86358.html" title="Rust口碑不错，为何学的人却很少？" > <img src="/public/tupian/198.jpeg" alt="Rust口碑不错，为何学的人却很少？"> </a></li> </ul> </div> </aside> </section> <footer class="footer" id="gfkkwjozo"> <p class="friendlink"> <a href='/list/baiyanzhen'>伯延镇</a> <a href='/list/tangchengzhen'>唐城镇</a> <a href='/list/ezhixiang'>俄支乡</a> <a href='/list/dongdixiang'>董地乡</a> <a href='/list/tongzhouzhen'>通州镇</a> <a href='/list/wenliuxiang'>温浏乡</a> <a href="/tags.php" target="_blank">标签墙</a> <br \><br \> 版权@|备案:<a href="https://beian.miit.gov.cn/" rel="nofollow" target="_blank">粤IP*******</a>|<a href="/sitemap.xml">网站地图</a> 备案号：<a target="_blank" href="http://beian.miit.gov.cn/" rel="nofollow"></a> </p> <p> <span class="footerhidden"> <div class="hide"></div> </footer> <script type='text/javascript' src='/template/moban394/skin/js/main.js'></script> </body> </html>