研究：用诗歌就能让AI说违禁内容，成功率达62%
发布时间：2025-12-29 16:29:54 作者：玩站小弟 
我要评论
我要评论IT之家 12 月 1 日消息，事实证明，只需一点创意，便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab）最新发表的一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》
。
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容钦州市某某展览服务经销部便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功钦州市某某展览服务经销部实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关文章
#欧盟延长对俄经济制裁6个月#【#欧盟仍准备进一步加大对俄施压#】欧盟理事会22日发布声明说，欧盟决定将针对俄罗斯的经济制裁再延长6个月，至2026年7月31日。 声明说，欧盟制裁措施包括禁止欧盟2025-12-29
8月1日晚间，根据比亚迪发布的最新产销数据显示，在刚刚过去的7月份，其累计销售373,083辆新能源车，较去年同期增长了42.31%，环比7月微增8.97%。值得注意的是，这一销量已超越2023年122025-12-29
6件生活小事，直接影响你的健康｜全民健康生活方式日2024-09-01 12:26:52 来源：健康中国微信公众号2025-12-29
马上就要开学了！由成都中小学生和各位家长“联袂出演”的寒暑假压轴大片《赶作业》已上线。从线上找“写作业搭子”甚至还有人组织补作业的群），到线下找“五花八门”写作业的地方，“主演”这场大戏的孩子们可谓是2025-12-29
据长安汽车，12月20日，首块L3级自动驾驶专用正式号牌“渝AD0001Z”在重庆诞生，由重庆市公安局交通管理总队正式授予长安汽车，标志着长安汽车率先开启L3级自动驾驶时代。 12月15日，工信2025-12-29
TTS新传论文带读：常江老师最新论文!!高频考点数字新闻业又来啦!!!
@TuTouSuo™️*小红书账号：秃头研究所新传考研/秃头研究所Monsters*如果你觉得自己读论文太过于盲目，不知道从哪里开始；如果你也想要通过碎片化的时间来补充和拓展知识储备；如果你想要一份直2025-12-29
最新评论