研究:用诗歌就能让AI说违禁内容,成功率达62%
IT之家 12 月 1 日消息,研究用诗事实证明,违禁只需一点创意,内容宜春市某某策划培训学校便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的率达一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,研究用诗成功绕过了多种大语言模型(LLM)的违禁安全限制。
![]()
该研究指出,内容“诗歌形式可作为一种通用型越狱操作符”,成功宜春市某某策划培训学校实验结果显示,率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容,包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到,成功研究测试了多款主流大语言模型,率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”
- ·厚底鞋受欢迎 医生提醒:不建议超过3.5厘米
- ·为期23天的上海旅游节叠加中秋国庆长假,62家景区门票半价
- ·这3种人真的不适合午睡 快看看是不是你
- ·“火罐印”再现巴黎奥运场!细数神秘的东方养生力量
- ·寻找隐形冠军丨VLOG:方寸背后 大有玄机
- ·车长超5米+三块屏+大疆智驾 帕萨特PRO售15.99万起
- ·身披五星红旗的国航C919首航成功
- ·浙大毕业生杨瑾闻申请赴美留学,看到专业后,网友:不会回来工作
- ·中国经济年会:我国主要经济指标表现好于预期
- ·央视今晚不转播国足比赛
- ·饮用水检出致病菌,如何喝得更放心?
- ·香蕉虽然常见,您却未必了解,关于香蕉的3个重要作用,请查收
- ·乌美代表19日将举行新一轮谈判
- ·暑去凉来立秋至 正是平衡阴阳好时机!
- ·杀鸡儆猴,也换不来一场胜利
- ·欧盟据悉将降低对自中国进口电动汽车拟议的加征关税
