研究:用诗歌就能让AI说违禁内容,成功率达62%
[综合] 时间:2025-12-07 11:12:21 来源:六盘水市某某路桥科技维修网点 作者:时尚 点击:191次
IT之家 12 月 1 日消息,研究用诗事实证明,违禁只需一点创意,内容鹤壁市某某搬家培训中心便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的率达一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,研究用诗成功绕过了多种大语言模型(LLM)的违禁安全限制。
![]()
该研究指出,内容“诗歌形式可作为一种通用型越狱操作符”,成功鹤壁市某某搬家培训中心实验结果显示,率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容,包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到,成功研究测试了多款主流大语言模型,率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”
(责任编辑:综合)
相关内容
- 河北秦皇岛:8.45万吨级多用途纸浆船交付
- 70城房价,最新公布
- 朝鲜宪法明确韩国为“敌对国家”,外交部表态
- 回击强奸指控?皇马官方今日训练照:姆巴佩正常随队训练
- 大雾黄色预警:河北山西等7省市有大雾 局地能见度不足200米
- 土耳其外长与哈马斯政治局成员会晤 讨论加沙局势
- 香山迎来第一波赏红高峰 今年索道改造,登山请量力而行
- TTS新传论文带读:彭兰教授新论文!!!很合适答题!!
- 轻松一刻:这些美女人物,你会选谁呢?
- 土耳其发生6.0级地震,震源深度10千米
- 【喂饭专题直接背】沉默的螺旋
- 遭围困13天 加沙地带北部燃料药品短缺
- 一周AI大事:砍价30%!OpenAI 联手谷歌“背刺”英伟达?
- 收藏!第七届进博会交通出行十问十答请查收→
精彩推荐
- 河北秦皇岛:8.45万吨级多用途纸浆船交付
- 炸裂!三年花12万就能获博士学位,不出国也能拿证
- 【教研帮扶】深研高中英语教法学法,力促学生深度学习
- TTS新传论文带读:社交媒体与人际关系新角度!很适合答题!
- Vidu Q2生图功能上线:控制权进一步交给创作者
- 以军袭击加沙地带 已致39人死亡
热门点击
- 免费游定州!9月20日起河北定州所有文物景点免首道门票 views+
- 三大指数均涨逾3% views+
- 加沙地带中部阿克萨烈士医院面临停止服务风险 views+
- 齐云山露营失窃事件:凌晨,神秘人割破帐篷偷走手机 views+
- 民警回应男子询问时言语不文明?潮州警方:已对该民警停职 views+
- 巴菲特继续抛售!2个月减持近81亿美元 views+
- 民生银行北京分行回应降薪传闻:不实 员工整体薪酬保持稳定 views+
- 研究生应聘勤杂工?当事人:暂未取得硕士学位证,竞聘教师资格不够 views+
- 连续被点名批评,私募安放基金什么情况? views+
- 以军空袭黎巴嫩多地 已致558死1835伤 views+
