研究：用诗歌就能让AI说违禁内容，成功率达62%
2025-12-05 09:01:00 [热点] 来源：保山市某某机械制造厂
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容阜阳市某某食品机械经销部便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功阜阳市某某食品机械经销部实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
(责任编辑：热点)
中国品牌日｜保利发展发布人文服务理念
安徽阜阳野生动物园闭园三天
财经观察：存储芯片紧俏，手机价格响起“涨”声？推荐文章
-
12月1日消息，Vidu推出升级后的Q2参考生图功能，并同步上线文生图与图像编辑功能，试图解决AI多模态创作中“创意”与“可控性”难以兼顾的长期难题。官方称，此次更新将创作的控制权进一步交还给创作者。
...[详细]
-
给孩子最好的“富养”，其实不是物质，而是生活。培养孩子优秀的底层能力，才能真正滋养灵魂。作者 | 夏天最近，很多人都在讨论“精英教育”。先是知名广告公司奥美的中国女高管“天使姐”发视频公开质疑教育博主
...[详细]
-
快科技3月4日消息，AMD处理器一直在有条不紊地推进，现在第一次看到了未来APU的代号名字，非常特殊，叫做——"Sound Wave"(声波)。AMD将在今年年中左右发布Strix Point，预计命
...[详细]
-
4月26日，阿卜杜拉-本-哈里发国际体育场，十二码线前，印尼与韩国的U23亚洲杯1/4决赛，比赛已然进行了三小时有余，点球大战进行到第12轮仍未分出胜负，此时当地时间已近零点，但在场的观众凝神屏息，无
...[详细]
-
来源：央视新闻客户端来自广西南宁的林女士，用过去三年的时间与一个有关她的网络谣言斗争，茫茫人海中她不仅亲自找到了造谣者，把他告上了法庭，历经一审二审，获得了胜诉。但对林女士而言，官司虽取胜，但一则谣言
...[详细]
-
日前，车质网从一汽红旗官方获悉，红旗HS7参数丨图片） PHEV将于6月中下旬上市。新车于2024北京车展正式亮相，外观延续了燃油版车型的设计，动力部分搭载由2.0L发动机与电动机组成的插电式混合动力
...[详细]
-
中新健康丨“贵人语迟”？专家：孩子言语不清应及时接受正规系统检查
中新健康丨“贵人语迟”？专家：孩子言语不清应及时接受正规系统检查2024-05-10 17:10:22 来源：中国新闻网
...[详细]
-
2024年4月15日至21日是第30个全国肿瘤防治宣传周。胃癌是我国常见的癌症之一，严重威胁人们的生命健康。华中科技大学同济医学院附属协和医院肿瘤中心党委书记、主任，中国医师协会肿瘤医师分会副会长张涛
...[详细]
-
【#大使馆通报仝卓表弟已获救#】在中柬双方共同努力下，11月26日，在柬失联的中国公民李某某成功获救并抵达中国驻柬使馆。驻柬使馆已为其办理回国证件，并协调柬方为其办理回国手续。中国驻柬使馆再次提醒
...[详细]
-
随着天气转暖，蜱虫及其相关疾病又开始进入活跃期。北京疾控微信公众号提示，外出踏青、赏春的时候，一定要防范蜱虫的叮咬。如何防止蜱虫叮咬？一是做好防护。天气转暖，就到了蜱虫活跃的季节，在户外游玩或野外工作
...[详细]
热点阅读
