关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家2025-09-29 12:00:01137人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的情感化或个性化提示词,也常常会被重定向至更严格的“gpt-5-chat-safety”模型。此外,涉及模型自身角色设定或其“自我认知”的提示词,同样会触发自动切换。

已有一名用户记录下了模型切换的实际过程,其他用户也证实了类似情况的存在。目前似乎还存在第二款路由模型“gpt-5-a-t-mini”,当用户提示词可能涉及请求实施潜在非法行为时,该模型便会被启用。

部分人士已对 OpenAI 提出批评,认为其在模型重定向的触发时机与原因方面缺乏足够透明度。他们表示,这种做法给人一种“居高临下”的感觉,且模糊了“儿童安全保护”与“更广泛的一般性限制”之间的界限。

目前,OpenAI 仅计划在特定地区推行基于官方文件的严格年龄验证机制。就当前而言,该语言模型判断用户身份及解读消息含义的方式准确性尚不高,这一问题未来可能持续引发争议。

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

马伊琍不再隐瞒,自曝离婚真相,姚笛仅冰山一角

小椰的奶奶 浏览 147 08-26

卡斯卡里诺:变成边缘人对格拉利什打击很大,埃弗顿会是很好选择

直播吧 浏览 3241 08-11

闫学晶奢侈风波升级!官媒出手锐评

网络易不易 浏览 37 01-06

493万降价转让天水资产,西部机场集团“挥别”甘肃

粉巷财经 浏览 3719 07-24

西媒:迈阿密国际有意洛塞尔索,已向其表达强烈兴趣

懂球帝 浏览 80 12-23

海底捞门店同款麻辣烫:美团便宜的售罄 闪购贵就能买

大风新闻 浏览 7616 08-16

倒计时一天 "普特会"的五大看点梳理

环球网资讯 浏览 5349 08-15

曾"轰动美国"被特朗普讨厌的8旬老人患病 被指时机巧合

环球时报国际 浏览 232 09-02

中国金茂中报:毛利40.59亿,归母净利10.9亿,盈利能力稳步提升

证券市场周刊 浏览 102 08-27

贵州日报:巴乔、卡洛斯抵达贵州;26日将前往村超现场助威

懂球帝 浏览 8050 07-26

今年流行的这件“短外套”美爆了,怎么搭都优雅贵气!

LinkFashion 浏览 85 12-11

外媒:以未公开5处军事设施曾被伊朗导弹直接击中

扬子晚报 浏览 6076 07-07

罗马仕违反强制认证规定、虚假宣传 被罚没124万

南方都市报 浏览 89 12-15

泽连斯基:乌克兰决定开放武器出口

界面新闻 浏览 202 09-25

大S遗产分割惊人内幕

喜欢历史的阿繁 浏览 111 09-24

齐溪晒二胎宝宝正脸!身材发福明显

松林侃世界 浏览 80 01-09

踩雷地产陷亏损泥潭,横琴人寿高管持续洗牌

经理人杂志 浏览 10096 08-13

1000亿宿迁白酒龙头,董事长低调履新

21财闻汇 浏览 9199 07-23

骨科医生遇袭 行凶者持刀乘网约车从地下车库进门诊

第一财经资讯 浏览 187 09-24

奚梦瑶接娃放学,大儿子正脸曝光

小咪侃娱圈 浏览 119 08-22

记者:阿根廷国家队考虑征召22岁的西乙银靴帕尼切利

懂球帝 浏览 8963 07-25
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除沪ICP备20017958号-3