关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家2025-09-29 12:00:013人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的情感化或个性化提示词,也常常会被重定向至更严格的“gpt-5-chat-safety”模型。此外,涉及模型自身角色设定或其“自我认知”的提示词,同样会触发自动切换。

已有一名用户记录下了模型切换的实际过程,其他用户也证实了类似情况的存在。目前似乎还存在第二款路由模型“gpt-5-a-t-mini”,当用户提示词可能涉及请求实施潜在非法行为时,该模型便会被启用。

部分人士已对 OpenAI 提出批评,认为其在模型重定向的触发时机与原因方面缺乏足够透明度。他们表示,这种做法给人一种“居高临下”的感觉,且模糊了“儿童安全保护”与“更广泛的一般性限制”之间的界限。

目前,OpenAI 仅计划在特定地区推行基于官方文件的严格年龄验证机制。就当前而言,该语言模型判断用户身份及解读消息含义的方式准确性尚不高,这一问题未来可能持续引发争议。

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

叶珂高调复出直播,被问生孩子眼神飘忽避而不谈

界史 浏览 8861 07-19

马伯庸《两京十五日》要开机,成毅、林更新双男主,导演张黎压阵

最爱酷影视 浏览 4 09-23

印巴军事对峙加剧 小规模冲突收场还是走向大战?

上观新闻 浏览 1313 05-07

迪马济奥:恩多耶优先考虑去英超踢球,那不勒斯已在竞争战中落后

直播吧 浏览 2942 07-29

比利简金杯总决赛官宣阵容:中国队郑钦文领衔 王欣瑜张帅在列

醉卧浮生 浏览 9689 07-22

中国男篮一分之差夺得亚洲杯亚军 连央视也感叹"陌生"

澎湃新闻 浏览 6193 08-18

秘塔AI放大招!「边想边搜边做」,内置20+智能体,想法一键实现

新智元 浏览 6 09-25

全新夜影蓝车色/6月10日亮相 领克01焕新版官图发布

网易汽车 浏览 2524 06-06

首搭5C超充/202km纯电续航 新款GL8陆尊PHEV预告图

网易汽车 浏览 5155 07-17

预售29.99万起 新款一汽-大众揽境即将上市

车质网 浏览 4258 07-28

ReelShort被点众、听花岛指控抄袭,短剧平台应该如何维权?

深眸财经 浏览 1816 07-31

浙大硕士从烟草公司离职回农村隐居8年:35岁渴望结婚

红星新闻 浏览 8 09-21

副市长担心自己问题暴露 将高档白酒转移至朋友处藏匿

红星新闻 浏览 8 09-26

肖战与胡歌,复仇大男主的不同境遇

Yuki女人故事 浏览 1191 05-29

演员吕妍官宣怀二胎,夫妻两人曾参加恋爱综艺

快乐娱文 浏览 8797 08-17

专为皮卡打造/提升产品力 上汽大通星栈平台为破局而来

网易汽车 浏览 9021 08-20

京东招募“菜品合伙人”,每道菜奖励100万保底分成!3年开1万家…

北京商报 浏览 6268 07-22

队报:法国球队瓦朗谢纳以足球小将为灵感设计球衣,致敬日本文化

直播吧 浏览 498 07-25

明明年轻时很温柔,中年后却凶相毕露

负面黑洞 浏览 5931 07-15

埃及约旦等21国发表联合声明 谴责以色列袭击伊朗

新京报 浏览 5264 06-18

WAIC首日速递|我们已经不可能消除AI了,但我们必须管好它

虎嗅APP 浏览 3572 07-27
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除沪ICP备20017958号-3