关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家2025-09-29 12:00:0188人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的情感化或个性化提示词,也常常会被重定向至更严格的“gpt-5-chat-safety”模型。此外,涉及模型自身角色设定或其“自我认知”的提示词,同样会触发自动切换。

已有一名用户记录下了模型切换的实际过程,其他用户也证实了类似情况的存在。目前似乎还存在第二款路由模型“gpt-5-a-t-mini”,当用户提示词可能涉及请求实施潜在非法行为时,该模型便会被启用。

部分人士已对 OpenAI 提出批评,认为其在模型重定向的触发时机与原因方面缺乏足够透明度。他们表示,这种做法给人一种“居高临下”的感觉,且模糊了“儿童安全保护”与“更广泛的一般性限制”之间的界限。

目前,OpenAI 仅计划在特定地区推行基于官方文件的严格年龄验证机制。就当前而言,该语言模型判断用户身份及解读消息含义的方式准确性尚不高,这一问题未来可能持续引发争议。

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

闫安谈王楚钦丢冠:干嘛担心一站冠军赛的胜负?我们都没太当回事

直播吧 浏览 5050 08-12

忠诚村点球大战击败龙泉井村,夺得2025年贵州“村超”冠军

直播吧 浏览 3818 08-10

23岁男子失联两月疑在柬埔寨 家属曾收到死亡威胁短信

封面新闻 浏览 399 08-21

社区盾10个点球只进5个,今日门将扑点更容易了?

体坛周报 浏览 6536 08-12

佩斯科夫:俄会考虑30天停火提议 但试图对俄施压无用

环球网资讯 浏览 9550 05-11

继陈宇、黄燕铭之后,中信证券高呼:我们长期坚定看好创新药板块

金石随笔 浏览 6906 08-11

媒体:美伊对峙 2026年的第一场战争呼之欲出

经济观察报 浏览 3 01-29

搭CDC电磁悬挂不晕车,捷途X70L预售限时10.99万起

网易汽车 浏览 76 09-11

周国平谈“养老的精神维度”:阅读、旅行、写作……要把“老”养成年轻的状态

国是直通车 浏览 85 08-22

整车34.98万元/租电24.18万元,蔚来新ES6 30万台纪念版上市

IT之家 浏览 54 11-17

苹果计划在明年 3 月推出全新改版 Siri “借鉴” Gemini 技术

威锋网 浏览 45 11-04

世锦赛4×100混合泳接力:奥运冠军中国队卡9,遗憾止步无缘决赛

全景体育V 浏览 2698 08-03

采用极简设计风格 方程豹钛7内饰官图发布

车质网 浏览 4005 08-20

数智时代下女性力量崛起,中国数字经济已创造5700万个女性就业岗位

上观新闻 浏览 5551 07-28

成本仅1500万,一定档就是冠军,我断言:安志杰这片是暑期档黑马

靠谱电影君 浏览 7718 07-09

“成都造”机器人军团首次亮相2025世界机器人大会

钛媒体APP 浏览 9339 08-11

来到荣耀开始的地方,鏖战三盘,“中国莎娃”杀进八强

网球之家 浏览 6670 07-24

中年女人想穿得时髦,少穿羽绒服+紧身裤,换成这些好看保暖

静儿时尚达人 浏览 34 11-22

至高享价值48800元限时购车礼 猛士M817 Hero售30.19万

网易汽车 浏览 42 11-25

辱骂韦世豪球迷身份曝光!南看台球迷组织会长被解职,将内部整顿

奥拜尔 浏览 5813 07-21

U22国足新一期名单有8人入选过成年国家队,6人有过出场经历

懂球帝 浏览 71 08-23
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除沪ICP备20017958号-3