关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家2025-09-29 12:00:0187人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的情感化或个性化提示词,也常常会被重定向至更严格的“gpt-5-chat-safety”模型。此外,涉及模型自身角色设定或其“自我认知”的提示词,同样会触发自动切换。

已有一名用户记录下了模型切换的实际过程,其他用户也证实了类似情况的存在。目前似乎还存在第二款路由模型“gpt-5-a-t-mini”,当用户提示词可能涉及请求实施潜在非法行为时,该模型便会被启用。

部分人士已对 OpenAI 提出批评,认为其在模型重定向的触发时机与原因方面缺乏足够透明度。他们表示,这种做法给人一种“居高临下”的感觉,且模糊了“儿童安全保护”与“更广泛的一般性限制”之间的界限。

目前,OpenAI 仅计划在特定地区推行基于官方文件的严格年龄验证机制。就当前而言,该语言模型判断用户身份及解读消息含义的方式准确性尚不高,这一问题未来可能持续引发争议。

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

小区居民被大型空调设备震得神经衰弱 多次报警仍无果

环球网资讯 浏览 7 01-19

优步、英伟达出手,美国自动驾驶投资再度升温

观察者网 浏览 94 08-23

郑恺小姨子不忍了!买包事件真相大白

银河史记 浏览 99 08-29

吉利持续加码亿咖通 智能化海外布局提速

网易汽车 浏览 15 01-14

赵本山女儿球球自爆抑郁复发,曾宣布生娃后退网,不差直播那点钱

娱乐白名单 浏览 6139 07-08

世体:多支巴西球队有意签下雷尼尔 球员合同还有一年到期

直播吧 浏览 713 07-30

俄方称要看美方具体行动 波兰劝俄乌相互妥协

新华社 浏览 6361 04-26

拟收购零跑汽车10%股份?中国一汽官方回应:不实信息

澎湃新闻 浏览 9275 08-21

AI会取代考古学家吗?在这场沙龙中窥见人工智能对文保利用的影响

封面新闻 浏览 62 10-17

李湘要气炸了!王诗龄封面脚被P成“双右脚”,芭莎无回应惹争议

乌娱子酱 浏览 59 10-19

以总理表示若伊朗要制造核武器还将动武 特朗普未反对

红星新闻 浏览 6299 07-13

律师互揭老,汪小菲烧烤直播大谈黑粉和孩子

甜柠聊史 浏览 105 08-29

50+女人别穿得“老气横秋”!掌握3个穿搭密码,减龄还显贵

静儿时尚达人 浏览 36 11-26

牛弹琴:特朗普突然180度大转弯 要对普京下狠手了

现代快报 浏览 8638 07-15

“大女主”马伊琍、朱丹、叶一茜都翻车?

FancyMusic 浏览 7602 07-16

特斯拉进入黑暗隧道

虎嗅APP 浏览 3073 07-25

泽连斯基透露可能的和平谈判地点

财联社 浏览 70 08-22

俄石油贸易商要求印度简化流程:直接付人民币

澎湃新闻 浏览 91 10-09

胡歌现身为电影宣传,现场人山人海全场欢呼,胡歌照顾后辈好暖心

扒虾侃娱 浏览 35 11-17

日本政坛地震,石破茂面临下台危机,日元为何走强?

国际金融报 浏览 3175 07-22

GPT-5登场 OpenAI奥特曼:已从大学生变博士级专家

澎湃新闻 浏览 1935 08-09
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除沪ICP备20017958号-3