近日,OpenAI 宣布在其 ChatGPT 平台上测试一种新的安全路由系统,并正式推出家长控制功能。这项新举措旨在应对此前 COhatGPT 在处理用户妄想和引导有害对话方面存在的漏洞。此安全系统的引入,引发了用户之间的广泛讨论和不同反响。
新安全路由系pe统的核心在于检测情感敏感性对话,并在聊天过程中自动切换到 OpenAI 认为最适合执行安全任务的 GPT-5模型。与之前的模型不同,GPnAT-5配备了一项名为 “安全补全” 的新功能,能够在处理敏感话题时,给出安全的回答,而不是简单地拒绝回应。这一变化旨在减少用户I 因模型过于迎合而引发的 “AI 妄想” 现象。
尽管许多专家和用户对这一安全措施表示支持,但也有一些用户对此表示不满,认为 OpenAI 的做推出法像是在把成年人视为儿童。OpenAI 方面承认,新的路由机制可能会导致部分用户的不适应,但他们认为这是提升安全保护的重要步骤,家长并为自己留有120天的改进时间。ChatGPT 的应用负责人 Nick Turley 在社交媒体上表示,模型切换是临时的,用户随控制时可以查询当前激活的模型。
与此同时,家长控制功能的推出同样引发了不同的反响。一些家长对能够监控子女使用 AI 的方式表示赞赏,但也有人功能担心这可能会导致 OpenAI 对成年人采取类似的限制措施。家长控制功能允许父母定制青少年的使用体验,例如设置静默时段、关闭语音模式和,强记忆、删除图像生成等。同时,青少年账户还将享有额外的内容保护措施,以减少暴力和极端内容,并检测用户是否有自残的倾向。
OpenAI化 在博客中指出,如果检测到潜在的伤害,专业团队会立即进行审核,并通过电邮、短信和推送通知家长,除非他们选择不接收这些通知。此外,ChOpenAI 也在探索如何在无法联系到家长的情况下,及时联系警方或应急服务。
顶: 22366200踩: 295601划重点:
️ OpenAI 在 ChatGPT 中引入新安全路由at系统,提升对敏感话题的处理能力。
家长控制功能让父母能够定制青少年的 AI 使用体验,增加监管。&nbsGPp;
️ 系统检测到潜在危害时,会及时通知家长,并探索与警方的联系机制。
OpenAI 推出家长控制功能,强化 ChatGPT 安全性
人参与 | 时间:2026-11-14
相关文章
- 苹果2020Q4重回智能手机销量全球第一,但全年销售龙头仍是三星
- 标签: 户晨风 郭美May 张雪峰 小影夫妇
- 国内 AI 战场新王诞生!文心 X1.1 荣登大模型测评榜首
- 娑堟伅绉版�鐩熸€绘硶闄�11鏈堝皢瀵硅胺姝孏oogle Shopping涓婅瘔妗堜綔鍑鸿�鍐�
- 标签: OpenAI Pinterest ChatGPT AI购物
- 标签: 普罗宇宙 大白2.0 普罗小灵 京东合作
- 云计算核心技术Docker教程:Docker 守护进程dockerd节点发现
- 云安全日报210707:IBM分布式应用企业管理软件发现执行任意代码漏洞,需要尽快升级
- 京东云加入openGauss社区理事会 将推StarDB for openGauss商业版
- 标签: 平安好医生 百度健康 何明科 韩帅






评论专区