据外媒 NEXTA 报道，OpenAI已于10月29日起正式限制ChatGPT的功能，AI将不再提供医疗、法律及金融方面的具体建议。
根据新规则，ChatGPT今后只可作为“教育工具”使用，而非“私人顾问”或“咨询专家”。这一调整写入了新的使用条款，明确规定：ChatGPT只能解释原理、提供基础知识，并建议用户咨询专业人士，例如医生、律师或财务顾问。
根据OpenAI新规，ChatGPT将不再执行以下任务：
- 不得建议药品名称、剂量或治疗方案；
- 不得起草诉讼文书、提供法律策略；
- 不得提出投资建议或买卖推荐。
取而代之的是，AI只会解释基本概念、说明运作机制，或提醒用户寻求专业指导。
多起真实“AI伤人”案例
OpenAI此举源于多起用户因听信AI建议而受伤或延误治疗的事件。
男子用错“食盐替代品”险丧命
今年8月，美国一名60岁男子因误信ChatGPT建议，将食盐替换为“溴化钠”（sodium bromide）食用，结果出现幻觉、偏执症状，被紧急送医并在精神病房留院三周。
据《内科学年鉴》（Annals of Internal Medicine）报道，该男子并无精神疾病史，他称自己是在“ChatGPT建议下进行饮食实验”。
爱尔兰男子误信AI致癌症延误
爱尔兰凯里郡一名37岁男子Warren Tierney因吞咽困难咨询ChatGPT，AI回应称“患癌的可能性极低”。他因此拖延就医，数月后被确诊为食管四期腺癌。
Tierney对《Mirror》表示：“ChatGPT听起来很有说服力，让我放松警惕。现在我意识到，它让我错过了最佳治疗时机。”
NEXTA指出，OpenAI此次更新旨在防止AI误导造成实际伤害。ChatGPT将不再扮演“顾问”角色，而是回归教育与信息辅助定位，仅提供一般性知识框架。
业内人士认为，这一变化意味着AI公司正在主动设防“滥用风险”，并回应监管层和公众对AI错误信息的担忧。
ChatGPT禁令标志着AI使用规则进入新阶段——未来的AI将更注重安全与伦理边界。
用户若涉及健康、法律或理财问题，将必须依赖专业人士的判断，而非完全相信算法生成的“答案”。
人工智能从“万能顾问”回归“知识助教”，或许正是迈向负责任AI时代的重要一步。
来源：moneycontrol 封面：Sanket Mishra/pexels
如果你喜欢我们的文章记得❤喜欢+⭐收藏+📣分享哦
 | 保存图片后VX扫一扫，或点击复制 DealmoonAu2 添加快报小编微信 全网特价信息、澳洲资讯全面知 |
「该长文章来自@OOliviaZZ-加拿大省钱快报，版权归原作者所有」
0
