【OPENAI】ChatGPT 推出受信联系人功能

OpenAI 在 ChatGPT 中推出可选的“受信联系人”功能,允许 18 岁以上用户预先指定一位他们信任的成年人,在系统与人工审查判断存在严重自伤风险时通知该联系人以便提供现实支持。该功能不替代专业救助,仅作为已有热线等安全层的补充,通知内容有限且经过人工复核以保护隐私。

概述
– 名称:Trusted Contact(受信联系人)。
– 目的:当检测到用户可能有严重自伤风险时,帮助用户与现实中的可信联系人建立联系,提供额外支持。

如何运作
– 用户资格:任何 18 岁及以上(韩国为 19 岁及以上)可在设置中添加一名受信联系人。
– 接受邀请:受信联系人会收到邀请,需在一周内接受才能激活;可随时移除或更换。
– 检测流程:自动监测识别到潜在严重自伤风险时,ChatGPT 会告知用户可能通知其受信联系人并鼓励先行联系;随后由一小组受过专门培训的人员复核对话。
– 通知方式:若人工复核确认存在严重安全顾虑,会通过邮件、短信或应用内通知(若对方有 ChatGPT 账户)向受信联系人发送简短通知。通知仅说明出现令人担忧的自伤迹象并建议检查联系,不包含聊天内容或记录,同时附上专家沟通指南。
– 复核时效:OpenAI 力争在一小时内完成这些安全通知的人工复核。

安全与隐私考量
– 限制信息:通知刻意简短以保护用户隐私,不提供对话细节或抄本。
– 多层保障:该功能并不替代危机热线或紧急服务,ChatGPT 仍会鼓励联系专业或本地求助渠道,并继续拒绝提供自伤/自杀实施方法的请求。

专家参与与演进
– 指导方:与临床医生、研究人员及自杀预防组织合作开发,包括美国心理学会等专家咨询。
– 持续改进:作为更广泛的安全工作的一部分,OpenAI 表示将继续与外部专家和政策制定者合作,改进 AI 在用户处于困境时的响应方式。

可控性与透明度
– 用户控制:用户和受信联系人均可随时移除彼此。
– 设计理念:强调通过促进人与人之间的真实连接作为降低自杀风险的重要保护因素,同时保留用户选择与自主权。

这是把 AI 监测与现实社交网络对接的务实做法,但能否在保护隐私与避免误报间取得长期平衡仍需观察。

原文链接

Leave a Comment