北京時(shí)間8月27日晚間消息，OpenAI擬改進(jìn)ChatGPT，旨在更精準(zhǔn)地識(shí)別用戶的心理與情緒困擾信號(hào)，并做出更恰當(dāng)?shù)幕貞?yīng)。
該公司在一篇博客文章中表示：“近期發(fā)生了多起令人痛心的案例——人們?cè)趪?yán)重危機(jī)中使用 ChatGPT，這些案例讓我們深感沉重，我們認(rèn)為現(xiàn)在有必要分享更多（改進(jìn)計(jì)劃）�！�
OpenAI在博文中指出，即將推出的更新將幫助用戶立足于現(xiàn)實(shí)，即便用戶未表現(xiàn)出嚴(yán)重的自殘跡象。該公司還在探索如何在用戶陷入嚴(yán)重危機(jī)前，為其對(duì)接心理咨詢師。這與當(dāng)前模型的運(yùn)作方式有重要區(qū)別：目前，當(dāng)有人表達(dá)出自殘意愿時(shí)，ChatGPT只會(huì)建議其聯(lián)系自殺干預(yù)熱線。
在用戶明確提及自殘或其他情緒困擾情況之前，可能會(huì)出現(xiàn)多種信號(hào)——若能盡早干預(yù)，這些情況或許能得到緩解。OpenAI 舉了一個(gè)例子：某人表示自己兩晚未眠，卻能晝夜不停地開車，因?yàn)樗麄冇X得自己“無所不能”（這種表述可能是心理困擾的潛在信號(hào)）。
