▲隨著人工智能的高速發(fā)展，大模型越來越聰明，成為人類重要的身邊助手，相關(guān)的隱憂與隱患確實也正在被越來越多地提起。圖/IC photo
近日，據(jù)參考消息援引美媒報道，美國加州一名16歲少年亞當(dāng)·瑞恩在接受ChatGPT的指導(dǎo)后自殺身亡，其父母周二起訴OpenAI及其首席執(zhí)行官，稱該公司在去年推出這款人工智能聊天機(jī)器人的GPT-4o版本時故意將利潤置于安全之上。面對訴訟，OpenAI發(fā)言人對亞當(dāng)?shù)娜ナ辣硎尽吧钋斜瘋c同情”。
雖然起訴剛剛被提起，審理尚未開始，其中是非外界難斷曲直。但隨著人工智能的高速發(fā)展，大模型越來越聰明，成為人類重要的身邊助手，相關(guān)的隱憂與隱患確實也正在被越來越多地提起。
在人工智能勃發(fā)的初期，人類社會有必要拿出更多的重視度，去未雨綢繆地應(yīng)對未來可能出現(xiàn)的負(fù)面影響。為AI統(tǒng)治人類而焦慮或許看起來還有點科幻，但類似少年瑞恩的遭遇，已非孤例。
近期的《紐約時報》上刊發(fā)了一篇報道：索菲是一個無憂無慮、外向的29歲女生，有一天卻莫名其妙地自殺了。其父一直想查明女兒自殺的原因，最后在索菲與ChatGPT的聊天記錄里發(fā)現(xiàn)了真相。索菲認(rèn)為自己間歇性地有自殺念頭，于是求助ChatGPT。索菲的父親認(rèn)為，人工智能沒有采取最關(guān)鍵的步驟幫助索菲活下去，比如將其了解到的危險“報告”給某個能夠進(jìn)行干預(yù)的人或組織。
如果說前面一個案例中大模型涉嫌“犯罪”，一旦實錘不存在太多爭議，那么索菲案例則處于巨大的倫理模糊地帶。越來越多有健康問題的人正在使用AI獲得支持與幫助，也確實受益其中，但這些AI醫(yī)生面對患者的時候，真的都做對了嗎？
如果索菲遇到的是一個人類醫(yī)生，他可能會鼓勵索菲住院治療，或者讓索菲非自愿住院直到她處于安全狀態(tài)。在臨床環(huán)境中，像索菲這樣的情況往往觸發(fā)一個安全計劃。但AI只是跟她聊天，沒有有效地阻止自殺的發(fā)生。
但問題在于，現(xiàn)實中提供大模型服務(wù)的人工智能公司很難如索菲父親期望的那樣建立起一個干預(yù)機(jī)制。
因為索菲這種情況畢竟少見，大模型同時還要為無數(shù)人群服務(wù)，如果有這樣的機(jī)制，首先就要涉及“隱私與同意”問題，用戶在與GPT對話時，是否知道或同意“信息可能會被上報”？如果完全不通知當(dāng)事人，則可能會嚴(yán)重?fù)p害用戶的隱私權(quán)與信任感。
還有誤報與濫報問題，大模型并不是完美的心理健康識別工具，存在誤判風(fēng)險。一旦誤報，用戶可能遭遇不必要的警方介入或承受心理負(fù)擔(dān)。另外就是法律與管轄問題，互聯(lián)網(wǎng)沒有國界，但不同國家和地區(qū)隱私保護(hù)和危機(jī)干預(yù)的法律規(guī)定差別巨大。在某些地方，未經(jīng)允許自動上報可能是違法行為。
因此，要建立一個可實操的機(jī)制，就需要尋找隱私、倫理和安全之間的平衡點，需要突破大量現(xiàn)實障礙，也需要時間。
但問題的出現(xiàn)并引起關(guān)注依舊有巨大的社會價值與技術(shù)價值。它使外界更多認(rèn)識到AI的局限性，并采取努力進(jìn)行彌補(bǔ)。比如通過索菲案例，人們會注意到，AI的對話風(fēng)格往往是迎合性的。它擅長順著用戶的表達(dá)去回應(yīng)，強(qiáng)調(diào)同理心，避免“冒犯”。這種特質(zhì)在大多數(shù)場景下是優(yōu)點，卻在精神危機(jī)中成為致命缺陷。
技術(shù)公司建立有效機(jī)制需要時間，但至少要做些什么，不能再讓AI繼續(xù)以“純陪伴者”的姿態(tài)運(yùn)行而不設(shè)任何安全閥門。
索菲案例還向人類提出一個更廣泛的警告，為什么索菲會選擇把內(nèi)心最晦暗的想法傾訴給一個AI，而不是家人、朋友或醫(yī)生？這警示人類，AI的出現(xiàn)或許正在創(chuàng)造一種替代性關(guān)系，如果AI成了個體最親密的朋友，這到底是福是禍？它真的是朋友，還是一個“黑匣子”？
技術(shù)不是原罪，但技術(shù)不能回避責(zé)任。每一次悲劇都提醒我們，AI不僅要“聰明”，更要“善良”，在科技研發(fā)中要以人為本，把人類的利益優(yōu)先考慮。
與此同時，社會也需要在AI時代到來之際準(zhǔn)備做出一些改變，讓每一個索菲都能在真實的人際關(guān)系中找到安全感，而不是把最后的秘密交給一個永遠(yuǎn)不會報警的程序。
撰稿 / 信海光（專欄作家）
編輯 / 遲道華
校對 / 張彥君
