Plurk paste

何時用 AI 取代已逝兒童，才算是該界限？

Gaby Hinsliff

(GPT OSS 20B譯)

Joaquin Oliver 17 歲時在高中走廊被槍擊。幾個月前被退學的年輕人，於情人節當天用高槍在美國最致命的校園槍擊案中開火。七年後，Joaquin 認為，談談那天在佛羅里達州帕克蘭發生的事，能「為所有人創造更安全的未來」。

遺憾的是，Joaquin 在那天已經逝世。這週在 Substack 進行的採訪中，對前 CNN 記者 Jim Acosta 的「奇異金屬聲音」其實是 AI，根據他父母要求，從他青少年社群媒體貼文學習，並用它來加強他們對更嚴格槍支管制的宣傳。和許多失去親人的家庭一樣，他們不斷敘述孩子的故事，卻仍帶著痛心。沒想到他們現在正拼盡全力，試圖讓死去的孩子在華盛頓被聽見。

但他們也想，父親 Manuel 承認，僅僅再次聽孩子的聲音。妻子 Patricia 花數小時向 AI 詢問，聽他說「我愛你，媽媽」。

若一位父母在心裡不會評價失去孩子的人。若對於保持失去孩子的臥室作為聖所、對他們的墓碑說話、睡在一件仍有淡淡香氣的 T 恤上，這都不是別人的事。人們抓住能抓住的。9/11 之後，家庭聽到錄音帶直到錄音機塞滿，為親人打電話，從燃燒的塔和被劫持的飛機回家說再見。我有個朋友經常重新閱讀舊的 WhatsApp 交換，另一個則偶爾發短信給已故父親的號碼，分享家族新聞：她知道他不在，當然，但還沒準備好結束對話。有人甚至付錢給占卜師，以神秘而模糊的話語，與已逝者對話。但正是因為放手如此困難，悲傷才容易被利用。也許很快就能在數位上把已逝者重新帶回。

正如本週 Rod Stewart 在舞台上播放的 AI 生成視頻，帶著已故 Ozzy Osbourne 的音樂傳說，可能只不過是對大眾化的「表情包」的擴充。又或是為了短期目的，像亞利桑那州一家槍擊受害者家庭最近創建的 AI avatar，以向法官在槍手量刑時說話。但隨著時間推移，或許它會更深刻地挑戰自我與死亡的概念。若能創造出一個持久的 AI 複製人，或許能以機器人形式，永遠與他人對話。

復活是一種神聖力量，不是輕易放棄給某個科技兄弟帶著救世主複合。雖然活人對 AI deepfakes 的合法權益越來越被確立，死者的權益卻仍不明朗。

名聲與我們同行——已逝者不會被標籤——DNA 在死後保護。 （1996 年 Dolly 小羊的誕生，從單一細胞複製的基因克隆，激發了全球對人類複製的禁令。）法律管理了人類組織的尊重處置，但 AI 不是訓練在身體上，而是訓練在私人聲音備忘錄、訊息、照片中。當我父親去世時，個人從未感覺他真的在棺材裡。更明顯的是他在舊信件盒子、他種下的花園、他的聲音錄音中被發現。但每個人都以不同方式悲傷。若一半家庭想要數位復活 Mum，另一半不想與幽靈共存，會怎樣？

Joaquin Oliver AI 永遠不會長大——他將永遠 17 歲，永遠被鎖在他青少年社群媒體個性中——最終是他的殺手的錯，而非他的家人。Manuel Oliver 認為他知道，avatar 不是他的兒子，而他並不想把他帶回。對他來說，它似乎更像是家庭已經用 Joaquin 的人生故事觸發的自然延伸。可是，給他的 AI 訪問社群媒體帳戶、上傳影片並獲得粉絲的計畫，卻有點不安。若它開始產生幻覺，或偏離真正的 Joaquin 會想什麼話題？

雖然現在 AI avatar 仍然有點 glitchiness，但隨著技術進步，它可能越來越難以從線上真實人類分辨。也許不久之後，企業甚至政府機構已經使用聊天機器人處理客戶詢問，開始想要部署 PR avatar 以回答記者的問題。前 White House 通訊員 Acosta 理應知道在後真理世界的汙水中不混淆地同意訪問某個不存在的人。但目前，最明顯的風險是陰謀論者將此訪談作為「證據」，說任何挑戰其信仰的故事都可能是詐騙，正如 Infowars 主持 Alex Jones 在 Sandy Hook 學校槍擊案中所說的那樣。

然而，這裡涉及的專業挑戰不僅是記者。隨著 AI 進化，我們將越來越多地與自己的人形版本共處。它不僅是你廚房裡相對原始的 Alexa 或筆記本電腦上的聊天機器人——雖然已經有許多人把 AI 形容成人性化，甚至愛上 ChatGPT——而是更精細地把人類情緒調整到人性。當 10 分之一的英國成年人告訴研究人員他們沒有親密朋友時，當然會有 AI 伴侶的市場，就像今天買貓或在 TikTok 上滑動陌生人生活一樣。

也許，作為社會，我們最終會決定，當其他人不幸離去時，我們能使用技術滿足他人的需求。但在為孤單者帶來普遍安慰存在與為死者喚醒時，兩者之間有很大區別。根據經常在葬禮上讀的詩句，出生與死亡有一段時間。當我們不再確定哪一個是哪一個時，這會改變我們作為物種的樣貌？