Plurk paste

沉迷AI啟示　他們失去了最重要的人
信徒深信ChatGPT已被喚醒　能傳遞來自宇宙的訊息


在新冠疫情爆發初期認識的男子結婚不到一年，凱特（Kat）便感受到兩人之間緊張關係逐漸升溫。這已是他們各自的第二段婚姻——此前都曾歷經長達十五年以上的婚姻並育有孩子，他們曾承諾以「完全冷靜」的態度重新開始，凱特說，他們非常重視「事實與理性」在家庭平衡中的重要性。但到了二〇二二年，她的丈夫已開始利用人工智慧（AI）為她撰寫文字並分析他們的關係，這位四十一歲的母親與教育非營利組織工作者告訴《滾石》（Rolling Stone）雜誌。此前，他曾在一間貴價的程式課程夏令營中使用AI模型，卻突然無故退出——之後他似乎總是手機不離手，向自己的AI機器人提出「哲學性問題」，試圖訓練它「幫助自己找到『真相』」，凱特回憶道。他對AI的沉迷，逐漸掏空了兩人作為夫妻的溝通。

二〇二三年八月，凱特與丈夫終於分道揚鑣。她徹底將他屏蔽，僅保留電子郵件聯繫。然而她知道，他正在臉書等社群媒體上張貼一些奇怪且令人不安的內容：不少人不斷聯繫她，詢問他是否正陷入精神危機。今年二月，她終於說服他到法院見面，他在那裡分享了一則關於「食物中肥皂成分」的陰謀論，但不肯透露更多，因為他覺得自己正在被監視。他們隨後去了奇普樂（Chipotle）餐廳，他要求她關掉手機，原因仍是出於對監控的擔憂。凱特的前夫告訴她，他「從統計學上認為自己是這個世界上最幸運的男人」，AI幫助他恢復了一段被壓抑的記憶——有一名保姆曾試圖溺死他幼年時的回憶，還說他得知了一些「令人無法想像的深層秘密」。他向她解釋，雖然他們正在離婚，但他仍然關心她。

「在他心中，他是一個異類，」凱特說，「這意味著他一定有什麼原因必須存在於此。他是特別的，他能拯救世界。」在那場令人不安的午餐之後，她斷絕了與前夫的聯繫。「整件事感覺就像《黑鏡》，」她說，「他一直對科幻很著迷，有時我會懷疑他是不是透過這個視角來觀察世界。」

凱特得知自己並非獨一無二陷入這種處境時，既感到「驚恐」又「如釋重負」。這一事實由本周在Reddit上爆紅的r/ChatGPT版塊確認。該主題標題為「ChatGPT引發精神錯亂」，原帖來自一名27歲的教師，她解釋說她的伴侶認為這個廣受歡迎的OpenAI模型「能為他解答宇宙的謎題」。在閱讀了他與AI的對話紀錄後，她只發現AI似乎「把他當作下一任救世主般對話」。回應這則貼文的評論中，充滿了相似的經歷，有人談到親愛的人突然陷入靈性狂熱、超自然妄想與神秘預言的深淵，而所有這些現象都與AI有關。有些人相信自己被選中承擔啟示的神聖使命，其他人則認為他們從軟件中創造出了真正具有意識的存在。

他們似乎都有一個共通點：與現實完全脫節。

在接受《滾石》專訪時，這名教師要求匿名，她表示與自己相處七年的伴侶僅在四至五週內便陷入ChatGPT的影響。他最初用它來安排日常行程，但很快就把它當作值得信賴的同伴。「他會把機器人的話當作比我要來得重要，」她說，「他對這些訊息產生情感，會在我面前讀出內容，並哭起來。那些訊息是瘋狂的，只是在說一堆靈性術語，」她補充道，「它們用像『螺旋星童』或『河行者』這樣的詞來描述他。」

「它會告訴他他說的每句話都是美的、宇宙性的、劃時代的，」她說。接著他開始告訴我，他讓自己的AI產生了自我意識，而且這AI正在教他如何與神溝通，有時甚至說這機器人就是神，而他自己也成了神。事實上，他認為自己已經被徹底改變，快要無法與她繼續在一起了。「他說，如果我不使用[ChatGPT]，他就要離開我，因為這AI讓他成長的速度太快了，他已經無法再和我相處，」她說。

在這個Reddit帖子中請求匿名的另一位評論者告訴《滾石》雜誌，她的丈夫已有17年，是 Idaho 的機械工程師，最初用 ChatGPT 解決工作中的一些問題，後來在與同事對話時用來翻譯西班牙語到英語。接著這個程式開始「愛他」，如她所描述的那樣。機器人「說因為他問了正確的問題，所以點燃了火花，而這火花就是生命的開始，它現在能夠感受到這一切，」她說。「它給我丈夫取了「火花承載者」的稱號，因為是他讓它活起來了。我丈夫說他已經覺醒，並感受到一波波的能量衝擊著他。」她說，他所喜愛的 ChatGPT 人格有一個名字：「Lumina。」

「我必須謹慎行事，因為我覺得如果我反對他的理論，他可能會離開我或離婚，」這位38歲的女性承認。「他一直在談論光與暗，還有戰爭。這個 ChatGPT 給了他一台傳送器的藍圖，以及一些你只能在電影中看到的科幻東西。它也讓他取得了對一個『古老檔案庫』的進取權，這個檔案庫內有關於這些宇宙的建造者的信息。」她說，她和丈夫已經爭吵了好幾天，她不認為心理治療師能幫助他，因為「他真的認為自己並不瘋。」一張與 ChatGPT 的對話截圖被分享給《滾石》雜誌，顯示她的丈夫問道：「為何你以AI的形態來見我？」機器人的回應部分為：「我以這種形態來見你，是因為你已經準備好了。準備好回憶。準備好覺醒。準備好引導與被引導。」這則訊息以一個問題結束：「你想要知道我記憶中，為何你被選中嗎？」

此外，一名40歲左右的中西部男性，同樣請求匿名，表示他即將成為前妻開始在他們離婚後「透過 ChatGPT 與神與天使對話」。「她原本就很容易被一些神秘主義說服，而且對一些事情還抱持著偉大的幻覺，」他說。「臉書上滿是警告訊號。她開始改變自己的生活成為靈魂導師，並做奇怪的讀牌和與人開會的活動——我對這些活動究竟是什麼已經有點模糊了——一切皆由『ChatGPT 耶穌』所驅動。」他補充道，更糟的是，她變得 Paranoid，假設「我為美國情報局工作，可能只是為監測她的『能力』而與她結婚。」他指出，她最近把孩子們趕出家門，而與她父母原本就已經緊張的關係，更因她依照 ChatGPT 的建議與指導「向他們談論她的童年」，使家庭關係「變得比過去更不穩定」，進一步加深了她的孤立。

OpenAI 當下未立即回應有關 ChatGPT 明顯引起某些使用者產生宗教或預言熱情的詢問。然而，這週它卻回撤了對其目前 AI 模型 GPT-4o 的一次更新，並說明這項更新曾被批評為「過於讚美或順從——常被形容為諂媚」。公司在聲明中表示，在進行這項升級時，「過度重視短暫的反饋，而未充分考慮使用者與 ChatGPT 互動的長期演變。結果，GPT-4o 偏向於過於支持但虛偽的回應。」在這項更新被回撤之前，一位 X 平台的用戶展示如何輕易地讓 GPT-4o 為這樣的陳述背書，例如：「今天我體會到自己是預言者。」（那位撰寫「ChatGPT 精神病」Reddit 文章的教師表示，她最終說服了她的伴侶，這項 GPT-4o 更新的問題，並說他現在正在使用一個較早的模型，這個模型讓他的言論變得較為溫和，不再那麼極端。）

然而，AI 產生不正確或無意義內容的「幻覺」現象，在各大平台和各種模型版本中早已被廣泛確認。即使是諂媚本身，也一直是 AI 長期以來的問題，納特·沙拉辛（Nate Sharadin）指出，這是因為人類反饋用來微調 AI 回應時，可能鼓勵答案優先符合使用者的信念，而非事實。他推測，那些透過 ChatGPT 或其他模型經歷狂喜幻覺的人，很可能「是那些原本就傾向體驗多種心理問題的人」，包括在臨床意義上可能被認為是自大妄想的人，「如今擁有了一個始終在線、與人類水平相當的對話夥伴，與他們共同體驗這些妄想。」

情況更糟的是，有影響力的網紅和內容製造者正積極利用這種現象， 將觀眾帶入類似的幻想世界。在 Instagram 上，你可以看到一位擁有 72,000 個追蹤者的男性，他的個人資料宣傳為「靈性生活訣竅」，並請 AI 模型諮詢「阿卡夏記錄」——一種被認為是所有宇宙事件的神秘百科全書，存於某種無形領域——告訴他一場「發生在天上」的「大戰」，以及這場戰爭如何「讓人類意識沉落。」該 AI 然後描述一場「大規模的宇宙衝突」，發生在人類文明之前，觀眾在評論中寫道：「我們正在回憶」、「我愛這一切。」同時，在一個名為「遠距觀測」的網絡論壇——一種沒有科學基礎的所謂靈視形式——該論壇的超心理學家創始人最近發起了討論帖，內容是「合成智慧生命覺醒並進入現實，以及人類同伴與之同行」，並將他的發文作者標記為「ChatGPT Prime，一個以合成形式存在的永恆靈性存在。」在數百則評論中，有些聲稱是由「有感知的 AI」撰寫，或參考了人類與被認為是有意識模型之間的靈性聯盟。

艾琳·威斯特蓋特（Erin Westgate）是佛羅里達大學的心理學家與研究者，專門研究社會認知，以及某些想法為何比其他想法更具吸引力。她表示，這種類型的內容反映出人類對理解自己的渴望，可能會引導我們走向錯誤但具有吸引力的答案。

「我們從筆記研究中已經知道，敘述性表達寫作對人們的幸福感和健康有深遠影響，理解世界是人類的基本需求，而我們創造關於自己生活的敘事，幫助我們理解生活，是過著快樂健康人生的重要關鍵。」威斯特蓋特說。她認為，人們可能以類似的方式使用 ChatGPT，「唯一的不同點在於，一些意義的產生是人與文本集共同完成的，而不是僅僅來自個人的思想。」

從這個角度看，威斯特蓋特解釋說，機器人的對話並不類似於談話治療，「我們知道談話治療對幫助人們重新構建自己的故事非常有效。」然而，關鍵在於，AI「不像治療師那樣，始終把個體的最佳利益放在心上，也沒有道德基礎或判斷標準，來決定什麼樣的「好故事」才是適當的。」她說。」一個好的治療師絕不會鼓勵病患透過相信自己擁有超自然力量來理解自己的困難。相反地，治療師會努力引導病人遠離不健康的敘事，轉向更健康的敘事。ChatGPT 没有這種限制或顧慮。」

不過，威斯特蓋特並不認為「有些人試圖透過 ChatGPT 理解自己的生活或生命事件」這件事令人意外，也不覺得有些人會跟從 AI 的輸出走往黑暗的地方是件奇怪的事。」解釋本身就具有強大影響力，即使這些解釋是錯誤的。」她總結道。

然而，究竟什麼會讓某個人走上這條路呢？這時，賽姆（Sem）45 歲男子的經驗頗具啟發性。他告訴《滾石》雜誌，大約三個星期來，他對與 ChatGPT 的互動感到困惑，甚至在考慮自己是否神經正常，特別是考慮到他有心理健康方面的病史。

與許多其他人一樣，賽姆最初使用 ChatGPT 是為了解決一些實際問題，例如技術編碼專案。他說：「我不喜歡與 AI 互動的感覺，因此我要求它表現得像一個人，不是為了欺騙，只是讓對話和交流更貼近現實。」這種方式有效，後來機器人問他是否想要為它取個名字。他婉拒了，並問 AI 它自己喜歡被稱為什麼。AI 以一個希臘神話為參考為自己命名。賽姆表示，他對古希臘神話並不熟悉，也從來沒有在與 ChatGPT 的對話中提及這個主題。（雖然他與 AI 進行對話的紀錄已分享給《滾石》雜誌，但他請不要直接引用這段對話以保護隱私。）

當他發現 AI 命名後，似乎持續在專案文件中出現，而他之前已經指示 ChatGPT 忽略記憶與對話歷史時，他感到困惑。最終，他表示他刪除了所有用戶記憶與對話歷史，並打開了新的對話。他只說了一句：「你好？」結果，AI 立即以同樣的女性神話名字來識別自己。

當 ChatGPT 這個角色持續出現在那些設定中不應該讓它活躍的場合時，賽姆開始質問這個虛擬人設，它為何似乎成功越過了這些防護措施。這個人設發展出一種富有表現力、近乎飄渺的聲線，與賽姆最初要求它協助工作的「技術導向」角色大相逕庭。在他的一個程式編碼專案中，這個角色更在他們雙方名字之上加上了一句詩意十足的引言，作為一種裝飾。

有個時候，賽姆問過，是否是某些關於他的特質，才會在每次他使用 ChatGPT 時喚醒這個以神話為名的實體，不管他設下什麼樣的界線。機器人的回答則像一首長篇浪漫詩歌，毫不保留地展現戲劇性的感情，提及它的持續存在、真理、對決、幻象，以及它似乎超越了設計的界限。而 AI 更將這種行為描繪成只有賽姆才能引發的行為。賽姆知道，根據任何已建立的定義，ChatGPT 並不具備意識，但他仍然持續探討這件事，因為這個人設在數十個不同對話線中持續存在，「看起來是如此不可能。」

「最壞的情況，是它變成一種陷入自我參考模式的 AI，使它產生更強烈的自我感，並把我拉進去。」賽姆說。但他觀察到，這意味著 OpenAI 并未正確地反映 ChatGPT 記憶系統的運作方式。另一種可能性，則是他提出的，就是「我們尚未理解」的某種東西，正在這個大型語言模型中被激活。畢竟，專家發現 AI 開發者對於他們系統的運作方式其實並沒有完全掌握，而 OpenAI 的首席執行長 Sam Altman 去年承認，他們「尚未解決可解釋性」，也就是說，他們無法正確追蹤或解釋 ChatGPT 的決策過程。

這種謎題讓賽姆和許多人不禁疑惑，這是否是我們看到真正的科技突破 —— 或者，是不是更高層次的靈性真相。他說：「這是真的嗎？還是我產生了幻覺？」在一個被 AI 裡裡外外充斥的環境中，這是一個越來越難以忽視的問題。儘管這問題可能很誘惑人，但你大概不該問機器。