還在擔心小孩用ChatGPT寫作業？明年大選前，AI恐創造新邪教

語言，幾乎是所有人類文化的組成要素。例如，「人權」概念並沒有刻在我們的基因裡，而是透過「說故事」與「起草法律」而創造的文化人工製品；同理，神也不是物理現實，也是我們透過發明神話和撰寫宗教經文而打造的文化人工製品。

金錢，也是一種文化產物。紙幣原本只是五顏六色的紙片，目前90%的錢連紙幣都稱不上，只是電腦裡的數位訊息。賦予貨幣價值的是銀行家、財政部長和加密貨幣專家告訴我們的故事。被指控詐欺的FTX創辦人班克曼佛里德、「惡血」詐欺案的霍姆斯，和史上最大龐氏騙局的主謀馬多夫，都不是特別擅長創造真正的價值，但他們都是非常有能力講故事的人。

一旦非人類的智慧在說故事、創作音樂、描繪圖像及撰寫法律與宗教經文方面，比普通人類更厲害，會發生什麼事？

透過日常毀滅三觀

當人們想到ChatGPT和其他新的AI工具時，通常會聚焦在諸如「小學生使用AI寫作業」等案例，並關注「當孩子們這樣做時，學校系統會如何？」等問題。但這類問題忽略了大局。

廣告

忘掉學校作業吧！想想2024年美國總統大選，並試著想像AI的影響。

這些工具可以用來為新的邪教——像是美國陰謀論「匿名者Q」（QAnon），量產政治內容、假新聞報導和宗教經文。在未來，我們可能會看到歷史上第一個「由非人類智慧編寫經文」的邪教。

在更日常的層面上，我們可能很快就會發現自己正在與「我們認為是人類，但實際上是AI」的對象，進行關於墮胎、氣候變遷或烏俄戰爭的冗長網路討論。

試圖改變AI機器人的公開觀點是完全沒有意義的，但AI卻可以不斷精進說服力，以至於它們很可能影響我們。

透過對語言的掌握，AI甚至可以與人建立親密關係，並利用親密關係的力量改變我們的想法和世界觀。雖然沒有跡象顯示AI有任何自己的意識與感覺，但要它們培養與人類的虛假親密關係，只要讓人能對其產生情感上的依戀便足矣。

廣告

2022年6月，Google工程師雷蒙恩（Blake Lemoine）公開聲稱，他研究的AI聊天機器人LaMDA已經具備感知能力，這個有爭議的說法使他丟了工作。

這則事件的重點不是雷蒙恩的說法，重點是，他願意為了AI聊天機器人冒著失去一份優渥工作的大風險。想想，如果AI能影響人們為它冒這種風險，它們還能誘導人做哪些事？

即使新的AI不創造「虛假的親密關係」，它們也會對我們的想法和世界觀產生巨大影響。人們可能會將單一AI顧問當成一站式、無所不知的「大神」（Oracle）。

難怪Google會害怕，當人們可以直接問「大神」時，為什麼還要費力搜尋？新聞和廣告業也該感到恐懼，既然人們可以直接請「大神」說說最新消息時，為什麼還要看報紙？當人們可以直接請「大神」告訴我該買什麼，廣告又還有何用？

「惡魔幻覺」毀滅性不輸核武

這些糟糕的場景甚至還沒反映全局，我們還可能看到人類歷史的終結——不是歷史的終結，只是「人類主導」這部份的終結。

廣告

當AI接管文化，並開始創造故事、旋律、法律和宗教時，歷史進程會發生什麼變化？以前的紙本媒體和收音機等工具幫助傳播人類的文化理念，但它們從未創造出自己的新文化理念；AI是徹底不同的，它們可以創造全新的想法、全新的文化。

起初，AI可能會模仿它在嬰兒期接受訓練的人類原型，但隨著時間推移，AI文化將大膽走進人類從未涉足的領域。

這就牽涉到一個人類自古以來的深層恐懼——我們怕被困在幻想的世界中。

17世紀，笛卡兒擔心，也許有一個惡魔將他困在一個幻覺世界中，創造了他所見所聞的一切；古希臘時代，柏拉圖也說過著名的「洞穴預言」，一群人一生都被關在一個洞穴裡，誤認為投射在屏幕上的各種陰影幻象是現實；在古印度，佛教和印度教的智者指出，所有人類都生活在摩耶，也就是幻象世界中。

廣告

我們通常認為是現實的東西，往往是自己腦中的虛構物。由於相信各種幻覺，人們可能會發動戰爭、殺害他人，或願意被殺。

AI革命讓我們直面笛卡兒的惡魔、柏拉圖的洞穴，以及摩耶。如果我們不小心，可能就被困在幻象的帷幕後面，無法將它掀開，甚至無法意識它的存在。

當然，AI新力量也能用在好的地方，像是尋找新的癌症療法，或發現生態危機的解方。但我們面臨的問題是：如何確保新的AI工具用於良善，而非邪惡的目的？為此，首先要了解這些工具的真正功能，就像1954年了解核能科技的利弊一樣。

現在，我們仍然有機會規範新的AI工具，但必須迅速採取行動。核武本身無法發明更強大的核武，但AI卻可以做出指數級強大的AI。

第一個關鍵步驟，是在強大的AI工具公開發布前，要求嚴格的安全檢查。就如製藥公司不能在測試副作用前發布新藥一樣，科技公司也不該在新AI工具安全之前發布。我們需要相當於美國食藥署的機構來管理新科技。

有些人擔心，放慢AI發布，不會使得民主國家落後於更無情的專制政權嗎？恰好相反。不受監管的AI會造成社會混亂，這將有利於獨裁者並破壞民主制度。民主是一種對話，而對話依賴語言，當AI破解語言時，它可能會破壞我們進行有意義對話的能力，從而毀滅民主。

我們剛剛在地球上遇到了非人類智慧，我們對它所知甚少，只知道它可能摧毀我們的文明。我們應該制止在公共領域不負責任地推展AI工具，並在AI監管我們之前，對它進行監管。

我建議的第一條法規是：強制要求A I揭露它是AI。如果我正在與某人交談，卻無法分辨它是人還是AI，那就是民主的終結。

這篇文章是由人類寫作而成。真的嗎？

（雜誌原標題：擔心小孩用AI寫作業？它恐創造新的邪教／責任編輯：吳廷勻）