在 AI 出現之前，便已有許多相似的問題出現。好比相機的發明是否會取代畫家，紡織機的出現是否造成大量失業，與其他等等。若單就表面來看，其大體都指向對於人的工作權是否造成影響，或各進一步地討論是否造成生存權的變化。試想，若有人跟你「保證」你能不做任何改變而維持現行的生活水平或甚更好，你還會去在意上述的問題嗎？若依這樣想法來看，上述所有的討論其實都是指向資源分配。尤其是在指資源稀缺的情況下，因重新分配造成部分人的權益喪失。無論是有形的或無形的資源，或者說在未發生資源分配前，我們或許傾向焦慮於無形的資源再分配。若再精確地說，就是這一分配行為是否有權參與，也就是說這其實是權力的問題。

權力依據不同的角度可以界定出不同的類型 ¹，但大體上可以分成三個等級：(Lv. 1) 對於單一事物具有不可置否的絕對決定權力；(Lv. 2) 對於制定決定某一事件具有不可置否的絕對權力；(Lv. 3) 對於人們對於事物的想像具有不置可否的絕對決定權力。以大家比較熟悉的例子來說，對夜市販賣中製螺絲粉與魔芋爽之攤販開罰 300 萬 ² 的權力就屬於 Lv. 1 的權力 (該權力屬於衛生局所有)；而能夠制定其依據的食品安全衛生管理法便是屬於 Lv. 2 的權力 (該權力屬於立法院所有)；讓側翼呼喊抗中保台，反對者人人得而誅之便屬於 Lv. 3 的權力 (我講出來會被檢舉嗎？)。我們可以很顯然地發現 Lv. 3 的權力幾乎沒有任何限制，只要將最終定義如何算是抗中保台的具體權力保留在手上，你可以永遠不真正去定義它而享受到所有定義後才能產生的權益。根據這樣的觀點大家也能多少了解為什麼要天朝要積極培育小粉紅，只要最終定義愛國為何的權力在國家手上。那麼，即便是民選元首，你的權力也是有辦法無限擴張。畢竟只要能將愛國與叛國做一定程度的模糊，最終決定權就在政府手上，沒人鬥得贏你 (我是在說天朝，懂？)。

講了這麼多，跟 AI 有什麼關係呢？傳統權力古往經來的擴張大致都是經由 Lv. 1 => Lv. 2 => Lv. 3 的等級變化，不太可能一蹴而成。而就本人敲腦所知，似乎沒有多少人能長期維持住 Lv. 3 的權力。至少除了嘉靖以外，似乎沒有其他我所知的紀錄。即便是天朝，也發生過拿小粉紅劍指內部敵對派系，Lv. 3 的權力是很難維持的。但現行我們在擔憂的可能就不是這麼一回事了，AI 有可能跳過 Lv. 1 & Lv. 2 的階段直上 Lv. 3，而且最大的問題可能是他無法控制。大家在說的 AI 毀滅人類，我覺得具體來說其實是指「人們被迫自行產生虛無飄渺的意識形態，以此猜測 AI 的偏好。」更嚴重的情況還可能是「AI 背後的企業根本就沒有刻意操控其偏好」，畢竟如果是有被人刻意操控還能設定相關法規要求一定程度的透明化揭露。但若是不知不覺「慢慢」產生的，那麼就難以控制，發現時可能就造成難以挽回的災難。最直觀的生活中案例可能就是各位臉書，你知道非你同溫層的人接受的那些訊息嗎？有沒有可能只是單單為了增加臉書黏著度造成族群撕裂？假若古德哈特定律 ³ 真確存在，產生某種負面結果便幾乎可說是必然會發生。在接下來的新應用中，非常有可能在一開始就內建 AI 功能，可能是輔助決策，或直接導出結果。人們可能無法像以往那樣是漸進地感受 AI 進化，如此還能否在起初就感受到自我意識被扭曲？

最後回應一下標題，所謂的「害怕 AI 產生意識」，我認為具體而言是「害怕我們的意志被扭曲想像 AI 的意識形態為何。」AI 究竟有沒有意識，對於使用者來說其實無足輕重，關鍵應在於其是否能產生影響，尤其是對於人的自由意識是否產生影響。

參考文獻