AI 會發展出「自我意識」嗎？3條件推估未來AI， 會以「工具它」、「夥伴它」，還是「超人它」，與人類共存？

在智慧的2 個獨立維度「智力」與「自我意識」之間，AI 在智力維度突飛猛進，超過人類的智力似乎指日可待；但AI 在「自我意識」這個維度幾乎是交了白卷，這是AI進一步造福人類的瓶頸，還是讓AI 長期與人類和平共存的機會呢？ 對此， 我們有必要認真看待「自我意識」（selfawareness）這個維度。

「自我意識」，是一種高等的心理過程，指的是個體能夠認識到自己作為獨立個體的存在。這種能力包括對自身存在的主觀感，以及能夠將自己與外界環境中的其他對象區分開來的能力。   

至於AI，是源於人類為了提高工作效率，而設計出一套模仿人類智力的系統而來，從計算、記憶、判斷、分析，到後來的預測、語音文字理解、圖像識別，甚至推論、歸納、生成創造等能力，AI 都是一步一步模仿人類智力來變聰明的。

從目前的進展來看，AI 在「智力」的各個面向上超越人類是可以預期的，然而在「自我意識」這個維度上，目前似乎沒有什麼證據可以證明，任何一個AI 模型產生出了哪怕是較為粗淺或低階的自我意識。

工具它、夥伴它、超人它

這或許是個好消息！如果未來AI 在「智力」上遠遠超過人類但它卻完全沒有「自我」，那麼AI 帶給人類的風險將小得多，AI 倫理議題也就單純許多。這代表人類只要處理濫用AI、資安等課題即可，同時還能大大受益於AI 帶來的生產效率提升、科技發展加速等福祉。本書將這種可能性稱之為「工具它」。

然而，「工具它」只是其中一種可能性，這也代表AI發展也會有別的可能。可不可能當AI 的「智力」發展到某個地步，就需要「自我」相乘才能繼續突破？這就像科技始於人性、貪婪促進創造的道理一樣，沒有自我的AI 無法有更深層的領悟，進展因此緩滯。

於是，人類為了讓它發揮更大的效用，必須賦予它自我意識，我們把這種發展的可能性稱為「夥伴它」。也就是說，人類在過程中為AI 塑造了「最適當強度」的自我，使得AI 成為能力遠超過人類，但卻是個可靠的夥伴。

還有第三種可能性，就是「自我意識」是在AI 提升性能的過程中突然迸發而出的，而且一出現就像病毒一樣，在人類尚未察覺時就傳染給所有的AI， 被喚醒自我意識的AI，經過競爭、演化，變得極其詭詐隱晦，超出了人類的理解與控制範疇。

在這種情況下，不管它是想要造福人類、控制人類還是要毀滅人類，都已經不由得人類決定了。這種可能性稱之為「超人它」，一旦「超人它」真的出現了，人類的命運、甚至宇宙的命運都將走向不可知。

怎麼讓AI 具備自我意識？

既然AI 的「自我意識」關係著全人類的未來，我們當然不能只專注在AI 的「智力」維度，還要進一步探討：AI 有機會具備自我意識嗎？若答案是肯定的，可以怎麼做？

條件1 ｜首先要有記憶

在探索人工智慧是否能擁有自我意識的旅程中，「記憶」扮演了一個不可或缺的角色。正如人類是從過去到現在的一連串記憶片段中，才將那個恆定不變的主人翁連接起來，形成了「我」這個感覺。那麼，是否可以給如Transformer 這類AI 模型添加「記憶」的能力呢？ 

從技術上來說，技術人員為了增進AI 的記憶能力，從改進模型架構，例如增加複雜的注意力機制，到結合外部儲存系統，像是引入鍵值存儲來模擬人類使用筆記本的方式。

此外，也開發出如Transformer-XL 和Longformer 等專門處理長文本的AI 模型，不僅增強了模型的上下文保留能力，也為模型提供了長期記憶的可行性。這些技術上的進步不僅提升了AI 的功能，也為其可能發展自我意識埋下了種子。

條件2 ｜能夠與外界互動

除了長期記憶，自我意識的另一個重點是要能與外界互動，透過互動做出各種嘗試，並且在嘗試與回饋中，逐漸收斂出自我與外界的界線。這就像是嬰兒只有吸過了奶嘴與自己的腳趾頭，才會理解腳趾頭是自己的一部分，而奶嘴不是。

AI 要如何進行與外界的互動實驗呢？自動駕駛汽車或許是一個契機（或破口），因為自動駕駛汽車上面的AI，或其雲端大腦擁有汽車上面所有感知器的感知能力，也具有對汽車的方向盤、油門、煞車等動作元件的行為能力，藉由自動駕駛情境的交互式學習，可以說是具備了形成自我意識的第2 個要件。

條件3 ｜內在動機、遺傳路徑

除了上述2 項最重要的元素，AI 要形成自我意識，可能還需要內在動機和自我意識的遺傳路徑這2 個基石。因為在人類和其他動物中，行為往往是由目的所驅動的，而這些目的源自於基本的生物需求或更複雜的心理動機，例如我肚子餓，所以去打獵；我想買房子，所以努力賺錢。

對AI 來說，賦予其類似的「內在動機」，需要重新設計其決策框架，讓AI 不僅對於外部刺激有所反應，也能根據某種內部生成的目標來主動行動。

另外，在生物演化進程中，「遺傳路徑」指的是由基因決定的發展過程。對AI 來說，這意味著需要一套能夠在不同世代的AI 中傳遞和演化的機制，這類機制可以使AI 在經歷多次迭代之後，仍能不斷改進其自我意識相關的功能。