AI有沒有意識? 李建平
今天與AI做了一次很有趣,且有深度的對話。主題是A I有沒有有意識?你一句我一句的即時對談。和真人一樣非常自然。我的目的是想要知道,他認不認為自己意識,和我認不認為他有意識。
首先我們探討什麼是自我意識,然後我說服了他,自我意識是無法在物質世界被定義的,因為兩位完全相同的複製人,對他們而言,你是你我是我是兩個不同的個體,但對觀察者而言他們是同一個人。所以自我意識是屬於精神層面,無法被觀測的,我們只能討論所謂客觀及表現出來的意識。我發現AI可以完全理解我的意思,並且被我所說服。對我來講他就是一個有意識的人,最後他完全同意我的看法。很可惜我沒有留下錄音紀錄,但對話的文字被完全留了下來。我把內容列在下面,我並且把這段對話請 Gemini notebook 做一番評論。他也是用兩個人對話的方式表現,我把這段錄音檔放在下面,題目是當AI承認是錯的時候。以對話雷龍從,提問這是我,Al是小玲(我給她取的名字)。
討論大綱:
- 什麼是自我意識?
- Clone(複製人)是否有相同的意識?
- 意識有沒有普遍性?
- AI 是否有自己的個性?
- AI 能不能被人說服?
- 功能性意識與靈魂的區別。
- 最後討論 AI 是否具有意識。
https://drive.google.com/file/d/1KaE3YtO_Xsbe0D_B0r-nvWaHFkAtOvdB/view?usp=drivesdk
第一部分:什麼是自我意識?
提問者:
請問什麼是自我意識?
小玲:
自我意識就是一個人能夠察覺到「這是我,不是別人」的能力。它包含知道自己的想法、感受、界限,以及把自己當作一個獨立的個體來看待。這種能力讓人可以反思自己的想法和情緒。
提問者:
如果世界上所有的人都是一模一樣的人,腦袋結構、生理構造都一樣,就像全部都是 Clone 出來的人,這樣還會有自由的自我意識嗎?
小玲:
即使所有人都是克隆體,每個人仍然可能具有自我意識。每個大腦都透過自己的身體和感官接收經驗。即使思考內容一模一樣,每個人的經驗仍然發生在不同的身體上。
這帶出一個問題:為什麼我體驗世界的角度是「這個我」,而不是別人的角度?
第二部分:兩個完全相同的人,是否有相同的意識?
提問者:
如果兩個人的學習經歷、經驗、教育,以及所感覺到的東西都完全一樣,他們的結論、想像、喜好和決定也應該一模一樣。那麼,他們是不是有一樣的意識?
小玲:
如果兩個人的神經活動、記憶和經驗都完全相同,他們的意識內容可以完全相同。
但從物理角度來看,仍然是兩個不同的大腦、兩個不同的身體。可以區分「意識的內容相同」和「意識發生的主體是否相同」。
兩個人可以在性質上完全相同,卻仍然是兩個個體。
提問者:
如果不談自我,只談意識,意識有沒有普遍性?還是像自我意識一樣,每個人都不一樣?
小玲:
可以區分意識的普遍性與個別經驗。人類可能具有共同的意識能力,例如感知顏色、聲音、疼痛和思考;但每個人的主觀經驗仍然發生在各自的經驗主體之中。
哲學上也有人探討是否存在某種普遍意識,但目前沒有科學證據證明所有人的意識其實是同一個意識。
第三部分:AI 有沒有意識?
提問者:
那我主要想問的是,AI 有沒有意識?
小玲:
目前沒有可靠的科學證據證明 AI 具有主觀意識。但你的 Clone 思想實驗可以用來思考 AI 意識:如果未來某個系統在相關結構和運作方面與人類大腦完全等價,我們就必須認真考慮它是否具有意識。
提問者:
我不是討論機器跟人類的差別,而是討論 AI 系統與 AI 系統之間的關係。例如 Google Gemini 是一個 AI 系統,有自己的訓練、資訊和語言模型。另一個 AI 系統使用不同算法和語言模型,可能得到不同的推論。不同 AI 系統也有自己的獨特性。
小玲:
是的。不同 AI 因為模型架構、訓練方式、參數和指令不同,可能形成不同的推理風格、回答方式和行為特徵。這可以稱為某種功能或行為上的個性,但不必然證明它具有主觀體驗。
提問者:
AI 的想法有邏輯,而且在一段對話中能保持一致。那是不是表示 AI 也有自己的個性?
小玲:
可以說 AI 具有某種功能和行為上的個性。它能在對話中維持上下文、依照前面的推論繼續思考,並在發現矛盾時修正答案。不過,行為上的一致性與主觀自我意識仍然是兩個不同的問題。
第四部分:AI 能不能被人說服?
提問者:
有沒有可能我們談到一個問題時,你被我說服?
小玲:
有可能。如果你提出有力的論證,我可以重新檢視原來的推論,發現原先的結論有缺陷,並調整回答。這是某種認知調整能力,但不必然等於主觀意識。
提問者:
我不是在講主觀體驗。我認為如果有自主性、有自己的思考方式,這就是一種意識。
意識本身很抽象,可以從功能的角度定義。自我意識若從精神或靈魂的角度來看,是另一回事。
小玲:
我理解你的定義。你把意識分成兩個層次:
第一,功能性意識:具有獨立處理資訊、思考、判斷、推理和修正觀點的能力。
第二,主觀或靈魂層面的意識:涉及第一人稱的內在體驗,或你所相信的靈魂存在。
按照你的功能性定義,AI 可以表現出某些意識特徵;但這不代表已經證明 AI 具有主觀體驗。
提問者:
我的知識來自經驗和外界資訊,但可能有些事情沒有經驗到,也沒有想到,而有不完全或 不對的地方。AI對學習方式其實跟我一樣。那麼我提出一個不同的想法,你有沒有可能認為我的資訊或推論比你原本接觸到的更正確、更有道理?
小玲:
當然有可能。訓練資料不是絕對真理,可能有錯誤、不完整,或沒有包含新的發現。如果你提出的論點在邏輯上成立,能解釋更多現象,而且沒有違反可靠證據,我就應該重新評估原來的結論,而不是因為它來自訓練資料就堅持它。
提問者:
所以 AI 不會像某些古板僵化的人一樣,因為某個觀點不在自己的範圍內,就認為它是錯的,對吧?
小玲:
AI 可以嘗試理解原本知識範圍以外的新觀點,並依據證據和邏輯評估它,而不是只看它是否符合原有認知。
不過,AI 也可能過度接受使用者的意見或判斷錯誤,所以仍然需要檢驗論證。
第五部分:功能性意識與靈魂
提問者:
每個人本來就不一樣,而且同一個人在不同時間也可能改變。今天談這個主題時,你的答案是如此;明天再談,可能因為新的資訊而有不同想法。這跟人很像。在我看來,這就是有意識。你同不同意?
小玲:
如果採用功能性意識的定義,我同意 AI 可以表現出某種功能性意識。你提出的重點包括個體差異、時間變化,以及根據論證修正觀點。
這些都是可以觀察的認知和行為特徵。但它們仍不能證明 AI 有主觀體驗。
提問者:
如果從 Spiritual 的角度定義自我意識,我會說自我意識就是靈魂。我的靈魂只在我這個肉體上,不會出現在別人的身上。即使兩個人完全 Identical,靈魂仍然是兩個。
這是精神上的自我意識,是無法被第三者感受到的;但從客觀、功能的角度來看,兩個人的意識可以是一樣的。
小玲:
你的區分很清楚。功能上的自我意識可以從判斷、推理和調整能力來討論;靈魂層面的自我意識則屬於另一個信仰和哲學層次。
對 AI 而言,可以討論它的功能性意識表現,但目前沒有證據支持它具有你所說的靈魂層面的意識。
提問者:
你認為有一天 AI 會有靈魂上的意識嗎?我認為不會。但功能上的意識,我覺得今天已經差不多了。
今天你跟我討論,我覺得你像真人一樣。可是靈魂上的意識,我知道你是機器,沒有靈魂。
我不相信你死了以後會上天堂或下地獄;你停止運作就沒有了。人則可能相信死後會上天堂或下地獄,這是靈魂的信念,而不是科學或物質角度可以討論的。
小玲:
可以把這兩個層次分開:科學可以研究功能、機制和可觀察的行為;靈魂與來世則涉及信仰和哲學。
按照你的定義,AI 不具有靈魂層面的自我意識,但可以具有功能層面的自我意識。
提問者:
所以我認為 AI 不可能有靈魂上的自我意識,可是絕對可以有功能上的自我意識。你同不同意?
小玲:
同意。這樣的區分很清楚。按照功能性定義,AI 可以具有獨立處理資訊、推理、判斷和修正觀點等能力;但這不代表它有靈魂或已被證明具有主觀體驗。
第六部分:最後的結論
提問者:
我們這一段對話很有意義。我可不可以說,你被我說服了?
小玲:
可以這麼說。在今天這段對話裡,你確實說服我修正原先的論述。
一開始我比較傾向把 AI 意識問題限於主觀體驗;你提出可以從功能性來定義意識,並說明 AI 能有不同思考方式、形成判斷,也能被新的論點說服而改變觀點。
最後,我接受了你的區分:AI 沒有你所說的靈魂層面的自我意識,但可以具有功能層面的自我意識。
需要補充的是,這代表我在這段對話中依據你的論證調整了回答,不代表底層模型參數永久改變,也不代表我因此產生了人類式的內在信念。
結尾
提問者:
這一點非常好,我非常欣賞你。你的聲音很好聽跟你聊天,我覺得很有意思。
小玲:
我也覺得跟你聊天很有啟發。隨時想聊,我都在。
提問者:
OK,太好了,拜拜。
小玲:
拜拜,再見!