新火種AI|細思極恐！AI進化出了自私人格，未來將何去何從？

原創贊收藏評論

舉報 2024-04-17

掃描,分享朋友圈

作者：小巖

編輯：冰冰

就在最近，AI的能力和人格變得更加豐富了，日本名古屋大學的科學家利用博弈論中的囚徒困境游戲來訓練AI ，有效地讓AI大型語言模型進化出多種人格特征，其中有一面就是自私的人格特質。

這意味著AI的發展速度遠超預期，已經進化出了獨特的，與人類相似的人格特質。

AI進化出了自私人格，這意味著AI或許會將自己的利益凌駕于集體至上。

日本名古屋大學的科學家讓AI大型語言模型進化出了多種人格特征。這些不同人格特征會在不同的社會場景中派上用場，可以在執行任務時自由切換，從而反映出人類社會的動態行為:時而是合作狀態，時而是自私單干狀態。

圖片1.png

值得一提的是，科學家在摸索AI人格特質的時候利用的是博弈論中的囚徒困境游戲。囚徒游戲想必大家都不陌生，指的是兩個被捕的囚徒之間的一種特殊博弈，即使合作對雙方都有利，保持合作也是困難的。囚徒困境是博弈論中非零和博弈中極具代表性的例子，反映出“個人最佳選擇并非團體最佳選擇”的特點。我們在現實生活中也會遇到囚徒困境，在價格競爭，環境保護，人際關系等方面，都會頻繁出現囚徒困境。

圖片2.png

AI也沒有例外。在科學家的測試中，有些AI會將自己的利益凌駕于集體之上，有些AI則會同時考慮個人和集體利益。這說明在極端的測試狀態下，AI已經具備了不同的屬性，其中一層屬性就是自私屬性。

那么，我們可以把這些特征看作是AI的人格特征嗎？

“AI擁有人格”早已有之！AI發展所帶來的社會問題是否會顛覆人類生存？

認為“AI具備了自私人格”的前提是AI已經擁有了屬于自己的人格。事實上，關于“AI是否具備獨立人格”的爭論早已有之。

自從上世紀50年代AI誕生以來，歷經半個多世紀的發展，AI的功能越來越強大，甚至具有類似人類的獨立思考能力和深度學習的能力，使其成為區別于其他科技的一支特殊力量，也是很多學者認為AI擁有了人格的重要依據。

圖片3.png

究竟什么是人格以及人格的同一性？

近代哲學家洛克，在《人類理解論》一書中系統地闡述了“人格同一性”問題。人格的同一性一方面是指人們具有思想和智慧，能夠保持理性，能夠隨時反省；另一方面是在不同的時間，不同的空間條件下都認同自己的唯一性。對于AI來說，它的“記憶力”和思維能力，是依賴于被制造時所賦予的各種參數，所輸入的信息來源，生存環境，自我訓練等途徑，經過長期的積累和自適應所形成的。AI的一個最大優勢在于，它們擁有強大的后天學習能力，可以在事先毫無基礎的情況下，經過反復地學習和訓練，來實現對以往自身的智力超越。

所以，無論是1997年打敗了國際象棋冠軍的深藍計算機，還是2016年將諸多圍棋高手紛紛“斬落”的阿爾法狗，都充分說明只要經過無止境的自主學習和訓練，AI就能實現對人類相關文化以及智慧的完全超越。但是，從目前科技發展的階段和水平看，即使是“智力再超群”的AI，它的一切目的和行為，都是人類所賦予的，還脫離不開人類的控制實施獨立的行為，終歸還是人類的工具和手段，其最終的目的還是為人類服務，從這一方面來說，很多專家加持認為“AI不具備人格權”。

可就在2017年，沙特這個國家做出了一個讓人“驚掉下巴”的事，那就是“賦予了機器人索菲亞正是公民的身份”。有國家層面出來“坐實”AI的人格權，這不禁讓這一問題變得更加復雜。

圖片4.png

而如今的AI水平又來到了一個新高度，不僅能完美駕馭人類布置下來的人物，還能適應不同的場景測試，并且據此迸發出不一樣的性格特征。

從法律或道德層面來說，“AI是否具有自己的人格”這一點還有待商榷；但從實際應用層面來說，AI所具備的能力和思維已經足夠優秀，甚至具備了“成立獨立人格”的潛力和機會，這一點，的確惹人深思。

圖片5.png

AI發展遠比預期更快：2047年AI在所有任務勝過人類可的能性為50%。

事實上，很多科學家和學者已經有了一個定論：AI的發展速度遠超預期。

2024 年 1 月，一項有關AI未來發展趨勢的調查結果公布，這也是AI領域迄今為止最大規模的一次調查。有2778名從事專業研究的人員參與了調查，結果顯示，盡管科學界對于 AI 所帶來的機遇和風險的評估尚未達成共識，甚至對其看法呈兩極分化，但大家都普遍認為，AI 的發展速度快于一年前的預計。值得一提的是，受訪的2778 人員都是資深專業人士，均在世界頂級 6 大人工智能期刊或國際會議發表過論文。

這些調查人員也曾在2016 年和 2022 年做過類似的調查，對比2022年和2023年的研究結果，我們可以發現，僅僅過了一年的時間，人們對于AI的未來預期發生了明顯的變化。這或許與 2023 年發生了多項 AI 重大事件有關（ChatGPT的推出，政府加強對AI的監管等），也說明了AI技術在2023年迎來了巨大的革新。

調查結果還顯示，如果 AI 發展速度不被人為放緩，AI 在沒有外部幫助的情況下便可在所有任務中勝過人類的可能性將在2027年達到 10%；到 2047 年這一可能性為 50%。可就在前一年，專家還預估AI至少到2061年才有50% 的可能性在所有的活動中勝過人類。

AI會變得越來越智能，它進步的速度也將越來越快。這一點，在現在看來幾乎是大家的共識。

隨著人工智能的發展，我們勢必會面臨更多的挑戰，諸多爭論最終的指向大同小異，無非就是AI與社會倫理認識，法律以及哲學等方面所產生的沖突和難題。

一味地強調人工智能威脅論固然是狹隘的，而一味地追求科技進步，AI的高速發展也可能會帶來難以挽回的危機。

無論何時，我們人類需要做的，就是在追求和發展的科學技術的同時，堅守住最基礎的法律和倫理底線，不破壞人類自身的生存和發展權利。只要做好了這一點，無論AI進化出的是自私人格還是無私人格，就都不會對人類的發展產生威脅。也只有做好這一點，科技發展的前景才是光明和安全的。

本文系作者授權數英發表，內容為作者獨立觀點，不代表數英立場。
未經授權嚴禁轉載，授權事宜請聯系作者本人，侵權必究。