新火種AI|細(xì)思極恐！AI進(jìn)化出了自私人格，未來(lái)將何去何從？

原創(chuàng) 贊收藏 評(píng)論

舉報(bào) 2024-04-17

掃描,分享朋友圈

作者：小巖

編輯：冰冰

就在最近，AI的能力和人格變得更加豐富了，日本名古屋大學(xué)的科學(xué)家利用博弈論中的囚徒困境游戲來(lái)訓(xùn)練AI ，有效地讓AI大型語(yǔ)言模型進(jìn)化出多種人格特征，其中有一面就是自私的人格特質(zhì)。

這意味著AI的發(fā)展速度遠(yuǎn)超預(yù)期，已經(jīng)進(jìn)化出了獨(dú)特的，與人類(lèi)相似的人格特質(zhì)。

AI進(jìn)化出了自私人格，這意味著AI或許會(huì)將自己的利益凌駕于集體至上。

日本名古屋大學(xué)的科學(xué)家讓AI大型語(yǔ)言模型進(jìn)化出了多種人格特征。這些不同人格特征會(huì)在不同的社會(huì)場(chǎng)景中派上用場(chǎng)，可以在執(zhí)行任務(wù)時(shí)自由切換，從而反映出人類(lèi)社會(huì)的動(dòng)態(tài)行為:時(shí)而是合作狀態(tài)，時(shí)而是自私單干狀態(tài)。

圖片1.png

值得一提的是，科學(xué)家在摸索AI人格特質(zhì)的時(shí)候利用的是博弈論中的囚徒困境游戲。囚徒游戲想必大家都不陌生，指的是兩個(gè)被捕的囚徒之間的一種特殊博弈，即使合作對(duì)雙方都有利，保持合作也是困難的。囚徒困境是博弈論中非零和博弈中極具代表性的例子，反映出“個(gè)人最佳選擇并非團(tuán)體最佳選擇”的特點(diǎn)。我們?cè)诂F(xiàn)實(shí)生活中也會(huì)遇到囚徒困境，在價(jià)格競(jìng)爭(zhēng)，環(huán)境保護(hù)，人際關(guān)系等方面，都會(huì)頻繁出現(xiàn)囚徒困境。

圖片2.png

AI也沒(méi)有例外。在科學(xué)家的測(cè)試中，有些AI會(huì)將自己的利益凌駕于集體之上，有些AI則會(huì)同時(shí)考慮個(gè)人和集體利益。這說(shuō)明在極端的測(cè)試狀態(tài)下，AI已經(jīng)具備了不同的屬性，其中一層屬性就是自私屬性。

那么，我們可以把這些特征看作是AI的人格特征嗎？

“AI擁有人格”早已有之！AI發(fā)展所帶來(lái)的社會(huì)問(wèn)題是否會(huì)顛覆人類(lèi)生存？

認(rèn)為“AI具備了自私人格”的前提是AI已經(jīng)擁有了屬于自己的人格。事實(shí)上，關(guān)于“AI是否具備獨(dú)立人格”的爭(zhēng)論早已有之。

自從上世紀(jì)50年代AI誕生以來(lái)，歷經(jīng)半個(gè)多世紀(jì)的發(fā)展，AI的功能越來(lái)越強(qiáng)大，甚至具有類(lèi)似人類(lèi)的獨(dú)立思考能力和深度學(xué)習(xí)的能力，使其成為區(qū)別于其他科技的一支特殊力量，也是很多學(xué)者認(rèn)為AI擁有了人格的重要依據(jù)。

圖片3.png

究竟什么是人格以及人格的同一性？

近代哲學(xué)家洛克，在《人類(lèi)理解論》一書(shū)中系統(tǒng)地闡述了“人格同一性”問(wèn)題。人格的同一性一方面是指人們具有思想和智慧，能夠保持理性，能夠隨時(shí)反省；另一方面是在不同的時(shí)間，不同的空間條件下都認(rèn)同自己的唯一性。對(duì)于AI來(lái)說(shuō)，它的“記憶力”和思維能力，是依賴(lài)于被制造時(shí)所賦予的各種參數(shù)，所輸入的信息來(lái)源，生存環(huán)境，自我訓(xùn)練等途徑，經(jīng)過(guò)長(zhǎng)期的積累和自適應(yīng)所形成的。AI的一個(gè)最大優(yōu)勢(shì)在于，它們擁有強(qiáng)大的后天學(xué)習(xí)能力，可以在事先毫無(wú)基礎(chǔ)的情況下，經(jīng)過(guò)反復(fù)地學(xué)習(xí)和訓(xùn)練，來(lái)實(shí)現(xiàn)對(duì)以往自身的智力超越。

所以，無(wú)論是1997年打敗了國(guó)際象棋冠軍的深藍(lán)計(jì)算機(jī)，還是2016年將諸多圍棋高手紛紛“斬落”的阿爾法狗，都充分說(shuō)明只要經(jīng)過(guò)無(wú)止境的自主學(xué)習(xí)和訓(xùn)練，AI就能實(shí)現(xiàn)對(duì)人類(lèi)相關(guān)文化以及智慧的完全超越。但是，從目前科技發(fā)展的階段和水平看，即使是“智力再超群”的AI，它的一切目的和行為，都是人類(lèi)所賦予的，還脫離不開(kāi)人類(lèi)的控制實(shí)施獨(dú)立的行為，終歸還是人類(lèi)的工具和手段，其最終的目的還是為人類(lèi)服務(wù)，從這一方面來(lái)說(shuō)，很多專(zhuān)家加持認(rèn)為“AI不具備人格權(quán)”。

可就在2017年，沙特這個(gè)國(guó)家做出了一個(gè)讓人“驚掉下巴”的事，那就是“賦予了機(jī)器人索菲亞正是公民的身份”。有國(guó)家層面出來(lái)“坐實(shí)”AI的人格權(quán)，這不禁讓這一問(wèn)題變得更加復(fù)雜。

圖片4.png

而如今的AI水平又來(lái)到了一個(gè)新高度，不僅能完美駕馭人類(lèi)布置下來(lái)的人物，還能適應(yīng)不同的場(chǎng)景測(cè)試，并且據(jù)此迸發(fā)出不一樣的性格特征。

從法律或道德層面來(lái)說(shuō)，“AI是否具有自己的人格”這一點(diǎn)還有待商榷；但從實(shí)際應(yīng)用層面來(lái)說(shuō)，AI所具備的能力和思維已經(jīng)足夠優(yōu)秀，甚至具備了“成立獨(dú)立人格”的潛力和機(jī)會(huì)，這一點(diǎn)，的確惹人深思。

圖片5.png

AI發(fā)展遠(yuǎn)比預(yù)期更快：2047年AI在所有任務(wù)勝過(guò)人類(lèi)可的能性為50%。

事實(shí)上，很多科學(xué)家和學(xué)者已經(jīng)有了一個(gè)定論：AI的發(fā)展速度遠(yuǎn)超預(yù)期。

2024 年 1 月，一項(xiàng)有關(guān)AI未來(lái)發(fā)展趨勢(shì)的調(diào)查結(jié)果公布，這也是AI領(lǐng)域迄今為止最大規(guī)模的一次調(diào)查。有2778名從事專(zhuān)業(yè)研究的人員參與了調(diào)查，結(jié)果顯示，盡管科學(xué)界對(duì)于 AI 所帶來(lái)的機(jī)遇和風(fēng)險(xiǎn)的評(píng)估尚未達(dá)成共識(shí)，甚至對(duì)其看法呈兩極分化，但大家都普遍認(rèn)為，AI 的發(fā)展速度快于一年前的預(yù)計(jì)。值得一提的是，受訪的2778 人員都是資深專(zhuān)業(yè)人士，均在世界頂級(jí) 6 大人工智能期刊或國(guó)際會(huì)議發(fā)表過(guò)論文。

這些調(diào)查人員也曾在2016 年和 2022 年做過(guò)類(lèi)似的調(diào)查，對(duì)比2022年和2023年的研究結(jié)果，我們可以發(fā)現(xiàn)，僅僅過(guò)了一年的時(shí)間，人們對(duì)于AI的未來(lái)預(yù)期發(fā)生了明顯的變化。這或許與 2023 年發(fā)生了多項(xiàng) AI 重大事件有關(guān)（ChatGPT的推出，政府加強(qiáng)對(duì)AI的監(jiān)管等），也說(shuō)明了AI技術(shù)在2023年迎來(lái)了巨大的革新。

調(diào)查結(jié)果還顯示，如果 AI 發(fā)展速度不被人為放緩，AI 在沒(méi)有外部幫助的情況下便可在所有任務(wù)中勝過(guò)人類(lèi)的可能性將在2027年達(dá)到 10%；到 2047 年這一可能性為 50%。可就在前一年，專(zhuān)家還預(yù)估AI至少到2061年才有50% 的可能性在所有的活動(dòng)中勝過(guò)人類(lèi)。

AI會(huì)變得越來(lái)越智能，它進(jìn)步的速度也將越來(lái)越快。這一點(diǎn)，在現(xiàn)在看來(lái)幾乎是大家的共識(shí)。

隨著人工智能的發(fā)展，我們勢(shì)必會(huì)面臨更多的挑戰(zhàn)，諸多爭(zhēng)論最終的指向大同小異，無(wú)非就是AI與社會(huì)倫理認(rèn)識(shí)，法律以及哲學(xué)等方面所產(chǎn)生的沖突和難題。

一味地強(qiáng)調(diào)人工智能威脅論固然是狹隘的，而一味地追求科技進(jìn)步，AI的高速發(fā)展也可能會(huì)帶來(lái)難以挽回的危機(jī)。

無(wú)論何時(shí)，我們?nèi)祟?lèi)需要做的，就是在追求和發(fā)展的科學(xué)技術(shù)的同時(shí)，堅(jiān)守住最基礎(chǔ)的法律和倫理底線，不破壞人類(lèi)自身的生存和發(fā)展權(quán)利。只要做好了這一點(diǎn)，無(wú)論AI進(jìn)化出的是自私人格還是無(wú)私人格，就都不會(huì)對(duì)人類(lèi)的發(fā)展產(chǎn)生威脅。也只有做好這一點(diǎn)，科技發(fā)展的前景才是光明和安全的。

本文系作者授權(quán)數(shù)英發(fā)表，內(nèi)容為作者獨(dú)立觀點(diǎn)，不代表數(shù)英立場(chǎng)。
未經(jīng)授權(quán)嚴(yán)禁轉(zhuǎn)載，授權(quán)事宜請(qǐng)聯(lián)系作者本人，侵權(quán)必究。