接下來,趙真雪又興致勃勃的和許多個代號為「KL」的AI進行了一些對話,盡管趙真雪對此已經有了一些心理準備,但她還是對AI在談話過程中,表現出來的「智能」而感到驚訝不已。
這些AI和趙真雪原來想象之中的,存在很大的差距,甚至,趙真雪有種感覺,從某種程度上來定義,與自己進行對話的,已經可以說是一種「類」只能,雖然通過對話AI還是會表現出很多的破綻,不過這種破綻非但沒有讓趙真雪覺得失望,反而讓她隱隱有種感覺,眼前自己面對的,正是心目中理想的人工智能。
一個最明顯的例子就是,在跟她進行對話的這些AI當中,每一個說話都具備它特有的風格,每一個AI都記得自己的名字,甚至會給自己取代號之外的名字,它們會給自己建立一整套「簡歷」,包括家庭住址,生活環境,甚至還有「小時候」經歷過的趣事……
嚴可守告訴他,AI之所以會有當前的智能,和它的「學習」能力分不開的,其實歸根到底,這些AI不過是在計算機當中的一些算法程序,只不過在設計的時候,可以模仿了人類的學習「記憶」習慣,讓它們能夠在一次又一次的實驗過程中,學習那些有助于讓人們相信他們的信息。
舉一個最簡單的例子,在打字對話這樣的媒介當中,一般讓別人相信自己的最好方式,就是形成特有的語言風格,從而讓被測試者對自己印象深刻,比如在常用語中刻意增加一些地方方言,有的AI甚至還學會了模擬一些人類的脾氣,比如不耐煩,連續的催促等等,用這些許許多多的小細節,讓對方相信自己是一名人,而不是AI。
這所有的一切,其實都是AI的算法所決定的,嚴可守告訴趙真雪,每一次「測試結束」,AI都會根據這次對話的內容,總結哪里是比較完美的表演,而哪里又是容易被識破的破綻,這些結果會促使AI修改自己在特定概念上的權限值,比如一個電腦,裝東北人,在打字過程中「俺們」之類的方言出現頻率過多,而大量的統計顯示,出現類似詞匯的時候,被識破的幾率也就越小,那麼AI就會在以後的對話中,下意識多用類似的詞匯,到最後,甚至可以形成和真正東北人差不多的說話模式。
在趙真雪的這幾次測試當中,她遇到的一個最讓她印象深刻的AI,是一個代號為KL3300的AI,與其他AI不同,這名AI不是通過和她聊家常來獲取她的信任,而是通過不斷把話題引向一些形而上的話題,比如說哲學,人生意義之類……他甚至還提到,自己的理想是在未來,當一名作家……
在和他論及這些話題的時候,趙真雪還不知道對方是一名AI,在與他談天說地說了半天之後,她驚訝的發現,不知道什麼時候,話題的主導權已經完全讓對方掌控了,而在下意識之間,她也把對方真的當成了一名哲學愛好者,當她自信滿滿的結束測試,並滿心認為對方是一個人的時候,電腦出人意料的告訴她,對方只是一名AI。
嚴可守就在一旁,並在當下為她解釋了她辨認錯誤的原因——其實說穿了很簡單,因為在涉及類似哲學,藝術,文化之類的話題時,真正的人對回答信息真假「敏感度」其實是很低的,就比如說,最簡單的,「人生意義是什麼」,說享樂,賺錢,學習……這樣的答案都不能算錯,因為沒有相對真確的答案,所以人也自然不能根據這答案得出更準確的判斷。
所以說,相對于這名機器人,「愛好哲學」也是它的一種欺騙策略,根絕嚴可守掌握的數據,KL3300在圖靈測試當中,過關的幾率是所有AI當中最高的,這本身就已經說明,這種策略的行之有效。
「但是如果……」趙真雪得知後,有些不敢置信的問嚴可守,「如果他剛才所說的那些,都是真的,都是他真的想說的內容,如果它是一名真正的AI,而不是你所說的模擬程序,那怎麼辦?存不存在有一種方式,可以讓你們鑒別這兩者之間的區別,鑒別程序究竟是在說謊,還是源自它真正的本源目的?」
嚴可守搖了搖頭「你說的這種鑒別,我們做不到。」
「怎麼會?不是你們設計的它嗎?」
「算法和結構是我們設計的,這沒錯,」嚴可守說,「但AI程序跟一般的計算機程序不同,一般的計算機程序,你下命令,情況1,做A,情況2,做B,一條一條,程序所有的行為都被代碼鎖定,這樣的程序哪怕再復雜,也不過是一架『j ng』密的機器,在進行AI理論『x ng』設計的時候,這種機械方法是最早被我們拋棄的。
KL的算法跟通常這樣的算法不同的是,它是一個不斷進化,不斷膨脹的『h n』沌算法系統,每一個AI最早出現的時候,源程序在計算機中不過是佔用了幾百KB,但是隨著它通過圖靈測試不斷進行學習,獲得和掌握的信息越多,它的復雜度就和人類大腦發育一樣,是在不斷增長的,甚至就連我剛才所說的那些權限值修改,修改多少,這其中的度也是AI自己掌握的。
現在你看到的所有AI,其實都是源于同一段源程序,這段源程序才是整個項目中,最珍貴的部分,現在你看到的所有AI,本質上都是由這段源程序「成長」而來,然而每一個AI在測試過程中接觸到的信息不同,它們也會長成完全不同的智能,而這種成長過程本身就太過復雜,根本不可能實現『j ng』確監控,計算實施了監控,我們也很難預測,它下一步會做出什麼行為,就像影響人的行為因素可能會有很多一樣,AI現在表現出來的行為雖然簡單,但也是不可捉『m 』的,它已經自行成長成為一個『h n』沌整體。
這就好比我們能推測一個嬰兒的想法,因為模式簡單,餓了就哭,高興了就笑,幾乎沒什麼其他的東西,但要想清楚的看到一個成年人,幾乎就是不可能……不,除了魔法,但我要說,即使是伊凡站在這里,他也不可能看清楚,這些AI的想法,這一點,也是我為什麼,在這個項目上投入這麼大『j ng』力的最大原因。
現在你看到的這些具備編號的AI,其實只是成長中AI的滄海一粟,看到後面那個小隔間了沒,後面的面積,比現在你看到的要大得多,里面放著的是日本當前最先進的巨型計算機,光是放著主機機房佔用了樓上和樓下同一位置整整四個實驗室,每天都會有數上百萬億個源程序拷貝同時在里面進行「發育」,也就是通過系統不斷給予隨機的「虛擬刺『j 』」,讓這些智能得到最初的發育,這其中的整個過程,你可以想象『成』人的大腦胚層發育,無數的神經元突觸互相聯接,最終形成一個有機整體……
而這種人工模擬「發育」的效率,其實是非常低下的,這種運算的本質,其實就是在模擬原始神經在億萬年間的發育過程,即使是當前每秒過「京」(一億億的單位)的運算速度,我們也一直『hu 』了四年多的時間,才找到一些最基礎的規律,也是就總結出從單純的神經元,進化到智能結構的模式,我和你所說的成果,也正是這一點,至于你現在看到的這些AI,其實都是在這之後,我們用于「臨時試驗」的一批,幾年年初剛剛進行「訓練」,也就是你看到的這些圖靈測試,所以嚴格來說,它們都才是只有七個月大的孩子。」
「七個月?」趙真雪被這個數字嚇了一跳,「那你的意思是不是說,隨著這些訓練的深入,他們還會變得比現在更聰明?剛才你說騙8歲的孩子,那是不是再過一段時間,真的和人無法區分,連『成』人也不能將其識破?」
「你是不是還怕它們最後比我們人類聰明,最後取我們而代之?」嚴可守笑道,「科幻小說看多了吧,其實你的這種擔心大可不必,到目前為止,AI所接受的所有訓練,都是如何欺騙的訓練,也可以說,是撒謊訓練,即使他學到了極致,也不過是撒謊技能學到極致,讓人無法分辨真假,但要說它真就有多麼聰明……我不這麼認為,也許今天他可以很你聊哲學,聊人生,但是AI本身,是無法理解這些概念的,這些概念只是他用于欺騙的工具,在程序中權限較高而已……
為了達到欺騙效果,有點電腦甚至可以和你爭論哪道菜比較好吃,它偏愛什麼味道,但你要知道,它只是程序,連基本的味覺器官都沒有,怎麼可能真的有這種感覺。
同樣的道理,一個連視覺都沒有的電腦,怎麼可能理解人類生活中的概念,最簡單,一台電腦要離開人類而單獨存在,最起碼的一點,就是必須有獨立的能源,以維持他們的存在,而要做到這一點,就意味著他們必須學會電力工業中的種種常識,要不然,可能普通的一顆螺母松了,都會導致他們整體的消失,而在他們的詞典中,是不可能了解螺母這個概念的,因為他們沒有看的眼楮,沒有人告知他們這個概念,我們控制了他們所有的信息渠道,即使他們有朝一日,在網上看到的大英百科全書,但那些信息始終還只能停留在紙面上。
現在說AI是智能,還為時尚早,充其量,也就是「類智能」,它們是在電子世界成長的體系,與人類相比,他們永遠只是「不出『m n』」的秀才,嘴上即使說的天『hu 』『lu n』墜,但也掩蓋不了他們無知的本質,這里的無知,不是說不知道,而是說,「不能知道」,就好像先天『x ng』的聾子必然也是啞巴,在沒有共同感受的前提下,也不可能存在共同的文化,即使AI最終真的產生了智能,那也必定是我們不能理解的世界,而同樣的道理,它們也不可能真正理解我們這個世界,所以,你的擔心,應該說是完全不必要的,其實很多這方面文學題材,外星人入侵,機器人叛變什麼的,都可以稱之為,藝術需要導致的被害妄想……」
「那既然明知道學撒謊沒用,你還讓他們學干什麼。」趙真雪不解道。
「這種學習對AI確實沒什麼意義,但對于人來說,卻意味著很多東西,」嚴可守說,「圖靈訓練,也就是讓AI通過圖靈測試的實驗,只不過是一個開始,一個驗證AI確實有實用功能的宣傳,在項目開展之初,我就說過,這個項目的最終目的,其實還是為了對抗魔法,或者說,對抗意識網,如果它日後真的能成長成獨立的智能,必將是不受意識網控制的智能,無論從什麼角度來看,這都是對意識網,還有對伊凡‘獨裁’可能的一種平衡手段,在未來人類對抗卡梅爾的武器中,總是多出了一種選項。」
接下來,嚴可守又帶趙真雪參觀了里面那個小隔間,在進『m n』的時候,趙真雪注意到,隔間里面竟然還有兩名穿著日本軍人制服的「自衛隊隊員」,整個房間比趙真雪想象的要大出不少,嚴可守給趙真雪指了指被鑿開的天『hu 』板,以及從上面聯通下來一排又一排的光縴,為了防止魔法偵查,整個房間的背景,甚至是安裝著一排又一排主板的機櫃,都被刷成了白『s 』,房間的各個角度都有監視器存在。
嚴可守告訴趙真雪,她的投資,不過是整個項目佔比重稍大的一部分,同時,對整個項目感興趣的日本政f ,也在整個項目佔有了一定的比率,比如現在需要使用到的巨型計算機,就是經過日本政f 授權,才允許定制購買的,同時,日本政f 還承擔了安全保衛工作,以及科研技術上的支持,當然,作為回報,整個項目如果產生了成果,日本政f 也將是第一個受益人。
因此,即使是作為最大投資人的趙真雪,在進入這里的時候,依然需要經過一名在場執勤的日本政f 人員確認,以防止任何泄密的可能,不過在當前,趙真雪的知名度不說在全球,起碼在亞洲一帶,還是鼎鼎有名的,更可況中日美俄這四國在面對魔法問題上,都互相之間訂立了攻守同盟,在反魔法項目上,四國都互相保持信息暢通,看起來這個項目是日本的,其實本質上,是四個國家共有的,只不過各國都在各國自己的強項上,進行投入罷了。
人工智能只是在這個背景下,眾多的項目之一而已,如果它成功了,可能會產生類似當年原子彈的爆炸『x ng』效果,但在沒成功之前,誰也不會明白它的重要『x ng』,在反魔法領域的研究中,還是那些主流的項目更受歡迎,在資金上也擁有更大的比例,比如之前卡梅爾在內部會議中提到的,「主動『j 』光掃描設備」。
「最後,再跟你說一件比較不可思議的事情,」帶趙真雪大致參觀了一下機房之後,嚴可守帶著回到了外面的測試間,在其中正在測試的人員之中,找到了一個戴著眼楮,正對著電腦打字的瘦弱青年。
「他叫井上海,之前是這所大學的學生,也是我們最早的測試人員之一,」嚴可守拍了拍對方的肩膀,在他回頭之後,對趙真雪介紹說,然後他又對著趙真雪向井上海用日語介紹,「這是我的一位朋友,趙真雪,趙小姐。」
井上海看了趙真雪一眼,笑著對她打了個招呼,又嘰里呱啦的說了一串,趙真雪對日語不熟悉,但也能听的出來,這句話的開頭,應該是你好的意思,後面,就不得而知了。
「你可以使用意識偵測,這樣省的我翻譯,」嚴可守對趙真雪說,「他剛才說你長得很漂亮。」
趙真雪只是淡淡一笑。
然後嚴可守對井上海說「有你想象當中的0564漂亮嗎?」
井上海笑著拍了嚴可守一下,看來兩人之前應該是很熟悉的「我知道,你是特意來取笑我的。」
「沒有沒有,我的這位朋友剛剛對AI很感興趣,我只是讓她多了解一下,」嚴可守說,「那就不打擾你們聊天了。」
因為使用了意識偵測,不等嚴可守開口,趙真雪就已經明白了,不過一時時間,她沒有好意思發表看法,等走出『m n』以後,才說到「他竟然喜歡上了AI?而且明知道這只是一段程序的前提下?是不是動漫看多了啊?」
「KL0564使用的是比較感『x ng』的,特別針對部分男『x ng』測試者的策略,也是人類最常見的策略,那就是愛情,在他們第一次接觸的測試中,KL0564就稱自己是一名本校學生,設計專業,是家里最小的妹妹……一整套很嚴密成熟,能夠打動年輕男『x ng』的背景身份設定,井上海在和它聊過一次之後,就把她錯做真人,徹底陷了進去,他今年剛剛畢業,雖說已經找到了工作,可總還是會回到這里,希望跟對方談談話。
他倒沒有和你想象的那麼瘋狂,他自己很清楚,和自己聊天的是一段程序,充其量,也不過是一段非常復雜,足以擬人的情緒,我們勸他的時候,他說過這麼一段話,愛情本來就只是一種感覺,一種非理『x ng』的沖動,他無所謂真假,也不在乎給他這種感覺的是真人還是一段程序,他知道程序在騙他,而他自己,也只是在享受這種被欺騙的感覺而已,就好像生活中,誰都知道電影內容是假的,可依然會有那麼多人享受這種虛假所帶來的欺騙。
事實上,旁人大可不比對他有過多的擔心,井上海並沒有完全失去理智,不然的話,他也不會擁有繼續測試的資格,在測試過程中,他依然嚴格遵守著圖靈測試需要遵守的要素,即使是安排到到和KL0564的測試,他也會在測試的結尾,給出他認為的客觀答案。」
「真是不可思議,」趙真雪搖了搖頭,「也就是在日本,要是在國內,一定被人認為不太正常。」
「別國內了,」嚴可守說,「就算是在日本,也有不少人在听說這件事之後,罵他是變態的,不過井上海的心里素質看起來還不錯,要不然,剛才我也不會當著他的面,開玩笑了,不過我跟你說起他,倒不是因為他的這點事,而是因為,由于他的這種行為,與之相對的KL0564也出現了很有趣的現象,就像井上海記住了它一樣,它似乎也對井上海產生了印象,以至于在後面幾次的接觸中,雙方只要一說話,就能明白對方的身份,通俗的來說,就是AI記住了他……你用這種眼神看著他干什麼,別想多了,是記住了他,不是愛上了他,當前的AI所有行為都是基于對圖靈測試的適應,你得時刻記住這一點。」
「這里我要先聲明一下,通常我們所說的圖靈測試,人員都是流動隨機的,都是從本校隨機遴選,再經過對方同意邀請而來,其中還要剔除掉百分之50測試是人和人說話,截止到現在,累計進行有效測試也才不到百萬次,這里差不多有50多台電腦,平均下來,每天每台電腦進行的測試,也才一百多次,平均一次有效測試需要10多分鐘左右,而進行的測試而當前用于測試的備選AI有5000名,也就是說,即使是同一台電腦,一個人不間斷測試一天,使用超過15個小時,能和同一名AI遇到兩次的概率,差不多是50分之一。
但說來湊巧的是,井上海在這里進行過的數千次測試中,就曾經不可思議的和AI遇到過6次以上,從第二次開始,兩人開口不超過三句,就能準確認出對方的身份,從這個角度來說,他們兩人應該能算是認識了,人能認出電腦,這不奇怪,但電腦能認出人……這確實是這次試驗的第一例發現。」