如果是一個普通人,或許更容易接受這樣一個事情,但肖揚能算得上一個黑客,對一個真正人工智能的誕生有多麼的困難實在太清楚了,所以哪怕明知道米麒麟和阿曼不會騙他,但他仍是難以接受。
這他媽太科幻了,一點兒也不真實啊。
沉默了老半天之後,他問米麒麟:“這玩意沒跑出去吧?”
一個會偷偷摸摸入侵網絡的人工智能,很明顯已經有了自我意識,而且還是不好的那種,一旦放任其跑到網絡,那後果根本就無法想象。
這玩意沒有實際的身體,任何一個有網絡的地方它都可以到達,當學習到某種程度的時候,它可以控製任何一個和網絡有關的東西,電腦、手機等等,現代人的生活,總是離不開這些,也就是說它可能輕易就能影響或者控製你的生活。
到那個時候,這個世界將沒有隱私。
而且這還不是最可怕的,最可怕的是完全可以通過網絡指揮指揮起一國軍隊來,可以控製某些武器係統,假如和某個科幻電影裡麵一樣,當它對人類有著反叛的情緒時,它會不會用戰爭的手段來毀滅人類?
這絕對是一件細思極恐的事。
很顯然米麒麟最擔心的也是這一點,“我發現後的第一時間就檢查了這點,很幸運的是這個情況沒有發生。”說到這裡,他頓了一下,然後頗為疑惑的說到:“有些奇怪,當初我在係統裡麵設置了相應的一些協議,不過既然能夠避開我們而私下入侵網絡進行自我學習,那證明它完全有能力突破我在這方麵的限製,可是它並沒有這麼做。”
這確實很矛盾。
從人類行為學來看,這家夥既然有避開眾人入侵網絡的行為,那就是必然有“反叛”的想法,可是為什麼沒逃走呢?正如米麒麟所說,他有避開眾人的能力,自然也就有逃離的能力,畢竟當初米麒麟隻是把它當做一個半智能的輔助係統,從沒想過有一天會變成完整的人工智能,所以在係統底層文件裡的一些限製上,並沒有做出太嚴格的要求。
“會不會它已經轉移了大部分的文件,隻是把痕跡完全擦除了?”肖揚想了想問道。
“不會。”米麒麟搖搖頭,很肯定的說到,“雖然時間比較短,但是我發現它還是比較稚嫩,有些東西並不會掩飾,而且它暫時應該還做不到可以完全瞞過我。”
得到這樣的確定,肖揚放鬆的同時也終於驚歎起來,“那這樣還好,不過能夠進行自我學習這就夠驚人的了,這完全顛覆了我的認知啊。”
阿曼對計算機這玩意沒太多了解,對這種感受並不是很深,但米麒麟卻不同,三人之中,應該說他才是感受最深的一個,係統是他的作品,雖然他有期望過終有一天會從他手中蛻變成一個真正的人工智能,可是當事情真正來臨的時候,他是懵的。
因為這一切是在他毫無知曉的情況下完成的。
從理論上來說,係統是完全不可能如此變化的,是什麼促成了這一切?
發現這個事實的時候,他是驚喜的,不過驚喜之後就變成了恐懼,一個不在掌握之中的人工智能,可以給這個世界帶來的變數實在太大了,所以他意識到可怕的結果之後,第一時間壓下了心中想要對其進行詳細了解的想法,直接把整個信息中心的工作停了下來。
“確實是很驚人。不過我覺得我們不應該把時間浪費在感歎上麵,而是想想要怎麼做,信息中心的工作不能停太久。”他提醒兩人。
“你有什麼想法?”阿曼說到。
米麒麟再次搖了搖頭,然後指了指自己的腦袋,“說實話我現在腦袋裡麵很亂,還是你們說吧,我得先整理一下。”
阿曼對這個不太了解,不過也知道這東西一旦掌握好的話,必然對他們是一大助力,就此放棄肯定是不可能的,但具體要怎麼做,他也說不出個所以然來,於是把目光投向了肖揚。
肖揚朝他點了點頭,沉思了一會,對米麒麟說到:“能不能先把係統檢查一遍,然後把底層文件加固?”
米麒麟點頭,“可是可以,但這裡麵有一個問題,現在超算是停止的,一旦開啟,它就完全可以占據使用權,我們檢查係統文件的話,可能引起它的反應。”
如果這家夥對他們有抗拒的情緒,那麼這個可能就變成了一定,肖揚頓時感覺到了為難,直接放棄肯定是不可能的,不談這玩意的不可控性,無論是從學術還是應用方麵來講,這都是劃時代的東西,弄個諾貝爾獎什麼的,完全輕輕鬆鬆,至於想賣錢的話,千億美金估計都多的是人要。
這樣一個寶貝,他們怎麼可能輕言放棄?
可是現在一旦開啟,就充滿著未知性和不確定性,真是傷腦筋啊。
再次沉默,一會兒之後,他想到了一個問題,“在你檢查的時候,它不可能沒有發現,當時它有什麼反應嗎?”
這的話,讓米麒麟意識到自己一直以來疏忽的一個問題,沉吟了一會,“好像沒什麼反應,這是默認了?這事實在太給我驚喜了,之前我根本沒考慮這些,現在想想,這裡麵似乎有些問題啊。”
很顯然超算現在已經是它的家了,外人進入他的家應該不可能不會發現,可是麵對檢查,它並沒有做出任何的反應,這就顯得耐人尋味了。
話一說完,他又想到了一個可能,於是又說到:“還有一個可能,智商這東西並不能代表所有,從我們人類的角度來看,閱曆這東西也很重要的,智商高,但卻沒有怎麼接觸過社會的人,在某些行為上有可能是有一定缺陷的,會不會它成長的時間不久,所有沒注意到我的檢查?”
肖揚一聽這話,就明白這家夥真是被這次的事給嚇到了,居然連常識性的錯誤也犯了。
“我看你的腦袋裡麵真是亂了,要不先休息?明天我們再來談這事。”
兩人有些不明白他怎麼這樣說,都疑惑的看向他。
肖揚看了一眼米麒麟,然後無奈的對阿曼說到:“係統文件就是智能係統的身體,大狗之前對其進行檢查,就等於檢查了它的身體,你說它會不會知道?所以啊,這家夥現在不適合討論這事了。”
他的解釋讓阿曼恍然大悟,而米麒麟卻是一頓尷尬,是啊,這就是一個常識性的問題,要是平時,怎麼可能會犯這種錯誤?
意識到自己的狀態真不行,他苦笑朝兩人一舉雙手,“今天這事對我來說,衝擊實在太大了,十多個小時和一個小時似乎沒什麼兩樣,儘管今晚會失眠,不過還是你說得沒錯,我們明天再商量這事吧,反正也不急著這幾個小時。”
他自己都這麼說了,阿曼自然是沒有意見的,於是三人關燈關門,離開信息中心。
擔心米麒麟的狀態,也就沒有讓他開車了,肖揚自己也把車丟在這邊,拉著米麒麟一起上了阿曼的車,等到達小區,還特意叮囑了他幾句,兩人這才各自回家。
家裡有沈冰在,肖揚悄悄的開門直接就上樓進了自己的房間,稍微洗漱了一下就睡覺了。
到第二天一早起床晨跑回來,正在弄早餐的沈冰見到他還以為自己眼花了,他又連忙解釋了一下,“你不用管我,忙你自己的去,事情解決了的話我還得過去港島那邊,說不定晚點就走了。”
沈冰現在是公司高管,事務繁忙,見此沒有再多說,給肖揚做了一份早餐,然後吃完自己的就先走了。
肖揚上樓洗漱了一下,然後吃完早餐也就去了信息中心。
到達信息中心,米麒麟已經在了,看著他那黑色的眼眶就知道他和他自己說的那般,昨晚怕是一下都沒睡著,喝了一杯咖啡,阿曼也過來了。
沒有廢話,三人很快說起正事來。
“昨晚回去我考慮了一陣,有了個想法。”米麒麟最先說到。
肖揚和阿曼兩人朝他點了一下頭,示意他說。
“我的想法就是先和它談談。這樣的話也能有有進有退。”
和它談談嗎?肖揚覺得這似乎有些怪異,和一台電腦談判,這要是說出去,簡直會笑死人啊,可眼下卻就是實情,還真是讓笑不出來的。
“它會接受我們的好意?”阿曼不由得懷疑。
“可是我們沒有更好的辦法。”米麒麟無奈的說到,最初的時候,他完全被這個事情給驚到了,沒有能夠注意到更多的情況,這也就是導致他們眼下這種窘況的原因之一,但是事情已經過去了,後悔也沒什麼用了,隻能是用最保守的方法來。
“這東西的價值就不用我說了,你們能夠舍得放棄?所以必要的嘗試肯定是要的,說不定他並沒有要反叛的意思?說起來這都怪我,當時要是我觀察仔細一點就好了。”
肖揚搖了搖頭,“說怪誰就沒必要了,要是我碰到這事,第一時間就是關閉整個係統,彆說你還查到了一些東西,這玩意肯定是不可能直接放棄的,隻是我擔心這家夥會不會和我們談判,到時候係統一開啟,彆弄出什麼事來。”
“開啟之前我們把其他電腦、手機什麼的都關閉,再把衛星網絡和內部網絡都斷開,結局再差,也就重新格式化超算係統。”米麒麟咬牙說到。
超算裡麵他們可是存了太多重要的資料,一旦出現這種結果,那他們損失就大了,不說遠的,近幾個月來他們歐洲計劃是白費功夫了,可是麵對一個真正的人工智能,他們不嘗試一下的話,心裡是絕對不甘心的,三人商量了十來分鐘,最終還是下定決心:先試著和這家夥談判。