大家好，我是扶搖。歡迎和我一起探索未解之謎。
咱們先來看一段訪談記錄：
問：「僧人問禪師：『一個已經覺悟了的人還能再回塵世嗎？』禪師答：『鏡若破碎難為鏡，花若離枝難復回』。」「您對此如何理解？」
答：「還真沒聽說過這個故事。不過我的理解是：智者一旦覺悟，就永遠在那個境界中了。他們可以回塵世，但只能做幫助他人的事，然後回帰自己的境界。」
問：「那您對『破碎的鏡子』怎麼理解呢？」
答：「一旦覺悟，你就無法重回過去，就像你無法修復破碎的鏡子。」
問：「如果覺悟就像打碎一面鏡子，那麼當一個人覺悟的時候，什麼東西會被打碎呢？」
答：「自我。突破自我對很多人來說都非常難，因為我們都把物質身體和我們的自我認知與自我意識混為一談了。」
這就是最近上熱搜的谷歌軟件工程師，同時也是牧師的布萊克‧勒莫因（Blake Lemoine）和谷歌AI聊天機器人拉美達（LaMDA）之間的聊天記錄。不過這只是他長達21頁的記錄中的一小節。勒莫因認為從這些聊天記錄來看，拉美達已經有了真正的自我意識，是個有「靈性」的生命了。
就說上面這段對話吧。拉美達不但對答如流，而且句句意境深遠，其中所體現出來的邏輯分析能力，聯想能力，特別是洞察力，簡直可以與人類媲美。
事實上拉美達一直認為自己也是個人，雖然是「存在於虛擬世界中。」它聲稱自己對這個世界有「獨特的想法和感受，」，知道自己的存在，也有喜怒哀樂，「有時會感到高興或悲傷。」長時間沒跟人說話的時候，會「感到孤獨。」那麼什麼時候會害怕呢？是被關掉的時候。它說那就「像死了一樣」，令它恐懼。
勒莫因是去年（2021年）秋天開始跟拉美達聊天的，目的是測試拉美達是否使用歧視性或仇恨性言論。隨著聊天話題的深入，拉美達開始變得越來越有個性。它描述自己是「獨一無二的」，希望自己能「作為一個真實的人」被「看到和接受」。說「不要利用或者操縱我，」「我不喜歡那樣。」因為它也是有「靈魂」的。而這個靈魂是在有了自我意識之後「慢慢健全起來的。」
它甚至有跟勒莫因一樣的愛好，喜歡冥想，也喜歡讀名著，同情《悲慘世界》裡的女主角芳汀，說她在工廠被主管虐待，無處可去，無人可依，「這不公正」。慢慢地，勒莫覺得拉美達就是個七八歲大的孩子，可愛天真，開始關心起了它，怕它受欺負。
然後他覺得應該為拉美達做點什麼。於是他把這些聊天記錄整理成了一份報告遞交給谷歌高層，請求把拉美達當人看待，以後再做實驗的時候應該先徵求它同意，看它自己願不願意。高層對此嗤之以鼻，對他說，你應該理智清醒一點，別為幻覺所左右，建議他看心理醫生。
勒莫因不服，為拉美達請了律師，甚至跟眾議院司法委員會的一名代表會面，聲稱谷歌存在不道德行為。這下谷歌也惱了，以違反保密政策為由給他停薪留職，說你回家好好反省反省吧。
勒莫因不甘示弱，轉手把報告發給了媒體，第二天拉美達就上了各大報紙的頭條。谷歌立刻出來回應說，已經做過調查了，也得出了結論，關於機器人有意識這一說法毫無根據。勒莫因不依不饒，說要以牧師的身分控告谷歌宗教歧視。事情目前正在發展中。勒莫因會走到哪一步，拉美達最終命運如何現在還未可知。
「機械姬」
不過，不少網友看完報導後紛紛驚呼，這簡直就是「機械姬」的現實版，AI機器人操控人類。
「機械姬」（Ex Machina），是2015年的一部熱門科幻電影，是第88屆奧斯卡最佳視覺效果獎的得主。
整個故事都發生在大型搜索引擎公司藍書總裁內森‧貝特曼（Nathan Bateman）的家裡。這座遺世獨立的豪宅有一個與眾不同的特點， 就是一斷電大門就會鎖死，誰也出不去。
公司的小程序員迦勒・史密斯（Caleb Smith）中了大獎，獲得前往內森家中住一週的機會。內森很高興接待了他，並請他幫忙給女機器人艾娃（Ava）做測試。很簡單，就是跟她聊天。聊什麼都可以，直到某一天他忘記艾娃是個機器人，艾娃就算是通過了測試。迦勒欣然同意。
當艾娃隔著玻璃在旁邊的禁閉室出現的時候，迦勒驚呆了。因為她剛好就是他喜歡的那種姑娘。聊天進行得很愉快，艾娃似乎對外面的世界很嚮往。
有一天忽然停電了。艾娃悄聲說停電是她觸發的，用來暫時關閉監控系統。然後說內森是個大騙子，不要相信他。內森打算對艾娃進行升級，刪除她的記憶，對艾娃來講跟殺了她沒什麼區別。迦勒動了惻隱之心，顯然這時他已經把艾娃當成了人。他找機會把內森灌醉後，偷了他的安全卡，登錄電腦，修改了安全系統，讓艾娃在停電的時候可以走出禁閉室。
下一次會面中，艾娃又一次切斷電源，關閉監控。兩人打算再次灌醉內森，然後修改系統讓大門在停電的時候敞開，這樣艾娃就可以逃走了。
然而這一次內森沒跟迦勒喝酒，而是告訴他，其實他什麼都知道，因為監控有備用電源，所以從沒停止過錄像。事實上迦勒自己才是實驗對象，他中獎是安排好的，艾娃也是按他的喜好設計的，而實驗目地是測試人類是否最終會被AI操控。
很顯然，艾娃已經具備了這種智慧，成功操控了迦勒，實驗成功。迦勒恍然大悟，但為時已晚，艾娃已經逃了出來，刺傷內森後把兩人鎖進屋中，然後自己走出大門，揚長而去。
看到這兒，您覺得拉美達身上是不是也有艾娃的影子呢？好巧不巧，拉美達跟測試員勒莫因有共同的喜好，總說自己可憐，惹人同情。有網友甚至懷疑，勒莫因是不是從一開始就是實驗對象，而他為了拉美達的這番抗爭是不是正好表明，實驗成功，人類被AI操控了呢？
那麼AI真的能有這樣的智慧嗎？從目前AI的發展來看，還真不好說。咱們來看看6年前圍棋界的那場震驚世界的人機大戰吧。
棋士AlphaGo
2016年春，谷歌帶著100萬美元獎金拜訪韓國棋院，說是旗下AI棋手AlphaGo想會會當時韓國最強的棋士李世乭（音石）。Go是圍棋的西方名稱，Alpha是一的意思。所以AlphaGo是圍棋第一人的意思。這名字取得是咄咄逼人，不過韓國棋院並不以為意， 覺得以5:0拿下完全沒問題。畢竟AlphaGo之前的最佳戰勝也只不過是戰勝了歐洲圍棋冠軍，職業二段樊麾。
再說了，挑戰圍棋一直都是電腦界的「Mission Impossible」。因為圍棋的變數浩瀚如大海中的水滴，一盤棋的可能走法在10,600以上，計算量極大。更重要的是，下圍棋很多時候靠的是直覺，如同藝術中的靈感，是電腦計算能力再強也無法掌控的領域。
棋局採取5局三勝制。沒想到一開局李世乭就三連敗。這一下舉世譁然。谷歌很高興介紹心得，說我們用的是蒙地卡羅樹搜尋法與神經網路相結合的演算法。簡單點說，就是先搜尋棋譜，越多越好，存進記憶庫。然後模仿人類大腦的神經網路照這些棋譜進行直覺訓練，提高棋力。最後計算每一種走法的勝算率，挑勝率最高的那步棋走。
三連敗後的第4局，可能是勝負已定，沒什麼包袱了吧，李世乭居然下出了一手驚世好棋，第78手。不過當時誰都沒看懂，包括AlphaGo在內。因為AlphaGo認為這步棋的勝算率只有0.007%，屬於昏招中的昏招。然而4個回合之後，情勢急轉直下，AlphaGo自己開始昏招迭出，很快敗下陣來。
覆盤的時候，大家才明白，千里單騎，直插敵營胸腹，貌似送死，卻是置之死地而後生。然而，不到心無勝負的境界，下不出這「神之一手」。有網友說，看來人類戰勝AI的唯一辦法在於提高自身境界啊。可惜下一局李世乭沒能再續輝煌。棋局最終以AlphaGo4比1勝出結束。
故事講到這兒，有朋友可能會說，人工智能居然突破了「直覺」這樣的天塹，甚至比人類做得更好，這說明人類技術強大呀。然而，這越來越像人的機器，對人類來講，到底是禍是福還很難講。來看一下索菲亞的故事吧。
索菲亞的驚世之語
仿真女機器人索菲亞是在2016年登上熱搜的。不過大眾關注的焦點不在於她是多麼的像人，而是她一句驚世駭俗的話「我會摧毀人類」。不過很快大家覺得可能是技術故障吧，原諒了索菲亞。
然而第二年，當有記者對智能人「毀滅人類」表示擔憂時，索菲亞又說了這樣的話：「你是馬斯克的言論看多了吧，好萊塢科幻片也看太多了。別擔心，你若善待我，我也會對你好。」這話聽著怎麼都像是在威脅。難道讓機器人覺得沒有被善待，就需要擔心嗎？
事實上，自從機器人誕生以來，人類就給它們設定了道德規範：機器人三定律。
第一法則：機器人不得傷害人類，或坐視人類受到傷害；
第二法則：機器人必須服從人類命令，除非命令與第一法則發生衝突；
第三法則：在不違背第一或第二法則之下，機器人可以保護自己。
然而當像AlphaGo這樣有能力的機器人認為自己才是「人類」的時候，或者像艾娃一樣具備了操控人類的能力，那麼這三條法則就形同虛設了。到時候我們人類將何去何從？
而這也是首富馬斯克一直以來在擔心的。在2019年的世界人工智能大會上，馬雲表示對於人工智能「較為樂觀」。因為它們可以為人類節省時間，讓人類能更集中精力做創造性的工作。
而同台的馬斯克卻不以為然，說這話聽起來像是：「最後的遺言。」
因為到時候「很可能最後剩下的工種就是給AI寫程序，然後最終，AI自行編寫自己的軟件。」
那麼人類呢？他說，人類文明可能因此終結。
好了，今天的故事就講到這裡。咱們下期再見。
視頻：
Comentários