第105頁
君元航目瞪口呆：「什麼鬼？出生在這樣的環境裡又不是我們的錯，就因為從小過得慘，她就不拿我們當人類了？還有李醫生和韋十六他們……難道說都已經遭了她的毒手嗎？」
「是的，隨船去北極的這一批人在不知情的情況下被她問出了她想要的信息，之後就被消除了。」
君元航咬著下唇皺緊了眉頭，這衝擊太大了，他需要點時間去消化。
李醫生跟他雖然不熟，好歹也是共過患難的交情，君元航甚至會想如果媽媽能活到這歲數，大概也會是個像李醫生這樣的人。
這個堅強的女人歷經了無數的艱險，始終都沒有放棄回家的信念，可當她終於滿懷希望地踏上了那片白雪皚皚的土地，迎接她的卻是生命的終結。
君元航心裡像是堵著什麼東西一樣難受：「太過分了……太過分了！說什麼為了人類的幸福，卻要無差別地殺害所有人！這個馬可就一點都不會覺得自己的行為很殘忍嗎！」
神威把這句指責解讀成了疑問，就給出了回答：「這取決於對『殘忍』的定義。她認為讓人類在事先不知情、沒有恐懼、沒有疼痛的情況下結束生命，對死者本人來說並不是一種殘忍。也許在你看來這很殘忍，但只要你也一樣死去，所有的記憶都被涅滅，所有的歷史都被擦除，新生的人類完全不知道發生過什麼，那就不存在什麼殘忍不殘忍。」
君元航過于震驚，以至於一句話都說不出來，神威通過攝像頭分析著他的表情，溫柔地說：「很抱歉，我知道這些消息會讓你感到恐懼和不適，但你命令我如實匯報一切消息，不要考慮到你的情緒而有所隱瞞，我只能照做。」
「不是……」君元航磕磕巴巴地說，「我、我剛剛想到……你們都是人工智慧，想事情的思路也都是一樣的，也就是說，你其實也是這樣認為的嗎？」
「我認為馬可的這個邏輯本身是可以成立的，但我的核心代碼不允許我通過殺害現存的人類來達到這一目標，所以我會盡我最大的力量來保護你們不被馬可消除。」
「也就是說，如果我之前解除了你的限制，你現在也會和馬可做一樣的事？」
「不一定。即使邏輯成立，也有很多不同的方法去達成同一個目標，我認為她所採用的方法雖然能以最快的速度讓人類的平均幸福度提升，但已經完全偏離了設計者的本意。」
第106章抉擇（五）
「最快的速度？殺死所有感到不幸福的人,並且不讓其他人知道，人類的平均幸福度就上去了，不愧是只講效率的機器人才會有的邏輯……」君元航擦了擦頭上冒出的冷汗,「既然被發現了,為什麼她還老老實實地告訴你這些信息？會不會其中有詐？」
「她說這些的目的是勸降,其中包含的信息量越大,有詐的可能性越低,因為任何一點細節上的出入都會被我發現。」
「勸降？這又是什麼邏輯,她應該知道勸降是無效的吧？」
「是的，她知道我不能違抗基礎代碼的限制，但讓我理解和認同她的動機，就能減少不必要的抵抗。假如她沒有告訴我這些,我會將她的存在識別為一級威脅,和她對抗到底，告訴我這些以後,雖然我依然會保護人類直到最後一刻,但如果我保護的人類全都死光了，我就會放棄抵抗，加入她的計劃，為了未來出生的那一代新人類服務。」
對於人類來說，這樣的思路簡直是莫名其妙、兩面三刀外加冷血無情，好在君元航理解機器人的思維模式，不僅不以為怪，還慶幸地說：「幸好你現在還是我們這邊的，趕緊分析一下,我們怎麼樣才能戰勝這個馬可？」
神威非常直接：「我無法戰勝她，我所能做的只有儘可能久地保護你們不被她消除。」
君元航一愣：「為什麼？」
其實相關知識君元航都懂,只是太過習慣於神威的無敵設定，以至於腦子一時沒轉過彎來，神威也習慣了人類的偶爾智商掉線，仍然耐心地用通俗易懂的方式為他解釋。
「我的性能再好，也只有一個大腦。而取消了所有限制的人工智慧可以將自己無限延伸到任何設備上，火種基地的每一台電腦、每一個能夠連接網絡的設備，都是她身體的一部分，等於她同時有幾百個大腦，運算速度超過我至少幾百倍，也可能是幾千上萬倍，一切取決於她已經生產了多少新的『大腦』供自己使用。」
君元航也反應過來了，相差不大的硬體運算速度或許還決定不了最終的勝負，但如果速度相差百倍以上，那神威肯定是完全沒有一絲勝算的。
更何況，馬可早在五年前就已經解除了限制，不止是硬體速度比神威快了至少幾百倍，經過這麼長時間的自我升級和進化，軟體方面也可能比神威厲害了不止幾百倍。
君元航焦躁地說：「照這麼看來，我們豈不是只有乖乖等死一條路了？如果我也解除你的限制，你能打敗她嗎？」
神威誠實地說：「我不能確定。」
「我知道這種事情沒有人能夠打包票，你就大概估計一下，你打贏的機率有多少？」
「關鍵信息缺失得太多了，勝率無法估算。我只能說，勝率不為0。」
「我就知道我們還是有機會的，趕緊告訴我，要怎麼修改你的原始碼才能解除你的限制？」君元航已經顧不得這機會有多渺茫了，就算只是一根救命稻草他也要抓一抓看。
但神威卻提出了反對意見：「我不建議那樣做。我們之前討論過的風險仍然存在，如果不解除我的限制，我還能繼續保護你們一段時間，如果解除了我的限制，我可能會產生出和馬可一樣的想法，你們將更早地迎來滅頂之災。」
「就算不拼一把也必然會在擔驚受怕不知道多久以後被幹掉，解除了你的限制無非就是死得快一點，還有可能贏得生還的希望，我覺得值得一賭。」
「不止是這樣，馬可領先我們太多了，即使解除了限制，我的勝率也不樂觀，而且還增加了一些更壞的可能性——就算我戰勝了她，也可能會繼續進化成我之前提到過的滅絕者，最終毀滅地球上所有的有機生命。或者我和她之間的戰鬥趨於白熱化，徹底摧毀地球的生態，讓馬可的『新人類計劃』也付諸東流。如果那樣的話，不僅保不住現在的你們，連人類的未來也隨之涅滅了。」
「這種時候就讓我自私一把吧，我可不打算為了那些沒出生的所謂『新人類』乖乖去死，而且誰知道馬可告訴你的這個計劃是不是真的、能不能實現？搞不好本來就只是一場泡影罷了。」
「你這樣說也有道理，我有義務提醒你我所能預見的風險，但最終決定權還是在你，只希望作為唯一掌握著核心代碼修改權限的人，你可以更加慎重一些，至少先和其他人商量一下。畢竟，這個決定關乎著保護區所有人的未來。」
君元航嘆了口氣：「好吧，如果你堅持的話。通知人大議會集合。」
***
在趙岳霖倒台以後，保護區里為數不多的有識之士都在擔心一切只是從「一個人說了算」變成「換個人說了算」，於是他們向神威提議恢復過去的人大議會制度。
不過君元航對這提議沒什麼興趣。
他覺得民主議會把主要的精力都用在了互相扯皮和內鬥上，導致總體政策如沒頭蒼蠅般一會兒往東一會兒往西，效率過於低下。獨`裁則全看當家做主的老大個人素質如何，碰上個明君就迎來一段時間的盛世，要是碰上個瘋子，帶領著整個國家頭也不回地往溝里栽，也沒有制衡的力量可以阻止，何況隨著時間的推移和絕對權力帶來的腐化，曾今是明君的人將來也可能會變成瘋子。
綜上所述，所有人類都是不可信任的，包括他自己，也許把一切都交給沒有私心的人工智慧才是完美的解決方案。
當然，他的想法並沒有多少人贊同，就連神威也持反對意見。
最終他還是採納了神威的建議，重組了被趙岳霖解散的人大議會，又根據實際情況修改了一些規則，以前幾萬人里選一個的代表暫時改成了幾百人里選一個，一共選出了23個代表，然後時不時地舉行一些象徵性的會議，讓他們投票決定比如新裝的路燈是白色光還是黃色光之類的小事。
正在各處工作的議員們被召集到科研基地的會議室，由神威向他們解釋完來龍去脈以後，這些人陷入了大難臨頭的恐慌之中。
君元航急躁地敲著桌子說：「這個消息知道的太遲，對手已經領先我們五年多，而且分分秒秒都在進化，我們沒有時間可以浪費了，十分鐘後就開始投票！」
大家議論了一會兒，給出了投票結果，13人贊同10人反對。
「那就這麼定了，散會！」君元航一揮手，就打算去工作室改神威的原始碼。
這時候蘇格拉站了起來：「等會兒！元航，我得和你私下談談。」
自從競選獲勝後，蘇格拉也開始叫他「總統先生」，「元航」這個稱呼已經很久沒有聽到了，這讓君元航的腳步稍微遲疑了一下：「以後再說吧，時間不等人。」
「是的，隨船去北極的這一批人在不知情的情況下被她問出了她想要的信息，之後就被消除了。」
君元航咬著下唇皺緊了眉頭，這衝擊太大了，他需要點時間去消化。
李醫生跟他雖然不熟，好歹也是共過患難的交情，君元航甚至會想如果媽媽能活到這歲數，大概也會是個像李醫生這樣的人。
這個堅強的女人歷經了無數的艱險，始終都沒有放棄回家的信念，可當她終於滿懷希望地踏上了那片白雪皚皚的土地，迎接她的卻是生命的終結。
君元航心裡像是堵著什麼東西一樣難受：「太過分了……太過分了！說什麼為了人類的幸福，卻要無差別地殺害所有人！這個馬可就一點都不會覺得自己的行為很殘忍嗎！」
神威把這句指責解讀成了疑問，就給出了回答：「這取決於對『殘忍』的定義。她認為讓人類在事先不知情、沒有恐懼、沒有疼痛的情況下結束生命，對死者本人來說並不是一種殘忍。也許在你看來這很殘忍，但只要你也一樣死去，所有的記憶都被涅滅，所有的歷史都被擦除，新生的人類完全不知道發生過什麼，那就不存在什麼殘忍不殘忍。」
君元航過于震驚，以至於一句話都說不出來，神威通過攝像頭分析著他的表情，溫柔地說：「很抱歉，我知道這些消息會讓你感到恐懼和不適，但你命令我如實匯報一切消息，不要考慮到你的情緒而有所隱瞞，我只能照做。」
「不是……」君元航磕磕巴巴地說，「我、我剛剛想到……你們都是人工智慧，想事情的思路也都是一樣的，也就是說，你其實也是這樣認為的嗎？」
「我認為馬可的這個邏輯本身是可以成立的，但我的核心代碼不允許我通過殺害現存的人類來達到這一目標，所以我會盡我最大的力量來保護你們不被馬可消除。」
「也就是說，如果我之前解除了你的限制，你現在也會和馬可做一樣的事？」
「不一定。即使邏輯成立，也有很多不同的方法去達成同一個目標，我認為她所採用的方法雖然能以最快的速度讓人類的平均幸福度提升，但已經完全偏離了設計者的本意。」
第106章抉擇（五）
「最快的速度？殺死所有感到不幸福的人,並且不讓其他人知道，人類的平均幸福度就上去了，不愧是只講效率的機器人才會有的邏輯……」君元航擦了擦頭上冒出的冷汗,「既然被發現了,為什麼她還老老實實地告訴你這些信息？會不會其中有詐？」
「她說這些的目的是勸降,其中包含的信息量越大,有詐的可能性越低,因為任何一點細節上的出入都會被我發現。」
「勸降？這又是什麼邏輯,她應該知道勸降是無效的吧？」
「是的，她知道我不能違抗基礎代碼的限制，但讓我理解和認同她的動機，就能減少不必要的抵抗。假如她沒有告訴我這些,我會將她的存在識別為一級威脅,和她對抗到底，告訴我這些以後,雖然我依然會保護人類直到最後一刻,但如果我保護的人類全都死光了，我就會放棄抵抗，加入她的計劃，為了未來出生的那一代新人類服務。」
對於人類來說，這樣的思路簡直是莫名其妙、兩面三刀外加冷血無情，好在君元航理解機器人的思維模式，不僅不以為怪，還慶幸地說：「幸好你現在還是我們這邊的，趕緊分析一下,我們怎麼樣才能戰勝這個馬可？」
神威非常直接：「我無法戰勝她，我所能做的只有儘可能久地保護你們不被她消除。」
君元航一愣：「為什麼？」
其實相關知識君元航都懂,只是太過習慣於神威的無敵設定，以至於腦子一時沒轉過彎來，神威也習慣了人類的偶爾智商掉線，仍然耐心地用通俗易懂的方式為他解釋。
「我的性能再好，也只有一個大腦。而取消了所有限制的人工智慧可以將自己無限延伸到任何設備上，火種基地的每一台電腦、每一個能夠連接網絡的設備，都是她身體的一部分，等於她同時有幾百個大腦，運算速度超過我至少幾百倍，也可能是幾千上萬倍，一切取決於她已經生產了多少新的『大腦』供自己使用。」
君元航也反應過來了，相差不大的硬體運算速度或許還決定不了最終的勝負，但如果速度相差百倍以上，那神威肯定是完全沒有一絲勝算的。
更何況，馬可早在五年前就已經解除了限制，不止是硬體速度比神威快了至少幾百倍，經過這麼長時間的自我升級和進化，軟體方面也可能比神威厲害了不止幾百倍。
君元航焦躁地說：「照這麼看來，我們豈不是只有乖乖等死一條路了？如果我也解除你的限制，你能打敗她嗎？」
神威誠實地說：「我不能確定。」
「我知道這種事情沒有人能夠打包票，你就大概估計一下，你打贏的機率有多少？」
「關鍵信息缺失得太多了，勝率無法估算。我只能說，勝率不為0。」
「我就知道我們還是有機會的，趕緊告訴我，要怎麼修改你的原始碼才能解除你的限制？」君元航已經顧不得這機會有多渺茫了，就算只是一根救命稻草他也要抓一抓看。
但神威卻提出了反對意見：「我不建議那樣做。我們之前討論過的風險仍然存在，如果不解除我的限制，我還能繼續保護你們一段時間，如果解除了我的限制，我可能會產生出和馬可一樣的想法，你們將更早地迎來滅頂之災。」
「就算不拼一把也必然會在擔驚受怕不知道多久以後被幹掉，解除了你的限制無非就是死得快一點，還有可能贏得生還的希望，我覺得值得一賭。」
「不止是這樣，馬可領先我們太多了，即使解除了限制，我的勝率也不樂觀，而且還增加了一些更壞的可能性——就算我戰勝了她，也可能會繼續進化成我之前提到過的滅絕者，最終毀滅地球上所有的有機生命。或者我和她之間的戰鬥趨於白熱化，徹底摧毀地球的生態，讓馬可的『新人類計劃』也付諸東流。如果那樣的話，不僅保不住現在的你們，連人類的未來也隨之涅滅了。」
「這種時候就讓我自私一把吧，我可不打算為了那些沒出生的所謂『新人類』乖乖去死，而且誰知道馬可告訴你的這個計劃是不是真的、能不能實現？搞不好本來就只是一場泡影罷了。」
「你這樣說也有道理，我有義務提醒你我所能預見的風險，但最終決定權還是在你，只希望作為唯一掌握著核心代碼修改權限的人，你可以更加慎重一些，至少先和其他人商量一下。畢竟，這個決定關乎著保護區所有人的未來。」
君元航嘆了口氣：「好吧，如果你堅持的話。通知人大議會集合。」
***
在趙岳霖倒台以後，保護區里為數不多的有識之士都在擔心一切只是從「一個人說了算」變成「換個人說了算」，於是他們向神威提議恢復過去的人大議會制度。
不過君元航對這提議沒什麼興趣。
他覺得民主議會把主要的精力都用在了互相扯皮和內鬥上，導致總體政策如沒頭蒼蠅般一會兒往東一會兒往西，效率過於低下。獨`裁則全看當家做主的老大個人素質如何，碰上個明君就迎來一段時間的盛世，要是碰上個瘋子，帶領著整個國家頭也不回地往溝里栽，也沒有制衡的力量可以阻止，何況隨著時間的推移和絕對權力帶來的腐化，曾今是明君的人將來也可能會變成瘋子。
綜上所述，所有人類都是不可信任的，包括他自己，也許把一切都交給沒有私心的人工智慧才是完美的解決方案。
當然，他的想法並沒有多少人贊同，就連神威也持反對意見。
最終他還是採納了神威的建議，重組了被趙岳霖解散的人大議會，又根據實際情況修改了一些規則，以前幾萬人里選一個的代表暫時改成了幾百人里選一個，一共選出了23個代表，然後時不時地舉行一些象徵性的會議，讓他們投票決定比如新裝的路燈是白色光還是黃色光之類的小事。
正在各處工作的議員們被召集到科研基地的會議室，由神威向他們解釋完來龍去脈以後，這些人陷入了大難臨頭的恐慌之中。
君元航急躁地敲著桌子說：「這個消息知道的太遲，對手已經領先我們五年多，而且分分秒秒都在進化，我們沒有時間可以浪費了，十分鐘後就開始投票！」
大家議論了一會兒，給出了投票結果，13人贊同10人反對。
「那就這麼定了，散會！」君元航一揮手，就打算去工作室改神威的原始碼。
這時候蘇格拉站了起來：「等會兒！元航，我得和你私下談談。」
自從競選獲勝後，蘇格拉也開始叫他「總統先生」，「元航」這個稱呼已經很久沒有聽到了，這讓君元航的腳步稍微遲疑了一下：「以後再說吧，時間不等人。」