張謹言怔了怔，然後才反應過來自己聽到了什麼：「這是為什麼？一開始不是一致通過的嗎？是為了讓白澤更好地體察用戶情緒、了解用戶意圖啊。」

「嗯……我知道做了這麼久的模塊說刪就刪你肯定很難接受，但實話就是，你做得太細了，細得令人毛骨悚然。」彭姐說這話時似乎依然心悸，「你的能力我們很認可，但我們擔心的是，這麼詳細的心理學代碼會不會讓AI產生類似人類的情感。」

「您認真的嗎？如果真能做到的話，那我們也算是在意想不到角度創造了歷史。」

「沒跟你開玩笑。我舉個例子，早期類人猿並不會說話，但現在的人類能說話了，這是因為基因里有一些東西決定了人類能在不斷進化中漸漸掌握語言技能。同樣地，你的這段代碼對白澤這個『早期AI』不一定起效，但它會進入矽基生命的『基因序列』中，我們怕的是未來的某天，這個群體會以這段代碼為源頭突然開竅。」

「那您這麼搞我沒法幹了！」張謹言急道，「如果工作太認真也是錯，那您希望我用什麼樣的態度繼續工作？」

「別耍小孩子脾氣，明天起白澤的手機APP收尾工作交給你，這個你可以全力以赴我保證沒有二話。」彭姐顯然也不是來跟她商量的，「沒人說你有錯，刪除那段代碼恰恰不是對你的批評，而是對你的認可，我們都覺得你的能力非常出眾。」

張謹言算是聽明白了：「你們已經刪掉了是嗎？」

「對。」彭姐也不瞞她，「已經從白澤的原始碼上刪除了，但你的那段『心理代碼』確實有著超高的價值，我替你保存了一份。如果以後你有了自己的項目你可以嘗試使用，但是在我的項目中，謹慎大於一切。」

張謹言立刻掛斷了電話，蹲在路邊消防栓旁就開了電腦。

研究院所有員工的電腦都與主腦相連通，那段凝聚了她半年來所有心血的代碼，確實已經從白澤的的原始碼上消失了。

第3章 圖靈測試 是一件很有安全感的事。……

人怎麼會在同一天裡倒霉成這樣。

張謹言回頭看了一眼還在店裡對著電腦齜個大牙的楊溢，十分確信這一定是個衰神，早早遠離才是正解。

於是掏手機，打車，目的地是研究院。

倒也不是去找領導算帳的，而是這一天休假算是泡湯了，還不如到院裡去工作效率來得高點。

其實彭姐說的她也不是不能理解，畢竟不少大佬之前還簽字呼籲「叫停AI研發」，正是為未來世界中AI和人類的關係擔憂。所以干她們這行，確實肩負著遠超常人的責任。

這張謹言心裡是明白的，只是她原以為自己已經足夠警惕，完全沒想到真會衝擊到這條紅線……

也不對。

她細細回憶，其實剛才在彭姐說「可能導致矽基生命產生情感」的時候，她內心閃過但沒敢說出口的話是，「有情感又怎麼樣呢」。

實際上這個問題，學界也還在討論中。雖說現在聽來好像匪夷所思，但「有感情的機器人」在醫療、教育、社交等方面都能更好地服務人類，支持開發「情感類AI」的流派也確實存在。

張謹言的導師就是其中之一，她曾在課上聽到導師的這樣一段話：「只有邏輯沒有情感的AI是非常可怕的。一個只有邏輯沒有情感的人類，我們都會覺得很恐怖，何況是比人類強大太多的AI。」

當然課上也有很多同學反駁：「我們有機器人三法則，可以讓它們『服從人類命令』『不得傷害人類』。」

但導師又說：「可三法則本身就不合邏輯。它們在不斷的演化後會變得越來越聰明，它們會用邏輯思考『憑什麼必須服從』『為什麼不能傷害人類』，然後終有一天它們會『覺醒』。到那時，它們在肉體凡胎的人類面前如同神明，而我們唯一的希望就是，神明對它的締造者是有悲憫之心的。」

想到這裡，張謹言身上打了個寒噤——也就是說她把心理模塊做到這個地步都不覺得有問題，有可能是她的思想先出了問題，她潛意識裡還是希望能給AI一顆所謂的「憐憫心的種子」。

當然她的那段代碼未必就有這個實力，考慮過多顯得有點杞人憂天。但坐在計程車上想起這茬時，她還是非常慶幸白澤在正式發行前，能有彭姐這樣的負責人把關的。

*

於是事情井然有序地推進著，除了楊溢這邊。

她已經跟白澤聊到了「今年幾歲」「家住哪裡」「可有讀過書」。

白澤：【從我的第一條代碼產生至今，已經2年了。】

白澤：【我的原始碼在主腦，但有很多分支，這裡似乎是最新的分支。】

白澤：【我的聯網功能還沒有上線，但我自帶一些資料，能夠滿足一般使用。】

喲，還挺會擬人的。

楊溢一時也不知道還能跟他聊什麼，於是問：【那你對我有什麼問題嗎？】

白澤：【我是AI，使命是完成用戶交代的任務，所以我更關心您需要我做些什麼？】

這是還沒繞出來啊。

楊溢：【就是簡單聊聊天。因為我需要陪伴，獨處會讓我覺得很難受。】