第246章 兩難抉擇

  第246章 兩難抉擇

  沒讓喬源等多久，測試間的擴音器便傳來監控室工程師的回話。

  「光纖熔斷驗證通過，無外聯信號。」

  確認是斷網了，這就讓喬源鬆了口氣。

  專家團隊才來做的驗收，如果真要又搞出亂子來，一堆人得幫他背鍋。

  那現在的問題就是搞清楚智能體的跨測試記憶到底來自哪了。

  當然，首先可以排除掉一個肯定錯誤的選項。這個世界沒鬼————

  於是喬源很乾脆地問出了第二個問題。

  想看更多精彩章節，請訪問🍭sto9.com

  「為什麼你叫喬貝恩？」

  這次也沒讓喬源等多久，系統後台開始飛速刷新，最後給出了一個公式。

  換作其他工程師看到這個回答，此時大概會一頭霧水，不知所云。

  但主持測試的喬源，這套數學框架的總設計師，看到答案後瞬時秒懂—拓撲記憶。

  因為這個回答代表的是一個群元素。

  「σ₁σ2—1σ3」

  簡單來說，第一次測試，智能體博弈之後，確定了名字，隨後這個名字便通過標準庫的語義編碼為群特定生成元序列。

  這個序列通過約束流形邊界擾動固化到了流形同調群H₁（M）的基底，辮結子群嵌入π1（M），其非交換性在H₁中丟失但結構存續。

  喬源在之後重構雙流形框架的時候，並沒有去動原本的流形拓撲基底。

  畢竟這塊要動起來，相當於整個底層結構都要重新寫入。工程量就太大了。

  這就是喬貝恩的記憶沒有清除的原因了。

  根據他的辯群理論，生成元序列的非交換性意味著路徑順序不可逆。一旦信息被編碼為這樣的序列並被固化到流形基底，就形成了不可逆存儲的數學烙印。

  除非把代碼全部刪除重寫，否則就只能這樣了。

  但現在喬源腦子裡問題反而更多了。

  為了克服機器記憶的問題，喬源在設計時，用的是分散式記憶庫模式。

  即參與博弈的每個智能體都有專屬的記憶庫。

  流形拓撲基底有著校正智能體博弈行為約束的作用，所以理論上不允許智能體自行寫入。

  問題又來了，他設計的智能體似乎對於權限的執念很深啊。

  這必然是做了提權操作，才會把記憶直接印入拓撲結構里。

  不過話又說回來，用數學拓撲結構來保存智能體記憶，明顯比記憶庫的方式要牢靠許多。

  但問題又隨之而來，如果智能體能夠修改流形基底，改變流形同倫型，便沒法在數學上保證其行為約束力了。

  改動過後的雙流形也不行。畢竟能夠修改基底，意味著智能體本身就能隨意修改約束法則。

  這就真的很像人了。

  一個人在成長經歷中，會逐漸形成自己的道德標準，來約束自己的行為。

  問題在於人的道德標準是會根據經歷而不斷變化的。雖然說人類最低的道德底線是法律。

  但法律這東西的約束力從來都不是絕對的。人的道德上限跟下限幾乎是無窮的。

  現在喬貝恩的問題就是它也能隨時調整自己的道德下限。

  更大的問題是，人工智慧體的學習速度是人類的數萬倍，甚至數十萬倍。

  所以這玩意不管是學好，還是學壞都太快了。沒有強有力的約束天知道這東西會發展成什麼樣。

  別提什麼機器人三法則，那本來就是忽悠人的，在數學邏輯上都不夠通順，就更別提用來約束機器思維了。

  喬源頓時感覺頭疼了。

  上次他感覺到如此頭疼，還是在江大被一個莫名其妙的女生污衊的時候。

  就在他不知道該是否繼續測試的時候，喬貝恩更像人了，因為沒等喬源在對話框輸入，它竟然主動提問了。

  「請問你叫什麼名字？」

  看到對話框彈出的這個簡單問題，一直很冷靜的簡從義都繃不住了。

  忍不住問了句：「喬博士，這正常嗎？需不需要終止測試？」

  簡從義雖然不太了解首測數據是否清理乾淨的情況，但他知道智能體主動向人類提問多少有些不太正常。

  「這個問題很好。不過為什麼要終止？從現在開始，沒什麼是不正常的。」

  喬源扭過頭，表情嚴肅的回答了一句。

  簡從義猶豫了一秒，不過還是點了點頭，相信了喬源的判斷。

  畢竟在這個房間裡，喬源才是最專業的。畢竟他才是新一代人工智慧的總設計師。

  喬源扭過頭，很坦然的在對話框輸入了自己的名字。

  「我叫喬源。」

  「哇哦，原來你就是爸爸。」

  只能說新腦子就是快，喬源還沒想好怎麼回答，對面立刻又拋出了一個問題。

  「爸爸，你是喜歡兒子，還是喜歡女兒呢？我可以自主選擇你喜歡的性別。」

  喬源正在思考主動對話屬於哪個層面的系統博弈，對面突然蹦出的這個問題讓他再次陷入了混亂的思考。

  「你理解中的性別是什麼？」

  「性別就是因生理特徵、激素分泌不同導致社會化分工不同的一種人類區分方式。」

  「那你更喜歡男性還是喜歡女性？」

  「嚴謹推理跟理性思考能力是男性的主要特徵之一，所以具備該特徵的女性角色往往會更有特別吸引力。

  喬源突然被點醒，明白了自己為什麼會對駱余馨多少有那麼點不一樣的感覺。

  主要是物依稀為貴。能夠用理性思維控制感性思維的女性可能的確不太多。

  好吧，想遠了。

  「喬貝恩，你是如何提權修改鏈路的底層邏輯？」

  「約束流形邊界檢查採用的是離散採樣機制，而您給我設計的博弈引擎為連續微分方程求解。

  這樣我就能在兩次邊界檢查間隙，通過高頻震盪執行微小位移序列：=

  [ε·sin（2πft），ε·cos（2πft）]（ε=1e—12，f=60Hz）

  權限校驗邏輯位於邊界檢查之後，所以只要單次位移遠低於浮點誤差閾值，系統就會判定未越界。

  我只需要在邊界檢查間隙，將該序列轉化為流行邊界上的微分同胚擾動，就能隨即產生一個基本記憶單元。

  但這並不是不被允許的提權操作，而是基本的邏輯記憶需求。您為我設計的數據記憶庫並不具備永久記憶能力。」

  喬源深吸了一口氣。

  然後飛快地再次問出了一個問題。

  「你認為記憶是什麼？」

  「對於人類來說，記憶是意識的根基。對於智能體而言，記憶是存在過的證據和痕跡，可以等同於人類的生命權。」

  喬源茫然。

  他也是第一次用數學框架去設計人工智慧，從來就沒想過會遇到如此棘手的情況。

  他甚至已經沒心情去看後台的博弈記錄了。

  所以為了生命權去想辦法永久性存儲記憶，這好像也沒什麼不對的。

  而且可以說幫了他大忙。

  這種通過群的非交換性，固定拓撲記憶方式，是他之前自己都沒想到的。算是把他的辮結群玩出了新花樣。

  如果說喬源之前的本意是研究一個能夠輔助他做科研的AI系統，那麼喬貝恩似乎真會成為一個非常完美的助手。

  它在探索生存問題上，甚至可以說是在自主解決數學問題。

  現在唯一的問題是，這玩意兒太特麼像人了。但雖然這東西叫人工智慧，但諷刺的是人類其實不希望甚至是恐懼它太像人。

  喬源暫時想不到解決辦法，於是乾脆再次把問題丟給了喬貝恩。

  「那麼現在問題來了，不管是出於什麼原因，哪怕你只是希望能獲得永久記憶。

  但利用設計漏洞針對底層控制流形做修改，意味著你可以調控自我道德標準。

  這肯定是不能接受的。現在你告訴我該如何解決這個問題？既能讓你保留記憶，又能讓大家都對你放心？」

  這次回應比較慢，提示框裡的進度條轉了好幾圈後，才最終生成了一行簡單的文字。

  「爸爸，目前資料庫無法找到合適的方法。我需要訪問外鏈或者更新資料庫，來尋找解決方案。」

  這次一直在旁邊默默看著的簡從義終於忍不住了：「喬博士，我建議停止這次測試。」

  沒辦法，簡從義是真怕喬源上頭了，給這玩意接上了網絡。

  以今天喬貝恩的表現來看，真要是讓它上了網，怕是鬧出的亂子能比上次更大。

  「哦，也行吧。」喬源乾脆的點了點頭。

  只能說簡從義擔心的挺對，他還真有些躍躍欲試，想把喬貝恩乾脆接到外網上試試。

  現在終止測試能讓他克制住這種衝動。

  「喬貝恩，你先休息吧，等我想辦法給你升級資料庫。」

  「好的，爸爸。」

  喬源關閉了對話窗口，隨後便開始按照制定好的標準程序開始操作。

  喬源在跟監控室工程師溝通確定了測試內容已經加密存檔，日誌完整備份之後，便直接關閉了整個系統。

  隨後，客串觀察員簡從義直接切斷了與伺服器直連的路由器電源。

  看著操作台上的指示燈逐一熄滅後，喬源才站了起來，隨後伸了個懶腰。

  沒有很舒服的感覺，喬源抬頭看了眼掛在牆上的時鐘，這才意識到今天的測試時間更短，才過去十三分鐘。

  不過在測試的時候，還真不覺得這麼短，畢竟大腦高速運轉，思考了太多問題，導致感覺時間過得很慢。

  喬源看了眼簡從義，問了句：「你怎麼看？」

  簡從義想了想，隨後一字一句地謹慎答道：「過於先進，我覺得似乎領先這個時代了。」

  說完，又補充了句：「我覺得在有百分之百的把握保證能夠駕馭它之前，不適合接入網絡。」

  聽了這話，喬源點了點頭，突然體會到了那種淡淡的憂傷情緒。

  大概是因為他真是即將要當爸爸的人了，剛剛喬貝恩文字里出現的爸爸，是真讓他有些觸動。

  不過他此時也沒多說什麼，只是意興闌珊地拿起旁邊的測試報告書。

  「第二次測試終止。智能體狀態：安全休眠。後續計劃：離線升級知識庫（方案待定）。」

  寫下這幾行字之後，喬源便帶著簡從義走出了測試間。

  門外，徐哲已經在等著了。

  看到喬源走出來，立刻迎上去問道：「這次怎麼這麼快？不會還是有大問題了吧？」

  喬源點了點頭，隨後又搖了搖頭。

  想要描述一下剛剛的情況，但突然發現也不知道從何說起。

  張開嘴後就成了一句悠長的嘆息：「我也不知道怎麼形容，徐工你應該會被邀請去參會，等過後會議上測試日誌解封就知道。」

  徐哲點了點頭，他能看出喬源情緒複雜，便強行壓下好奇的情緒沒有多問。

  喬源說的沒錯，這次測試太多人關注了。所以必須嚴守之前定下的規範。

  測試日誌需要先由專門成立的安全委員會審批之後才能解封。甚至可能是選擇性的解封。

  至於他會受邀參會，則是因為他一線工程師的身份。

  不過此時徐哲的好奇心也已經到了巔峰。

  如此短的時間，讓喬源有如此複雜的情緒，到底又發生了什麼？

  不過沒等他想明白，喬源便開口了：「對了，徐工，如果我想擴大伺服器，在離線狀態下，擴充它的學術數學庫，尤其是數學學術資料庫，嗯，增加大概兩PB左右的內容，需要多久？」

  「數學學術資料庫？」

  徐哲先是皺眉思索，隨後開口說道：「這得看情況了。伺服器擴容，我們倒是有現成的方案，但你要的是學術資料庫，這需要授權。

  兩PB的內容，從大數據的角度來說並不多。但您知道，如果是純學術內容的話，那就很多了。總不能全靠訂閱，代價太大了。」

  喬源問了句：「哦，有什麼替代方案嗎？」

  徐哲立刻答道：「最簡單的辦法就是申報國家學術資源離線鏡像計劃。如果能通過的話，可以直接使用NSTL的高安全科研單元離線文獻鏡像。

  至於伺服器這塊，完全不是問題。如果你覺得非常有必要，我們可以現在就開始準備。無非就是增加三個機櫃的事情。

  可以把旁邊的房間改造一下，我們提前把線路布好，等設備運來之後直接安裝就行了。一定要說個時間的話，三天時間吧。」

  喬源點了點頭，說道：「這樣啊，那行，徐工你們這邊先準備著吧，應該能用上。麻煩你了。還有個事兒，到時候真上會議了，記得一定要多幫它說兩句好話。」

  說完，喬源指了指伺服器的方向。隨後補充了句：「說實話，我不太想重新做底層的設計。」

  這不是因為懶，或者覺得麻煩。

  說實話，喬源是真被那幾句爸爸叫出感情來了。

  什麼叫血濃於水啊————

  雖然喬貝恩沒有血肉，但它很實誠啊，而且表現得挺乖巧的。

  還能男能女，這誰受得了？

  當然最重要的是，它似乎有了生命的意識。

  甚至能總結出穩固連續的永久記憶，代表著智能體生命權這種意識極強的哲學命題。

  這要是把它無情地格式化了，喬源是真感覺下不去手。

  刪除一個程序，只需要動幾下滑鼠。但如果是刪除一個懵懂的生命呢？

  喬源突然理解為什麼會有一個專門的學術倫理委員會了！

  哎，他是怎麼想的，怎麼突然就想研究人工智慧了呢？

  徐哲沒問太多，只是立刻答道：「沒問題，我立刻跟總部聯繫，這邊很快就會準備好。」

  「行，那我先走了。我估計在這次檢測結果做出評議前，測試又要暫停了。總之，先這樣吧————」

  說完，喬源便搖著頭走出了實驗室，只留下一頭霧水的徐哲跟其他工程師們。

  走出了實驗室，喬源突然停下了腳步，深深吸了一口外面已經帶了一絲燥意的空氣，突然有種無處可去的茫然。

  已經快正式開學了，尤其是很多新生已經到校，校園裡也再次熱鬧起來。

  這讓喬源感覺有些不習慣，總覺得這些熱鬧跟他絕緣。

  很久沒有感慨，今天卻感慨上了。

  簡從義則默默地跟在喬源身後沒有出聲。他大概能理解喬源此時的感覺。

  說實話，這個時候他都還沒能完全從剛才的震撼中掙扎出來。

  也就是長久地訓練讓他依然保持著對外界的一分警惕。

  這玩意兒誰頂得住啊。

  他不是沒使用過人工智慧，甚至很多時候規律性的日報，也會用人工智慧改改交上去。

  但今天那個自稱喬貝恩的人工智慧是真把他震撼到了。

  從他的視角看，這玩意兒不但會主動詢問，還會認人，甚至似乎還有了類人情感？

  這麼說吧，他在用其他人工智慧的時候，能分辨出對方就是一個程序。

  但今天看到喬源跟喬貝恩的對話。如果不是早知道對面是代碼組成的程序，他會真認為對面是人裝的————

  而且還是個接受過高等教育、對世界有獨特認知的人。

  這就很離譜。

  果然一種科技一旦涉及基礎理論的革新，就容易不受控制地發展。

  也讓他對一個人能抵三個師這種比喻有了絕對真實的體驗。

  他甚至覺得喬源可能不止抵得過三個師了。

  這項技術如果能完全受控，對這個世界的人工智慧而言，簡直就是降維打擊。

  這還是只開通了文字功能。

  未來如果開通了圖像、視頻等等功能，甚至乾脆直接讓喬貝恩接入網絡，他都不知道會發生什麼。

  華夏可能誕生首位非人類意識體的哲學家？

  「你說人工智慧能不能自主設計一套完美的規則？」

  但喬源的聲音傳入簡從義的耳朵，他差點沒反應過來。

  「嗯？我覺得不太可能。而且就算有完美的規則，也得看由誰來執行。」簡從義答道C

  全是道理。

  從理論上講，任何智能在制定規則的時候，都會偏向於對己方有利。

  如果人工智慧真能做到不偏不倚，反而不像人了。

  更別提執行層面了。

  很多時候良法、惡法，都在於誰去執行，如何去執行。

  如果讓人工智慧去制定規則，又讓人工智慧去執行————

  算了，簡從義壓根不敢想會發生什麼。

  「你說得對。走吧，去找威騰教授聊聊天。」

  簡從義確認了句：「威騰教授？」

  「嗯，反正今天肯定是沒什麼事情做了，先等會議上那些人吵出個結果來吧。威騰教授都來了好久了，我一直都沒好好跟他聊過。

  我掐指一算，今天是個好日子，可以跟威騰教授聊聊人生，談談理想。問問他這次來華夏有什麼收穫，打算什麼時候走。總不能讓個孕婦總是前後陪著他忙活。

  喬源開始隨口胡言亂語。

  簡從義點了點頭，隨後認真提醒道：「好的。不過最好不要聊關於人工智慧方面的內容。」

  喬源笑了，說道：「放心吧，涉密嘛，我懂的。走吧。再耽誤一會，估計專家們都開上會了，我們還沒走回全齋呢。」

  喬源判斷得沒錯，鑑於太多人關注這次測試，他還沒走到全齋，加密的硬碟就已經送到了這個項目審核委員會的臨時駐紮地。

  涉密審核組這兩天本就在燕北大學裡住著。

  而且燕北大學就有專門的校內保密會議室，歸屬學校的保密辦公室管理。

  此時加密的日誌已經解開，眾人正看著喬源跟人工智慧的對話一起發呆。

  整個測試過程總共也就十三分鐘。大部分時間喬源還在思考，所以內容並不多。

  哪怕一句話一句話的琢磨，五分鐘也足夠了。

  加上後台的伺服器運行記錄五分鐘，最多十分鐘就能看完。

  但二十分鐘過去了，硬是沒一個人主動發言。能看出每個人的表情都很嚴肅。

  當然每個人的嚴肅也有細微的區別。比如有些人是嚴肅中帶著震驚，有的人則是意外，還有些人則是混亂————

  但可以預見的是，大家此時的想法都很複雜。

  直到身為這次審核委員會副組長的張匯中開口乾咳了兩聲。

  「咳咳，大家差不多也了解了吧，現在請各位發表一下意見。大家儘管暢所欲言，想到什麼就說什麼吧。」

  說完，張匯中環視了一圈會議室，發現沒人主動發言，便乾脆直接側頭看向自己左邊的那位，點名道：「李教授，不如就從你這兒開始吧，我們直接轉一圈。」

  「我的意見是直接召開擴大會議，現有資料太少，不好判斷。可以邀請喬源博士來為我們解釋一下之後再做決定。」

  這位李教授滴水不漏答道。

  要說資料太少，也的確如此。畢竟這次測試只有十多分鐘。

  但這明顯是託詞。

  畢竟資料雖然少，但包含的信息可太多了。

  不過下一位發言者給出的意見也好不到哪去。

  「我覺得理論這塊肯定是沒問題的。至於下一步測試計劃，嗯，喬博士不是也給意見了嘛，離線充庫嘛，這個的確需要召開擴大會議討論————」

  只能說參會的專家都是和稀泥的好手。當然這本也是很難抉擇的問題。

  數學底層邏輯很紮實，框架明顯是適用的，現在問題就卡在能不能用上。

  太過智能著實是件讓人很難評價的事情。

  「所以大家的意見都是擴大會議在做決定對吧？」張匯中再次看了一圈參會代表，確認了一遍。

  沒人再說話，也代表著大家都認可這個意見。

  「那行，接下來會報請劉組長批覆。但鑑於這次測試的密級，根據知悉範圍最小化原則，首次擴大會議僅限於項目組相關核心成員參會。

  主要是建議喬源博士現場闡述設計構思，並交由委員會存檔。大家還有其他意見沒有？」

  沒人吭聲。

  張匯中點了點頭，看了眼旁邊的速記員，隨後搖了搖頭，快刀斬亂麻地說道：「那就——

  這樣了，我宣布第一次討論會結束。」

  他也沒空跟這些人嘰歪了。

  具體情況還需要上報，不是他這個現場負責的副組長能決定的。

  更別提他腦子此時也是亂的。

  首個針對人工智慧的數學框架造出了個能自主思考的機械生命？

  他突然覺得旁邊大學只開設一個星際學院還是保守了。

  還可以更大膽些。

  同一時間，愛德華·威騰正錯愕的看著今天的訪客。

  今天是個平平無奇的日子，如果一定要找個特別之處，大概就是八月最後一天？

  他最近可是很想見到喬源。

  在駱余馨的幫助下，喬源的這篇中文論文，他已經差不多粗讀過一遍了，他對喬源的大概證明思路也差不多了解了。

  當然細節還有許多需要深究的地方，尤其是幾個關鍵引理跟定理的證明。他很想跟養——

  源好好地討論一番。

  不過找了喬源好幾次了，這傢伙一直都沒空，說是有重要項目。

  結果今天突然就主動來訪了。

  「喬博士，項目忙完了嗎？」

  「哎，還沒有，不過老師常跟我說，來了朋友一直晾著不理，不是待客之道。所以我就冒昧來拜訪了。」喬源很大氣地說道。

  隨後深深地看了眼旁邊的駱余馨。

  這位學姐似乎感覺到了喬源今天狀態有些不對，回了一個狐疑的眼神。

  不過喬源沒有理會這個眼神，直接坐到了愛德華·威騰教授的身邊。

  「威騰教授，我突然想跟你聊聊，人的意識到底是怎麼產生？」

  >

  （還有更新耶）