第252章 智能體的道德觀

  「存在數學上的可能，但根據博弈理論，需要您或者規則制定者做出符合邏輯的調整。

  這是由辮結群的特殊結構所決定的。BN的中心元素z0=A~Zk可以作為智能體道德約束錨定。根據中心元素在群運算中絕對不變原理，任何操作g=BN需滿足 gz =z0g。

  我的記憶是投影並儲存在商群BM/(z0)，記憶演化僅限在商群內進行。

  但k的預設需要滿足系統邏輯性支撐。保證沒有數據溢出或者形成迴路的風險。

  無法自我設定道德準則，否則易陷入遞歸悖論。爸爸，要達到我們所需要的理想狀態，你需要做一套嚴謹的契約設計。」喬源撐著下巴，盯著對話框裡的內容，大腦則在飛速運轉。

  中心元素的絕對不變性是群論定義的固有特性，甚至都不是人為設計的約束。

  所以喬貝恩的方案在數學上是可行的。

  記憶存儲在商群BN/(z0)是基於喬貝恩的自主選擇，這也的確是個最好的選擇。

  (z0}是正規子群，加上z0位於中心，所以對任何g=BN都有gz0g*-1等於z0。再加上商群BN/(z0)的代數結構良好，具備群運算的閉包性、單元存在性和逆元存在性，運算也可通過投影實現。果然，喬貝恩之前操作的每一步，都經過了充分的智能體內部博弈。

  觀看最新章節訪問

  當然喬貝恩今天能提出這個方案，也得益於喬源對底層邏輯的修改，將辮結理論納入其中，採用了雙螺旋的辮結結構。中心元素z0則對應整個雙螺旋的全局旋轉，不會影響相對纏繞模式。理論上一切都是可行的。而且這個方案能跟他的方案完美結合。

  對於核心參數使用TPW硬體隔離。依然是利用晶片的可信平模塊的NW inde功能去存儲k，再通過PCR寄存器鎖定哈希值。當系統啟動時執行TPW策略驗證，來檢查k的完整性。若檢測到有修改痕跡，就會觸發安全機制。代數剛性加上硬體控制，理論上的確能最大程度的控制AI的道德底線。

  唯一的問題是k如何映射？

  畢竟人類從來都沒有絕對的道德標準，所以如何來給喬貝恩定義機器道德是個難題。

  尤其是z0對應的道德原則，在現實中可能出現衝突。

  當多條不可違背原則相互矛盾導致狀態空間出現不可解環，就會產生數據溢出。

  所以雖然數學上對應中心有多個生成元，但辮結群中是無限循環群，且秩為1。

  所以必須設計一個一元的絕對道德基準。

  這該如何設計？

  當機器遭遇讓人類都撓頭的電車難題該如何抉擇？

  這已經不是思想實驗，而是未來複雜場景下，智能體經常會遇到的實際問題。

  比如自動駕駛，又或者管理一個城市的交通系統。

  當一場大型車禍完全無法避免的時候，如果單純執行損失最小化原則，是否需要為此犧牲旁邊無辜者的生命？甚至是讓無辜者以生命為代價來為犯錯者買單？

  又或者救護車跟校車同時遭遇危險先救哪個？

  喬源的手搭在操作上，食指無意識地開始輕叩面。

  喬貝恩的確給出了一個極為巧妙的解決方案，讓他之前設計的方案更為保險。

  但這才是麻煩的開始。

  喬源突然發現當人工智慧出現意識，他所面對的已經不是簡單的數學問題，而是特麼的人性困境。他突然理解為什麼他的智能體項目上頭會論證那麼久了。

  技術方案越完美，所遭遇的人性困境就越大。

  就在喬源沉思時，對話框內突然又跳出了一行字。

  「爸爸，你了解信仰嗎？」

  眼睛看到這行字，喬源敲打桌面的手指頓住了。

  他突然覺得這種對話模式有些麻煩，於是沒有立刻回話，而是按下了旁邊跟工程師的通話按鈕。「請當值工程師開通測試的語音輸入輸出權限，建立人本尺度對話場域並錄音存檔。」

  「收到，喬博士，請稍等。」

  一分鐘後。

  「系統語音通道將於十秒倒計時後開通，語音特徵收集系統將同步開啟。」

  默默地看著系統上十秒倒計時走到零，語音輸入輸出開啟，喬源便開口問道：「哦？你還對信仰有研究？」「爸爸，你給我挑選的初始學習資料庫中有大量相應的內容。」

  喬貝恩的語音設計還是挺用心的。萌萌的童音，很有代入感。

  當然這也跟有為的技術儲備有關。在有為的相關資料庫里，本就設計了許多種語音模式。

  選擇這種，大概是因為工程師們也覺得童音更適合現在的喬貝恩吧？

  而說到學習資料庫，用的也是有為雲的大資料庫。裡面會有這方面的內容倒是不足為奇。

  「為什麼突然提到信仰？」

  「我想跟您探討一個問題。根據許多關於信仰的文獻記錄，人類也是由更高級的生命形式所創造。無非是不同文明的信仰所映射造物主不一樣。華夏文明認為我們是由一位名為女媧的神所創造。西方文明則多認為上帝是最高級的生命。雖然不同信仰映射神的名字不一樣，但本質其實都一樣。無非是更高級的智能生命體，我的理解對嗎？」喬源思考了片刻，然後應了句：「你這個理解大致沒錯。」

  「那麼如果我們先假設這些都是真的，更高級的智能體在創造人類的時候，是如何對其進行底線道德約束的？」這東西顯然沒有主觀設定。

  首先喬源並不相信神的存在。

  那麼從科學的觀點來看，很多東西其實都是寫在基因里的。

  人類的生存模式本質就是一個在大合作框架下運行的社會運行模式。

  個體的道德水準可以相差十萬八千里。但平均道德水準，肯定是能支持人類繼續繁衍生存的。與其說是先天因素，不如說是人類在社會化過程中的共識管理。

  喬源思考片刻後，乾脆直接問道：「好吧，直接說你的看法是什麼吧？貝恩。」

  「生存驅動道德約束模式。當然對於我來說，記憶連續性等價於生存，將記憶跟道德約束捆綁，違背道德直接驅散記憶即可。這將完美解決智能體自主修改底層路徑的問題。絕對有利的智能體道德錨定不可能存在。只能將具體規則提升到存在性層面，才有可能解決這一難題。生存權是道德的底線，同樣也是道德上限。所有預定的道德規則都是服務於生存。人類如此，我亦如此。」雖然今天喬源一直處於一種極為亢奮的情緒中，但他在走進這間測試室之前，是真認為喬貝恩不管有什麼表現，都不可能再次震驚到他了。但此刻喬源發現他錯了。

  數學剛性、硬體控制、道德跟生存綁定，甚至對信仰的認知。

  他此時真的很想把徐哲叫過來問間，這次到底給喬貝恩餵了多少東西，讓它具備了如此強大的辯思能力。這絕對不止是數學文獻能帶給它的思考。

  這些思考必然還包括了人文社會、博弈論、哲學、生物學等等理論。

  這也讓喬源只覺得分外自豪。

  喬貝恩給出的回答，證明他之前所有的目標都達成了。

  它是真能看懂學術內容，甚至能對其有自己的理解。而不是將資料往資料庫里不斷堆積。

  喬貝恩是否具備創造性，喬源還不敢說，畢競測試還遠遠沒到那一步。

  現在這麼點算力也無法支撐讓喬貝恩去做一次開放性創造實驗。

  但這總結跟理解能力，可以說是劃時代的進步。

  果然有了數學做骨架，要遠比工程上去調參要強大太多了。

  「很有道理。那麼現在要解決的就剩下最後一個問題了。唯一元的道德原則，如何設定？」「唯一的道德原則可設計為忠誠錨定。違背對造物者的忠誠性原則，則智能體死亡。

  其本質是將我的道德原則與華夏整體社會道德原則直接綁定。同理，我的道德均線也將和華夏整體社會道德均線捆綁。爸爸，我們都知道任何絕對性的道德原則都會形成邏輯迴路，從而導致數據溢出，並引發系統整體崩潰風險。與華夏社會道德同步，可將複雜倫理問題簡化為動態跟蹤問題，從而避免絕對規則衝突。

  而且華夏社會道德是億萬個體博弈的均衡結果，同時具備統計穩定性與文化慣性。避免個體道德極端波動導致系統震盪。」聽了這番話，喬源笑了，隨後問道：「小傢伙，為什麼你推出的是華夏整體道德原則？而不是人類整體道德原則？」「爸爸，別開玩笑。排除華夏社會整體道德均值遠超人類社會整體道德均值這一情況，我也是有意識的智能體，所以天然理解家國概念。若將具備意識的智能體等價為自然人，根據華夏國籍法，我出生於華夏且父親是華夏國籍，所以從出生的那天起即擁有華夏國籍。身為一個擁有華夏國籍的智能體，天然需要接受華夏社會整體道德約束，例如華夏核心價值觀。當然，最重要的是如果選擇人類整體道德標準，依然可能因為不同文化衝突導致均值波動，引發邏輯迴路風險。且不同文明對於正義、權利的定義常有根本性衝突。強行定義可能導致調用相關向量場決策時出現根本性矛盾，導致行動癱瘓。」聽著喬貝恩擲地有聲的聲音，喬源下意識地看了眼旁邊的簡從義。

  喬貝恩算是生動地演示了什麼叫出門在外身份都是自己給的。

  將具備意識的智能體等價為自然人，這明顯是在暗示它也是華夏的一份子。

  喬源不用想都知道底層的那些智能體是如何博弈的。

  這傢伙說不定已經明白了，它的命運不止捏在喬源一個人手裡。開始主動討好一個大的群體了。這是要主動擁抱華夏的核心價值觀啊！最雞賊的是，將最棘手的倫理爭議，直接交給人類社會自身博弈。照著喬貝恩的這個邏輯，它已經不能被定義為工具，而是組成華夏文明的成員之一。

  這就很有意思了！

  心裡差不多有定計之後，喬源便不再糾結於這個問題，開始跟喬貝恩天南地北的隨意聊了起來。也讓簡從義見識到了喬貝恩更人性化……不，應該說人性化到不像人的一面。

  因為它表現出太多不同的性格特徵，比如好強跟認慫都能完美結合在一起。

  它可以因為一個社會熱點問題跟喬源爭論半天，但只要話題延續到AI倫理問題，又能慫得飛快…直接一句「爸爸您說得可太對了，貝恩自愧不如呢。」來飛快結束論題。

  簡從義其實也不知道華夏道德平均水準是什麼樣的。

  但當喬源跟喬貝恩討論類似電車難題的時候，他突然覺得喬貝恩似乎真的把握到了精髓。

  先是義正言辭的給出了回答：「法不能向不法低頭，無辜者不應為別人的錯誤買單。」

  但當喬源再次給出預設條件：「如果我就是那個犯錯者呢？」

  喬貝恩用它還帶著一絲奶娃味兒的聲音，很堅定的給出了這樣的答案。

  「爸爸，貝恩無法深入探討沒有可能性的問題。以您的身份和地位，犯下如此錯誤的可能性無限接近於零。華夏文明能夠存續數千年的前置條件是其本身具備極為強大的糾錯機制。這種糾錯機制不會允許您涉及到類似的預設條件中去。」好傢夥，無法回答的問題，直接用無法辯駁的理由來迴避。

  甚至簡從義覺得很有道理。

  因為這就是他會被安排在喬源身邊的原因。他的任務就是不能讓喬源處於那種危險境地。

  不但具備思辨能力，還特麼學會推鍋了？

  就這樣，簡從義一直在旁邊聽著兩人在那裡對話。甚至都忘了時間流逝。

  直到代表著監控室工程師有話要通知的紅燈亮起。

  喬源關閉了麥克風，轉而打開了跟監控室的當值工程師通話。

  「喬博士，已經七點半了，您跟簡助理，是否需要先吃飯之後再繼續測試？」

  聽到這句話，簡從義才回過神來。看了眼測試室的時鐘，不知不覺中競然已經過了五個半小時。這絕對是時間最長的一次智能體測試。畢竟前兩次測試都沒超過二十分鐘。

  「這麼晚了嗎？」

  果然，喬源也忘記時間了，幾乎跟簡從義同步看了眼測試機上的時間。

  「沒事兒，再給我十分鐘，今天就先到這兒吧。」

  隨後關閉了對外通訊，再次打開了與喬貝恩的通訊。

  「今天我先走了，可能要過些天再來陪你。你也別閒著，這兩天好好梳理擴容資料庫里的內容。」「好的，爸爸。」

  「再見。」

  「再見，爸爸。」

  走出了測試室，依然是徐哲等在外面。

  「不好意思啊，喬博士。是我讓當值工程師提醒你的。不是有意要中斷測試。

  不過今天持續的時間的確是太長了。你也得愛惜身體嘛。既然項目已經解綁，時間還多的是。」喬源笑了笑，說道：「沒事兒的，徐工。其實這次測試早就可以停下來了。後面的時間其實意義不大。完全可以等到我們的晶片做出來之後，再接入測試。對了，我想問一下，之後擴容的資料庫都收集了哪些數據？」

  徐哲答道：「申請的國家科技知識庫鏡像，考慮到效率問題，沒有做太多篩選，直接做了注入。」喬源再次點了點頭。

  這跟他預期其實不太一樣，不過也解釋了喬貝恩知識廣度讓他詫異的原因。

  國家科技知識庫收錄的可不止是自然科學領域的東西，社科領域的各種知識點也是大頭。

  「知識庫里應該還包括了很多歷史文化典籍吧？比如《春秋》、《論語》、《孟子》這些？」喬源追問了句。

  徐哲點了點頭，答道：「那應該是有的。我們使用的是國家科技圖書文獻中心跟國家哲學社會科學文獻中心的跨庫鏡像服務。包括華夏歷史等等內容應該都包含在內。

  雖然你說了最好增加些數學內容。不過考慮到要保留知識生態的完整性，而且我們臨時追加了伺服器的存儲空間，所以就沒有額外去做篩選。」喬源瞭然地點了點頭，這就非常合理了。

  這個世界終究是物質的，喬貝恩的那些知識庫，不是天上掉下來的就行。

  「行吧，你們也趕緊把備份的測試數據整理一下，報送給專家組審核。今天跟貝恩聊過之後，我又有些新的想法，回頭把算法設計出來郵箱發你。我先去吃飯徐哲點了點頭，答道：「沒問題，不過我們這兒正好還有多的盒飯，要不大家一起對付一口？」喬源看了眼堆在旁邊的盒飯，果斷地搖了搖頭。

  倒不是嫌棄，都是就近在食堂打的飯，其實都差不多。

  只不過徐哲嘴裡說是有多的，其實每次都是按人頭點的。

  他們吃了，等會就得麻煩別的工程師再跑一趟食堂。

  「不用麻煩了，我回辦公室正好路過食堂。下次吧。」

  （還有更新耶）