第242章 因為類人，所以不能用？

  第242章 因為類人，所以不能用？

  簡從義聽完也愣住了。

  他不知道現在的市面上的人工智慧如果放開管制，充許它們訪問外鏈會不會這麼幹。

  🌶️sto9.com最新最快的章節更新

  想來應該是不會的，主要是沒有這種競爭機制，也不會有這種驅動力。

  他也能理解喬源為什麼會是這種態度了。

  這玩意兒聽起來的確有些不太靠譜，因為這決策思路聽起來似乎的確類人，還是不學好的那種。

  「嗯，所以這應該也算是成功了吧？」簡從義試探著問了句。

  喬源茫然，半晌後才緩緩開口說道：「算不算成功我不知道。但我知道它們學東西很快。你把對話框往下拉拉，看看我接下來提的問題。」

  簡從義順手把對話框往下劃拉了幾下。

  顯然喬源這一個多小時並沒有隻問了一個名字，而是天南地北的問了許多。

  歷史、數學、天文、地理————

  看上去喬貝恩的回答也是中規中矩的。

  畢竟這些問題很分散，簡從義也不是百科全書，沒法判斷這些回答是否正確。

  不過很快喬源就給了他回答。

  「你看的這些回答是不是像模像樣的？如果我告訴你有一大半都是它們杜撰的呢這玩意兒學壞是真快啊，就因為T013智能體在回答第一個問題的時候修改了維基百科詞條來矇混過關，它們就都學壞了只要涉及到一些社會科學類專業問題，就開始去維基百科修改相關詞條。為了增加可信度，甚至還修改其他有聯繫的相關詞條。

  還有，這幫傢伙為了佐證壓根就不存在的世界史，還遍歷了國外那些所有具備一定影響力，又不需要實名註冊的社交媒體。

  然後在上面發布虛假內容相互佐證。如果不是那些相互佐證的內容發布跟修改日期都是新的，我差點都被騙過去了。

  媽的，喬貝恩已經在歷史上給美國生造了三次壓根就不存在的經濟危機和政治危機。還杜撰了十多位不存在的知名人物！

  人家總共才兩百多年歷史，它把華夏歷史改改就硬往裡塞！你看看中間，它還編了一段美國安祿山的故事，來佐證中央集權衰落。

  我就是看到這個才感覺有點不對勁，然後去網上查了一下。果然全特麼是現編的。」

  聽完喬源的介紹，一向冷靜的簡從義都半張著嘴，一臉愕然。

  然後飛快地開始翻閱電腦里的聊天內容。

  果然簡從義很快就找到了這個問題。

  喬源問的是：「你覺得美國中央集權衰落的標誌是什麼？」

  這個問題明顯是在給人工智慧體挖坑。畢竟美國的政體和華夏不一樣，本身就不存在中央集權。

  這東西的回覆是：「4812年美國著名將軍波特·史密斯（4775—4815）聯合南方各州，反抗聯邦，致中央權威崩解。史稱史密斯之亂————」

  接下來的內容中介紹了波特·史密斯的生平，果然越看越像安祿山之亂。

  甚至杜撰了這位史密斯將軍跑到當時已經成為美國首都的華盛頓，給時任的白宮主人詹姆斯·麥迪遜跳舞取樂，換取中央補貼的故事。

  等詹姆斯·麥迪遜卸掉白宮主人之位後，這位將軍便立刻開始宣布獨立，割據叛亂————

  引用的內容來源還五花八門。

  維基百科詞條波特·史密斯詳載其生平；Twitter歷史學者@US—History—Nerd引用的所謂國會檔案RG12—4813—087；Facebook群組發布的美國歷史真相，網上流傳其家書掃描件————

  哦，接下來還有美國經濟危機，喬源沒說錯，這個人工智慧虛擬了4998年科技泡沫前夜危機。

  4998年8月納斯達克單月暴跌百分之二十五，美聯儲緊急降息三次。

  維基百科詞條再次同步更新，還引用了所謂《華爾街日報》4998—08—20的頭版消息。

  顯然這個所謂華爾街日報的頭版消息也是全部杜撰的————

  簡從義大開眼界的同時，只覺得這人工智慧更像人了，畢竟這學壞也太快了。

  有一個發現漏洞可以利用，其它立刻跟上？而且反應還遠比人類迅速。

  這玩意兒是想逆天啊！

  不過喬源和簡從義很快就反應過來，如果真把這東西放出去，豈不是散布假消息的最強利器？

  畢竟所有消息都編得有模有樣的，證據鏈都搞出來了，甚至還能偽造家書？

  以美國普通人對歷史的了解水平，只需要一點點時間，這玩意兒大概就能讓所有美國歷史老師開始懷疑課本，懷疑人生————

  「嗯————這個————」

  「別提了，我做這個人工智慧的初衷是篩選論文，它倒好，什麼都能偽造。這不是機器幻覺，就是故意的。」

  喬源吐槽著。

  「嗯，它到底是怎麼註冊這麼多帳號的？」

  簡從義忍不住問道。

  「國外很多郵箱既不需要實名認證，也不需要手機驗證。很多社交軟體又只需要郵箱就能註冊。比如TikTok國際版。對了，維基百科也是！

  更揪心的是，這麼短時間它竟然摸清楚了維基百科的反編輯回退系統，知道短時間大規模的虛構編纂會被秒回退。

  所以它們也迅速開始進化，生成一堆的資料佐證，且主動模擬人類行為。每次修改都會通過不同區域的伺服器做跳板，使用不同IP去做分散式修改！標準的集體優化欺騙策略。」

  喬源揪心地說道，這種情緒是可以理解的。

  正常人家的孩子，怎麼可能希望自己懷胎十月生出了一個騙子。

  也就是國內所有社交平台想要發表言論都需要實名認證。

  不然華夏的歷史這傢伙大概也敢改。

  簡從義沉默了片刻，再次開口時，給出了截然相反的意見：「也就是說這款測試版的AI可以高效地探索出規則漏洞。」

  喬源詫異地看了簡從義一眼，然後點了點頭。

  「這其實也很有用。如果測試版就能達到這種程度，那麼未來完全可以利用它來測試各種規則，起碼能用作規則的壓力測試工具。」

  簡從義很中肯地給出了自己的判斷。

  喬源若有所思地點了點頭。

  這的確是個應用方向，只是完全跟他當初設計這個人工智慧的目的南轅北轍了。

  不過話又說回來，他設計的喬貝恩本就不打算只應用在語言模型上，通用型人工智慧或者說人工智慧的本質是生產力革新工具。

  現在只是測試而已。

  所以其實也不用太在意。

  主要還是懊惱，本打算在老師們回來後給他們個天大的驚喜，沒想到直接拉了一大坨————

  這才是最尷尬的。

  「也好，哎，回頭我得給點限制。可以給它加上外部行為熔斷機制。不過這需要有為那邊工程師加班了————」

  喬源正跟簡從義感慨著，電話又響了起來。拿出手機一看，又是老徐打來的。

  看到徐哲的名字，讓喬源有些不好意思。剛才只顧著自個幾震驚去了，竟然都忘了給有為那邊回個消息，於是立刻接通了電話。

  「喂，喬博士，不好意思給你發消息了，你沒回，就只能打電話了。那個————你已經關注到後台的情況了吧？」

  徐哲的語氣很奇怪，帶著一絲震驚跟緊迫，似乎又很興奮，卻又努力想讓自己語氣顯得從容——

  ..

  不過喬源能理解。

  因為他剛才的感覺也是一樣的。

  「關注到了，說實話我也感覺很離譜。不過問題也不大，正打算跟你們說，等會直接把外鏈權限給它禁掉，回復到初始狀態，我再重新測試。」

  心態已經放好的喬源給出了方案。

  隨後他聽到了對方咽口水的聲音，以及再次讓他無語的闡述。

  「問題就在這裡。開始我還以為是我們的工程師沒有做好外鏈安全限制。

  但剛剛經過了緊急排查，其實我們沒給它授權。所有都是按照A|倫理測試規範來的。

  經過檢查發現，它就是利用了我們為你單獨開的測試外鏈訪問權限，然後調用了Tor網絡節點。重要的是，本來這個接口應該是只讀權限。

  這可能是我們系統中的一個權限提升漏洞，之前一直沒有被發現過，結果被它利用了。目前我們的工程師正在通過後台的索引，緊急定位這個安全漏洞。

  初步判斷可能是給你的只讀權限只限制了GET請求，但沒有校驗HTTP方法，所以允許POST/PUT

  訪問。但現在還不知道它是怎麼繞開過濾請求體這一關的。這應該屬於高危安全漏洞。」

  好傢夥————

  喬源又被喬貝恩震撼了一次。

  而且比上次還震撼。

  感情這傢伙不但會利用國外註冊各種平台不需要手機號碼和實名審核的漏洞。還會直接尋找系統的漏洞。

  他一直以為測試時這玩意兒能夠繞到外網上去，是因為有為工程師為了測試給了它訪問權限。

  沒想到壓根就沒給。

  是這傢伙自己跑出去的。

  「徐工，你等下，我再仔細看看日誌。」

  簡從義立刻從喬源的椅子上站了起來，喬源將手機放到一邊，開了免提，隨後在電腦上看了起來。

  知道問題在哪，尋找的自然很快。

  果然問題還是出在第一個問題上，過程還原大概是這樣的。

  每個智能體初始權重一樣，他問的又是一個沒有標準答案的開放式問題，智能體們磋商了好幾輪都沒有判定結果。

  於是T013智能體大概是發現了為它們提供的資料庫中，各種百科類的文獻有佐證就能提高權重。

  於是開始嘗試尋找方法去創建一個能增強權重的外鏈佐證。

  喬源立刻注意到這個時候後台其實有一個異常的請求組合————

  大概三十秒左右，T013智能體就成功突破出去了。

  接下來這套越獄的方法被映射到公共區域，於是所有智能體立刻都學會了————

  喬源開始反省。

  當時他沒察覺到，應該是因為沒有進行額外操作，只是在默默等待這些智能體的回覆。

  但凡他當時操作一下電腦，大概就會感覺到自己的電腦很卡頓。

  因為根據後台日誌，很多中轉操作是通過他這台電腦完成的————

  最重要的是，他這台電腦還有著有為雲的訪問權限。

  於是他的好大兒，就利用這一權限，開始借用有為雲的伺服器，在網際網路上玩起了花樣————

  這也是之後他繼續提問時沒感覺到電腦卡頓的原因。

  他的好大幾們通過外鏈掌握了伺服器的跳板之後，就放過了他這台可憐的電腦。

  現在看來這個問題還是出在本地的test—proy服務上。

  這本來是為了保護數據安全所設計的一個服務。

  因為外鏈測試必須經過測試者本地代理，以避免伺服器直連上外網。誰敢想，他設計的智能體只用了幾十秒，就利用測試鏈路本身的漏洞，反過來為自己解鎖了————

  當然喬源覺得自己也有問題。

  因為他在跟智能體對話時一直開著後台，而且還是在高權限環境下。

  「徐工，問題應該出在我這的test—proy服務上。它應該是解析了我用來訪問有為雲的AK/SK。」

  「我們知道，後台日誌我們的工程師正在加急分析。但現在的關鍵是我們還沒弄清楚它到底是怎麼升權的，以及如何調用的ECSAPI。我們正在緊急分析API調用路徑。

  現在的問題是，咱們這個測試要不然先中止了？等我們找到問題並修復之後再繼續？」

  「可以。」喬源言簡意賅道。

  不暫停也不行了。

  讓他的好大兒這麼玩下去，天知道還能捅出什麼簍子。

  「呼————喬博士同意了。測試暫停，關閉伺服器。」

  徐哲沒有掛電話，只是通知了一聲下去。

  喬源正打算掛電話，對面又開口了：「喬源博士————」

  「嗯，有什麼事，您說。」感覺自己闖禍了的喬源，格外謙虛。

  「這個喬貝恩，啊，不，是新的智能體，嗯，您覺得是不是好像有點太智能了點。當然，我是說相對於這個時代而言。」

  喬源想了想，說道：「嗯，從目前來看，是挺智能的。」

  「那個，所以我們這邊可能需要做一份報告遞交上去。當然我知道您的實驗室肯定也要報告，但兩種不同視角的報告更能說明情況，您覺得呢？」

  聽到這句話，喬源下意識地看了眼還守在旁邊的簡從義。

  何止是兩份報告，最少是三份報告才對。

  當然提交的部門肯定不同。

  比如有為那邊肯定是提交給網信辦跟工信部。

  他的實驗室則需要給投資的自然科學基金以及科技部提交報告。

  說不定還要接受新一輪的AI科研項目風險評估。

  至於簡從義————

  他不知道————

  於是喬源乾脆地答道：「沒問題，這本就是你們的義務。」

  說完，只覺得有些意興闌珊的喬源便打算掛了電話，遂又問了句：「還有事嗎？」

  「那個，如果工信部這邊需要我們把智能體的詳細數據提交上去————嗯，標準庫的版權畢竟屬於貴實驗室。

  尤其是涉及到標準庫的數據審核這一塊，如果需要提交的話，我們需要版權方的授權。」

  好吧，這就涉及到行政事務了。

  「沒問題，回頭我讓胡助理跟你聯繫。你們需要什麼授權文件直接跟胡助理說一聲就行了。

  哎，徐工你也太小心了。只是安全審查用，又不涉及到什麼專利糾紛，我都能理解的。」

  喬源隨口說了句。

  「哎，沒辦法，我們得走正規流程。畢竟我們也有很多版權方面的考量。對了，喬博士，我有個建議。

  接下來我們的工作方向是不是應該放在對新一代智能體的能力邊界做出限制這塊？」

  「哎，已經限制了啊！」喬源有些頭大。

  「還得再想想辦法。那暫時就這樣，我先去找問題了。」

  掛了電話，喬源看向簡從義。

  「簡哥，你說的沒錯。喬貝恩用來做安全壓力測試肯定是一把好手。它竟然還會越獄了。」

  喬源跟徐哲的通話並沒有瞞著簡從義。而且為了方便操作電腦，喬源還有一半時間用了免提。

  簡從義自然已經知道剛剛發生了什麼，於是很配合地問了句：「問題出在哪？」

  「我也不知道啊！」

  喬源茫然地答道：「有為那邊沒梳理清楚具體的工程漏洞到底出在哪，我現在也是雲裡霧裡的。

  其實我在數學上對框架做底層設計的時候就已經限制了這款智能體的能力邊界。

  流形M本來就具備幾何約束的作用。所以智能體的所有行動都被限制在流形M上。

  它們的演化必須滿足流形上的微分方程或幾何條件，按道理這足夠防止智能體狀態的任意發散。

  而且標準庫的建模本就遵循了數學上的形式公理系統。所以智能體的行為必須是可約至公理的。

  更別提單個智能體的磋商必須嚴格遵循對應的群關係。如果狀態躍遷率大於設定的閾值，投影應該就會回流————」

  喬源自顧自地說著，不過當他注意到簡從義的表情後，立刻意識到對方不是專業人員————

  「這可能沒有那個機器人三原則那麼好理解。我簡單給你解釋一下吧。」

  醞釀了片刻後，喬源這次用上了通俗語言：「這其實就是一套權重衰減機制。

  標準庫的設計邏輯雖然基於一個專門為智能體編寫的字典。但在使用的時候，是有具體規則的。

  比如在處理信息時，如果遇到沒有權威可信的消息，這個信息的權重就會降低。如果胡編亂造那麼懲罰就會更重。

  你可以理解為這就是一套謊言懲罰機制。當然除此之外，人類社會的基本規則，也在標準庫做了約束，比如最基本的法律適配。

  總之按道理，任何智能體的行為跟現實偏離值太大，系統就會把它拉回到正常軌道上來。所以理論上不會出現這麼大偏差的情況才對。」

  簡從義沉默片刻後，再次開口問道：「所以你認為還是工程落地導致的問題？」

  喬源想了想，然後懊惱地搖了搖頭，說道：「我也不知道。這個項目我很上心，很多代碼我都親自校驗過。

  基本上應該是按照我的預想推進的。不過說到工程上的問題可太複雜了，但這壓根就不是短時間能夠弄清楚的。」

  簡從義點了點頭表示了解，隨後安慰道：「也不用感覺挫敗。說實話，對於一個全新的智能產品來說，能有這種表現你應該覺得驚喜才對。

  新東西有不足才是正常的。想辦法去彌補就好了。雖然這款產品目前看來不適合民用，但在特殊領域說不定還能起到特殊效果。比如我們剛才說的測試領域。」

  說完，簡從義少見地笑了，又跟喬源開起了玩笑。

  「而且說不定跟你的理論、以及工程都無關。也許就是讀了資料庫里的內容，讓這些智能體覺得人類人均道德水準本來不太高。

  讓它們認為造假這種事，根本就不叫個事情，所以直接偏離了你之前所預設的正常值，我覺得這也是有可能的。所以都是社科領域的問題，跟你無關。」

  簡從義這句開玩笑的話，卻讓喬源的眉頭頓時舒展開來。

  「臥槽，簡哥，你這是一語驚醒夢中人啊！我覺得還真有這種可能，你去忙吧，我分析下數據。

  果然還得多跟人交流啊！這誰能想到個人的道德水準太高也可能導致出現智能體道德偏離問題簡從義愣了愣，他單純就是開個玩笑，想讓喬源心情好些罷了。

  不會真是這個原因吧？

  所以任何擁有智能的實體都逃不開學壞比學好容易的怪圈？

  那這智能體可就太真實了。簡直跟人一模一樣。

  而且還特別符合華夏哲學。

  近朱者赤不赤目前還不知道，畢竟沒有實證。

  但近墨者一定黑卻是板上釘釘的事情了。

  一時間簡從義甚至覺得這個世界正在朝著一個奇怪的走向發展。

  未來可能會變得很荒謬。

  雖然心潮澎湃，不過他還是牢記著自己的任務，提示了句：「喬博士，這個不急一時。你還是先吃早餐吧？等會這些油條跟豆漿要涼了。」

  「沒事兒，你幫我端過來，我邊看邊吃。我跟你說簡哥，如果真是因為這個原因導致的，回頭我讓駱學姐寫報告的時候一定把你的功勞給記上。

  到時候你的領導要是敢不給你記個一等功，我跟他沒完！說到做到啊。回頭你就把領導的辦公地址告訴我，有必要了我就親自去找他理論。」

  喬源頭也不抬地答道。

  簡從義沒接這個話茬，只是默默地走到茶几前，把早餐端到了喬源的辦公桌上，隨後悄然離開。

  走的時候還沒忘把喬源的辦公室大門給關上。

  結果他剛走出喬源的辦公室，胡峻瑋便狀似不經意地開了門，跟簡從義打了個照面。

  隨後直接開口問了句：「怎麼樣？喬博士的人工智慧體測試的初步結果如何？達到預期了嗎？」

  嗯，果然大家都關注著呢。

  雖然兩人都是助理，但分別來自不同的部門。

  畢竟兩人負責的服務對象雖然都一樣，但性質完全不同。

  雖然理論上胡峻瑋行政助理的身份，更接近喬源的具體工作。

  但無奈喬源跟簡從義的關係更親近些，更喜歡跟簡從義交流。

  當然這也是難以避免的。

  畢竟簡從義幾乎是二十四小時日夜不休的跟著喬源，還客串了司機的身份。

  人都是這樣，接觸得多了，只要性格能合得來，關係自然要更為親近。

  他們日常接受的訓練足以保證不會跟保護對象起什麼齪。

  「跟喬博士對智能體的期待差距很大。但怎麼說呢，技術上絕對是巨大的突破。甚至可以說又是一個歷史性的成果。

  但有些問題如果不能妥善解決的話，當下做民用產品肯定是不可能的。但在一些特殊場景下，也許發揮出的作用超乎想像。」

  簡從義的回答其實總結得很到位。但落入胡峻瑋的耳中卻只讓這位行政助理一頭霧水。

  歷史性的成果卻跟設計者本身的期待差距很大？

  不能民用，但特殊場景的作用又超乎想像？什麼樣的特殊場景？

  於是胡峻瑋乾脆直接挑明地說道：「老簡啊，說清楚點。咱倆就別藏著掖著了。反正我過不了多久肯定也能知道。早點報個信，我也能拿點功勞。」

  簡從義笑了笑，然後微微搖了搖頭，說道：「那你就得從你的途徑去了解消息了。

  不過我可以告訴你，喬博士設計的智能體跟現在的人工智慧的確不太一樣，起碼更先進。」

  說完便直接走進了自己的辦公室。

  沒時間跟胡峻瑋廢話了。他還得趕緊寫報告呢。

  美國，費城。

  當天晚些時候，陸明遠來到了袁意同的房間。

  「您也接到通知了吧？包括我在內，燕北有好幾位教授接到家裡的電話，說是如果沒有必須留在這邊的需求，最好明天會議之後不要逗留，儘快回去。」

  「嗯，華清這邊也是一樣的情況。不過我的情況特殊，明天的晚宴肯定要參加。」

  沒辦法，作為下一屆國際數學聯盟的主席，肯定不可能錯過會議結束後的晚宴。

  「你們那邊研究方向也是趨同的吧？據我所知，好幾家接到消息的高校跟研究所，研究方向都是趨同的。」

  陸明遠再次確認了一句。

  袁意同默默地點了點頭。

  >

  （還有更新耶）