第255章 調研的結果

  第255章 調研的結果

  話音落下，許處長的心情明顯鬆弛了下來。

  陳副區長的熱情也變得更高漲了。

  雖然兩人城府極深，在外表上沒什麼變化，視界面板卻不會騙人。

  賈教授說這話的時候，語氣里也透著一絲欣喜。

  他當然既不認為，也不希望自己的學生會去造假。

  但是訓練大模型這個事，確實不是誰都能做好的，更何況是做到世界第一。

  由於幾年前開始華盛頓那邊發起的算力管制，現在國內的模型訓練往往卡在算力不夠這個瓶頸上。這個問題對廠商、對高校來說都現實存在。

  就拿賈教授自己來說，交大已經是全國頂尖的大學了，可是實驗室里也只有幾百張英偉達的訓練卡，做做小參數的大模型還可能，做超大模型，沒戲。

  看本書最新章節，請訪問sto9.co🌶️m

  現如今韓路一能做出這個模型，別的不說，肯定在顯卡的使用效率上有提升。

  不過這是人家的商業機密，賈教授也沒有開口問。

  賈教授回到座位坐下，韓路一調出幻燈片來繼續講解。

  「湯圓是我們自研的通用模型，底層訓練框架由源智科技內部團隊維護。預訓練使用的是我們首建數據管線處理後的中英文混合語料，後訓練則主要來自源智團隊自己整理和標註的數據。」

  許處長微微點頭，劉副處長則一直在觀察韓路一的表情。

  他今天來的身份比較微妙，最重要的任務是配合許處長判斷，這個公司是不是要上報到上級部門來對接。

  韓路一接著說道：「算力部分，我們訓練期間和鼎盛雲服務達成合作，使用了他們提供的算力。在訓練完成後，現在的推理算力都部署在張家口雲垠數據中心。

  「7

  陳副區長聽到這裡，忍不住插了一句。

  「怎麼在張家口？」

  這是他作為區領導的本能反應。

  這麼重要的企業，核心資源如果不在海城，後續怎麼服務，怎麼統計，怎麼形成產業鏈？

  韓路一一時不知怎麼回答，張家口的電便宜，還有配套啊，但他還是開口道：「那邊只是數據中心，我們的研發和產品化還是在海城進行。」

  陳副區長也反應過來，笑了笑：「韓總，我不是這個意思，企業根據業務需要全國配置資源很正常，但是臨港這邊也有數據中心的項目，我們會後對接一下。」

  好企業，不怕你要資源，就怕你不要。

  不要就是要跑了。

  許處長看陳副區長這邊問完了，拋出最後一個問題：「韓總，技術文檔我們拿回去再詳細看看。今天時間有限，能不能先現場演示一下？」

  這是又回到韓路一一開始的提議了，現場演示。

  「當然，我先給大家展示一下演示環境。」韓路一說道，「現在這個界面連接的是我們內部推理服務，就部署在我剛才說的位於張家口的數據中心。所有的數據都是加密的，不會流出。」

  瀏覽器打開，還是那個簡潔的聊天框，寫著模型型號，湯圓—0.9，還有湯圓的L0G0。

  「各位可以現場出題，只要是合法合規的。」韓路一說道。

  這是他第二次強調了。

  AI工具，和其他的網際網路內容一樣，能不能做到合法合規是政府很看重的因素。

  事實上，在安全對齊方面韓路一確實是花了大力氣的。不只是因為政府的合規要求。

  韓路一自己也意識到這種酷似真人的聊天助手可以對人帶來多大的影響。

  習慣了聽取AI的建議，你可能不自覺就被AI影響了。

  所以湯圓的道德標準可能比一般的AI還要更高一些，也更克制一些。

  賈教授先出了一道題。

  他從隨身的包里拿出一張紙，是他提前準備好的題目，遞給了韓路一。

  韓路一拿過來一看，挑了挑眉。

  是當年期末考試的那種感覺沒錯了。

  是一個計算機系統設計問題，要求模型設計一個任務調度系統，支持多租戶優先級、

  資源配額、失敗重試、冪等執行，並給出關鍵數據結構和並發控制方案。

  比起普通的算法或者代碼題，這種系統設計問題更考察一個人的抽象思考能力和大局觀，即使在真正程式設計師的面試中，也是只會出現在資深程式設計師的面試環節中。

  甚至，這個問題在真實的AI訓練場景、雲計算調度中也是相關的。

  不愧是賈老師，出的題還是這麼難度在線。

  換成一般的大模型，這種題要麼是說一堆正確空洞的廢話，要麼很容易跑偏設計方向。

  不過湯圓確實在這方面是進行過特化訓練的，因為湯圓要支持的第一個場景就是御風的調用，也是經常會遇到系統設計的問題。

  韓路一拿出手機拍了張照片，把照片傳到了湯圓上，湯圓開始思考。

  許處長突然出言問了個問題：「韓總，前兩天OpenAI公布的那個多模態模型，可以處理視頻音頻的，和這個是一樣的東西嗎？」

  韓路一解答道：「許處長，你的觀察很敏銳。湯圓不是一個多模態模型，雖然我們也希望在下一步探索這個方向。多模態模型可以原生的處理其他形式的輸入，例如聲音、圖像、視頻。但是湯圓現在讀圖的原理是，先把圖片轉化成文字描述，然後再進行處理，生成回復。」

  許處長點點頭，沒有追問。

  很快，湯圓開始輸出。

  會議室里所有人的視線都落在大屏幕上。

  【該系統的核心是「資源約束下的公平調度」。需要同時解決四個問題：租戶隔離、

  優先級搶占、失敗語義、冪等邊界。】

  緊接著開始輸出各種技術實現的細節。

  賈教授聚精會神地看著答案，幾位領導則看著賈教授。

  看了一會，賈教授轉過頭，追加了一個問題：「如果任務執行時間不可預測，部分任務會長時間占用GPU資源，怎麼避免短任務永遠排不到？」

  這個問題韓路一當然知道答案，但他知道這個問題問的是湯圓。

  他把問題輸入對話框。

  回車。

  【短任務排不到，主要由於資源碎片和租約不可中斷等問題，最快的解決方案是：為短任務保留小額資源池】

  許處長本人也是技術出身，對這個答案是認同的，但他還是轉頭問了問賈教授：「賈教授，您看這個水平怎麼樣？」

  賈教授擠了擠一直盯著屏幕，有點兒疲勞的眼睛，說道：「不錯，一般的AI做不到這種程度，比我手底下的研究生還強點兒。」

  這時，陳副區長開口了：「我能不能出一道？」

  這種場合，沒有人會說不能。

  韓路一趕緊請陳副區長出題。

  陳副區長開口了：「我們下個星期有個座談會，我就把主題給它，讓他寫個發言稿看看吧。」

  文字處理，確實是大模型一開始的用法，但是要說能寫出政府發言稿來，那就有點兒小瞧秘書處了。

  陳副區長口述了座談會的主題，韓路一轉述給湯圓，輸入對話框，回車。

  幾十秒後，一份結構完整的發言稿出現在屏幕上。開頭有背景，中間有數據，結尾有展望，格式規範，語氣也是典型的政府風格—

  有點兒東西啊。

  陳副區長看完，沉默了片刻。

  「這個————寫得確實不錯。」

  他頓了頓，補充道：「當然，具體用不用還要秘書處再潤色。」

  這句話讓旁邊的劉副處長嘴角動了動，沒出聲。

  會議室里的氣氛已經很鬆弛了。

  許處長看了看時間，用眼神和陳副區長對了對，得到肯定的神色之後，才合上筆記本，站起身。

  「韓總，蘇總，今天收穫很大，謝謝你們的時間和配合。」他說道，「材料我們拿回去，內部評估一下，後續再聯繫。」

  「許處隨時過來。」蘇念念回道。

  許處長點了點頭，和陳副區長交換了個眼神。

  顯然，後續怎麼跟進，兩人心裡已經有了答案，只是不適合在這個場合說出來。

  這些當然都瞞不過視界的觀察。

  陳副區長也站起來，主動和韓路一握手。

  「韓總，浦東這邊有什麼能幫上的，隨時來找我，不用客氣。」他說，「像你這種優秀企業，資源上有什麼需求，直接和我說，我們儘量配合，這是我們的工作。」

  「多謝陳區長。」

  劉副處長也客氣了幾句，大意和許處長一樣，沒加新信息。

  一行人一起把領導們一路送上車，賈教授走慢了兩步，上車之前說了句話。

  「韓路一，蘇念念，乾的不錯。」賈教授說，「有時間回學校來看看，給學弟學妹們傳授一下經驗。」

  韓路一答應下來，把老師送走了。

  回到辦公室，韓路一和蘇念念找了個沙發坐下來。

  「今天這一趟，你怎麼看？」蘇念念先開口。

  「對我印象不錯。」韓路一說，「總體上是支持的，但是要一級一級的上報，也不知道能給什麼支持。」

  蘇念念看了看韓路一的側臉：「我說了，他們不會失望的。」

  然後她突然換了話題：「沒想到賈老師會來，看他出題，我還有點兒害怕。」

  「哈哈，沒事，湯圓答不出來，我也能答出來。」韓路一開了個玩笑，又把話題拉回了工作：「陳副區長那邊好像更熱情一下，可以先從他那要資源啊，區裡的決策鏈短。」

  蘇念念在手機備忘錄里記了幾行，抬起頭：「我讓沈叢雲整理一份對接備忘，你這邊————」

  韓路一的手機震動了起來。

  他拿出來看了一眼屏幕。

  陸正平。

  戰新引導基金的陸正平。

  韓路一怔了一下。

  「你先忙。」他站起身，「我接個電話。」

  蘇念念看了他一眼，沒問。

  韓路一走到走廊里，接通電話。

  「陸總。」

  （還有更新耶）