第189章 隨身老爺爺
第一百八十七章 隨身老爺爺
「韓總,您叫我?」
想獲取本書最新更新,請訪問st🍓o9.com
張彪接到韓路一的消息後,來到韓路一的辦公室。
「彪哥,坐。」韓路一站起來,指了指旁邊的沙發。
張彪板正的坐在沙發上,韓路一走過來他斜對面的沙發上坐下,開口問道:「彪哥,新職位還適應嗎?」
張彪坐在那愣了愣,不知道該怎麼開口。
張彪轉崗一段時間了,和以前一樣,韓路一還是去哪都帶著他。
區別是以前他不進會議室,韓路一開會的時候他就在外面保持警戒,確認環境安全,觀察來往人員。
現在他帶著筆記本在旁邊跟著聽,記記筆記。
但是大部分時候他都是一頭霧水的狀態,那些個名詞,什麼融資條款、模型訓練、算力調度、數據中心、電力指標。明明都是中文,怎麼連在一起他就聽不懂了呢?
他儘量把這些都記下來,可是會後翻看自己記的筆記,也沒法復盤出會議中討論了什麼議題、誰是什麼觀點、最後做出了什麼決定。
這讓張彪很難受,他在部隊的時候一直是先進,還拿過三等功。每次執行任務,任務是什麼,目標是什麼,行動計劃是什麼,他都能很快進入狀態。
可是現在他像是突然被丟進了一個完全陌生的戰場,成了一個什麼都不會的新兵蛋子。
顯然,他是一個不合格的助理。
想了想,張彪開口說道:「韓總……我覺得我可能當不了您的助理,我還是回去做安保吧。」
把這句話說出口,張彪反而感覺放鬆了一些。他不怕苦、不怕累、更不怕流血受傷,但是他占了一個自己勝任不了的重要位置,辜負了韓路一對他的期望。
韓路一聽到張彪的話,知道他誤會了。
他沒有立刻反駁,靠近了張彪一點,說:「彪哥,你先別急。」
張彪抬頭看向韓路一。
「咱們公司雖然是做人工智慧的,可是日常工作的內容也不是什麼黑科技。和你在部隊的時候其實是一樣的,歸根結底,是要把信息傳遞給對的人,讓對的人在正確的時間做出正確的決定。」
張彪愣了一下。
然後韓路一接著說:「你上手的時間還短,一時間不會的東西太多,所以感覺懵,這也很正常。」
聽了韓路一的話,張彪稍稍寬心。
可他的苦惱沒有消失。
不會的東西太多了,怎麼辦?
硬學?
他都學了兩個星期了,每天跟會、記筆記,晚上自己復盤看書,還覺得毫無進展,這樣下去真的有用嗎?
韓路一伸手把一個文件夾放在張彪面前。
「彪哥,交給你個任務,邊干邊學吧,有問題隨時問我。」
張彪伸手接過文件夾,說道:「好的,韓總,保證完成任務!」
不管任務是什麼,無條件聽指揮是張彪的信條。
看他嚴肅的樣子,就差立正敬禮了。
韓路一笑了一聲,給他解釋起詳情來:「最近的會你都跟了,我們下一步的工作中心就是自建機房。時間關係,等自己建肯定是來不及了,我的想法是,採購一批國產顯卡,在張家口租幾個機櫃,先跑起來,等以後機房建起來了我們再遷移。」
韓路一示意張彪打開文件夾,裡面是幾份列印資料,上面有簡短的手寫標註。
韓路一從中間抽出一份來,擺在張彪面前,說:「上次在京城見的,國網投資的黃宇總監這幾天會來海城,到時候你來對接,這些資源可以找他問問,先給數據中心那準備一個商務函發過去。」
聽見「商務函」三個字,張彪感覺渾身一僵。
他喉結動了動,說了兩個字。
「好的。」
韓路一看著張彪,語氣很鄭重:「彪哥,大膽去做,別怕搞砸,我給你兜底呢。湯圓的0.2內測版我和趙總最近調過了,你可以試著用用,看看能不能幫到你,連結我發你手機。」
張彪慢慢點頭。
韓路一站起來,準備出去了,張彪也趕緊站起來。
「我去趟十三樓,彪哥你先準備吧。」韓路一轉過頭來對張彪說,「別怕,人沒有生來就會的,邁出第一步,以後就好了。有問題問我,或者問別的同事也行。」
張彪跟著韓路一從辦公室出來,回到了自己的工位。
是的,他現在也有了自己的工位,就在韓路一的辦公室門口,公司還給配了台電腦。
張彪坐在工位上,先把韓路一給他的資料都從頭到尾讀了一遍。
裡面的信息很全面,包括源智科技計劃使用的時間線,大概需要的機櫃資源規模,讓對方協助評估機櫃、電力、網絡、交付周期和後續對接安排等等。
張彪打開了一個新文檔,在標題先寫上《商務函》,盯著空白的文檔看了一會。
他先寫下來第一句話。
「尊敬的XX,你好,源智科技有限公司申請使用機櫃32台,開始時間三月初,望批准。」
寫完他自己讀了讀,感覺不太對。
張彪以前寫過情況說明,寫過訓練日誌,也寫過裝備申請表。
但是這商務函……該怎麼寫?
他抓了抓頭,然後點開了韓路一發過來的連結,一個簡潔的聊天頁面彈了出來。
頁面中間寫著「湯圓v0.2內測版」。
底下的對話框裡有一行灰色的小字:「今天聊點什麼?」
……
十三樓模型組,趙文淵沒有自己的辦公室,和其他的同事一樣坐在開放辦公區。
小牛幫趙文淵把外賣的生椰拿鐵拿過來的時候,他的眼睛還盯著屏幕上的日誌。
他的工位旁邊現在固定加了一把轉椅,他和源碼科技模型組的其他員工都已經習慣了——韓路一最近每天都會花幾個小時坐在這裡,跟他們一起寫國產顯卡的軟體適配。
「文淵,怎麼樣了?」
韓路一的聲音傳過來。
趙文淵聞聲抬起頭,看到韓路一正走過來。
「韓總,你可來了,你快坐。」趙文淵明顯激動起來,「這兩個算子我卡了半天了,你快看看吧。」
這是兩人最近新形成的工作模式。
趙文淵帶著手下的人用編程智能體做國產顯卡的適配工作。
每個人都分到一個算子,先設計一個通過基準,一般來說能達到N卡的百分之八十就算達標,然後用智能體一輪一輪的試。雖然成功率不高,但是效率比手寫已經大大提高了,試的多了也有一些遷移工作的效果不錯。
碰上那些特別重要、特別難的,再匯報給趙文淵。
這種情況一般趙文淵也做不了什麼,他就等著韓路一來。
韓路一坐下之後認認真真的從上到下看一遍,然後就開始寫,劈里啪啦的輸入一串提示詞,各種關鍵參數和邏輯都寫在裡面,然後回車,等五分鐘。
這個難點就攻克了。
經歷了最初的震驚、迷茫、懷疑世界之後,趙文淵已經適應了這種模式。
可能這個世界就是有天才吧。
有難題,找韓總。
我直接把韓總當我的隨身老爺爺用不就完了嗎?管他怎麼做到的呢。
像現在,卡了全組兩天的兩個算子遷移,韓路一坐下十分鐘,解決了。
第一個是RoPE。
這個東西說白了,是讓模型知道一段文本里每個詞所在的位置。短文本里問題不明顯,可一旦上下文拉長到十六K,顯卡那邊的三角函數近似誤差就開始增多的厲害。之前測試的時候,前八K還算正常,到了後面,生成結果就會出現莫名其妙的錯位。
趙文淵他們試了兩天,一直在精度和性能之間來回拉扯。精度壓下去,速度掉得厲害;速度提上來,誤差又爆。
韓路一坐下之後,只看了一遍日誌,就讓智能體把sin/cos查表的粒度重新切了一檔,又把緩存策略改成按block復用。
五分鐘後,十六K長上下文測試通過,性能損耗從原來的百分之四十七降到了百分之十八。
第二個是LayerNorm。
這個算子看起來簡單,可訓練里調用頻率極高,慢一點點,整條訓練鏈路都會被拖住。韓路一改了兩個訪存順序,又讓智能體把向量化讀寫補上,性能直接從N卡基準的百分之五十二拉到百分之八十一。
趙文淵當時看著那兩個綠色 PASS,心情已經很平靜了。
平靜到有點麻木。
解決完問題,韓路一制止了趙文淵想要接著工作的勢頭。
「停一下,我有別的事要和你商量。」
趙文淵看向韓路一。
「Nexus那邊開始動作了,我預測他們四月開始就不會再給我們提供API接口,所以在那之前我們要把湯圓1.0做出來,確保湯圓能接住Kaiwu海外版遷移過來的流量。」
趙文淵聽完之後在電腦上切了一下屏幕,看了看訓練進度,然後對韓路一說:「韓總,時間上有點趕,但是應該來得及。只是,我比較擔心的是雙語適配問題。」
趙文淵調整了一下坐姿,面向韓路一,謹慎的分析起來。
「預訓練倒是問題不大,用的網際網路上的原始數據,本身就是英文居多。關鍵是後訓練,模型的理解能力主要來源於後訓練的提高,你現在提供的那批標註雖然質量極高,但都是中文的,對英文能力的提升恐怕……」
趙文淵的話沒說完整,但意思到位了。
然後他用期待的眼神看向韓路一:「韓總,不知道英文的標註,你能不能——」
這就是趙文淵的新策略。
有需求,找韓總。
你別管他是怎麼解決的,反正他能給你解決。
直接問就完了。
韓路一看著趙文淵期待的眼神,沉默了一會兒,才緩緩地點了點頭:「……你確保訓練進度,標註的事,我來想辦法。」
說完他起身走了。
趙文淵趕緊投入到工作之中。
剛才卡住的難題韓路一雖然解決了,但是他是簡單粗暴的給出了正確答案,至於中間為什麼這麼做、和其他的替代方案比有什麼提升,這些都還是空白。
趙文淵現在要做的事是拿著問題和正確答案,補全中間的答題過程。這些對將來的研究和開發工作來說,都是至關重要的資料。
他知道,韓路一不做這些繁瑣的工作不是因為不會,而是因為工作繁忙沒有時間。
把這些資料整理好,就是他趙文淵體現價值的地方。
況且,給天才解的題寫文檔這件事,也不是誰都有機會做的啊。
想到這,趙文淵突然抬頭看向韓路一離開的方向。
奇怪,他剛才的腳步,是不是看起來有點兒沉重?
(還有更新耶)