第894章 戰略(4K)
第894章 戰略(4K)
深度學習模型的技術路線是一件極其重要的事。
它可能關平著成百上千億美元的利益,以及,後續資源的投入。
所以,俞興才對親自嘗試的軟體對話情況念念不忘,也在由吳恩達多次解釋和OPENAI
的印證之後重新審視了這個情況。
本章節來源於sto9.com🎶
自注意力機制本就是由谷歌的團隊提出,初衷也是為了機器翻譯的領域,有著很明顯的商業落地場景,而如吳恩達承認,他們在對相關機制進行研究的時候也會考慮後續的商業化方向。
機器翻譯,搜索應用,乃至於GG內容的匹配和內容合規的審核,這些都是基於如今業界的情況所能看到的商業場景。
即便俞興從來沒對DLF的商業化提出過要求,吳恩達等人仍然在沿著更能維持DLF生命的方向前進,考慮到陸奇的履歷,他在加入到DLF後應該在這一點上是一拍即合的。
俞興出於良性競爭的考慮,願意在碳矽系之外還有DLF這樣的運作,但這種框架的競爭應該仍然只是自己的思考,而不應該是放在DLF身上的初衷。
對於DLF來說————
「喂,大老闆,嘀咕什麼呢?嘀咕兩三天了啊。」劉琬英回家之後瞧見沙發上發呆的俞興,終於忍不住幫他回神。
「小英,你說通用人工智慧什麼時候能夠真正的到來呢?」俞興悠悠的說道,「我們能看到嗎?」
他大致想明百了,通用人工智慧AGi才應該是DLF需要追求的組織目標,看了這種目標才能反過來推動吳恩達等人考慮更適配這種目標的技術研發。
TD—1刷新了11項自然語言處理任務,這當然很好,但採用解碼器的技術路線方案可能在這種理解任務上有所落後,卻不代表它在追求AGI的路線上是劣勢。
只是,這個目標到底能不能達成————
「肯定能,以前的人類還沒技術去太空呢,但我們到底能不能看到,那我就不知道了。」劉琬英笑道,「現在不就是你們那個TD—1刷屏,好像明年就能看到智慧機器人進入家庭了。」
俞興搖搖頭:「媒體肯定怎麼有流量就怎麼寫。」
劉琬英見他沒有往下說,提了個事:「小穎等會過來,她聽說你要去美國的事了,大為震驚,你這條毒蛇出洞看來是把人嚇一跳。」
俞興的工作安排主要是放在碳矽集團這邊,也沒對外透露消息,碳矽數據那邊是今天才接到通知,這趟美國之行大概率還會和臉書的扎克伯格見面,免不了還得商討Mus的競爭與合作。
只是,呂海穎在得知師兄是因為要為DLF挖人才動身,既為這件事震驚,又立即意識到碳矽數據對於深度學習領域的重視很可能還是落後的。
她選擇私底下來探聽口風,溝通交流。
俞興「嗯」了一聲,又神遊一會後才說道:「既然不知道AGI什麼時候能到,分出來競爭還是很有意義的,碳矽數據有自己的基本盤。」
良性競爭的設置到了這會出現新的意義,回頭再看,TD—1在具體業務上的作用恰恰挺適合碳矽數據,而編碼器方案相較於解碼器方案的優勢即便隨著技術發展,也很可能不會到棄之如敝履的地步。
俞興從邏輯上看待這件事,那放在碳矽數據上的技術推進就可以直接拿TD—1的思路來多試試了。
他仍然沒法否定TD—1,這可以由碳矽數據繼續研究推進,而DLF如能基於追求AGI的目標去推進解碼器技術的進步,那便是良好的對照。
不過,具體落實到人身上,還得小心處理,如吳恩達、陳天奇、林元慶等人都有他們自己對深度學習的見解和判斷,TD—1如今的表現又必然振奮人心。
臨近晚飯時間,呂海穎帶著女兒鍾愛如期而至,剛過來也沒立即提深度學習的事,只是和劉琬英閒聊。
俞興則是饒有興趣的逗了一會鍾愛,感慨孩子長得快。
呂海穎等到飯菜上桌才談到深度學習的動靜,認真請教道:「師兄,你覺得深度學習真的會在近期成為推動公司發展的力量嗎?」
「近期是多近,一年兩年?那估計不行。」俞興斟酌道,「三年五年,那可能就是一件各大公司都必須放在戰略層面的事了。」
呂海穎心裡一沉:「三年五年————這就是近期了啊。」
對於一家大公司來說,三年五年的時間不算長,但放在特殊節點確實就可能改變一切,比如,從PC網際網路到移動網際網路。
「不用怕,碳矽數據手裡有著優勢,產品上有那麼多用戶,你們還是要服務好用戶,在這種基礎上再重視深度學習。」俞興現在更加平靜,「DLF可以更純粹,但純粹未必就能做好,我們在這方面已經溝通過了啊。」
呂海穎放下筷子,苦笑一聲:「溝通是溝通過,但師兄你忽然要飛去美國挖人,這————這有點嚇人了,DFL手裡到底有什麼突破?我們都有點懷疑它明年就推出什麼顛覆產品把我們給革了。」
俞興搖頭:「不可能的,那也不符合客觀規律,我也是靜極思動,我和京城也打過招呼了,到了那邊不會亂跑亂動,安全還是有一定保障的。」
「師兄,DLF的TD系列有沒有希望成為下一個超級APP?」呂海穎抿了抿嘴,還是想聽到更進一步的判斷。
俞興沉吟再三後搖頭道:「說不準,這一百米可能只跑了10米,但是,關於這個事,年度報告裡也說了,自注意力機制是一個有望突破的方向,TD—1再次證明這個判斷,有這樣的判斷就能拿到很多資源和支持,後續發展必然更快。」
「我希望你們能真正的重視,但也是從碳矽數據的考量來看待這個事,另外,TD—1的編碼器方案對搜索、GG、審核、翻譯等業務都是有幫助的,這是能很快見效的。」
呂海穎邊吃邊思考,過了一會還是說道:「師兄,你的重視讓我有點擔憂了。」
「不要管我,我認為必須要做的,那我會做的。」俞興說道,「你們就是要從碳矽數據出發,打好國內和國外的競爭,也同步重視深度學習的發展。」
呂海穎拿到了師兄的態度,但這頓飯仍然吃的心裡沉甸甸。
碳矽數據管理層一直以來的自由度都很高,雖然有時候也會抱怨師兄重心放在新能源汽車上面,但不少時間瞧著公司發展到現在的局面也覺很有成就感。
可是,這一次師兄一反常態的為了深度學習動身出國,那種戰略層面的壓力立即就壓了過來。
本以為對深度學習足夠重視,但現在看來還是不夠。
呂海穎晚上回到家,第一時間便被鍾志凌追問情況。
「興哥怎麼說?DLF還捏著突破嗎?」鍾志凌同樣震驚干師兄的動向,但今晚有會要開,沒法抽身,只能回來等消息。
「DLF應該是沒有,它就是已經把最新的研究都公布出來了,那個技術路線也很有助於我們現在的業務,這一點是可以確定的。」呂海穎遲疑道,「就是師兄的態度————」
她想了又想,有點無奈的說道:「我覺得師兄其實也不是特別確定深度學習這一塊的未來,但對他來說,DLF和碳矽數據都有份,哪邊做出來就都是可以接受的。」
鍾志凌想說話卻沒說出來,無聲的攤了攤手。
半晌之後,他有點不甘和委屈:「我們才是正統啊,是從金陵就一直跟著興哥的啊。」
「私誼是私誼,難道你鍾志凌得到的不夠多?難道師兄虧待你了?」呂海穎嗆了一句,「事是這個事,我回來的路上也想了想,就我個人而言,其實是有點擔心碳矽數據在戰略層面行差踏錯,我們又是第二時間才知道師兄的動向。」
她喝了口水,繼續說道:「碳矽數據過去是在師兄規劃的戰略層面里發展,這次忽然冒出來的深度學習占據了我們的視野,是超出原先戰略規劃的東西,所以————是有點慌的。」
呂海穎承認了情緒波動的原因,但又說道:「不過,師兄其實一直都是把話說明白的,過山峰的年度報告提到深度學習,我們也早知道DLF,他又一直在抖音談這個事,他沒有藏私,也不是偏愛,就是正常推進罷了。」
鍾志凌摸了摸下巴上的鬍渣,琢磨了一會,突然冒出來一句:「我不,碳矽數據就應該得到興哥的偏愛。」
呂海穎看著瞬間孩子氣的丈夫:「DLF可以獨立的發展,但我們更有錢。」鍾志凌展現了志氣,「我們也更有資源,如果深度學習真的有路可走,那我們也能走出來。」
呂海穎低頭思考幾秒,然後抬頭說道:「挺好的,這大概就是師兄想看到的。」
鍾志凌「嗯」了一聲,心裡盤算內部資源的更好分配方案。
DLF的模型開源以吳恩達的判斷來看,最少也需要一個月左右復現,從零開始更是要半年往上,但是,僅僅兩周時間,來自谷歌的團隊就宣布復現了TD—1在11項NLP任務上的成績。
甚至,谷歌還進一步刷新了這個成績。
「我們很高興看到DLF在Transformer方案上的開拓發展,事實證明,無論是DLF還是我們,都還沒有摸到這套架構的上限。」
「基於Transformer的深度學習模型有望成為新一代通用模型的基座。」
谷歌顯然在類似研發上早就存在進度,所以如此快捷的復現並進一步推高了TD—1的成績。
這種間隔兩周的成果證實了DLF在深度學習領域的成果,再一次激起了全球深度學習領域的熱情。
只是,相較於學界的躁動,媒體這次就冷靜很多,仍然報導了DLF被證明的事情,但沒有大肆渲染人工智慧的突破,其中一個原因也是俞興在抖音上更新了批評這類風向的視
頻。
國內大廠在DLF開源的時候就已經開過一次會,這次見到谷歌復現又開了會。
百度的高級副總裁向海龍,在會議上提到聊到這個事,頗有些得意的說道:「DLF開源開的好啊,谷歌能復現就證明它沒做什麼手腳,俞總這次是有點傻了,我們可以直接踩在他們肩膀上推研究。」
現任百度研究院院長王海峰聽到這種話,神色複雜的說了句:「DLF肯定不會造假的。」
向海龍注意到王院長的不自在,也不覺有什麼不合時宜,直接說道:「那也不能憑他一張嘴就行,反正,DLF從我們這挖了那麼多人,我們踩著他們肩膀也是應該的!」
王海峰保持沉默了。
「DLF是自願開源,我們當初也沒有卡人。」李艷紅有點擔心王院長走前任院長們的老路,找補了句,又問道,「王院長,你們也全面研究了TD—1的方案,覺得怎麼樣?」
「編碼器預訓練顯然是有很大的價值,TD—1的成績已經把這一點表現出來了。」王海峰組織措辭,「像搜索和信息流等方面都很依賴更加精準的語言理解能力,TD—1有幫助我們在這方面提升的潛力。」
李艷紅聽到這裡,已經微微點頭了。
王海峰頓了頓,思索著說道:「不過,就像谷歌說的,這些都是基於Transformer的
架構,但Transformer是用了編碼器和解碼器,而TD—1是只使用前者,如果沿著Transformer的機制走,我們也可以試試解碼器的研究。」
李艷紅關心了句:「解碼器的方案對我們的搜索也可以提供和TD—1一樣的幫助嗎?」
「從原理上可能還不行,但那也許是一個有趣的方向。」
王海峰說道,「Transformer的機制還沒有完全探索完,我相信DLF也是摸索出來的。」
李艷紅不覺得有趣。
他翻看來自研究院的匯報文件,再回想王院長的總結,說道:「我們還是應該進一步追趕TD—1的研發,同時做好公司業務對這方面技術的吸收,一方面提高業務水準,一方面推進研發,這才是最佳的戰略應對。」
王海峰忍不住說道:「TD—1未必是最佳的Transformer機制方向,我們可以分出來一個團隊去————」
李艷紅打斷,笑著說道:「必要的時候也是可以相信俞總的,我們要形成以戰養戰的循環,谷歌也說TD—1的架構還沒到上限,我們先把它推到上限。」
DLF做了,谷歌做了,俞總也說了,那就直接踩著他們的判斷往前推。
這就是在他們正確的戰略上繼續正確。
(還有更新耶)