OpenAI CEO曬網友新年願望單:GPT-5呼聲最高

2023-12-25 | 來源: 騰訊科技 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

但奧特曼的自信並非全無道理。GPT-4之所以訓練了這麼久的原因是故障過多導致GPU利用率較低，利用率僅為32%到36%之間。而每次故障都需要重新從之前的檢查點開始訓練。考慮到今年Gemini在訓練過程中TPU的利用率應該大於50%，而且當谷歌使用模型狀態的冗余內存副本，並且在任何計劃外的硬件故障時，可以直接從完整的模型副本中快速恢復。有著英偉達H200加成及微軟從2019年就啟動的名為雅典娜的類TPU項目加持，GPT-5在訓練利用率上應該會較GPT-4有很大的提升。

而對齊工作在今年的進展就更大了。首先是AI輔助自動進行對齊工作的可能性被驗證有效（RLAIF），這衍生出了很多在AI參與乃至主導下的對齊研究。通過這種方式，可以大大縮短之前最費人力和時間的RLHF這一對齊步驟，提升對齊效率。但之前這種方法主要適用於用能力強的模型對齊能力弱的模型，提高其能力。但OpenAI在12月剛剛發布的弱到強泛化論文，提供了較弱AI仍然可以對齊能力更強AI的證據和方法。兩種技術相結合，用GPT-4自動對齊GPT-5的邏輯和方法都有了，因此對齊時間有望被大幅縮短。

在以上條件下，有理由相信GPT-5的全部訓練周期可能會短於GPT-4，這樣它在2024年發布就不成問題了。

02 多模態還是必爭之地，OpenAI劍指文生視頻爆發元年

在這個願望清單上，另一個值得注意的點是視頻功能的支持。這一點OpenAI的競爭對手Google已經處於領先地位了。在訓練Gemini的過程中，谷歌使用了多模態原生的數據，其中就包括視頻。這說明Gemini已經有了對於視頻的理解能力。但具體能理解到什麼程度，因為Google用力過猛的演示讓大家都疑慮重重。而且它還缺了生成式AI的重要一環，生成視頻的能力。

實際上，在文生圖，ChatBot齊頭並進吸引走大家的主要注意力之時，文生視頻類軟件在今年也獲得了巨大的進步。11月PIKA 1.0的發布就引發了相當的關注，利用這個工具我們可以隨意用新的生成替換原視頻，或生成視頻中的任意內容。這些新進展主要歸功於Animatediff這個框架，它使得一部分運鏡限制下，生成視頻的閃爍和連貫性都得到了有效控制。

小扎高薪挖來的人又跳回OpenAI!趙晟佳也要回去

OpenAI:考慮收購Chrome 缺乏算力更好模型沒法用

奧特曼神秘晚宴講話曝出!OpenAI的CEO或是AI?

但目前文生視頻系統有三個相對重要的短板：1. 高連貫性內容長度難以超過3秒 2. 穩定內容對運鏡和動作仍然限制很大 3.生成現實性內容的能力不強，需要用Midjourney等工具輔助。

但其中部分問題已經能看到被解決的曙光了。比如說時長問題，近期Google Mind 發布的新建模方法VideoPoet，它從本質上是利用支持視頻的多模態，將文字和視頻進行令牌化（tokenized），從而用大語言模型擅長的自回歸模式去預測下一段視頻的內容。這與傳統的基於Diffusion（擴散）模型的文生圖框架並不相同，理論上它可以生成無限長、具有高度時間一致性的視頻。而在生成圖像真實度方面，李飛飛的團隊近期發表的模型W.A.L.T在生成擬真度上有了比較高的提升，已接近照片水准。

在Gemini發布時，業界基本預測下一代GPT-5也會是一個大一統的原生多模態模型，這就意味著用類似VideoPoet的技術GPT-5也可以實現視頻生成的能力，補齊這一短板。考慮到OpenAI自身在Diffusion方面的積累和GPT-5潛在的超強能力，生成視頻的質量應該也相對有保障。文生視頻按目前的技術積累看，就在爆發前夜。而GPT-5也許就是引爆這一領域的產品。