GPT-5 預覽：迄今為止我們所知道的關於新 OpenAI 模型的一切
已發表: 2024-03-20雖然我們大多數人仍然對ChatGPT及其不斷發展的功能感到敬畏，但 OpenAI 執行長 Sam Altman 最近似乎對其公司目前的產品不太感興趣。
更具體地說，他表示 ChatGPT 的大腦，即被稱為 GPT-4 的大型語言模型 (LLM)，仍然「有點糟糕」。 他將 GPT 的發展描述為一條“指數曲線”，目前提供了“令人驚嘆的曙光”，但很快就會被 GPT-5 的功能所掩蓋。
說這在網路上引起了轟動有點言過其實，但它確實引起了很多人的討論，而且大部分討論都圍繞著對 GPT-5 的期望。 以下是迄今為止我們所知道的所有內容，包括所有最新的 GPT-5 新聞和我們自己的一些預測。
GPT-5是什麼？
GPT 是人工智慧術語「生成式預訓練變壓器」的簡寫。 它是一個大型語言模型（LLM），由人工智慧巨頭 OpenAI 開發，作為該公司聊天機器人 ChatGPT 的框架，ChatGPT 是最好的人工智慧聊天機器人之一。
另一種思考方式是，GPT 模型是 ChatGPT 的大腦，或者如果您願意的話，也可以是它的引擎。 GPT-5 將是 OpenAI 此類模型的第五個完整版本。
想要私密地瀏覽網頁嗎？ 或看起來好像您在另一個國家？
透過此 tech.co 特別優惠，享受 Surfshark 86% 的巨額折扣。 
第一個是 2018 年一篇研究論文中揭露的概念驗證，最近的一個是 GPT-4，於 2023 年進入公眾視野。
目前，GPT-5 看起來仍然距離發布還有很長的路要走，儘管新模型的開發已經得到確認，並且據了解其訓練正在進行中。
這需要多長時間是一個無法回答的問題，因為 OpenAI 可能需要花很長時間來完善其基本功能，或者嘗試盡快推出新版本，以在人工智慧軍備競賽中保持領先地位。
GPT-5 預覽：最新消息與期待
當談到 GPT-5 的發布傳聞時，目前的情況主要是猜測，儘管我們現在也知道一些確鑿的事實。
以下是我們認為我們可能會從 GPT-5 中看到的內容，並得出其實際發佈時間的結論。
GPT-4.5 洩漏暗示 2024 年 6 月發布窗口
正如 GPT-3.5 的增量發布（為 ChatGPT-4 本身鋪平了道路）所證明的那樣，OpenAI 看起來正在採用增量更新策略，GPT-4.5 將在 GPT-5 之前發布。
這意味著在我們了解 GPT-5 中可能看到的內容之前，我們需要停下來考慮 GPT-4.5。
事實上，如果網路科技偵探可信的話，OpenAI 聲稱的 GPT-4.5 發布窗口可能已經被洩露。 顯然，微軟的 Bing 和 DuckDuckGo 搜尋引擎都索引了一篇 OpenAI 部落格文章，該文章引用了 GPT-4.5 模型的可用性，並指定了 2024 年 6 月的「知識截止日期」。
因此，GPT-4.5 本身可能會在 24 年夏天左右發布，因為 OpenAI 試圖跟上Anthropic 的 Claude 3等新發布的競爭對手，並最終為 GPT-5 在 2024 年末或 2025 年某個時候發布鋪平道路。
更讓 GPT-4.5 即將發布的謠言更加可信的是，您現在可以在 Copilot 中免費使用 GPT-4 Turbo ，而之前 Copilot 只是免費獲取 GPT-4 的最佳方式之一。
再加上2024 年 3 月的 Microsoft Surface 活動，考慮到微軟是 OpenAI 最大的合作夥伴、投資者之一，甚至是該公司的董事會成員，你甚至可以初步了解 GPT-4.5 的走秀。
這是鴨鴨去一pic.twitter.com/7Jw45v8ybr
- 馬修 (@Matthew35342706) 2024 年 3 月 12 日
GPT-5確認正在開發中
除了 OpenAI 發布 GPT-4.5 的可能性即將到來之外，我們現在還確認該公司確實正在開發 GPT-5，因此其下一代 LLM 實際上正在開發中，而不僅僅是一個互聯網白日夢。
OpenAI 執行長 Sam Altman 在 2024 年初在科技偶像 Bill Gates 的 Unconfuse Me 播客上透露了同樣的資訊。
預計 GPT-5 參數相對於 GPT-4 會有重大飛躍
現在，隨著我們接近更多的推測領域和 GPT-5 謠言，我們或多或少確定的另一件事是，與 GPT-4 相比，GPT-5 將提供顯著增強的機器學習規範。
頭條新聞可能是它的參數，預計將出現巨大飛躍，因為 GPT-5 的能力遠遠超過以前模型的能力。 我們並不確切知道這會是什麼，但從一個想法來看，從 GPT-3 的 1750 億個參數到 GPT-4 報告的 1.5 兆個參數的跳躍是 8-9 倍的增長。
OpenAI 是否能與之匹敵還有待觀察，但基於從 GPT-2 到 GPT-3 115 倍的跳躍幾乎肯定永遠不會重複這一事實，可能會出現收益遞減法則。
如果OpenAI 能夠透過GPT-5 實現4-5 倍的參數增加，那將是一個現象級的成就，特別是當你考慮到最新的行業基準Anthropic 的Claude 3 Opus 是一個2 兆參數模型，因此即使將參數增加一倍， GPT-4 將是一項令人印象深刻的壯舉。
因為我們在這裡談論的是數萬億美元，所以任何成長的影響都將是引人注目的。 預計 GPT-5 擁有更大的上下文視窗和更新的知識截止日期也是安全的，它甚至可能能夠即時處理某些資訊（例如社交媒體來源）。
Sora 和 GPT-5 前緣的多模態
儘管人們對即將推出的 GPT-4.5 感到興奮，但人們對 OpenAI 最近發布的文本到影片生成器（名為Sora）更加感興趣。
Sora 是 OpenAI 目前尋求在其產品中建立真正的多模態的最新舉措，ChatGPT Plus（聊天機器人的付費層，每月花費 20 美元）提供與 OpenAI 的 DALL-E AI 圖像生成器的整合。 它讓您只需在 ChatGPT 中輸入文字提示即可製作“原始”AI 圖像。
使用 Sora，您將能夠執行相同的操作，只是您將獲得視訊輸出。 索拉的力量的早期展示讓互聯網陷入了瘋狂，即使在目睹科技「下一件大事」來來去去十多年之後，我不得不說它令人印象深刻。
在 GPT-5 發布之前，Sora 很有可能進入公開測試版或 ChatGPT Plus，但即使是這樣，當 OpenAI 的下一代 LLM 最終落地時，它也將比以往任何時候都更大、更好。
GPT-5 可能迎來 AGI 的 Project Q* 時代
當然，在任何關於 GPT-5 的討論中都不能忽視這樣一個事實：在幕後，OpenAI 不僅致力於開發其當前的 AI 產品套件，而且還致力於推出新一代通用人工智能 (AGI)。 ）目前被稱為Project Q* 的技術。
AGI 是當人工智慧變得「超級智慧」時給出的術語，或者說具有人類認知水平的學習、推理和決策能力。 這基本上意味著 AGI 系統能夠完全獨立於習得的資訊而運行，從而離成為有感知力的存在又更近了一步。
當目前的人工智慧技術似乎無法阻止自己產生幻覺訊息或為笑話生成奇怪的種族主義圖像時，至少可以說這是一個極具爭議的前景，並且出於道德原因受到行業內許多人的反對。
儘管如此，OpenAI 是其主要支持者之一，隨著下一個主要 GPT 版本 GPT-5，我們有機會了解更多有關 Project Q* AGI 超級智慧的最終目標，如果沒有看到成品，按照 Altman 的說法自己的陳述。
GPT-6也被OpenAI“確認”
當我們完全可以超越自己時，為什麼還要超越自己呢？ 在另一份聲明中，這次可以追溯到去年 9 月的 Y Combinator 活動，OpenAI 執行長 Sam Altman 不僅提到了 GPT-5 的開發，還提到了其繼任者 GPT-6 的開發。
他表示，距離發布還有很長的路要走。 兩者的目標都是以更低的成本獲得更高的可靠性； 正如我們上面所暗示的，兩者都沒有被歸類為 AGI 產品。
建構人工智慧？ 以下是來自 @ycombinator 的 @sama 在 @OpenAI 的全面演講中的精彩內容
校友週末聚會：建設初期最重要的經驗教訓：
長遠思考會讓你走得更遠。 開放人工智慧經歷了[許多]轉折。 從機械手臂到… pic.twitter.com/ikDJ2CcS4F
— 伊巴·馬蘇德 (@IbaMasood) 2023 年 9 月 24 日
GPT-5 潛在發布預測
根據我們過去聽到和看到的情況，我們大膽猜測GPT-5 可能會在 2024 年 11 月舊金山的下一個 OpenAI DevDay 上發布。
那時我們第一次接觸到GPT-4 Turbo——GPT-4 的最新、最強大的版本——如果GPT-4.5 確實在今年夏天發布，那麼DevDay 2024 可能會讓我們第一次看到GPT -5。
也就是說，GPT-4.5 Turbo 可能會在 2024 年 DevDay 上進入公眾視野，為2025 年推出 GPT-5鋪平道路，這與 OpenAI 執行長 Sam Altman 最近的評論相吻合。
在2024 年3 月接受Lex Freidman 播客採訪時，Altman 表示「誠實的答案」是他不知道GPT-5 何時準備就緒，並表示他的公司在下一個版本之前還有「許多其他重要的事情要發布”主要法學碩士更新。
「很多」大概是指 Sora 和 GPT-4.5，但我們必須拭目以待。
另外，今年 3 月的《商業內幕》報道稱，匿名消息人士向該出版物透露 GPT-5 將於 2024 年中期發布，因此現階段每個人都在猜測。
GPT 模型發布歷史和時間表
要了解 GPT-5 何時發布，查看過去的 GPT 模型的發佈時間會很有幫助。 以下概述了 OpenAI 的 GPT 模型歷史。
GPT-1
最初的 GPT 於2018 年 6 月發布，但僅作為概念證明，構成 OpenAI 研究論文「透過產生預訓練提高語言理解」的關鍵部分。
1.17 億個參數的模型並未向公眾發布，而且 OpenAI 還需要好幾年才能擁有一個他們樂於將其納入面向消費者的產品中的模型。
GPT-2
第二個基礎 GPT 版本於2019 年 2 月首次發布，並於當年 11 月全面發布。 它能夠進行基本的文本生成、摘要、翻譯和推理，被譽為該領域的突破。
這個15 億個參數模型在 800 萬個網頁的資料集上進行了預訓練，成為第一個公開可用的 GPT 版本，儘管它的使用主要是實驗性的，並且僅限於機器學習社群。
通用技術3
GPT-3 代表了 OpenAI 向前邁出的又一大步，於2020 年 6 月發布。 1750 億參數模型現在能夠產生許多評論家發現與人類編寫的文本無法區分的文本。
雖然距離ChatGPT 的發布還有幾年的時間，但OpenAI 的最新成果已經引起了科技界的所有人的議論，而《衛報》甚至發表了一篇由GPT-3 撰寫的整篇文章，以展示其迄今不可思議的能力。
GPT-3.5
GPT-3.5 於2022 年 3 月發布，是 ChatGPT 建構的基石。 它基於與 GPT-3 相同的1750 億個參數轉換器，但根據截至 2021 年 6 月的數據進行了微調和訓練。
GPT-3.5 發布後，ChatGPT 於 2022 年 11 月發布。 其餘的，正如他們所說，是歷史。
GPT-4
任何使用過 ChatGPT 早期版本的人都會告訴您，這個世界上現在最受歡迎的人工智慧聊天機器人雖然令人印象深刻，但也存在明顯的缺陷。 OpenAI 於2023 年 3 月推出的 GPT-4 是解決這個問題的嘗試。
Altman 自己也承認，這仍然是一項正在進行中的工作，但GPT-4 已經是人工智慧技術向前邁出的令人興奮的一步，現在已經足夠好，不僅可以被懶惰的大學生廣泛使用，而且可以被各大企業廣泛使用，作為他們的一部分。日常運營。
雖然 OpenAI 尚未確認 GPT-4 參數的實際數量，但一般認為在1.5 兆個左右。