Предварительный обзор GPT-5: все, что мы знаем о новой модели OpenAI

Опубликовано: 2024-03-20

В то время как большинство из нас продолжает трепетать перед ChatGPT и его постоянно развивающимися возможностями, генеральный директор OpenAI Сэм Альтман недавно оказался менее чем впечатлен текущим предложением своей компании.

В частности, он сказал, что мозг ChatGPT, большая языковая модель (LLM), известная как GPT-4, все еще «отстой». Он описал развитие GPT как «экспоненциальную кривую», которая в настоящее время предлагает «проблеск чего-то удивительного», но вскоре будет отброшена в тень возможностями GPT-5.

Сказать, что это взорвало Интернет, было бы преувеличением, но об этом действительно говорили многие люди, и большая часть этой болтовни вращается вокруг того, чего ожидать от GPT-5. Вот все, что мы знаем на данный момент, включая все последние новости GPT-5 и некоторые наши собственные прогнозы.

Что такое ГПТ-5?

GPT — это сокращение на жаргоне искусственного интеллекта, означающее «Генераторный предварительно обученный преобразователь». Это большая языковая модель, или LLM, разработанная компанией OpenAI, занимающейся искусственным интеллектом, которая служит основой для чат-бота компании ChatGPT — одного из лучших чат-ботов с искусственным интеллектом .

Другой способ думать об этом заключается в том, что модель GPT — это мозг ChatGPT или, если хотите, его движок. GPT-5 станет пятым полноценным выпуском такой модели от OpenAI.

Логотип Surfshark Хотите просматривать веб-страницы конфиденциально? Или выглядеть так, будто вы находитесь в другой стране?
Получите огромную скидку 86 % на Surfshark с этим специальным предложением от tech.co. Посмотреть кнопку сделки

Первое было доказательством концепции, представленной в исследовательской работе еще в 2018 году, а самое последнее, GPT-4, стало известно общественности в 2023 году.

На данный момент GPT-5 все еще выглядит так, как будто до его выпуска еще далеко, хотя разработка новой модели подтверждена, и предполагается, что ее обучение уже ведется.

Сколько времени это займет — вопрос без ответа, поскольку OpenAI может потратить столько времени, сколько захочет, чтобы усовершенствовать свои базовые возможности — или попытаться выпустить новую версию как можно скорее, чтобы оставаться на поул-позиции в гонке вооружений ИИ.

Предварительный обзор GPT-5: последние новости и чего ожидать

Когда дело доходит до слухов о выпуске GPT-5, в настоящее время преобладают спекуляции, хотя есть несколько неопровержимых фактов, которые мы теперь также знаем.

Вот что, по нашему мнению, мы можем увидеть от GPT-5, и заканчиваем тем, когда он действительно может быть выпущен.

Утечка GPT-4.5 предполагает выпуск в июне 2024 года

Как показывает инкрементный выпуск GPT-3.5, который проложил путь самому ChatGPT-4, OpenAI, похоже, принимает стратегию инкрементального обновления, согласно которой GPT-4.5 будет выпущен раньше GPT-5.

Это означает, что прежде чем мы перейдем к тому, что мы можем увидеть в GPT-5, нам нужно сделать паузу и рассмотреть GPT-4.5.

Фактически, заявленное окно выпуска GPT-4.5, возможно, уже было опубликовано OpenAI, если верить интернет-техническим сыщикам. Судя по всему, и Microsoft Bing, и поисковая система DuckDuckGo проиндексировали сообщение в блоге OpenAI, в котором упоминалась доступность модели GPT-4.5 с «датой прекращения знаний» в июне 2024 года.

Отсюда следует, что сам GPT-4.5 может быть выпущен летом 24 года, поскольку OpenAI пытается не отставать от недавно выпущенных конкурентов, таких как Claude 3 от Anthropic , и в конечном итоге прокладывает путь к запуску GPT-5 в конце 2024 года или в какой-то момент в 2025 году. .

Еще больше веса слухам о том, что выпуск GPT-4.5 может быть неизбежен, добавляет тот факт, что теперь вы можете бесплатно использовать GPT-4 Turbo в Copilot , тогда как раньше Copilot был лишь одним из лучших способов получить GPT-4 бесплатно. .

Добавьте к этому мероприятие Microsoft Surface в марте 2024 года , и вы даже получите подиум для GPT-4.5, который будет первоначально представлен, учитывая, что Microsoft является одним из крупнейших партнеров OpenAI, инвесторов и даже входит в совет директоров компании.

Подтверждено, что GPT-5 находится в стадии разработки

Помимо вероятности приближения выпуска GPT-4.5 от OpenAI, теперь мы также получили подтверждение того, что компания действительно работает над GPT-5, поэтому ее LLM следующего поколения фактически находится в стадии разработки, а не просто является интернет-мечта.

Генеральный директор OpenAI Сэм Альтман рассказал об этом в начале 2024 года, общаясь с Биллом Гейтсом в подкасте Unconfuse Me, посвященном технологической иконе.

Ожидайте значительного скачка в параметрах GPT-5 по сравнению с GPT-4

Теперь, когда мы приближаемся к более спекулятивной территории и слухам о GPT-5, мы более или менее точно знаем еще одну вещь: GPT-5 будет предлагать значительно улучшенные характеристики машинного обучения по сравнению с GPT-4.

Главным, скорее всего, станут его параметры, в которых ожидается огромный скачок, поскольку возможности GPT-5 значительно превосходят все, на что были способны предыдущие модели. Мы не знаем точно, что это будет, но, по идее, скачок со 175 миллиардов параметров GPT-3 до заявленных 1,5 триллионов GPT-4 представляет собой увеличение в 8-9 раз.

Сможет ли OpenAI достичь этого, еще неизвестно, но может возникнуть закон убывающей отдачи, основанный на том факте, что 115-кратный переход от GPT-2 к GPT-3 почти наверняка никогда не повторится.

Если OpenAI сможет приблизиться к увеличению параметров в 4-5 раз с помощью GPT-5, это будет феноменальным достижением, особенно если учесть, что последний отраслевой тест, Claude 3 Opus от Anthropic, представляет собой модель с 2 триллионами параметров, поэтому даже удвоение параметров GPT-4 был бы впечатляющим достижением.

Поскольку здесь речь идет о триллионах, влияние любого увеличения будет бросаться в глаза. Также можно с уверенностью ожидать, что GPT-5 будет иметь большее контекстное окно и более актуальную дату окончания сбора данных, с внешней вероятностью, что он даже сможет обрабатывать определенную информацию (например, источники социальных сетей) в режиме реального времени.

Сора и мультимодальность на переднем крае GPT-5

Как бы люди ни были воодушевлены кажущимся скорым запуском GPT-4.5, еще больший интерес вызывает недавно анонсированный OpenAI генератор текста в видео, получивший название Sora .

Sora — это последний залп в стремлении OpenAI внедрить настоящую мультимодальность в свои продукты прямо сейчас. ChatGPT Plus (платный уровень чат-бота, стоимость которого составляет 20 долларов в месяц) предлагает интеграцию с генератором изображений OpenAI DALL-E AI . Он позволяет создавать «оригинальные» изображения AI, просто вводя текстовую подсказку в ChatGPT.

С Sora вы сможете сделать то же самое, только вместо этого вы получите видеовыход. Первые проявления способностей Соры привели Интернет в безумие, и даже после более чем 10 лет наблюдения за тем, как «следующая большая вещь» технологий приходит и уходит, я должен сказать, что это дико впечатляет.

Есть все шансы, что Sora сможет пробиться в публичную бета-версию или доступность ChatGPT Plus еще до того, как GPT-5 будет выпущен, но даже если это так, он станет больше и лучше, чем когда-либо, когда наконец появится LLM следующего поколения OpenAI.

Скриншот видео Соры, на котором женщина идет по ночному Токио

GPT-5 может открыть эру проекта Q* в области искусственного интеллекта

Конечно, при любом обсуждении GPT-5 невозможно игнорировать тот факт, что за кулисами OpenAI работает над разработкой не только текущего набора продуктов ИИ, но и над созданием нового поколения искусственного общего интеллекта (AGI). ) технологии, которые в настоящее время называются Project Q* .

AGI — это термин, который применяется, когда ИИ становится «сверхразумным» или приобретает способность учиться, рассуждать и принимать решения на человеческом уровне познания. По сути, это означает, что системы AGI способны работать полностью независимо от полученной информации, тем самым приближаясь на шаг к тому, чтобы стать разумными существами.

Когда современные технологии искусственного интеллекта, кажется, не могут остановить галлюцинацию информации или создание странного расистского образа для шуток, это, мягко говоря, крайне спорная перспектива, и многие представители отрасли противостоят ей по этическим соображениям.

Тем не менее, OpenAI является одним из его главных сторонников, и со следующим крупным выпуском GPT, GPT-5, есть шанс, что мы узнаем больше о его конечных целях в отношении сверхразума Project Q* AGI, если не увидим готовый продукт, как утверждает Альтман. собственные высказывания.

GPT-6 также «подтвержден» OpenAI

Зачем просто забегать вперед, если мы можем забегать вперед полностью ? В другом заявлении, на этот раз датированном мероприятием Y Combinator в сентябре прошлого года, генеральный директор OpenAI Сэм Альтман упомянул о разработке не только GPT-5, но и его преемника, GPT-6.

Он заявил, что до освобождения обоим еще далеко; оба стремились к большей надежности при меньших затратах; и, как мы только что намекнули выше, оба не могут быть отнесены к продуктам AGI.

Прогнозы потенциального выпуска GPT-5

Основываясь на том, что мы слышали и видели в прошлом, мы рискнули бы предположить, что GPT-5 может быть выпущен в ноябре 2024 года на следующем OpenAI DevDay в Сан-Франциско.

Именно тогда мы впервые познакомились с GPT-4 Turbo — новейшей и самой мощной версией GPT-4 — и если GPT-4.5 действительно будет представлен этим летом, то DevDay 2024 может дать нам возможность впервые взглянуть на GPT-5.

Это, или GPT-4.5 Turbo, может появиться на публике на DevDay 2024, открыв путь к запуску GPT-5 в 2025 году , что перекликается с недавними комментариями генерального директора OpenAI Сэма Альтмана.

В интервью подкасту Lex Freidman в марте 2024 года Альтман сказал, что «честный ответ» заключается в том, что он не знает, когда GPT-5 будет готов, заявив, что у его компании есть «много других важных вещей, которые нужно выпустить» перед следующим выпуском. главное обновление LLM.

«Много», по-видимому, относится как к Sora, так и к GPT-4.5, но нам придется подождать и посмотреть.

В другом месте в мартовском отчете Business Insider говорилось, что анонимные источники сообщили изданию, что GPT-5 появится в середине 2024 года, так что на данном этапе об этом можно только догадываться.

История и график выпуска модели GPT

Чтобы получить представление о том, когда может быть запущен GPT-5, полезно посмотреть, когда были выпущены предыдущие модели GPT. Вот обзор истории модели OpenAI GPT.

ГПТ-1

Оригинальный GPT был представлен еще в июне 2018 года , но только в качестве доказательства концепции, составляющей ключевую часть исследовательской работы OpenAI «Улучшение понимания языка посредством генеративного предварительного обучения».

Модель со 117 миллионами параметров не была обнародована, и пройдет еще несколько лет, прежде чем у OpenAI появится модель, которую они будут рады включить в продукт, ориентированный на потребителя.

ГПТ-2

Второй основополагающий выпуск GPT был впервые представлен в феврале 2019 года , а полностью выпущен в ноябре того же года. Способный генерировать базовые тексты, резюмировать, переводить и рассуждать, он был признан прорывом в своей области.

Модель с 1,5 миллиардами параметров была предварительно обучена на наборе данных из восьми миллионов веб-страниц, став первой общедоступной версией GPT, хотя ее использование носило в основном экспериментальный характер и ограничивалось сообществом машинного обучения.

GPT 3

GPT-3 стал еще одним важным шагом вперед для OpenAI и был выпущен в июне 2020 года . Модель со 175 миллиардами параметров теперь была способна создавать текст, который многие рецензенты сочли неотличимым от текста, написанного людьми.

До выпуска ChatGPT оставалось еще несколько лет, но о последних усилиях OpenAI заговорили все в мире технологий, а The Guardian даже опубликовала целую статью, написанную GPT-3, чтобы продемонстрировать его до сих пор немыслимые возможности.

ГПТ-3,5

Выпущенный в марте 2022 года GPT-3.5 стал основой, на которой был построен ChatGPT. Он был основан на том же преобразователе 175 миллиардов параметров , что и GPT-3, но был доработан и обучен на данных до июня 2021 года.

За анонсом GPT-3.5 в ноябре 2022 года последовал запуск ChatGPT. Остальное, как говорится, уже история.

ГПТ-4

Любой, кто использовал ChatGPT в его ранних воплощениях, скажет вам, что ныне любимый во всем мире чат-бот с искусственным интеллектом был столь же явно ошибочным, сколь и чрезвычайно впечатляющим. Представленный в марте 2023 года GPT-4 стал попыткой OpenAI исправить эту ситуацию.

По собственному признанию Альтмана, работа над этим все еще продолжается, но GPT-4 стал ошеломляющим шагом вперед для технологии искусственного интеллекта, которая теперь достаточно хороша, чтобы ее широко использовали не только ленивые студенты колледжей, но и крупные предприятия в рамках своей деятельности. ежедневные операции.

Хотя фактическое количество параметров GPT-4 остается неподтвержденным OpenAI, обычно считается, что оно находится в районе 1,5 триллионов .