OpenAI запустила Ultrafast для GPT-5.6 Sol: режим работает в 14 раз быстрее

Поделиться
OpenAI запустила Ultrafast для GPT-5.6 Sol: режим работает в 14 раз быстрее © сгенерировано по запросу ZN.UA в ChatGPT
Новый режим работает на инфраструктуре Cerebras и пока доступен лишь ограниченной группе клиентов.

OpenAI обновляет способы взаимодействия с ChatGPT: ранее компания перевела голосовое общение на модель GPT-Live с полнодуплексной архитектурой, которая может одновременно слушать пользователя и формировать ответ. Новый режим также лучше распознает паузы и позволяет перебивать ChatGPT во время разговора. Теперь OpenAI представила ещё одно обновление — режим Ultrafast для GPT-5.6 Sol. Он позволяет модели работать до 14 раз быстрее, чем в стандартном режиме, и генерировать до 750 выходных токенов в секунду. Функция пока запускается в предварительном доступе для небольшой группы клиентов. Об этом сообщило издание TechCrunch.

OpenAI запустила новый режим Ultrafast для GPT-5.6 Sol. Он должен существенно повысить скорость работы модели и сделать её более подходящей для задач, где ответ требуется практически в реальном времени.

По данным компании, Ultrafast может работать примерно в 14 раз быстрее, чем стандартная обработка. Максимальная скорость генерации составляет до 750 выходных токенов в секунду. Токены — это отдельные фрагменты текста, которые языковая модель генерирует во время взаимодействия с пользователем.

В OpenAI отметили, что ранее для работы на высокой скорости обычно приходилось использовать более мелкие или узкоспециализированные модели. Ultrafast должна изменить этот подход. Компания делает ставку на увеличение объема полезной работы, которую мощная модель может выполнить за короткий промежуток времени.

Подобные решения уже разрабатывают и конкуренты OpenAI. В частности, Anthropic предлагает быстрый режим для Claude. В то же время TechCrunch отмечает, что заявленная скорость нового режима OpenAI выше.

OpenAI рассматривает Ultrafast прежде всего как инструмент для корпоративного использования. Компания называет несколько направлений, где высокая скорость может иметь особое значение. Среди них — реагирование на инциденты, обслуживание клиентов, техническая поддержка, анализ финансовых рынков и электронная коммерция. В таких сценариях задержка ответа может напрямую влиять на эффективность работы. Именно поэтому возможность использовать более сложную модель без значительного замедления может быть важной для бизнеса.

Новый режим работает благодаря партнерству OpenAI с производителем специализированных чипов Cerebras. Компания использует его вычислительную инфраструктуру для обеспечения высокой скорости генерации.

Ultrafast пока находится на стадии предварительного тестирования. Доступ к нему получила лишь небольшая группа клиентов OpenAI. Компания планирует постепенно расширять круг пользователей по мере увеличения доступных вычислительных мощностей.

Таким образом OpenAI пытается совместить возможности своей самой мощной модели с производительностью, которая ранее была характерна преимущественно для более мелких систем. Дальнейшее расширение Ultrafast будет зависеть от того, как быстро компания сможет нарастить необходимую инфраструктуру.

Напомним, что OpenAI недавно представила специализированную модель GPT-5.6-Cyber для поиска уязвимостей и тестирования систем. Она доступна проверенным специалистам через новый уровень программы Daybreak Red, тогда как Daybreak Blue работает с моделями общего назначения, в частности GPT-5.6 Sol. По результатам внутреннего теста OpenAI, GPT-5.6-Cyber выполнила 95% сложных киберзапросов против 1,5% у GPT-5.6 Sol и 57,3% у GPT-5.5-Cyber. В ходе исследования движка V8 модель помогла обнаружить две ранее неизвестные уязвимости в Chrome. OpenAI также сообщила об обнаружении как минимум пяти уязвимостей в популярной мобильной ОС, трёх критических проблем в базе данных и более 400 ошибок, связанных с эскалацией привилегий в ядре операционной системы.

Поделиться
Заметили ошибку?

Пожалуйста, выделите ее мышкой и нажмите Ctrl+Enter или Отправить ошибку

Добавить комментарий
Всего комментариев: 0
Текст содержит недопустимые символы
Осталось символов: 2000
Пожалуйста выберите один или несколько пунктов (до 3 шт.) которые по Вашему мнению определяет этот комментарий.
Пожалуйста выберите один или больше пунктов
Нецензурная лексика, ругань Флуд Нарушение действующего законодательства Украины Оскорбление участников дискуссии Реклама Разжигание розни Признаки троллинга и провокации Другая причина Отмена Отправить жалобу ОК
Оставайтесь в курсе последних событий!
Подписывайтесь на наш канал в Telegram
Следить в Телеграмме