OpenAI запустила Ultrafast для GPT-5.6 Sol: режим працює у 14 разів швидше

OpenAI оновлює способи взаємодії з ChatGPT: раніше компанія перевела голосове спілкування на модель GPT-Live з full-duplex архітектурою, яка може одночасно слухати користувача та формувати відповідь. Новий режим також краще розпізнає паузи, дозволяє перебивати ChatGPT під час розмови. Тепер OpenAI представила ще одне оновлення – режим Ultrafast для GPT-5.6 Sol. Він дозволяє моделі працювати до 14 разів швидше за стандартний режим і генерувати до 750 вихідних токенів за секунду. Функцію поки запускають у попередньому доступі для невеликої групи клієнтів. Про це повідомило видання TechCrunch.

OpenAI запустила новий режим Ultrafast для GPT-5.6 Sol. Він має суттєво підвищити швидкість роботи моделі та зробити її придатнішою для завдань, де відповідь потрібна практично в реальному часі.

ВАС ЗАЦІКАВИТЬ

OpenAI представила найновішу модель GPT-5.6 і новий інструмент ChatGPT Work

За даними компанії, Ultrafast може працювати приблизно у 14 разів швидше за стандартну обробку. Максимальна швидкість генерації становить до 750 вихідних токенів за секунду. Токени — це окремі фрагменти тексту, які мовна модель генерує під час взаємодії з користувачем.

У OpenAI зазначили, що раніше для роботи на високій швидкості зазвичай доводилося використовувати менші або вузькоспеціалізовані моделі. Ultrafast має змінити цей підхід. Компанія робить ставку на збільшення обсягу корисної роботи, яку потужна модель може виконувати за короткий проміжок часу.

Подібні рішення вже розвивають і конкуренти OpenAI. Зокрема, Anthropic пропонує швидкий режим для Claude. Водночас TechCrunch зазначає, що заявлена швидкість нового режиму OpenAI є вищою.

OpenAI розглядає Ultrafast насамперед як інструмент для корпоративного використання. Компанія називає кілька напрямів, де висока швидкість може мати особливе значення. Серед них — реагування на інциденти, обслуговування клієнтів, технічна підтримка, аналіз фінансових ринків та електронна комерція. У таких сценаріях затримка відповіді може безпосередньо впливати на ефективність роботи. Саме тому можливість використовувати складнішу модель без значного уповільнення може бути важливою для бізнесу.

Новий режим працює завдяки партнерству OpenAI з виробником спеціалізованих чипів Cerebras. Компанія використовує його обчислювальну інфраструктуру для забезпечення високої швидкості генерації.

Ultrafast поки перебуває на стадії попереднього тестування. Доступ до нього отримала лише невелика група клієнтів OpenAI. Компанія планує поступово розширювати коло користувачів у міру збільшення доступних обчислювальних потужностей.

Таким чином OpenAI намагається поєднати можливості своєї найпотужнішої моделі з продуктивністю, яка раніше була характерна переважно для менших систем. Подальше розширення Ultrafast залежатиме від того, як швидко компанія зможе наростити необхідну інфраструктуру.

ВАС ЗАЦІКАВИТЬ

OpenAI скасовує ліміти на текстові чати в ChatGPT: деталі оновлення чат-бота

Нагадаємо, що OpenAI нещодавно представила спеціалізовану модель GPT-5.6-Cyber для пошуку вразливостей і тестування систем. Вона доступна перевіреним фахівцям через новий рівень програми Daybreak Red, тоді як Daybreak Blue працює з моделями загального призначення, зокрема GPT-5.6 Sol. За внутрішнім тестом OpenAI, GPT-5.6-Cyber виконала 95% складних кіберзапитів проти 1,5% у GPT-5.6 Sol і 57,3% у GPT-5.5-Cyber. Під час дослідження рушія V8 модель допомогла знайти дві раніше невідомі вразливості в Chrome. OpenAI також повідомила про виявлення щонайменше п’яти вразливостей у популярній мобільній ОС, трьох критичних проблем у базі даних і понад 400 помилок, пов’язаних з ескалацією привілеїв у ядрі операційної системи.