OpenAI DevDay 2023: GPTs, GPT-4 Turbo и другие обновления от OpenAI

OpenAI представила более десяти продуктов и функций для разработчиков на DevDay 2023. Приводим обзор новых моделей и обновлений API:

Модель GPT-4 Turbo обучена на данных до апреля 2023 года и отвечает на запросы быстрее других моделей OpenAI. Она имеет контекстное окно размером 128 КБ, что эквивалентно 300 страницам текста;
GPT-3.5 Turbo – младшая версия модели GPT-4 Turbo с контекстным окном 16 КБ;
GPTs – пользовательские версии GPT, которые можно настроить на выполнение конкретных задач и затем поделиться ими с другими пользователями. Создание GPTs происходит без написания кода. До конца 2023 года OpenAI запустит GPT Store, в котором разработчики смогут разместить свои модели и получать комиссию за их использование другими пользователями;
Функция Function calling, позволяющая описывать функции приложения или внешних API для моделей и получать ответы в формате JSON, теперь поддерживает вызов нескольких функций в рамках одного запроса (например, «открой окно автомобиля и выключи кондиционер») и с большей вероятностью возвращает правильные параметры функции;
GPT-4 Turbo точнее, чем предыдущие модели, выполняет инструкции, такие как генерация ответов в определенном формате (например, «всегда отвечать в XML»). Она также поддерживает новый режим – JSON, который гарантирует, что модель ответит корректным JSON.

Параметр seed обеспечивает воспроизводимость выходных данных, что необходимо для использования одинаковых запросов при отладке и написании модульных тестов;
Функция возврата логарифмических вероятностей для наиболее вероятных выходных токенов, сгенерированных GPT-4 Turbo и GPT-3.5 Turbo, позволит разработчикам создавать функции поиска с автодополнением;
Assistants API для создания NLP-агентов c интерпретатором Python, поиском по предоставленным разработчиком данным и встроенным Function calling;
GPT-4 Turbo со зрением может принимать изображения в качестве входных данных через API для создания подписей, детального анализа сцены и чтения документов с рисунками. В частности, инструмент уже используется партнером OpenAI — BeMyEyes — для помощи слепым и слабовидящим людям в навигации;
DALL-E 3 теперь можно вызывать через API;
В API добавлено преобразование текста в речь. Функция позволяет выбирать между двумя моделями: первая оптимизирована для real-time приложений, вторая – для получения наилучшего качества речи. Обе модели поддерживают шесть голосов.