Компания OpenAI представила улучшенную версию своего чат-бота — флагманскую нейросеть GPT-4 Turbo. Он значительно мощнее и в то же время дешевле, чем GPT-4.
GPT-4 Turbo будет предлагаться в двух версиях: одна предназначена исключительно для анализа текста, вторая также умеет понимать контекст изображений. Обе модели станут общедоступными в ближайшие недели.
«Мы оптимизировали производительность, поэтому можем предлагать GPT-4 Turbo по цене в три раза дешевле для входных токенов и в два раза дешевле для выходных токенов по сравнению с GPT-4», — сообщается в официальном блоге разработчиков.
Для GPT-4 Turbo обновили базу знаний, которая используется при ответе на запросы. Языковая модель GPT-4 обучалась на веб-данных до сентября 2021 года. Предел знаний GPT-4 Turbo — апрель 2023 года.
GPT-4 Turbo получила расширенное контекстное окно — под ним подразумевается количество текста, учитываемое в процессе генерации. Увеличение контекстного окна позволяет модели лучше понимать смысл запросов и выдавать более подходящие ответы.
Модель GPT-4 Turbo имеет контекстное окно в 128 тысяч токенов, что в четыре раза больше, чем у GPT-4. Это соответствует примерно 300 страницам текста, что равносильно размеру романа «Гарри Поттер и узник Азкабана» Джоан Роулинг.
Стоимость использования GPT-4 Turbo составляет 0,01 доллара за 1000 входных токенов (около 750 слов) и 0,03 доллара за 1000 выходных токенов. Цена на GPT-4 Turbo для обработки изображений будет зависеть от размера изображения.
