Еще одна модель ИИ присоединилась к морю моделей ИИ, и это снова от OpenAI. Ранее OpenAI выпустила GPT-4o в этом году, который должен был быть эффективнее GPT-4. Но он все еще был довольно дорогим и мог вылиться в немаленькую сумму, особенно для разработчиков, которым нужно вызывать модель ИИ через API для своих приложений неоднократно в течение дня.
В результате разработчики обратились к более дешевым небольшим моделям ИИ от конкурентов, таким как Gemini 1.5 Flash или Claude 3 Haiku.
Теперь OpenAI выпускает GPT-4o mini, свою самую экономичную модель на данный момент, с которой они также выходят на рынок малых моделей ИИ. Хотя GPT-4o mini — их самая дешевая модель на данный момент, она не достигает такой низкой стоимости за счет сокращения интеллекта; она умнее, чем их существующая модель GPT-3.5 Turbo.
По данным OpenAI, GPT-4o mini набрал 82% в MMLU (измерение понимания языка в массовых многозадачных приложениях), превзойдя многие модели; вот соответствующие результаты разных моделей: GPT-3.5 Turbo (70%), Claude 3 Haiku (75,2%) и Gemini 1.5 Flash (78,9%). GPT-4o набрал 88,7% в этом тесте, а Gemini Ultra показал самый высокий результат – 90% (хотя это не маленькие модели ИИ).
GPT-4o mini сегодня выпускается для пользователей ChatGPT Free, Team и Plus, а также для разработчиков. Для пользователей ChatGPT он по сути заменил GPT-3.5; GPT-4o mini станет моделью, к которой по умолчанию будет обращаться диалог, как только закончатся бесплатные запросы GPT-4o. Разработчики по-прежнему смогут использовать GPT-3.5 через API, но в конечном итоге он будет удален. Пользователи ChatGPT Enterprise получат доступ к GPT-4o mini на следующей неделе.
Как упоминалось выше, GPT-4o mini призван помочь разработчикам найти модель с низкой стоимостью и задержкой для своего приложения, которая также способна. По сравнению с другими небольшими моделями, GPT-4o mini отлично справляется с задачами рассуждения как в тексте, так и в зрении, математическими задачами рассуждения и кодирования, а также мультимодальными рассуждениями.
В настоящее время API поддерживает как текст, так и зрение, а в будущем планируется поддержка ввода и вывода текста, изображений, видео и аудио.
GPT-4o mini имеет контекстное окно в 128 тыс. токенов для ввода и 16 тыс. токенов для вывода на запрос, а его знания действительны до октября 2023 года. Он также может довольно экономично обрабатывать неанглийский текст.