Компания Liquid AI сделала значительный шаг в развитии искусственного интеллекта, представив два новых двунаправленных энкодера с открытым весом: LFM2.5-Encoder-230M и LFM2.5-Encoder-350M. Эти модели примечательны своей способностью эффективно работать с контекстом до 8192 токенов, сохраняя при этом высокую производительность даже при использовании центрального процессора (CPU), что открывает новые возможности для разработчиков и исследователей.
Обе модели построены на гибридной архитектуре LFM2, что обеспечивает им уникальные характеристики. Способность обрабатывать контекст в 8192 токена является ключевым преимуществом, позволяя моделям понимать и генерировать более длинные и сложные текстовые последовательности без значительной потери скорости. Это особенно важно для задач, требующих глубокого анализа больших объемов информации.
Модель LFM2.5-Encoder-350M продемонстрировала впечатляющие результаты, заняв четвертое место среди 14 моделей в комплексном тестировании по 17 задачам из наборов GLUE, SuperGLUE и многоязычных бенчмарков. Она уступила только значительно более крупным моделям, что подчеркивает её эффективность и оптимальное соотношение размера и производительности.
Что касается скорости, модель LFM2.5-Encoder-230M способна выполнить один прямой проход с контекстом в 8000 токенов на CPU примерно за 28 секунд. Это делает новые энкодеры от Liquid AI привлекательным решением для сценариев, где доступ к мощным графическим процессорам ограничен или не требуется, обеспечивая при этом достаточную скорость для многих практических приложений.
Выпуск LFM2.5-Encoder-230M и LFM2.5-Encoder-350M от Liquid AI является важным событием для сообщества разработчиков ИИ. Эти двунаправленные энкодеры предлагают мощный инструмент для обработки естественного языка, сочетая большой контекст, высокую производительность на CPU и открытый вес, что способствует дальнейшему развитию инноваций в области искусственного интеллекта.
Подробнее: marktechpost.com