Пока флагманы меряются триллионами параметров, в другом конце рынка происходит тихая революция: модели, которые помещаются в гигабайт, начинают делать работу, за которую раньше платили облаку. Liquid AI выпустила LFM3 — шесть открытых моделей класса 2B: текст, зрение, звук, «omni» и принятие решений. Особняком стоит LFM3-1.7B: трёхгибридная архитектура, контекст 256K токенов и около гигабайта памяти в 4-битном квантовании.

Что внутри: три гибрида вместо одного трансформера

Название «три-гибридная» отражает конструкцию: разные слои используют разные механизмы обработки последовательностей — часть работает как классическое внимание, часть как более экономные рекуррентные и свёрточные блоки. Смысл в том, чтобы снизить стоимость длинного контекста: 256K токенов на классическом трансформере съедают память квадратично, а гибрид делает это дешевле. Именно поэтому модель на 1,7 млрд параметров может позволить себе контекст, который вчера требовал серверного GPU.

Мультимодальность в классе 2B — главный сдвиг: раньше доступ к зрению и звуку начинался с дорогих API.

Где это реально выгодно

Малые модели не конкурируют с флагманами в сложных рассуждениях — они забирают рутину, где важен поток, а не шедевр. Обработка документов, извлечение реквизитов, сортировка писем, черновики ответов, локальная транскрибация: на объёмах разница в стоимости становится решающей. Плюс приватность: данные не покидают вашу машину, а значит, проще с чувствительными документами.

Частые вопросы