Liquid AI анонсирует генеративные модели ИИ Liquid Foundation с меньшим объемом памяти

Liquid AI создан совместно с исследователями из Массачусетского технологического института (MIT).

Liquid AI доступен на Liquid Playground, Lambda и Perplexity Labs

Реклама <стр>Liquid AI, стартап в области искусственного интеллекта (ИИ) из Массачусетса, объявил о своих первых генеративных моделях ИИ, не построенных на существующей архитектуре transformer. Новая архитектура, получившая название Liquid Foundation Model (LFM), отходит от генеративных предварительно обученных Transformers (GPT), которые являются основой для популярных моделей ИИ, таких как серия GPT от OpenAI, Gemini, Copilot и других. Стартап утверждает, что новые модели ИИ были построены на основе первых принципов и превосходят большие языковые модели (LLM) в сопоставимом диапазоне размеров.

Новые модели Liquid Foundation от Liquid AI

Стартап был основан исследователями из Лаборатории компьютерных наук и искусственного интеллекта (CSAIL) Массачусетского технологического института (MIT) в 2023 году и нацелен на создание новой архитектуры для моделей ИИ, которые могут работать на аналогичном уровне или превосходить GPT.

Эти новые LFM доступны в трех размерах параметров: 1,3B, 3,1B и 40,3B. Последняя представляет собой модель Mixture of Experts (MoE), что означает, что она состоит из различных меньших языковых моделей и нацелена на решение более сложных задач. LFM теперь доступны на Liquid Playground компании, Lambda for Chat UI and API и Perplexity Labs и скоро будут добавлены в Cerebras Inference. Кроме того, модели ИИ оптимизируются для оборудования Nvidia, AMD, Qualcomm, Cerebras и Apple, заявила компания.

LFM также значительно отличаются от технологии GPT. Компания подчеркнула, что эти модели были построены на основе первых принципов. Первые принципы по сути являются подходом к решению проблем, когда сложная технология разбивается на ее основы, а затем строится из них.

По словам стартапа, эти новые модели ИИ построены на том, что называется вычислительными блоками. Проще говоря, это перепроектирование системы токенов, и вместо этого компания использует термин Liquid system. Они содержат сжатую информацию с упором на максимизацию емкости знаний и рассуждений. Стартап утверждает, что эта новая разработка помогает снизить затраты памяти во время вывода и повышает производительность при обработке видео, аудио, текста, временных рядов и сигналов.

Компания также утверждает, что преимущество моделей ИИ на основе Liquid заключается в том, что ее архитектура может быть автоматически оптимизирована для конкретной платформы на основе ее требований и размера кэша вывода.

• Raspberry Pi запускает камеру ИИ для приложений на основе зрения
• Ваша подписка на ChatGPT может вскоре стать дороже

Хотя ракушки, созданные стартапом, высокие, их производительность и эффективность могут быть только быть оценены по мере того, как разработчики и предприятия начинают использовать их для своих рабочих процессов ИИ. Стартап не раскрыл свой источник наборов данных или какие-либо меры безопасности, добавленные к моделям ИИ.