Qualcomm сотрудничает с Mistral для внедрения моделей искусственного интеллекта на устройствах на базе чипсетов Snapdragon

Благодаря этому партнерству модели Ministral 3B и Ministral 8B AI от Mistral будут оптимизированы для чипсетов Snapdragon.

The Модели ИИ будут оптимизированы для платформ Snapdragon 8 Elite, Cockpit Elite, Ride Elite и X Elite

Advertisement

Qualcomm объявила в среду о партнерстве с фирмой искусственного интеллекта (ИИ) Mistral. Объявленное на саммите Snapdragon, это партнерство позволит оптимизировать две модели ИИ от Mistral — Ministral 3B и Ministral 8B — для работы на устройствах с различными чипсетами серии Snapdragon Elite. Компания заявила, что эти модели ИИ добавят возможности ИИ в смартфоны, ПК, транспортные средства и многое другое. Этот шаг направлен на повышение скорости обработки и снижение энергопотребления задач ИИ.

Qualcomm и Mistral объединяют усилия для внедрения моделей ИИ на устройстве

В пресс-релизе производитель чипов официально объявил, что Qualcomm и Mistral будут работать вместе над внедрением специальных моделей ИИ, предназначенных для работы на устройстве. Этот шаг направлен на снижение зависимости от пограничной и облачной обработки задач ИИ, которая считается как энергоемкой, так и более медленной по сравнению с локальной обработкой. Qualcomm также добавила, что эти модели ИИ будут оптимизированы не только для ее мобильных платформ, но также для ПК и экосистемы транспортных средств.

Благодаря этому партнерству Ministral 3B и Ministral 8B будут оптимизированы для работы на устройствах на базе недавно выпущенных Snapdragon 8 Elite для смартфонов, Snapdragon Cockpit Elite и Snapdragon Ride Elite для автомобилей и Snapdragon X Elite для ПК с искусственным интеллектом.

Модели Ministral 3B и 8B с искусственным интеллектом были запущены на прошлой неделе. Это первые крупные языковые модели компании (LLM), разработанные для коммерческого использования. Эти модели поддерживают вызов функций, что делает их идеальными для сценариев использования интерфейса прикладного программирования (API). По словам Mistral, модели с искусственным интеллектом поддерживают длину контекста до 128000 токенов.

Qualcomm заявила, что модели с искусственным интеллектом на устройстве предложат конечным пользователям множество преимуществ, включая улучшенную конфиденциальность, меньшую задержку, более высокую надежность, энергоэффективность и экономию средств. «Mistral AI Ministral 3B и Ministral 8B позволят производителям устройств, поставщикам программного обеспечения и поставщикам цифровых услуг предоставлять инновационные решения, такие как помощники на основе искусственного интеллекта и другие приложения, которые понимают желания и потребности пользователей», — сказал Дурга Маллади, старший вице-президент и генеральный менеджер по технологиям, планированию и периферийным решениям в Qualcomm Technologies.

• Qualcomm и Alphabet объединяются для создания автомобильного ИИ; Mercedes заключает сделку по чипу
• Первая многофункциональная модель ИИ от Mistral дебютирует с функцией «компьютерного зрения»

В настоящее время разработчики могут получить доступ к модели ИИ Mistral 7B v0.3 через Qualcomm AI Hub. Две модели ИИ от Ministral будут добавлены в хаб в ближайшие недели.