MNN LLM (Mobile Neural Network) — это легковесная и высокоэффективная структура глубокого обучения, специально созданная для вывода и обучения нейросетевых моделей с максимальной производительностью прямо на устройствах. Благодаря своей архитектуре и оптимизациям, MNN обеспечивает лидирующие показатели в индустрии по скорости и эффективности, позволяя реализовывать передовые функции ИИ даже на устройствах с ограниченными ресурсами.
На сегодняшний день MNN успешно интегрирована более чем в 30 флагманских приложений компании Alibaba Group, включая такие популярные платформы, как Taobao, Tmall, Youku, DingTalk, Xianyu и многие другие. В общей сложности MNN охватывает более 70 разнообразных сценариев использования: от прямых трансляций и съёмки коротких видео до интеллектуального поиска, рекомендаций, распознавания изображений, управления маркетинговыми кампаниями, анализа пользовательского поведения, а также систем безопасности и предотвращения мошенничества. Более того, MNN активно применяется в встраиваемых устройствах и IoT-платформах, расширяя горизонты применения ИИ в умных домах, промышленной автоматике и носимой электронике.
MNN-LLM — это передовое решение для локального запуска больших языковых моделей (LLM), построенное на базе движка MNN. Цель проекта — сделать возможности LLM-доступными для каждого пользователя, независимо от платформы: будь то смартфон, персональный компьютер или устройство Интернета вещей. MNN-LLM поддерживает запуск популярных моделей, таких как Qianwen, Baichuan, Zhipu, LLAMA и многие другие, открывая двери к персонализированному ИИ без необходимости подключения к облачным серверам. Проект предоставляет подробное руководство пользователя, позволяющее легко настроить и использовать LLM на любой поддерживаемой платформе.
MNN-Diffusion — это высокоэффективное решение для локального запуска моделей стабильной диффузии, также разработанное на базе движка MNN. Его основная задача — предоставить пользователям возможность создавать и визуализировать контент, используя мощные генеративные модели, прямо на собственных устройствах, без обращения к внешним вычислительным ресурсам. MNN-Diffusion поддерживает множество современных архитектур генерации изображений и идеально подходит для задач креативного дизайна, генерации изображений, а также применения в AR/VR, играх и мобильных приложениях. Пользователям предоставляется подробное руководство для быстрого старта и глубокой интеграции.
Как использовать DeepSeek, Qwen и другие LLM на Android бесплатно и без регистрации
- Скачайте приложение MNN LMM и установите. Запустите приложение, найдите языковую модель deepseek-llm-7b-chat-MNN или другую языковую модель, нажмите на нее — запустится загрузка. Дождитесь ее завершения.
- После завершения загрузки нажмите на языковую модель — откроется чат и начнется запуск LLM. На слабых телефонах запуск LLM может длиться довольно долго, но на мощных это не более минуты.
- По завершению запуска LLM можно начинать общение с нейросетью. Важно: скорость генерации текста напрямую зависит от мощности вашего смартфона.
- Чтобы вернуться к истории общения с языковой моделью нужно нажать на бургер-меню слева сверху и выбрать чат. Тогда загрузится соответствующая языковая модель вместе с историей чата.
To report this post you need to 
