Google выпустила приложение, которое позволяет загружать и запускать модели ИИ на смартфоне

Google выпустила приложение, которое позволяет загружать и запускать модели ИИ на смартфоне

Приложение под названием Google AI Edge Gallery доступно для Android и скоро появится на iOS. Оно позволяет пользователям находить, загружать и запускать совместимые модели, которые генерируют изображения, отвечают на вопросы, пишут и редактируют код и многое другое. Модели работают в автономном режиме, без подключения к интернету, используя процессоры поддерживаемых телефонов.

Облачные модели ИИ зачастую более мощные, чем их локальные аналоги, но у них есть и свои недостатки. Некоторые пользователи могут опасаться отправлять личные или конфиденциальные данные в удаленный центр обработки данных или хотят иметь доступ к моделям без необходимости искать Wi-Fi или сотовую связь.

Приветственные экраны приложения Google AI Edge Gallery для Android
Приветственные экраны приложения Google AI Edge Gallery для Android

Google AI Edge Gallery, которую Google называет «экспериментальным альфа-релизом», можно скачать с GitHub, следуя этим инструкциям. На главном экране отображаются ярлыки для задач и возможностей ИИ, таких как «Запрос изображения» и «Чат с ИИ». При нажатии на возможность открывается список моделей, подходящих для выполнения задачи, например Gemma 3n от Google.

Приложение также предоставляет пользователям «Prompt Lab», с помощью которой можно выполнять «одноэтапные» задачи на основе моделей, например, обобщать и переписывать текст. В Prompt Lab есть несколько шаблонов задач и настраиваемые параметры для точной настройки поведения моделей.

Google предупреждает, что производительность может различаться в зависимости от устройства. Современные устройства с более мощным оборудованием, как правило, работают с моделями быстрее, но размер модели тоже имеет значение. Большим моделям потребуется больше времени для выполнения задачи — например, для ответа на вопрос об изображении, — чем маленьким моделям.

Google приглашает участников сообщества разработчиков оставить отзыв о Google AI Edge Gallery. Приложение распространяется по лицензии Apache 2.0, что означает, что его можно использовать в большинстве случаев — коммерческих или иных — без ограничений.

Источник: TechCrunch

Интересно? Поделиться:

3 комментария для “Google выпустила приложение, которое позволяет загружать и запускать модели ИИ на смартфоне

  1. Сейчас очень популярны различные ассистенты, которые могут обрабатывать очень чувствительные вопросы — например здоровье, психологические проблемы, банковскую тайну. И обрабатывать такие данные лучше на своем телефоне. Плюс опять же — можно маскировать текстовые данные для отправки в облако. А конкретно данное приложение позволяет протестировать модельки на скорость и качество, не запариваясь с инференсом модельки для проверки гипотез.

  2. Это приложение предназначено для разработчиков, чтобы они могли интегрировать ИИ в свои мобильные приложения, обеспечивая при этом быстрое выполнение задач и низкое энергопотребление что сейчас очень важно. Мне оно очень понравилось.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *