LINUX.ORG.RU
ФорумTalks

Известны ли вам мобильные приложения, которые запускают нейронку оффлайн?

 ,


0

1

Казалось бы: кругом бигдейта машинлёрнинг диплёрнинг, у каждого полуторого в кармане несколько ядер, пара гигабайтов ОЗУ, видеочип умеющий в Vulkan, а у некоторых даже нейроускоритель - а все программы для распознавания чего-либо на мобиле норовят обработать данные в облаке компании-разработчика (ну или на съёмных нодах).

Имеется некая градация подходов:

  • есть программы, которые просто работают локально - например, Google Translate (хотя я не уверен, применяется ли там именно нейронная сеть upd: конкретно для OCR).
  • Есть программы с платной подпиской на использование оффлайн - например, Atlas Roślin созданный моим соотечественником. Здесь даже бэкенд с распознавалкой под свободной лицензией, и даже мобильное приложение с ней же, но исходники немного заброшены и отстают от того, что доступно платящим пользователям и неплатящим пользователям облачного варианта. (здесь я начинаю оправдываться, что на самом деле собираюсь выучить растения моей страны и области, но автоматическая распознавалка это всё равно прикольно)
  • ну и наконец, самое обидное - программы в которых совсем отсутствует возможность использовать нейронку без интернета.

Вот и спрашиваю, огорчен несуществованием списка наподобие хипсторских awesome-что-нибудь: какие знаете программы для андроида/айоса/джелифиша/что-вам-нравится, которые считают нейронку локально?

Дополнительные очки, если распространяются и исходники программы, и модель.

★★★★★

Последнее исправление: token_polyak (всего исправлений: 2)

Если раздавать результаты своей работы всем подряд, то как заработать денег?

cobold ★★★★★
()

какие знаете программы для андроида/айоса/джелифиша/что-вам-нравится, которые считают нейронку локально?

Сотвори сам, выбрав модель из таблицы с поддержкой андроид ©.
Примеры: Python ©, TensorFlow ©.

quickquest ★★★★★
()
Ответ на: комментарий от xmikex

Вулкан иногда используют для вычислений, если нет ни OpenCL, ни CUDA - второго на мобилах по понятным причинам нет, с первым есть определённые сложности. Самое известное (или вообще единственное) решение, которые считает нейронки через вулкан - ncnn.

token_polyak ★★★★★
() автор топика
Ответ на: комментарий от quickquest

Сотвори сам

Вполне годный вариант, но без нвидиевского ускорителя не получится обучать модель в разумные сроки.

token_polyak ★★★★★
() автор топика
Последнее исправление: token_polyak (всего исправлений: 2)
Ответ на: комментарий от token_polyak

А как же услуги облачных сервисов для этого? то есть там обучил и скачал готовую модель себе. Так нельзя?

xmikex ★★★★
()
Ответ на: комментарий от xmikex

Естественно можно. В рамках некоторых ограничений можно даже бесплатно (см. Google Colab).

Так что должен был сказать «не особо», не то, что совсем не получится.

token_polyak ★★★★★
() автор топика
Последнее исправление: token_polyak (всего исправлений: 2)

Ты так данных не соберёшь.

t184256 ★★★★★
()

конкретных названий не знаю, но искать нужно по словам on device inference и tf.lite Конкретно ocr и translate модели слишком большие для телефонов, но всякая фигня вроде object detection может случаться на устройстве. Например, в текущем поколении камер nest, которые на батарейках.

phoenix ★★★★
()

Это же не имеет экономического смысла едва ли ни для кого! Нейронка тем лучше, чем больше железа её выжигало. Что-то, обученное на тысячах серверах Гугла будет бесконечно лучше того, что ты там насчитаешь на своём десктопе за день

нужно иметь огромные бабки, чтобы заниматься таким делом

stevejobs ★★★★☆
()
Ответ на: комментарий от stevejobs

если речь об обучении, то federated learning таки на устройстве происходит частично, но там ограничения другие.

phoenix ★★★★
()
Ответ на: комментарий от imul

Ты про примитивные «обученные» модели для улучшения фоточек?

примитивные? )))

распознование речи - эти модели, наверное, на порядок сложнее путь прошли, в сравнении с моделями для фотографий. 10 лет назад поработал в стартапе, где разрабатывали распознование речи. в ту пору речь от диктора распознавалась с точностью где-то 78% , что было очень круто и справлялся с этой задачей отдельный комп с кудой на 670ой нвидиа и цпу с 12Мб кеша (это топовый по тем временам камень, модель не вспомню). такой комп умел максимум 4 стрима распознавать. Теперь даже простой телефон очень круто с этим справляется и явно не с дикторской речью.

переводчик - та же история.

могу лишь заключить, что какое-то у вас очень примитивное представление об объемах данных, которые перелопатили эти модели прежде, чем стать таковыми.

ergo ★★★
()
Последнее исправление: ergo (всего исправлений: 3)
Ответ на: комментарий от ergo

Где локально производится распознавание речи?
Все приложения, которые мне известны (я не говорю, что пробовал все) требуют подключения к интернет. Значит распознание облачное.

могу лишь заключить, что какое-то у вас очень примитивное представление

оставьте при себе свои заключения, вы меня не знаете.

imul ★★★★★
()
Ответ на: комментарий от imul

This message was typed being offline using my voice only

upd: https://techcrunch.com/2019/03/12/googles-new-voice-recognition-system-works-instantly-and-offline-if-you-have-a-pixel/

у меня не пиксель.

PS: мне не нужно вас знать, чтобы сделать заключение о примитивности ваших представлений. по вашей оценке «примитивное» в адрес ИИ-решений, которые доступны на телефоне оффлайн, имею полное право сделать такое заключение :)

ergo ★★★
()
Последнее исправление: ergo (всего исправлений: 2)

FaceID вполне себе просто на отдельном чипе работает в яблоках, насколько я знаю.

Zhbert ★★★★★
()
Ответ на: комментарий от ergo

у меня не пиксель.

У меня тоже. Только для пикселей? Это равносильно тому, что ни у кого и нет. Подождём владельцев. Судя по всему начиная с Pixel 4 должно работать.

мне не нужно вас знать, чтобы сделать заключение о примитивности ваших представлений

Хорошо, мне в таком случае тоже этого не нужно. Прощайте.

imul ★★★★★
()
Ответ на: комментарий от imul

вы видимо еще и через раз читаете )

я же написал

This message was typed being offline using my voice only

у меня не пиксель.

при этом пишите

Только для пикселей? Это равносильно тому, что ни у кого и нет.

я ссылку привел в качестве пруфа, что эта фича уже давно имеется. раньше была только для пикселей.

ergo ★★★
()
Последнее исправление: ergo (всего исправлений: 1)
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.