Termux и машинное обучение: запуск TensorFlow Lite и PyTorch Mobile в локальном окружении без root‑прав

Машинное обучение на Android становится особенно удобным, когда работа ограничена локальным контуром: файлы остаются на устройстве, вычисления выполняются в вашем окружении, а root‑права не требуются. Ниже — практический путь, как запустить TensorFlow Lite и PyTorch Mobile в Termux (без root‑прав) и организовать локальную обработку моделей.

1. Что реально можно сделать в Termux без root

Termux — это пользовательская среда для Android, где доступны системные инструменты (Linux‑подобные), но без прямого доступа к системным API уровня root. Поэтому критично выбирать подходы, которые:

не требуют установки на уровне системы;
работают с библиотеками в пользовательском пространстве;
используют уже поддерживаемые форматы моделей (например, TFLite);
учитывают ограничения по памяти и архитектуре (ARMv7/ARM64).

На практике наиболее “беспроблемный” вариант — TensorFlow Lite через интерпретатор, а для PyTorch Mobile — через запуск подготовленных артефактов (TorchScript) и библиотечные компоненты, которые корректно работают в локальном окружении.

2. Подготовка Termux: базовые пакеты и проверка архитектуры

Начните с актуализации репозиториев Termux и установки необходимых пакетов. В большинстве случаев достаточно начать с Python (для обвязки) и базовых инструментов сборки/распаковки.

pkg update && pkg upgrade -y
pkg install -y python git wget clang make cmake unzip tar pkg-config

Далее проверьте архитектуру (это важно для выбора бинарников и совместимости библиотек):

uname -m

Обычно вы увидите значения вроде aarch64 (ARM64) или armv7l (ARMv7).

3. TensorFlow Lite в Termux: самый простой путь

TensorFlow Lite обычно запускают через Python‑обвязку: загружается модель .tflite, после чего выполняется инференс через tf.lite.Interpreter. Важный момент: зависит от способа установки TensorFlow в Termux. Поэтому в реальных проектах чаще всего выбирают установку пакета, который включает поддержку tflite-интерпретатора, и/или используют заранее доступные сборки.

3.1. Установка зависимостей для TFLite

Рекомендуется создать изолированное окружение, чтобы не конфликтовать с системными пакетами Termux.

python -m venv ~/venvs/ml
source ~/venvs/ml/bin/activate
pip install --upgrade pip

Далее установите зависимости для TFLite. Вариант установки может зависеть от версии Python и доступности wheel’ов. Начните с попытки установки TensorFlow для вашего окружения:

pip install tensorflow

Если TensorFlow в вашем конкретном устройстве/архитектуре не ставится как готовый wheel, обычно требуется переход на альтернативный путь: использование специализированных пакетов/бинарников, установка минимальных компонентов или смена версии Python. В таком случае лучше действовать итеративно: фиксировать ошибку установки и подбирать рабочую комбинацию.

3.2. Запуск модели TensorFlow Lite локально

Создайте небольшой скрипт инференса. Например, ожидается модель классификации, где вход — тензор определённого размера. Ниже — каркас, который вы адаптируете под конкретную модель.

cat > tflite_run.py <<'PY'
import numpy as np
import tensorflow as tf

MODEL_PATH = "model.tflite"

# Подстройте форму под вашу модель
# Например: [1, 224, 224, 3]
input_shape = None

interpreter = tf.lite.Interpreter(model_path=MODEL_PATH)
interpreter.allocate_tensors()

input_details = interpreter.get_input_details()
output_details = interpreter.get_output_details()

# Определим форму входа из модели
in_idx = input_details[0]['index']
input_shape = input_details[0]['shape']

# Пример входных данных: заполнение нулями
x = np.zeros(input_shape, dtype=input_details[0]['dtype'])

interpreter.set_tensor(in_idx, x)
interpreter.invoke()

y = interpreter.get_tensor(output_details[0]['index'])
print("Output:", y)
PY

Скопируйте вашу модель model.tflite в текущую директорию и запустите:

python tflite_run.py

Для реальной задачи вместо заглушки нужно формировать входные данные корректно: загрузка изображения/аудио, нормализация, ресайз, порядок каналов и т.д. Часто это занимает 80% времени при переносе модели на мобильное окружение.

3.3. Оптимизация под устройство: производительность и память

Используйте модели, конвертированные под TFLite (квантизация INT8/float16) — это обычно даёт значительный выигрыш.
Старайтесь уменьшать размер входа и число операций. Обратите внимание на совместимость операторов.
Тестируйте разные batch‑размеры (обычно batch=1).
Следите за лимитами памяти: при нехватке ресурсов будут происходить падения интерпретатора или зависания.

4. PyTorch Mobile в Termux: путь через TorchScript

PyTorch Mobile чаще ориентирован на формат TorchScript (файл .pt / .pth) и выполнение в окружениях, где есть runtime для C++/Java. В Termux вы обычно не “устанавливаете” мобильный runtime как в Android Studio, но можете организовать локальный запуск так, чтобы:

модель была экспортирована в TorchScript;
в вашем окружении был доступен совместимый runtime (в зависимости от выбранного подхода — чаще через подготовленные артефакты и корректно собранные бинарники/библиотеки);
инференс выполнялся в рамках доступных ресурсов.

Поскольку экосистема Termux и доступность бинарных сборок PyTorch Mobile различаются по устройствам, рекомендуется идти итеративно: сначала подтвердить, что TorchScript файл исполняется в вашем окружении выбранным методом.

4.1. Экспорт модели в TorchScript (делается на вашей машине)

Экспорт лучше делать на ПК/сервере с установленным PyTorch. Примерно так (каркас):

# Пример (на компьютере с PyTorch)
import torch

model = ...
model.eval()

example_input = ...  # тензор с корректной формой

traced = torch.jit.trace(model, example_input)
traced.save("model_ts.pt")

Далее файл model_ts.pt переносится в Termux.

4.2. Запуск TorchScript в локальном окружении Termux

В Termux вам нужен способ выполнить TorchScript. Один из практичных подходов — использовать PyTorch (если удаётся установить для вашей архитектуры) и запускать модель через Python. Если PyTorch поставить не получается, тогда приходится использовать альтернативный runtime (что зависит от конкретной сборки и совместимости).

Стартовый сценарий для Python‑обвязки выглядит так:

cat > torchscript_run.py <<'PY'
import torch
import numpy as np

MODEL_PATH = "model_ts.pt"

model = torch.jit.load(MODEL_PATH, map_location="cpu")
model.eval()

# Пример формы входа: подставьте под вашу модель
# Допустим, вход [1, 3, 224, 224]
input_shape = (1, 3, 224, 224)

x = torch.from_numpy(np.zeros(input_shape, dtype=np.float32))

with torch.no_grad():
    y = model(x)

print("Output:", y)
PY

И запуск:

python torchscript_run.py

Если установка torch в Termux невозможна из-за несовместимости wheel’ов, нужно подбирать рабочие сборки или переходить на иной вариант локального запуска (например, через корректно собранные компоненты). В таком случае лучше согласовать цель (какие модели, какая архитектура, допустимо ли использовать ускорители) и подобрать решение под конкретное устройство.

5. Организация локальной сети (опционально) для распределённого тестирования

Иногда удобнее запускать inference как локальный сервис и обращаться к нему с другого устройства в вашей сети (например, с ноутбука для мониторинга). Для этого можно поднять локальный endpoint в Termux. VPN здесь допустим только для создания локальной сети и тестирования, а не для обхода ограничений.

Примерно:

pkg install -y python
# затем запустить простой HTTP/WS сервер (ниже — только идея каркаса)

Точные команды и реализация зависят от того, какой протокол вы хотите использовать (HTTP, WebSocket) и как формируется входной payload (изображения/тензоры/мелкомодальные данные).

6. Типовой чек‑лист отладки (когда “не работает”)

Проверьте архитектуру: результат uname -m влияет на совместимость бинарников.
Сверьте входные формы для TFLite и TorchScript: несоответствие размеров входа — частая причина ошибок.
Проверяйте dtype: INT8/FP32/FP16 — должны соответствовать ожиданиям модели.
Тестируйте минимальный пример: сначала нули/заглушки, затем реальный препроцессинг.
Смотрите логи при установке пакетов: если wheel не подходит, нужно менять стратегию установки.
Контролируйте ресурсы: мониторинг памяти и времени инференса помогает выбрать оптимизированную модель.

7. Практические рекомендации по подготовке моделей для мобильного инференса

Для TFLite: рассмотрите квантование (INT8) и оптимизацию графа перед экспортом.
Для PyTorch: экспортируйте в TorchScript и убедитесь, что все операции поддерживаются runtime’ом.
Минимизируйте постобработку на стороне модели: часть логики легче перенести в Python‑слой Termux.
Старайтесь использовать “чистые” модели без жёстких зависимостей от внешних библиотек.

Заключение

Запуск машинного обучения в Termux без root‑прав вполне реален, если опираться на совместимые форматы и аккуратно подходить к установке зависимостей. Для TensorFlow Lite обычно достаточно правильно установить окружение и адаптировать скрипт инференса под форму/тип входа. Для PyTorch Mobile практический путь чаще строится вокруг TorchScript и подбора корректного способа исполнения в вашем окружении.

Если хотите ускорить внедрение и получить рабочую конфигурацию под вашу модель и устройство, обращайтесь в РыбинскЛАБ: поможем подготовить окружение Termux, подобрать формат модели (TFLite/TorchScript), провести отладку и оптимизацию под ваши ресурсы.