Основы ИИ для периферийных устройств (1/4)
Этот модуль знакомит с основными понятиями Edge Artificial Intelligence (Edge AI) — искусственного интеллекта на периферийных устройствах, закладывая теоретическую базу, необходимую для понимания того, как реализовывать решения машинного обучения на устройствах с ограниченными ресурсами, таких как микроконтроллеры и встроенные системы.
Введение в Edge AI
Основы машинного обучения
Прежде чем погружаться в Edge AI, важно понять, что такое модель машинного обучения. Машинное обучение — это раздел искусственного интеллекта (ИИ), который позволяет компьютерным системам учиться на данных и делать предсказания или принимать решения без явного программирования под каждую конкретную ситуацию [1].
Модель машинного обучения — это математическое представление определённого события или процесса, которое отражает взаимосвязи между входными и выходными переменными этого события.
Рассмотрим практический пример: модель машинного обучения, обученная обнаруживать аномалии в вибрациях промышленного двигателя. Процесс создания модели машинного обучения включает две фундаментальные фазы:
(1) Обучение: На этом этапе модель анализирует набор размеченных данных (входные данные с соответствующими правильными выходами) и корректирует свои внутренние параметры, чтобы минимизировать ошибку между предсказаниями и реальными измеренными значениями [2]. В нашем практическом примере модель учится, какие паттерны вибрации соответствуют нормальной работе, а какие указывают на потенциальные неисправности. Эта фаза обычно требует значительных вычислительных ресурсов и выполняется на мощных компьютерах или в облаке.
(2) Инференс: После обучения модель может обрабатывать новые, ранее не виденные данные и генерировать предсказания на основе усвоенных паттернов. Эта фаза значительно менее требовательна к вычислительным ресурсам и именно она выполняется на периферийных устройствах. В случае с вибрацией двигателя модель будет анализировать новые измерения вибрации и классифицировать их как нормальные или аномальные в реальном времени, позволяя операторам принимать превентивные решения.
Что такое Edge AI?
Теперь, когда мы понимаем, как работают модели машинного обучения, можно разобраться, где именно эти модели выполняются. Традиционно инференс сложных моделей требовал мощных серверов или облачных сервисов. Однако Edge AI меняет эту парадигму.
Edge AI представляет собой смену парадигмы в реализации алгоритмов искусственного интеллекта. Вместо того чтобы отправлять данные на удалённые серверы для обработки, Edge AI выполняет фазу инференса моделей машинного обучения непосредственно на локальных устройствах — таких как микроконтроллеры, умные датчики или встроенные системы [3].
Термин «edge» (периферия) обозначает физическое место, где данные генерируются и обрабатываются: на краю сети, вблизи источника информации.
В рамках этой парадигмы выделяется важная специализация: TinyML (Tiny Machine Learning). TinyML фокусируется именно на запуске моделей машинного обучения на устройствах с крайне ограниченными вычислительными ресурсами — таких как микроконтроллеры с памятью в диапазоне килобайт (кБ) и энергопотреблением в диапазоне милливатт (мВт) [4]. Эта технология позволяет встраивать возможности искусственного интеллекта в устройства, которые ранее считались слишком ограниченными по вычислительным ресурсам для выполнения сложных алгоритмов.
Облачные вычисления vs. периферийные вычисления
Чтобы лучше понять ценность Edge AI, важно различать парадигмы облачных и периферийных вычислений. Каждая из них обладает характерными особенностями, делающими её подходящей для разных типов приложений.
Облачные вычисления
В модели облачных вычислений данные, сгенерированные датчиками или устройствами, передаются через интернет на удалённые серверы с высокой вычислительной мощностью. Эти серверы выполняют сложные алгоритмы, хранят большие объёмы информации и возвращают результаты исходному устройству.
Основные характеристики облачных вычислений:
Доступ к практически неограниченным вычислительным ресурсам
Массовая ёмкость хранения данных
Простое обновление и обслуживание моделей
Зависимость от интернет-подключения
Переменная задержка в зависимости от условий сети
Потенциальные уязвимости конфиденциальности [5]
Периферийные вычисления
Периферийные вычисления инвертируют модель облачных вычислений: обработка происходит на том же устройстве, которое захватывает данные, или на узле рядом с ним. Данные не нужно передавать на внешние серверы; локальное устройство выполняет необходимые алгоритмы для анализа данных и генерирует немедленные ответы.
Основные характеристики периферийных вычислений:
Локальная обработка без зависимости от интернет-подключения
Отклики в реальном времени с минимальной задержкой
Большая конфиденциальность данных
Ограниченные вычислительные ресурсы
Большая операционная автономность
Гибридные архитектуры
Важно отметить, что обе парадигмы вычислений не являются взаимоисключающими. Во многих современных приложениях распространены гибридные архитектуры, где первичная обработка и критически важные решения в реальном времени принимаются на периферии, а обучение моделей, исторический анализ и удалённый мониторинг выполняются в облаке [6]. Такое сочетание позволяет использовать сильные стороны каждой парадигмы в соответствии с конкретными потребностями приложений.
Преимущества Edge AI
Рассмотрим конкретные преимущества Edge AI, которые делают его отличным решением для встроенных приложений с ограниченными ресурсами, но высокими требованиями к производительности.
Малая задержка
Устраняя необходимость передавать данные на удалённые серверы и ожидать ответов от них, Edge AI обеспечивает время отклика в диапазоне миллисекунд (мс). Последние исследования демонстрируют, что архитектуры периферийных вычислений могут улучшить задержку доступа до 30% по сравнению с исключительно облачными решениями [7].
Эта характеристика критически важна в приложениях, где скорость реакции определяет эффективность системы. Примеры таких приложений:
Управление промышленными процессами
Автономная робототехника
Системы безопасности и видеонаблюдения
Автономные транспортные средства
Устройства медицинского мониторинга
Конфиденциальность и безопасность данных
Чувствительные данные остаются на локальном устройстве и никогда не передаются через внешние сети. Это существенно сокращает поверхность атаки для киберугроз и упрощает соблюдение нормативных актов о защите данных [8].
В медицинских, промышленных или охранных приложениях эта характеристика может быть фундаментальным требованием для соответствия таким нормативам, как GDPR в Европе или HIPAA в США.
Автономная работа
Устройства Edge AI работают автономно, независимо от наличия интернет-подключения. Эта независимость необходима для следующих примеров:
Развёртывание в отдалённых местах (например, в сельском хозяйстве, горнодобывающей промышленности, исследовательских экспедициях)
Промышленные среды с ограниченным или закрытым интернет-доступом
Приложения, где непрерывность работы не может зависеть от внешних факторов
Чрезвычайные ситуации, в которых сетевая инфраструктура может быть нарушена [9]
Энергоэффективность
Локальная обработка устраняет затраты энергии, связанные с непрерывной передачей данных через интернет. Кроме того, современные микроконтроллеры, оптимизированные для Edge AI, включают режимы пониженного энергопотребления, позволяющие продолжительно работать от батареи.
Типичный микроконтроллер потребляет энергию в диапазоне милливатт (мВт) или микроватт (мкВт), расходуя более чем в тысячу раз меньше мощности, чем стандартный компьютер [10]. Эта характеристика делает возможными следующие применения:
Портативные устройства и носимая электроника (wearables)
Датчики с питанием от батарей или альтернативных источников энергии (например, солнечной)
Массовое развёртывание устройств Интернета вещей (IoT) с низкими операционными затратами
Снижение операционных расходов
Минимизируя передачу данных и зависимость от облачных сервисов, Edge AI снижает затраты, связанные со следующим:
Полоса пропускания и передача данных
Хранение на удалённых серверах
Обработка в облачной инфраструктуре
Обеспечение постоянного подключения
Важно
По прогнозам ABI Research, к 2030 году ожидается поставка 2,5 миллиарда устройств со специализированными чипсетами Edge AI, что обусловлено именно этими экономическими и техническими преимуществами [11].
Аппаратное обеспечение для Edge AI
Разобравшись с преимуществами Edge AI, возникает практический вопрос: какое аппаратное обеспечение необходимо для реализации этих решений? В этом разделе мы рассмотрим характеристики, которыми должен обладать микроконтроллер для запуска моделей машинного обучения, и сосредоточимся на плате Arduino® UNO R4 WiFi — плате, которую мы будем использовать на протяжении всего курса.
Архитектуры микроконтроллеров для ИИ
Не все микроконтроллеры одинаково подходят для запуска моделей машинного обучения. Ключевые характеристики, определяющие пригодность микроконтроллера для Edge AI, включают следующее:
Вычислительная мощность: Тактовая частота и архитектура процессора определяют, сколько операций можно выполнить в секунду. Процессоры Arm Cortex-M особенно популярны в приложениях Edge AI благодаря балансу между производительностью и энергоэффективностью.
Доступная память: Модели машинного обучения требуют памяти для хранения параметров модели (Flash) и для выполнения промежуточных вычислений в ходе инференса (SRAM). Объём доступной памяти непосредственно ограничивает размер и сложность выполняемых моделей.
Специализированные периферийные устройства: Некоторые микроконтроллеры включают модули цифровой обработки сигналов (DSP) или аппаратные ускорители, специфичные для математических операций, распространённых в машинном обучении.
Энергопотребление: Для приложений с питанием от батареи потребление в активном режиме и в режиме сна имеет критическое значение.
Аппаратное обеспечение Arduino для Edge AI
Arduino предлагает различные платы, разработанные для приложений Edge AI, каждая из которых ориентирована на разные сценарии использования. Ниже представлены основные доступные варианты:
Arduino Nicla Vision: Разработана для компьютерного зрения; оснащена встроенной камерой 2 МП, двухъядерным процессором STM32H747 и множеством интегрированных датчиков. Эта плата идеальна для задач распознавания изображений и объектов.
Arduino Nano 33 BLE Sense Rev2: Компактная плата с множеством встроенных датчиков окружающей среды (IMU, микрофон, температура, влажность, давление, освещённость). Отличный выбор для классификации звука, определения жестов и мониторинга окружающей среды.
Arduino Portenta H7: Высокопроизводительная плата с двухъядерным процессором STM32H747, ориентированная на промышленные приложения, требующие большей вычислительной мощности.
Arduino UNO R4 WiFi: Эволюция культового семейства UNO с микроконтроллером Renesas RA4M1, Wi-Fi/Bluetooth® подключением и возможностями для базовых приложений TinyML.
В данном курсе мы будем работать преимущественно с платой Arduino UNO R4 WiFi благодаря её доступности, знакомству для тех, кто уже знает платформу Arduino, и достаточным возможностям для понимания основ Edge AI.
Arduino UNO R4 WiFi: плата курса
Arduino UNO R4 WiFi представляет собой эволюцию семейства UNO, включающую значительно более мощный микроконтроллер по сравнению с предшественниками при сохранении совместимости с существующей экосистемой Arduino. Это сочетание делает её отличной образовательной платформой для Edge AI.
Технические характеристики платы UNO R4 WiFi
Ниже представлены технические характеристики UNO R4 WiFi [13]:
Характеристика |
Значение |
Примечания |
|---|---|---|
Микроконтроллер |
Renesas RA4M1 (R7FA4M1AB3CFM) |
32-битная архитектура |
Процессор |
Arm Cortex-M4 @ 48 МГц |
С модулем вычислений с плавающей точкой (FPU) |
Flash-память |
256 КБ |
Хранение программ и моделей |
SRAM-память |
32 КБ |
Рабочая память для инференса |
EEPROM |
8 КБ |
Хранение постоянных данных |
Модуль связи |
ESP32-S3 |
Вторичный процессор |
Wi-Fi® |
802.11 b/g/n (2,4 ГГц) |
Для IoT-подключения |
Bluetooth |
LE 5.0 |
Для локальной связи |
АЦП |
14-бит |
Более высокое разрешение, чем у UNO R3 (10-бит) |
ЦАП |
12-бит |
Истинный аналоговый выход |
Цифровые пины |
14 |
Совместимы с существующими шилдами |
Аналоговые пины |
6 |
Входы для датчиков |
Светодиодная матрица |
12×8 красных светодиодов |
Для визуализации данных |
Рабочее напряжение |
5 В |
Совместимо со стандартными датчиками |
Размеры |
68,85 × 53,34 мм |
Стандартный форм-фактор UNO |
Несмотря на то что UNO R4 WiFi обладает более ограниченными ресурсами по сравнению со специализированными платами, такими как Nicla Vision или Portenta H7, она предлагает достаточно возможностей для реализации моделей Edge AI в различных сценариях. Эта плата способна запускать небольшие классификационные модели (до примерно 50 КБ), что идеально для обнаружения аномалий, классификации паттернов вибрации, простого распознавания жестов и базовой классификации аудиосигналов и других задач.
Реальные применения Edge AI
Изучив теоретические концепции и доступное аппаратное обеспечение, рассмотрим теперь, как Edge AI применяется в реальном мире. Эти примеры иллюстрируют практический потенциал технологий, которые мы будем учиться реализовывать в данном курсе.
Промышленные применения
Прогнозное техническое обслуживание: Вибрационные датчики, подключённые к промышленным двигателям, способны обнаруживать аномальные паттерны, предшествующие механическим поломкам. Обрабатывая данные локально, система может генерировать немедленные оповещения без зависимости от внешнего подключения. Arduino разработала специализированные примеры для этого сценария использования с применением плат типа Nano R4 с внешними акселерометрами [12].
Визуальный контроль качества: Камеры с возможностью локальной обработки способны инспектировать продукты на производственных линиях, выявляя дефекты в реальном времени без необходимости передавать изображения на внешние серверы.
Мониторинг окружающей среды: Сети датчиков, развёртываемых на промышленных объектах, могут обнаруживать утечки газа, изменения температуры или опасные условия, обрабатывая данные локально для немедленного реагирования.
Коммерческие применения
Умная розничная торговля: Системы компьютерного зрения способны подсчитывать людей, анализировать потоки покупателей и обнаруживать пустые полки без передачи видео в облако, сохраняя конфиденциальность клиентов.
Точное земледелие: Датчики на сельскохозяйственных угодьях могут анализировать состояние почвы, выявлять вредителей или болезни растений и оптимизировать полив, работая автономно в местах без подключения.
Умные здания: Системы HVAC (вентиляция, отопление и кондиционирование) могут оптимизировать потребление энергии на основе паттернов заполняемости, обнаруженных локально, без необходимости в облачной инфраструктуре.
Будущие тенденции
Область Edge AI стремительно развивается. Знание этих тенденций помогает предвидеть направление развития технологий:
Специализированное аппаратное обеспечение: Новые микроконтроллеры включают специализированные ускорители для операций нейронных сетей, что существенно повышает производительность без увеличения энергопотребления.
Более эффективные модели: Исследования в области архитектур нейронных сетей, оптимизированных для встроенных устройств, продолжают создавать меньшие и более эффективные модели без потери точности.
Упрощённые инструменты разработки: Такие платформы, как Edge Impulse, демократизируют доступ к Edge AI, позволяя разработчикам без глубокого опыта в машинном обучении создавать и развёртывать модели.
Федеративное обучение: Методы, позволяющие улучшать модели на данных с нескольких устройств без централизации информации, сохраняя конфиденциальность при получении преимуществ коллективного обучения.
Итоги
В этом модуле мы заложили концептуальную базу, необходимую для понимания Edge AI:
Модель машинного обучения учится на данных в ходе обучения и использует усвоенные паттерны для предсказаний во время инференса.
Edge AI выполняет инференс моделей непосредственно на локальных устройствах, вблизи места генерации данных.
Основные преимущества Edge AI включают малую задержку, конфиденциальность данных, автономную работу и энергоэффективность.
Плата Arduino UNO R4 WiFi будет нашей платформой разработки на курсе; она предлагает хороший баланс между доступностью и возможностями Edge AI.
Реальные применения Edge AI охватывают промышленное прогнозное обслуживание, точное земледелие и умные здания.
В следующем модуле мы углубимся в основы машинного обучения, изучая типы алгоритмов, наиболее релевантных для периферийных устройств, и методы оптимизации, позволяющие запускать модели на микроконтроллерах.
Список литературы
[1] IBM, «What is machine learning?» IBM Think, 2025. [Online]. Available: https://www.ibm.com/think/topics/machine-learning
[2] I. Goodfellow, Y. Bengio, and A. Courville, «Machine learning basics,» in Deep Learning. Cambridge, MA, USA: MIT Press, 2016, ch. 5. [Online]. Available: https://www.deeplearningbook.org/contents/ml.html
[3] C. R. Banbury et al., «Machine learning for embedded systems: A case study,» arXiv preprint arXiv:2303.13569, 2023.
[4] P. Warden and D. Situnayake, TinyML: Machine Learning with TensorFlow Lite on Arduino and Ultra-Low-Power Microcontrollers. Sebastopol, CA, USA: O’Reilly Media, 2019.
[5] T. Sampath, A. Dutt, V. Veeraiah, B. Aishwarya, K. Lal, and D. Kapila, «Analyzing the effect of edge computing on real-time data processing and latency reduction,» in Proc. 10th IEEE Uttar Pradesh Section Int. Conf. Electr., Electron. Comput. Eng. (UPCON), Gautam Buddha Nagar, India, 2023, pp. 623–627, doi: 10.1109/UPCON59197.2023.10434652.
[6] Y. Abadade, A. Temouden, H. Bamoumen, N. Benamar, Y. Chtouki, and A. S. Hafid, «A comprehensive survey on TinyML,» IEEE Access, vol. 11, pp. 96892–96922, 2023, doi: 10.1109/ACCESS.2023.3294111.
[7] F. Breitbach, L. Trestian, P. Bujari, P. Bellavista, and G. Haring, «(How much) can edge computing change network latency?» in Proc. IFIP Netw. Conf., Espoo, Finland, 2021, pp. 1–9, doi: 10.23919/IFIPNetworking52078.2021.9472790.
[8] A. Garcia, P. Serrano, D. Urda, J. J. Rodriguez, and C. Garcia-Osorio, «Embedded AI and TinyML: A practical analysis of workflows and libraries,» in Distributed Computing and Artificial Intelligence (DCAI 2024), vol. 1259, Lecture Notes in Networks and Systems. Cham, Switzerland: Springer, 2025, pp. 1–10.
[9] E. Lear et al., «Internet of Things (IoT) edge challenges and functions,» RFC 9556, Internet Research Task Force (IRTF), Apr. 2024. [Online]. Available: https://datatracker.ietf.org/doc/rfc9556/
[10] AIMultiple Research, «TinyML: Machine learning at the edge,» 2024. [Online]. Available: https://research.aimultiple.com/tinyml/
[11] R. Kallimani et al., «TinyML: Enabling of inference deep learning models on ultra-low-power IoT edge devices for AI applications,» Micromachines, vol. 13, no. 6, p. 851, May 2022, doi: 10.3390/mi13060851.
[12] Arduino Product Experience Team, «Motor anomaly detection with the Nano R4,» Arduino Application Notes, 2025. [Online]. Available: https://docs.arduino.cc/tutorials/nano-r4/motor-anomaly-detection/
[13] Arduino, «UNO R4 WiFi,» Arduino Documentation, 2024. [Online]. Available: https://docs.arduino.cc/hardware/uno-r4-wifi/