Как ИИ переходит на любое оборудование и что инженерам нужно знать дальше.

В следующем десятилетии ИИ не будет тем, что «добавляют» в продукт в конце. Продукт будет с первого дня проектироваться так, чтобы вмещать ИИ, — будь то узел датчика, радиочастотная система, встраиваемое оборудование или приложение, работающее на ноутбуке с поддержкой ИИ.

В этой статье объясняется: что меняется в аппаратном обеспечении, почему модели необходимо оптимизировать и почему каждому инженеру, работающему в области радиочастот, программного обеспечения, аппаратного обеспечения, встраиваемых систем или приложений, понадобится рабочее понимание машинного обучения.

1. Сдвиг: ИИ покидает облако

Не так давно типичная схема была простой: устройства собирали данные, отправляли их в облако, а облако принимало «умное» решение. Эта модель всё ещё существует, но для многих реальных систем её уже недостаточно.

Сегодня мы наблюдаем переход к периферийным вычислениям (edge computing): всё больше вычислений выполняется рядом с местом, где генерируются данные. Облачный ИИ по-прежнему важен и останется необходимым для обучения и тяжёлых рабочих нагрузок, но когда вычисления переносятся ближе к устройству и основаны на ИИ, мы называем это периферийным ИИ (edge AI). Практическая причина проста: многие системы не могут позволить себе задержки, проблемы со связью или постоянную передачу данных.

Три силы переносят ИИ на устройства:

• Низкая задержка: интерактивным приложениям, управлению в реальном времени и радиочастотной адаптации часто нужны решения за секунды или даже быстрее.

• Конфиденциальность по умолчанию (privacy-by-design): когда необработанные аудио, изображения, телеметрия или поведение пользователя никогда не покидают устройство, конфиденциальность и соответствие требованиям гарантировать проще.

• Стоимость и надёжность: пропускная способность, затраты на облако и сбои сети становятся менее болезненными, когда устройство может «думать» локально.

Как только вы принимаете эти ограничения, техническая цель становится ясной: эффективно выполнять инференс на устройстве, даже на ограниченном оборудовании.

2. Где работает ИИ: от микроконтроллеров до ИИ-ПК

ИИ работает не на одном «типе компьютера». Он работает на целом спектре платформ, у каждой из которых свои ограничения и сильные стороны. На практике системы часто используют и облачный ИИ, и локальные вычисления: облако применяется для обучения и тяжёлых вычислений, а устройства выполняют инференс локально, когда важны задержка, конфиденциальность или надёжность.

Микроконтроллеры (MCU) — самый малый класс. Часто у них килобайты оперативной памяти и жёсткие ограничения по питанию. Тем не менее они могут выполнять компактные модели с помощью TinyML — это полезно для таких задач, как обнаружение аномалий, распознавание жестов или простая классификация по данным датчиков.

Встраиваемые устройства на Linux (небольшие платы или модули под управлением Linux) дают больше памяти, многоядерные процессоры, а иногда и ускорители. Они распространены в стеках робототехники, промышленных шлюзах и периферийных серверах.

Современные потребительские и промышленные устройства всё больше опираются на конструкции типа «система на кристалле» (SoC), где ядра процессора, контроллеры памяти и ввод-вывод находятся на одном кристалле. Многие SoC содержат выделенный NPU (нейронный процессор) для эффективного ускорения операций нейронных сетей.

Всё это ведёт к гетерогенным вычислениям: системе, в которой разные вычислительные блоки (CPU, GPU, NPU, DSP) разделяют рабочую нагрузку. Производительность определяется уже не только частотой процессора; речь идёт о том, чтобы направлять нужные операции на нужный вычислитель.

3. Инженерный приём: как уместить модели

Запуск машинного обучения на ограниченных устройствах — это не магия, а дисциплинированная оптимизация. Одна и та же идея встречается снова и снова: уменьшить то, что нужно модели (память, вычисления, энергию), сохранив достаточную для задачи точность.

Сжатие моделей — общий термин для этих методов. Самые распространённые инструменты:

• Квантование: использование чисел меньшей точности (например, 8-битных целых вместо 32-битных чисел с плавающей запятой). Обычно это уменьшает размер модели и ускоряет инференс.

• Прунинг (обрезка): удаление весов или каналов, вносящих малый вклад, что делает модель меньше, а иногда и быстрее.

• Дистилляция знаний: обучение небольшой модели-«ученика» имитировать большую модель-«учителя», что часто сохраняет хорошую точность при доле затрат.

На более глубоком уровне команды всё чаще применяют совместное проектирование аппаратного и программного обеспечения: выбирают архитектуры моделей, соответствующие иерархии памяти целевого устройства и набору операций, которые ускорители могут эффективно выполнять.

Результат: модели, которые не только точны в блокноте, но и надёжны в продукте.

4. Ограничения, влияющие на процесс

Модель с наивысшим результатом в бенчмарке не становится автоматически правильным выбором для развёртывания. В реальных проектах развёртывается та модель, которая отвечает ограничениям системы, а её выбор — это процесс: выбор модели-кандидата, её оптимизация, тестирование в бенчмарках и валидация. Этот процесс также зависит от выбора самой системы и чёткого определения ограничений, которые она накладывает.

Иными словами, развёртывание — это не простое «выбрать лучшую модель на бумаге». Это процесс, в котором производительность должна выдержать реальные ограничения: задержку, память, вычисления, тепловой режим, стоимость, надёжность и среду, в которой работает устройство.

Энергоэффективность — одно из ключевых ограничений, особенно во встраиваемых устройствах или устройствах с тепловыми ограничениями. Со временем усталость (FATIC) или старение, внешнее воздействие среды и природа самого датчика могут приводить к пропускам данных (если не обрабатывать данные соответствующим образом).

Ещё одна серьёзная проблема — дрейф данных: распределение реальных входных данных меняется по сравнению с тем, что модель видела при обучении. Модель следует сопровождать после развёртывания (мониторинг, обновление, повторная валидация), учитывая реальное поведение датчиков, пропуски данных, дрейф и ограничения системы.

5. Почему каждому инженеру нужны основы ИИ

По мере того как ИИ становится частью поставляемых систем, компаниям нужны специалисты, способные сделать ИИ надёжным в долгосрочной перспективе. Здесь и растёт роль ML-инженера.

ML-инженер — это не только тот, кто обучает модель. Он строит сквозную систему: конвейеры данных, оценку, развёртывание, мониторинг, обновления и стратегии отката.

По мере того как ИИ становится стандартной возможностью платформ, инженеры в каждой из этих областей будут взаимодействовать с процессами ML, в частности с моделями, — даже если сами их не обучают.

Посмотрим, как это может использоваться в разных применениях.

Глоссарий

Радиочастотная инженерия

ML может помочь в оценке канала, обнаружении помех, классификации сигналов и адаптивном управлении ресурсами. Чтобы безопасно использовать эти инструменты, радиоинженерам нужно понимать, что оптимизирует модель и где она может дать сбой.

Инженерия встраиваемых систем

Инференс на устройстве превращает необработанные потоки данных датчиков в решения. Инженеры должны учитывать ограничения памяти, бюджеты задержки, эффекты квантования и устойчивость, а также энергопотребление в рамках бюджета мощности модели.

Аппаратная инженерия

Аппаратный ИИ меняет то, как мы проектируем, тестируем и валидируем системы. Он также помогает нам переводить идею в аппаратные требования.

Программная инженерия

ML находится внутри продуктов (поиск, ранжирование, персонализация, обнаружение аномалий). Инженеры должны интерпретировать метрики, обнаруживать регрессии и понимать конвейеры данных.

Прикладная инженерия

В прикладной инженерии мы должны с самого начала учитывать требования приложения. Одно и то же устройство может использоваться в разных местах, средах и конфигурациях, поэтому требования могут меняться в зависимости от того, где и как оно используется. Если не учитывать эти различия, система может хорошо работать в одних условиях, но деградировать или отказывать в других.

6. Что это значит для следующего десятилетия

Если посмотреть шире, вырисовывается простая закономерность:

• Аппаратное обеспечение по умолчанию становится способным к ИИ (SoC с NPU, периферийные модули, эффективные среды выполнения).

• Модели становятся меньше и умнее благодаря сжатию и совместному проектированию.

• Организациям повсюду понадобятся инженеры, грамотные в вопросах ИИ.

ИИ на аппаратном уровне становится всё реальнее и станет частью инженерной дорожной карты.

Ключевые понятия (краткие пояснения)

Облачный ИИ (Cloud AI)

Обучение и/или инференс ИИ, выполняемые в централизованной облачной инфраструктуре.

Периферийные вычисления (Edge computing)

Вычисления, выполняемые рядом с местом генерации данных (устройства, шлюзы, локальные модули).

Периферийный ИИ (Edge AI)

Инференс ИИ, выполняемый на периферийных устройствах, а не в удалённом центре обработки данных.

Инференс на устройстве (On-device inference)

Локальный запуск обученной модели на устройстве.

Микроконтроллер (MCU)

Небольшой маломощный компьютер на кристалле, используемый во встраиваемых продуктах.

TinyML

Методы и инструменты для запуска моделей ML на микроконтроллерах и других устройствах со сверхнизким энергопотреблением.

Встраиваемый Linux (Embedded Linux)

Встраиваемое устройство, работающее под управлением операционной системы Linux.

Система на кристалле (SoC)

Один кристалл, объединяющий ядра процессора, контроллеры памяти и ввод-вывод (а часто и ускорители).

Нейронный процессор (NPU)

Аппаратный ускоритель, оптимизированный для операций нейронных сетей, с высокой производительностью на ватт.

Гетерогенные вычисления

Архитектура, в которой несколько вычислителей (CPU, GPU, NPU, DSP) разделяют рабочие нагрузки.

Сжатие моделей

Методы, уменьшающие размер модели и вычислительные затраты при сохранении приемлемой производительности.

Квантование

Снижение точности чисел (например, с FP32 до INT8/INT4) для уменьшения использования памяти и ускорения инференса.

Прунинг

Удаление избыточных весов или каналов из модели для уменьшения размера, а иногда и повышения скорости.

Дистилляция знаний

Обучение меньшей модели (ученика) имитировать большую модель (учителя).

Совместное проектирование аппаратного и программного обеспечения

Проектирование модели и конвейера развёртывания с учётом целевого оборудования.

Задержка (Latency)

Время, за которое система выдаёт результат.

Энергоэффективность

Насколько эффективно система выполняет инференс при ограниченном бюджете мощности/тепловыделения.

Бюджет мощности

Установленный предел мощности, которую модель/система может потреблять, чтобы оставаться стабильной и безопасной.

Дрейф данных

Изменение закономерностей входных данных после развёртывания, которое со временем может снижать качество модели.

Зачем нам понадобилась автоматизация

Мне пришлось на время уехать из Армении, и одним из главных дел, которые мы хотели сделать в DigiCore, была автоматизация некоторых наших процессов. Важнейшей целью было не просто поддерживать работу бизнеса, но и сохранить философию и идею DigiCore. DigiCore никогда не задумывался как «просто ещё один курс». Он был создан как место, где учащиеся начинают формировать настоящее инженерное мышление и видят ясный путь в своё будущее. Автоматизация стала способом сохранить эту идею живой, даже пока меня физически нет в Армении.

Общая философия и специализированное обучение

Для этого одним из ключевых шагов был поиск людей, разделяющих нашу философию, концепции и идеи. DigiCore работает с людьми, которые видят образование так же, как мы, и понимают, зачем мы всё это делаем. Мы также превратили наш основной курс в специализированную программу обучения для учащихся. Эта программа — не просто набор случайных уроков. Это структурированный путь, где:

• учащиеся постепенно формируют прочное фундаментальное понимание инженерии,

• каждая новая тема связана с предыдущей,

• каждый шаг связан с реальной идеей или применением

• и учащиеся постоянно видят, почему то, что они изучают, важно.

В этом специализированном обучении учащиеся не просто следуют инструкциям. Их побуждают думать, задавать вопросы и находить связи. Идея в том, чтобы к концу курса они не просто помнили, что делали на уроках, а понимали, как думают инженеры и как инженеры решают задачи. Наша цель также — показать им, что образовательные программы в Engineering City непрерывны. DigiCore — не изолированная точка; это начало более длинного пути. Мы хотим, чтобы учащиеся видели, что:

• после DigiCore есть и другие программы,

• эти программы могут продолжаться вплоть до университетского уровня,

• и есть реальные возможности работать и расти как инженеры в той же среде.

Так что этот специализированный курс — не только о знаниях. Он также об ориентации: помочь учащимся увидеть себя будущими инженерами и понять, что они уже находятся внутри большей системы с реальными перспективами.

Автоматизация процессов, связанных с уроками

Кроме того, мы автоматизировали несколько важных процессов вокруг самих уроков. Перед каждым уроком преподаватели получают уведомление о предстоящем занятии. Это снижает вероятность путаницы с расписанием и поддерживает общий ритм. После каждого урока тренеры DigiCore получают уведомление о необходимости написать краткий отчёт и заполнить небольшую анкету об уроке и учащихся. Эти отчёты и анкеты не длинные и не сложные, но регулярные. Они включают:

• какой была основная тема урока, • насколько хорошо учащиеся поняли ключевую идею, • какие моменты сработали особенно хорошо, • где учащиеся испытывали трудности или теряли концентрацию, • и что следует повторить или изменить на следующем уроке.

Также есть фиксированное время, когда мы садимся, обсуждаем и решаем, нужно ли что-то улучшить или изменить. Это может касаться темпа курса, сложности заданий или того, как мы объясняем определённые понятия. Благодаря автоматизации

этих процессов DigiCore не должен зависеть от того, что кто-то «не забудет проверить» или «не забудет спросить». Сама система побуждает тренеров регулярно анализировать и делиться информацией.

Периодические звонки с учащимися: знания и эмоции

Ещё одна ключевая часть системы — периодические звонки с учащимися. Эти звонки организуются в определённые моменты курса, а не только когда возникает проблема. Это контрольные точки, встроенные в учебный процесс. Во время этих звонков мы сосредотачиваемся на двух главных измерениях:

1. Знания

• Может ли учащийся объяснить, чем занимался на уроках?

• Понимает ли он основные идеи или просто повторяет шаги по памяти?

• Может ли он связать разные темы друг с другом?

• Видит ли он логику заданий и проектов?

2. Эмоции и мотивация

• Действительно ли им нравятся уроки?

• Испытывают ли они эффект «вау», когда что-то получается?

• Любопытны ли они, задают ли вопросы?

• Чувствуют ли они себя увереннее в инженерии или более напуганными и растерянными?

Эти звонки — не экзамены. Это беседы. Учащиеся могут рассказать, что им нравится, что их смущает и чем они хотели бы заниматься больше. Информация из этих периодических звонков чрезвычайно ценна для DigiCore. Она показывает, действительно ли программа и автоматизированные процессы работают с точки зрения учащегося. Если многие учащиеся из разных групп дают похожие сигналы — положительные или отрицательные, — это становится для нас ясным сообщением, что что-то нужно сохранить или изменить. Такая периодическая коммуникация с учащимися помогает DigiCore оставаться близким к ним и понимать их потребности.

Семьи как важная часть контура обратной связи

Поскольку DigiCore работает напрямую с семьями, они являются очень важной частью нашего контура обратной связи. Семьи выбирают, где учатся их дети, видят их дома каждый день и часто замечают изменения раньше всех. Поэтому мы стараемся держать семьи в курсе и вовлекать их в то, что происходит в DigiCore. Мы общаемся с семьями, чтобы понять:

• как их дети чувствуют себя после уроков, • стали ли они более мотивированными и уверенными, • рассказывают ли они дома о DigiCore и своих проектах, • и соответствует ли опыт ожиданиям семьи.

Их отзывы становятся ещё одним «датчиком» нашей системы. Если несколько семей из разных групп упоминают одно и то же — проблему или положительное изменение, — это явный сигнал, что нам нужно обратить на это внимание и, возможно, что-то скорректировать в наших процессах или в преподавании.

Социальные сети как продолжение системы

Социальные сети для нас — не отдельный элемент; это продолжение той же системы коммуникации и прозрачности. Через наши каналы в социальных сетях мы:

• публикуем информацию о предстоящих курсах и новых группах, • делимся результатами учащихся DigiCore в их повседневной учёбе, • показываем небольшие моменты с уроков и проектов, • и напоминаем всем, что представляет собой DigiCore.

Это помогает держать семьи в курсе, даже если мы не общаемся с ними лично каждый день. Они видят, чем занимается DigiCore, над чем работают учащиеся и какой прогресс происходит внутри центра. Для DigiCore социальные

сети — ещё один способ сохранять видимость нашей философии и идей и показывать, что система жива и активна, даже когда меня нет в Армении.

Что автоматизация даёт DigiCore

Все эти элементы — люди, разделяющие нашу философию, специализированный учебный курс для учащихся, автоматизированные процессы уроков, периодические звонки с учащимися, отзывы семей и постоянная коммуникация через социальные сети — образуют единую систему. Автоматизация даёт DigiCore несколько важных вещей:

• Стабильность: работа не зависит от физического присутствия одного человека. Процессы продолжают работать, даже когда меня нет.

• Последовательность: качество уроков и основная идея остаются неизменными от группы к группе и от недели к неделе.

• Прозрачность: у нас есть ясная картина того, что происходит с уроками, учащимися и семьями, вместо того чтобы полагаться только на догадки.

• Раннее выявление проблем: проблемы можно заметить и быстро устранить, прежде чем они перерастут в нечто большее.

• Фокус на идее: вместо того чтобы тратить всю энергию на ручной контроль и постоянное «тушение пожаров», мы можем сосредоточиться на развитии концепции, философии и долгосрочного пути для учащихся.

В DigiCore ещё многое можно улучшить. Система не завершена и будет продолжать меняться и расти. Но уже сейчас эта автоматизация помогает DigiCore сохранять самое важное: качество образования, идею, лежащую в основе центра, и веру в то, что он строит настоящее будущее для молодых инженеров.

Мы всегда сталкивались с проблемой: как сообщить широкому сообществу EC о новейших продуктах, разработанных, созданных и произведённых в EC.

Мы поняли, что кафетерий — это место, где большинство инженеров собираются ежедневно, так почему бы не сделать кафетерий новостной площадкой EC.

На фотографии ниже видно, как недавно произведённый «бортовой регистратор данных» от YEA Engineering был выставлен в центре кафетерия во время обеда.

И вы удивитесь, узнав, что благодаря этой выставке появилось два потенциальных клиента.

Армянский язык, в отличие, например, от английского и русского, ведёт последовательную борьбу за самоочищение, стараясь создать для каждого иностранного слова равноценные армянские варианты.

Ани Макинян, руководитель кафедры армянского языка и литературы «Лицея Ширакаци»

Иностранные словаАрмянские эквиваленты