Искусственный интеллект против COVID-19: решения на базе UP Xtreme и AI Core X.
Часть 1

Опубликовано в номере:
PDF версия
В статье рассматриваются одноплатные компьютеры линейки UP Xtreme [1, 2], их функционал и возможности, а также прикладные решения, уже реализованные или разрабатываемые на их основе. Статья может быть полезна разработчикам прикладных решений AI EDGE, системным интеграторам и конечным пользователям.

Завершая 2019 г., компания AAEON [3], мировой лидер в области создания и производства встраиваемых интеллектуальных решений для промышленной автоматизации и систем AIoT, представила вниманию разработчиков и системных интеграторов свою новинку — линейку компьютеров UP Xtreme, компактных высокопроизводительных малопотребляющих одноплатных компьютеров на основе процессоров WHL-U 8-го поколения Intel Core i7/i5/i3/Celeron SoC (ранее Whiskey Lake). Это уже пятая, наиболее производительная модель в массовой линейке одноплатников UP BOARD, демонстрирующая впечатляющие возможности по сопряжению с уже имеющимися платами расширения UP series линейки UP AI EDGE и акселераторами нейронной сети серии AI Core X [4]. Разработка оказалась не только удачной, но и своевременной. Сегодня именно на ее основе создано и внедрено наибольшее количество прикладных интеллектуальных решений для обеспечения карантинных мероприятий, в том числе успевших проявить себя во время борьбы с COVID-19 в Китае.

 

Линейка одноплатных компьютеров UP Xtreme

UP — это бренд, основанный подразделением AAEON Technology Europe в 2015 г. Команда UP стремится внедрять инновации в технологии, бизнес-модели и интегрированные решения. Благодаря своей гибкости команда UP сотрудничает с лидерами различных вертикальных рынков, предлагая интегрированные решения и создавая большое онлайн-сообщество для тесного сотрудничества с разработчиками.

Как уже отмечалось, одноплатники UP Xtreme являются самой производительной линейкой продуктов в популярной серии одноплатных компьютеров промышленного класса UP BOARD. Это уже третье поколение продуктов, выпускаемое AAEON как в виде компактных встраиваемых плат, так и в термокомпенсирующих прочных корпусах с различными платами расширения на борту. Универсальный и компактный UP Xtreme (122×120 мм) поддерживает встраивание до шести процессорных ядер акселераторов нейронной сети Intel Movidius Myriad X VPU непосредственно на плату и легко интегрируется в любое промышленное приложение.

Одноплатники UP Xtreme (рис. 1) отличаются друг от друга моделью используемого процессора и объемами памяти, смонтированной непосредственно на плате.

Одноплатный компьютер UP Xtreme

Рис. 1. Одноплатный компьютер UP Xtreme

На всех платах UP Xtreme имеется по два 10-контактных разъема RS-232/422/485, четыре разъема USB 3.2 (Gen 2), 10-контактный разъем USB 2.0/HSUART (TTL) и два разъема RJ-45 портов Ethernet на базе чипов Intel i210/i211 (по умолчанию i210) и i219LM PHY, поддерживающих реагирующую на изменения входящего и исходящего трафика промышленную технологию сети TSN (Time Sensitive Networking — технология промышленной сети, чувствительной ко времени обмена), соответствующую группе стандартов, подготовленных рабочей группой IEEE 802.1, и повышающую устойчивость и оперативность обмена как в используемом подключении, так и в локальной промышленной сети в целом, позволяя синхронизировать входящие в сеть устройства и обрабатывая их сообщения в режиме реального времени. Подобный функционал оптимизации текущего обмена актуален в ответственных приложениях с замкнутым контуром, таких как управление скоростным движением, или в приложениях безопасности.

С выпуском UP Xtreme у разработчиков и конечных пользователей появилось мощное решение для создания высокоинтегрированных процессорных платформ промышленного класса, скоординированно функционирующих распределенных роботизированных комплексов и интеллектуальных приложений IoT, действующих по единому взаимоувязанному сценарию. Предыдущие четыре модели линейки одноплатников UP BOARD позволяли создавать лишь роботизированные приложения разной степени автономности, функционирующие с сетью и без сети.

Теперь, используя возможности линейки UP Xtreme, некая промышленная сеть (или фрагмент такой сети) может оптимальным образом функционировать детерминировано, прежде всего в части синхронизации входящих в нее устройств, осуществляя оперативный обмен между ними в режиме реального времени. При этом остаточная рассинхронизация будет составлять не более 2 мс, а циркулирующий в сети трафик минимизироваться при необходимости до оптимальных величин.

Возможности расширения и сопряжения одноплатника UP Xtreme:

  • 2×RJ-45 Ethernet-коннектора (1×Intel i210/i211(Default i210), 1×i219LM PHY);
  • 1×HDMI/DP STACK-коннектор (Display Port Stack);
  • 1×USB 3.2 STACK-коннектор для двух портов (Front);
  • 1×USB 3.2 STACK-коннектор для двух портов (Rear);
  • 1×кнопка включения/LED;
  • 1×аудиоразъем Audio Jack (Line out + MIC);
  • 1×DC-коннектор (фиксируемый);
  • 1×STM32 40 pin коннектор;
  • 1×eDP с поддержкой Backlight control;
  • 1×10 pin 1×0/1×HSUART (TTL);
  • 1×SATA-коннектор с выделенными пинами питания (5 В, GND);
  • 1×4-pin коннектор вентилятора (Fan connector);
  • 1×контакты Power Button;
  • 1×контакты кнопки Reset;
  • 1×разъем M.2 2230 E Key;
  • 1×разъем2 2280 B+M Key;
  • 1×коннектор 40 pin HAT;
  • 1×mPCIe-слот;
  • 2×10 pin RS-232/422/485-контакты;
  • 1×100 pin UPCP-коннектор расширения (Docking 2).

Оперативная память — до 16 Гбайт двухканальная DDR4 (размещена непосредственно на плате решения).

Основная память для размещения ПО и хранения данных — 64 Гбайт eMMC (размещено непосредственно на плате решения).

Дополнительная поддерживаемая память для размещения ПО и хранения данных — 3×SATA3 (6 Гбит/с):

  • 1×SATA стандартный коннектор с дополнительным разъемом питания (5 В, GND);
  • 1×2 2280. Опция подключения накопителя SATA 2280 (автоопределение);
  • 1× Опция для миникарты mSATA (автоопределение).

Интерфейсы для подключения дисплеев:

  • 1×0;
  • 1×2;
  • 1×eDP;
  • 1×CEC поддерживается через STM32 поверх HDMI.

Поддерживаемые ОС:

  • Windows 10;
  • Linux Ubuntu 18.04 с ядром 5.0;
  • Linux Yocto 2.7 с ядром 4.19.

Для питания решения может быть использован достаточно широкий диапазон входных напряжений постоянного тока в интервале 12– 60 В (±5%) через блокируемый разъем постоянного тока, при общей потребляемой мощности порядка 15 Вт (TDP, без учета плат расширения).

Порядок и характер внутреннего взаимодействия процессорного ядра, функциональных узлов и периферии одноплатника UP Xtreme показан на его структурной схеме, приведенной на рис. 2.

Структурная схема одноплатника UP Xtreme

Рис. 2. Структурная схема одноплатника UP Xtreme

Линейка UP Xtreme имеет встроенную непосредственно на основную плату оперативную память DDR4 емкостью до 16 Гбайт (имеются версии 4/8/16 Гбайт) и 64 Гбайт памяти eMMC. В большинстве случаев этого более чем достаточно для поддержания работы фактически любого промышленного приложения.

Благодаря новейшему встроенному графическому решению Intel Graphics, GEN 9 (UHD graphics 620) одноплатник UP Xtreme способен выводить видео с разрешением до 4K через порты HDMI 2.0 (с поддержкой CEC-Client и STM32), DP1.2 и eDP и в любой из имеющихся комплектаций имеет встроенный аудиоразъем (линейный выход + микрофон через аппаратную поддержку аудиодрайвера ALC887 от Realtek, разработанного специально для 64-битных операционных систем).

В настоящее время одноплатники UP Xtreme уверенно занимают нишу одного из самых востребованных решений в сложных интеллектуальных приложениях. Новые информационные подборки по возможностям различных модификаций компьютеров этой линейки и вариантам их практического использования в самых различных прикладных разработках появляются на сайтах производителя практически еженедельно.

Одноплатники UP Xtreme имеют пять модификаций и (под заказ) могут использовать процессоры Intel моделей Celeron 4305UE, Core I3-8145UE, Core I5-8365UE и Core i7-8665UE. Они комплектуются памятью RAM объемом 4, 8, 16 Гбайт и памятью eMMC для хранения ПО и данных объемом 64 Гбайт. Адаптер для питания одноплатников от сети приобретается отдельно и имеет напряжение на выходе в интервале 12–60 В.

 

Возможности расширения одноплатника UP Xtreme

Платы расширения позволяют адаптировать одноплатники к тем или иным пользовательским применениям, добавляя в их возможности необходимый функционал. Примерно в 70–80% наиболее интересных и/или перспективных нишевых приложений может понадобиться та или иная плата расширения. Опциональное, взвешенное и безызбыточное использование плат расширения позволяет оптимизировать затраты на реализацию решения.

UP Xtreme предоставляет обширные и гибкие возможности расширения как со стандартным 40-контактным разъемом GP HAT и типовым 100-контактным разъемом док-станции, спецификации которого разработаны специально для одноплатников линейки UP BOARD, так и со слотами M.2 2230 (E-ключ) и M.2 2280 (B + M-ключ) и слотом mPCIe (рис. 3). Для подсоединения внешних хранилищ данных предусмотрены три различные возможности подключения накопителей SATA 6,0 Гбит/с. Фактически с появлением UP Xtreme на рынке стал доступным продукт, имеющий максимальные возможности по его адаптации под решаемые задачи.

Основные возможности расширения одноплатника UP Xtreme

Рис. 3. Основные возможности расширения одноплатника UP Xtreme

В той или иной мере UP Xtreme совместим со всеми платами расширения линейки UP BOARD, включая прямую совместимость с акселераторами нейронной сети AI Core X, AI Core XM 2280 и Vision Plus X, каждый из которых оснащен одним или несколькими процессорными ядрами Intel Movidius Myriad X и может использоваться самостоятельно и/или комплексно для вывода AI (табл.). При этом акселератор нейронной сети тоже плата расширения, правда, с необычным функционалом (здесь акцент сделан на функциональное расширение).

Таблица. Семейство акселераторов AI CORE X series, рекомендованных для совместного использования с одноплатником UP Xtreme

Акселераторы AI CORE X series

AI CORE X

AI CORE XM 2280

 AI Vision Plus X

VPU (тип акселератора Myriad X SoCs)

Intel Movidius Myriad X 2485

Intel Movidius Myriad X 2485

Intel Movidius Myriad X 2485

Количество VPU

1

2

3

Форм-фактор

mPCIe

M.2 2280 B+M key

Credit card-sized board

Размеры

51×30 мм

22×80 мм

90×56,5 мм

Поддерживаемые разработческие платформы

Caffe, TensorFlow

Caffe, TensorFlow

Caffe, TensorFlow

Минимальная память
на несущей плате

4 Гбайт, LPDDR4

4 Гбайт, LPDDR4

4 Гбайт, LPDDR4

Термический фактор

Радиатор без вентилятора

Радиатор с активным вентилятором

Радиатор с активным вентилятором

Другое

GPIO reset

GPIO reset

GPIO reset

Базовый одноплатник

UP Core, UP Squared, UP Xtreme

PICO-KBU4, PICO-APL4 и PICO-APL3, UP Xtreme

UP Core Plus, UP Xtreme

Системные требования

Компьютер x86_64, работающий под управлением Ubuntu 16.04, 4 Гбайт оперативной памяти, свободный слот расширения

Программные средства

Intel Movidius Neural Stick SDK & Neural Compute SDK Documentation (NCS SDK), инструментарий OpenVINO

При одновременной установке всех перечисленных модулей UP Xtreme поддерживает до шести чипов Intel Movidius Myriad X, обеспечивая высокопроизводительную обработку в современных индустриальных приложениях AI (рис. 4).

Возможности и варианты установки акселераторов линейки AI Core X непосредственно на плате UP Xtreme

Рис. 4. Возможности и варианты установки акселераторов линейки AI Core X непосредственно на плате UP Xtreme

Но если с самого начала разработки планируется запустить мультинейронную сеть на UP Xtreme на базе линейки AI Core X, то перед установкой акселератора в создаваемое решение нужно получить доступ к корректному распределению вычислительной мощности между процессорами, графическими процессорами и чипами VPU с помощью программного инструментария (фреймворка) Intel Distribution of OpenVINO toolkit, воспользовавшись ссылкой на веб-сайт OpenVINO (https://software.intel.com/en-us/openvino-toolkit).

После установки OpenVINO акселераторы нейронной сети AI Core X работают без каких-либо ограничений и не требуют дополнительных драйверов или программ для установки.

Важно отметить: UP Xtreme — оптимальная платформа для подбора решения и для последующей работы с несколькими VPU. Это своего рода отладочный тренажер. Более того, на старте всегда можно начать свой проект с этим одноплатником и без использования VPU, а затем по мере необходимости добавлять различные платы расширения (в том числе и с чипами VPU) для пошаговой оптимизации требований к итоговой конфигурации оборудования и получения его оптимальной себестоимости.

В частности, возможность подбора числа чипов Movidius на борту под нужную потребителю мощность AI — это более чем актуальная необходимость! Акселераторы нейронной сети самые дорогие из плат расширения, а при любой, даже самой небольшой тиражности решения выигрыш по затратам уже на старте (до получения скидок на объемы закупаемых комплектующих) может снизить затраты на 30–50%.

Использование нескольких чипов Myriad X существенно повышает быстродействие системы и ее возможности. При этом оптимальная память на борту одноплатника должна быть не менее 8 Гбайт RAM + 64G eMMC. Также должна быть обеспечена предварительная загрузка инициирующего изображения Ubuntu и платформ OpenVINO и Intel System Studio, поддерживающих эффективное взаимодействие с обрабатывающими изображения акселераторами Intel Movidius.

Чип Myriad X оснащен совершенно новым специально разработанным аппаратным ускорителем Neural Compute Engine, предназначенным для значительного повышения производительности глубоких нейронных сетей без ущерба для характеристик низкого энергопотребления линейки продуктов Myriad VPU.

Чипы Intel Movidius Myriad X способны выполнять до 4 трлн операций/с (TOPS). Благодаря этому линейка UP AI Core X series обеспечивает высокую производительность современных приложений компьютерного зрения и искусственного интеллекта при сверхнизком энергопотреблении (до нескольких ватт) и быстрое прототипирование и развертывание нейронных сетей в форматах Caffe и Tensorflow. Основанные на новом чипе, акселераторы дают примерно 10-кратное увеличение производительности в сравнении с предыдущим поколением VPU (речь о чипе Movidius Myriad 2, использованном в плате акселератора AI Core).

Чип Myriad X имеет аппаратную поддержку кодирования 4K-видео со скоростью до 60 fps и поддерживает подключение до восьми видеопотоков от камер высокой четкости, подключаемых непосредственно к VPU и работающих с частотой до 180 Гц по 16 линиям MIPI. Видеопотоки обрабатывают 16 векторных 128-битных процессоров VLIW (Very Long Instruction Word).

Разработческие платформы для работы с акселераторами серии UP AI CORE X поддерживают различные сценарии применения. Например, такие как розничная торговля (платформа разрабатывается в партнерстве с AIM2) или безопасность (платформа разрабатывается в партнерстве с Cortexica). Для приложений робототехники у команды UP есть партнеры, занимающиеся сенсорами и симуляторами. Если проект предусматривает современные подходы к автоматизации, производитель может предложить партнеров в области программного обеспечения, работающего в реальном времени, в том числе и с промышленным оборудованием. Если цель — искусственный интеллект, можно получить программное обеспечение для создания прикладных решений в этой области и облачных партнеров, чтобы добиться максимальной производительности и эффективности функционирования систем «на краю».

Все программное обеспечение и процессы проверки доступны в UP WiKi. Устранение неполадок представлено на открытом форуме на UP Community, там же доступны для загрузки обновляемые версии технических описаний [5].

Помимо этого, одноплатник UP Xtreme может быть дополнен беспроводными модулями для инкапсулирования в разрабатываемое решение функционалов Wi-Fi, Bluetooth, LoRa, 3G и LTE.

Для подключения беспроводных функционалов, хранилища данных и/или плат расширения самого различного назначения существует широкий спектр модулей в форм-факторах M.2 2230, M.2 2280 и mPCIe.

Более того, основной процессор одноплатника имеет 16 высокочастотных конфигурируемых входов/выходов (PCI-E/USB 3.0/SATA). И создатели UP Xtreme использовали и (тем или иным способом) вывели все из них, чтобы гарантировать максимальное удобство и функциональность нового решения для разработчиков и пользователей.

Установка платы расширения UP Net Plus на плате UP Xtreme

Рис. 5. Установка платы расширения UP Net Plus на плате UP Xtreme

Рекомендуемое применение разъемов расширения UP Xtreme:

  • mPCIe — используется для связи 4G, высокопроизводительных ускорителей глубокого обучения (семейство UP AI Core X на базе Intel Movidius Myriad X) или любых других расширений mPCIe;
  • 100-контактная высокоскоростная шина с несколькими линиями PCI-e предназначена для расширения плат-носителей UP AI Edge (платы, разработанные для одноплатника UP Core Plus). Прежде всего, для подключения расширений — платы UP Net Plus (с 4×Gbit LAN-портами Intel 211/210) или акселератора UP AI Vision Plus X (3×Myriad X) (рис. 5);
  • 40-контактное расширение ввода/вывода HAT на базе Intel Altera MAX 5, созданное с одинаковой разводкой для плат UP и UP Squared — например, плата расширения UP-POE HAT (рис. 6), — обеспечивает совместимость со всеми расширениями этих одноплатников. 40 контактные разъемы ввода/вывода для Raspberry Pi HAT — функционально и попиново аналогичны, поэтому большинство плат расширения этого популярного одноплатника также будут работать на UP Xtreme без проблем и без внесения каких-либо аппаратных изменений. Каждый из контактов HAT имеет двойную функциональность — стандартный режим ввода/вывода GPIO и функциональный режим. При первоначальном включении платы UP Xtreme все контакты сконфигурированы по умолчанию в функциональном режиме, но это можно изменить в меню BIOS.
Установка плат расширения Wi-Fi & Bluetooth и UP-POE HAT на плате UP Xtreme

Рис. 6. Установка плат расширения Wi-Fi & Bluetooth и UP-POE HAT на плате UP Xtreme

UP Net Plus — плата-носитель с четырьмя портами Ethernet, реализованными на основе раздельных чипов i210/i211, тогда как Vision Plus X — это плата-носитель с тремя акселераторами нейронной сети Myriad X на борту и разъемом mPCIe и SIM-холдером.

Явный акцент на расширяемость UP Xtreme предоставляет разработчикам и пользователям большой выбор среди уже имеющихся на рынке плат и модулей расширения под конкретные потребности. Также специалисты могут воспользоваться преимуществами существующих и создаваемых плат расширения из семейства UP.

Несмотря на то, что различными производителями уже разработано множество разнообразных плат расширения, инженеры все же имеют возможность, следуя рекомендациям по проектированию, конструировать оригинальную несущую плату, оптимально и полно соответствующую функциональному назначению.

Примечание: существующие платы расширения для UP Core Plus могут быть недоступны в части использования некоторых сигналов в одноплатнике UP Xtreme, поэтому необходимо проверить имеющиеся таблицы поддерживаемых функций.

Возможность управлять обучаемыми решениями «на краю», ближе к данным — без поддержки облака (то есть без подключения к сети) — уменьшает барьеры для разработки, настройки и развертывания приложений машинного обучения. «Умные» объекты становятся действительно «умными», а не просто клиентами, подключенными к облачным сервисам, поддерживающим алгоритмы машинного обучения и работающим в мощных удаленных центрах обработки данных.

Продолжение следует

Литература
  1. Техническое описание и руководство пользователя одноплатного компьютера UP Xtreme.
  2. Материалы обзорно-консультационного вебинара по одноплатнику UP Xtreme от AAEON.
  3. aaeon.com.
  4. Стукало С. Н. Акселераторы нейронной сети серии UP AI CORE X на базе Intel Movidius от компании AAEON // Control Engineering. 2019. №3.
  5. Материалы сообщества OPEN COMMUNITY, открытого форума сообщества и энциклопедии UP WiKi. up-community.org/

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *