Автор: Команда Ши Вэйсуна (Чжан Синчжоу, Ван Ифань, Чжан Цинян)
Инновационная модель вычислений приводит к модернизации технологий, и быстрое развитие передовых вычислений также выигрывает от прогресса технологий. В этом разделе кратко излагаются семь основных технологий, способствующих развитию периферийных вычислений, включая сеть, технологию изоляции, архитектуру, операционную систему edge, структуру выполнения алгоритмов, платформу обработки данных, безопасность и конфиденциальность.
1. сеть
Пограничные вычисления перемещают вычисления в место, близкое к источнику данных, или даже развертывают все вычисления на узлах на пути передачи от источника данных в центр облачных вычислений. Такое развертывание вычислений выдвигает три новых требования к существующей структуре сети:
1) Обнаружение службы. В пограничных вычислениях из-за динамического характера запросов на вычислительные услуги то, как запрашивающие вычислительные услуги знают об окружающих их службах, будет основной проблемой в пограничных вычислениях на сетевом уровне. Традиционный механизм обнаружения служб, основанный на DNS, в основном имеет дело с ситуацией статического обслуживания или медленного изменения адреса службы. При изменении службы DNS-серверам обычно требуется определенное время для этого. Завершение синхронизации служб доменных имен вызовет определенное дрожание сети в течение этого периода, поэтому оно не подходит для крупномасштабных сценариев динамических периферийных вычислений.
2) Быстрая настройка. В пограничных вычислениях из-за динамического увеличения числа пользователей и вычислительных устройств, таких как интеллектуальное сетевое соединение, а также динамическая регистрация и отзыв вычислительных устройств из-за пользовательских коммутаторов, обычно требуется перенос служб, что приведет к большому количеству пакетного сетевого трафика. В отличие от центров облачных вычислений, сети глобальной сети более сложны, и пропускная способность может быть ограничена. Поэтому вопрос о том, как поддерживать быструю настройку служб на уровне устройств, является основной проблемой в пограничных вычислениях.
3) Балансировка нагрузки. В пограничных вычислениях пограничные устройства генерируют много данных, а пограничные серверы предоставляют множество услуг. Поэтому, в зависимости от пограничных серверов и условий сети, основной проблемой в пограничных вычислениях будет то, как динамически планировать передачу этих данных соответствующим поставщикам вычислительных услуг.
Для решения вышеперечисленных трех проблем одним из простейших методов является развертывание всех вычислительных служб на всех промежуточных узлах. Однако это приведет к значительной избыточности, а также выдвинет более высокие требования к периферийным вычислительным устройствам. Поэтому мы берем в качестве примера “построение вычислительного пути от края до облака”. Первое, с чем мы сталкиваемся, – это поиск сервисов для завершения создания вычислительного пути. Именованная сеть передачи данных (NDN) – это сеть передачи данных, которая сочетает в себе P2P с централизацией имен и адресов данных и услуг. Установление вычислительных связей, в определенной степени, также является установлением связи данных, то есть данные должны передаваться из источника в облако. Поэтому И внедряется в пограничные вычисления, с помощью которых устанавливается именование вычислительных услуг и коррелируется поток данных, таким образом, проблема обнаружения услуг в вычислительных каналах может быть хорошо решена.
С развитием передовых вычислений, особенно в случае мобильных пользователей, таких как автомобильные сети, миграция вычислительных услуг происходит чаще, чем миграция, основанная на облачных вычислениях. В то же время это также приведет к миграции большого количества данных, что обеспечит динамичный спрос на сетевом уровне. Программно-определяемые сети (SDN), созданные в 2006 году в рамках проекта “Чистый лист” Стэнфордского университета, финансируемого проектом GENI, представляют собой программируемую сеть с разделением плоскостей управления и данных и простым управлением сетью. Благодаря разделению плоскостей управления и передачи данных сетевые менеджеры могут быстрее настраивать маршрутизаторы и коммутаторы и сокращать количество маршрутизаторов и коммутаторов. Сетевое дрожание может поддерживать быструю миграцию трафика, поэтому оно может хорошо поддерживать миграцию вычислительных услуг и данных. В то же время в сочетании с NDN и SDN сеть и ее сервисы могут быть хорошо организованы и управляться, так что создание вычислительных каналов и управление ими могут быть
2. Технология изоляции
Технология изоляции-это исследовательская технология для поддержки надежного развития передовых вычислений. Эффективная технология изоляции необходима для обеспечения надежности и качества обслуживания периферийных устройств. Технология изоляции должна учитывать два аспекта:
1) Изоляция вычислительных ресурсов, т. е. приложения не могут мешать друг другу;
2) Изоляция данных, то есть разные приложения должны иметь разные права доступа.
В сценариях облачных вычислений сбой приложения может привести к нестабильности всей системы и серьезным последствиям, в то время как в периферийных вычислениях эта ситуация становится более сложной. Например, в операционной системе автопилота необходимо поддерживать бортовые развлечения для удовлетворения потребностей пользователей, одновременно выполняя задачи автопилота для удовлетворения потребностей в вождении самого автомобиля, в это время, например, задача бортовых развлечений мешает задаче автоматического вождения или влияет на производительность всей операционной системы, что приведет к серьезным последствиям и прямым потерям для безопасности жизни и имущества. Технология изоляции также должна учитывать права доступа сторонних программ к данным о конфиденциальности пользователей. Например, бортовым развлекательным программам не следует разрешать доступ к данным шины управления транспортным средством. В вычислительных сценариях для обеспечения изоляции ресурсов используются виртуальная машина виртуальной машины и технология контейнеров Docker. Край
Технология Docker, которая широко используется на облачной платформе, может работать в изолированной среде на основе виртуализации уровня 0S. Драйвер хранилища Docker использует иерархическую структуру изображений в контейнере, которая позволяет быстро упаковывать и распространять приложения в виде контейнера, обеспечивая тем самым изоляцию между приложениями. Ли и др. установил эффективное переключение служб на основе миграции докеров. Для снижения затрат на передачу данных, включая файловую систему, образ двоичной памяти и контрольную точку, предлагается эффективная стратегия миграции контейнеров, подходящая для периферийных вычислений, с использованием поддержки иерархической файловой системы Docker. Ха и др. предложили технологию переключения виртуальных машин для реализации миграции вычислительных задач виртуальных машин, поддержки быстрого и прозрачного размещения ресурсов и обеспечения быстрого и прозрачного размещения виртуальной машины. Этот многофункциональный примитив также обеспечивает функцию динамической миграции и оптимизирует край. Эта изоляция на основе виртуальных машин
3. Архитектура
Будь то традиционный сценарий вычислений, такой как высокопроизводительные вычисления, или новый сценарий вычислений, такой как периферийные вычисления, будущей архитектурой должно быть сосуществование процессоров общего назначения и гетерогенного вычислительного оборудования. Гетерогенное аппаратное обеспечение жертвует частью общей вычислительной мощности, сокращает время выполнения одного или нескольких типов нагрузок за счет использования выделенных блоков ускорения и значительно повышает коэффициент производительности. Платформы периферийных вычислений обычно предназначены для определенного типа вычислительных сценариев, и типы нагрузки относительно фиксированы. Поэтому существует множество передовых работ по разработке архитектуры периферийных вычислительных платформ для конкретных вычислительных сценариев.
Шидяннао впервые предложил разместить процессор искусственного интеллекта рядом с датчиком изображения, и процессор может считывать данные непосредственно с датчика, чтобы избежать энергопотребления, вызванного доступом к данным изображения в DRAM. В то же время, разделяя веса сверточных нейронных сетей (CNN), модель может быть полностью помещена в SRAM, чтобы избежать весов данных в DRA. EIE: Эффективный механизм рассуждений для разреженных нейронных сетей, который повышает энергоэффективность разреженных нейронных сетей в мобильных устройствах за счет распараллеливания разреженных матриц и совместного использования весов. Phi-Стек предложил граничные вычисления. Искусственный интеллект на месте-это автоматическая инкрементная вычислительная платформа и архитектура для приложений углубленного обучения в сценариях Интернета вещей. Он выбирает режим вычисления минимального перемещения данных посредством диагностики данных и будет достигать глубины задач глубокого обучения за счет параллельной обработки с гетерогенной многоядерной структурой для PhiPU, предназначенной для
Структурное проектирование вычислительной системы для периферийных вычислений все еще является развивающейся областью, и все еще предстоит решить множество проблем, таких как эффективное управление гетерогенным оборудованием для периферийных вычислений, справедливая и всесторонняя оценка структуры системы и т.д. Семинар: Arch Edge для архитектуры пограничных вычислений был впервые создан на Третьей конференции по пограничным вычислениям (СЕК 2 018). Поощрять академические и промышленные круги к обсуждению и обмену мнениями в этой области.
4. Операционная система Edge
Операционная система Edge computing должна управлять разнородными вычислительными ресурсами в меньшем объеме и обрабатывать большое количество разнородных данных и нагрузку на многоцелевые приложения в большем объеме. Он должен отвечать за развертывание, планирование и миграцию сложных вычислительных задач на периферийных вычислительных узлах, чтобы обеспечить надежность вычислительных задач и максимальное использование ресурсов. В отличие от традиционных операционных систем реального времени и бесплатных приложений на устройствах Интернета вещей, операционная система Edge computing, как правило, управляет данными, вычислительными задачами и вычислительными ресурсами.
Операционная система робота (ROS) изначально была разработана для управления передачей сообщений в гетерогенных роботизированных кластерах. Теперь он постепенно превратился в инструмент с открытым исходным кодом для разработки и управления роботами. Он предоставляет ряд инструментов, таких как аппаратная абстракция и драйвер, стандарт передачи сообщений, управление пакетами программного обеспечения и т.д. Он широко используется в промышленных роботах, автоматических транспортных средствах, т. е. беспилотных летательных аппаратах. Сценарий Вычислений. Чтобы решить проблемы с производительностью в ROS, сообщество запустило ROS 2.0 в 2015 году. Его суть заключается в внедрении службы распределения данных (DDS) для решения проблемы зависимости производительности ROS от главного узла. DDS предоставляет механизм общей памяти для повышения эффективности связи между узлами. EdgeOSH-это пограничная операционная система, предназначенная для “умного дома”, которая развертывается в главном узле. В пограничном шлюзе home верхнее приложение и нижнее оборудование для умного дома абстрактно соединены через три
В соответствии с текущей исследовательской ситуацией операционная система на базе ROS и ROS может стать типичной операционной системой для сценариев периферийных вычислений, но ее все еще необходимо оценить и проверить путем развертывания в различных реальных сценариях вычислений.
5. Структура Алгоритмического Выполнения
С быстрым развитием искусственного интеллекта периферийным устройствам необходимо выполнять все больше и больше интеллектуальных алгоритмических задач, таких как домашние голосовые помощники, которые должны понимать естественный язык, интеллектуальные транспортные средства, которые должны обнаруживать и распознавать уличные цели, ручные устройства перевода, которые должны переводить голосовую информацию в режиме реального времени, и т.д. В центре внимания исследований находится то, чтобы аппаратные устройства лучше выполняли интеллектуальные задачи, представленные алгоритмами глубокого обучения, и это также является необходимым условием для реализации передового интеллекта. Разработка эффективной структуры выполнения алгоритмов для сценариев граничных вычислений является важным методом. В настоящее время существует множество фреймворков выполнения, разработанных для характеристик алгоритмов машинного обучения, таких как TensorFloE, выпущенный Google в 2016 году. Но эти платформы больше работают в облачных центрах обработки данных, и их нельзя напрямую применять к периферийным устройствам. Как показано в таблице 2, существует большая разница между облачными центрами обработки данных и
В 2017 году Google выпустила TensorFlow Lite, облегченное решение для мобильных устройств и встраиваемых устройств, которое уменьшает задержку и помогает в выполнении прогнозных задач за счет оптимизации ядра мобильных приложений, предварительной активации и количественной оценки ядра. Caffe2-это более продвинутая версия Caffe. Это облегченная платформа выполнения, которая добавляет поддержку мобильных терминалов. Кроме того, основные платформы выполнения алгоритмов машинного обучения, такие как Pitch и Vmxnet, также начинают обеспечивать развертывание на периферийных устройствах.
Чжан и др. сравнили и проанализировали производительность TensorFlow, Caffe2, MXNet, PyTorch и TensorFlow Lite на различных периферийных устройствах (MacBook Pro, Intel FogNode, NVIDIA Jetson TX2, Raspberry Pi 3 Model B+, Huawfi Nexus 6P) с точки зрения задержки, объема памяти и энергоэффективности. Наконец, было установлено, что ни одна структура не может обеспечить наилучшую производительность во всех измерениях. Таким образом, пространство для повышения производительности в рамках реализации относительно велико. Очень важно провести исследование по созданию облегченной, эффективной и масштабируемой платформы реализации алгоритма пограничного устройства, что также является важным шагом для реализации пограничного интеллекта.
6. Платформа Обработки Данных
В сценариях пограничных вычислений пограничные устройства генерируют огромные объемы данных в любое время. Источники и типы данных разнообразны. Эти данные включают данные временных рядов, собранные датчиками окружающей среды, данные изображений и видео, собранные камерами, данные облака точек, собранные лидаром в транспортных средствах, и так далее. Большинство данных имеют временные и пространственные атрибуты. Очень важно создать платформу для управления, анализа и обмена данными edge.
На примере интеллектуального сетевого взаимодействия между транспортными средствами автомобиль постепенно превратился в мобильную вычислительную платформу, было разработано все больше и больше приложений для транспортных средств, а также появилось больше различных типов данных о транспортных средствах. Openldap, предложенный Чжаном и др. это открытая платформа для анализа автомобильных данных. Как показано на рисунке 3 ниже, Open VDAP разделен на четыре части: гетерогенная вычислительная платформа (VCU), операционная система (EdgeOSv), сборщик данных управления (DDI) и библиотека приложений (libvdap). Платформа может быть установлена и развернута для автомобилей, чтобы завершить расчет бортовых приложений и реализовать транспортное средство и облако, транспортное средство и транспортное средство. Связь между транспортным средством и придорожным вычислительным блоком гарантирует качество обслуживания и удобство использования бортовых приложений. Таким образом, как эффективно управлять данными, предоставлять услуги анализа данных и обеспечивать определенный пользовательский интерфейс в различных сценариях приложений edge
Хотя пограничные вычисления приближают вычисления к пользователю, они позволяют избежать загрузки данных в облако и снижают вероятность утечки данных о конфиденциальности. Однако по сравнению с центрами облачных вычислений периферийные вычислительные устройства обычно расположены рядом с пользователем или на пути передачи и имеют более высокий потенциал для вторжения злоумышленников. Поэтому безопасность самих периферийных вычислительных узлов по-прежнему остается проблемой, которую нельзя игнорировать. Распределенные и гетерогенные периферийные вычислительные узлы также затрудняют единообразное управление ими, что приводит к ряду новых проблем. Как вычислительный режим информационной системы, пограничные вычисления также имеют общие проблемы безопасности в информационной системе, включая безопасность приложений, сетевую безопасность, информационную безопасность и безопасность системы.
В среде периферийных вычислений для защиты все еще могут использоваться традиционные схемы безопасности, такие как защита информационной безопасности с помощью криптографических схем и защита доступа ultra vires с помощью стратегий контроля доступа. Однако следует отметить, что традиционные схемы необходимо модифицировать для адаптации к среде периферийных вычислений. В то же время в последние годы некоторые новые технологии безопасности (такие как аппаратная среда доверенного выполнения) могут использоваться в периферийных вычислениях для повышения безопасности периферийных вычислений. Кроме того, использование машинного обучения для повышения безопасности системы также является хорошим решением.
Доверенная среда выполнения (TEE) относится к надежной, изолированной и независимой среде выполнения на устройстве, не зависящем от ненадежной операционной системы, которая обеспечивает безопасное и конфиденциальное пространство для личных данных и конфиденциальных вычислений в ненадежной среде. Безопасность TEE обычно гарантируется аппаратными механизмами, связанными с оборудованием. Общие деревья включают расширение защиты программного обеспечения Intel, механизм управления Intel, режим управления системой x86 И технологию шифрования памяти, процессор безопасности платформы AMD и технологию ARM TrustZone. Запустив приложение в доверенной среде выполнения и зашифровав и расшифровав используемое внешнее хранилище, приложение пограничного вычислительного узла все еще может обеспечить безопасность приложения и данных при повреждении пограничного вычислительного узла.
Дополнительная информация, все в сообществе маргинальных вычислений!