Программирование, 2019, № 1, стр. 15-21

1. ВВЕДЕНИЕ

На сегодняшний день по-прежнему наблюдается рост производительности вычислительных устройств, как предназначенных для решения конкретных задач, так и общего назначения. Однако решаемые задачи также усложняются, и к вычислительным устройствам предъявляются новые требования. Часто современные алгоритмы должны работать в режиме жестких временных ограничений, как, например, в случае обнаружения объектов в режиме реального времени [1, 2].

Таким образом, задача оценки и оптимизации быстродействия приложений при наличии ограничений времени работы приобретает большое практическое значение. К таким приложениям относятся и системы массового ввода документов [3, 4]. Для подобных систем время работы является крайне важным параметром, поскольку зачастую они являются частью некоторой системы массового обслуживания, и время распознавания оказывает прямое влияние на эффективность всей системы.

Одним из методов повышения быстродействия является использование программируемых логических интегральных схем для реализации всей системы или отдельных ее модулей [5, 6], однако это довольно сложный и трудоемкий процесс, подходящий для создания программно-аппаратных платформ. Поэтому немало работ посвящено повышению быстродействия отдельных алгоритмов и методов на платформах общего назначения, например, на мобильных устройствах [7–9]. В этом случае для оптимизации могут использоваться свойства конкретной платформы, такие, как наличие SIMD-расширений или нескольких ядер, и другие особенности архитектуры вычислителя.

Данная работа посвящена оценке максимального быстродействия системы массового ввода документов Smart IDReader на VLIW-архитектуре на примере платформы Эльбрус. Одним из этапов такой оценки является оптимизация системы с учетом особенностей данной вычислительной архитектуры.

2. АРХИТЕКТУРА ЭЛЬБРУС

Архитектура Эльбрус относится к архитектурам, использующим принцип широкого командного слова (Very Long Instruction Word, VLIW). При генерации исполняемого кода для процессоров с VLIW-архитектурой компилятор формирует последовательности групп команд (широкие командные слова), в которых отсутствуют зависимости между командами внутри каждой группы и сведены к минимуму зависимости между командами в разных группах. При исполнении команды каждой группы запускаются параллельно, что обеспечивает высокий уровень параллелизма на уровне команд [10]. Такое распараллеливание на уровне команд целиком обеспечивается оптимизирующим компилятором, разработанном с учетом особенностей конкретной архитектуры. В случае с архитектурой Эльбрус, это оптимизирующий компилятор lcc.

Другой особенностью процессоров архитектуры Эльбрус являются методы работы с памятью. Помимо наличия кэша, позволяющего оптимизировать время доступа в память, ими поддерживаются методы предварительной подкачки данных, которые позволяют прогнозировать обращения в память и производить подкачку данных в кэш или другое специальное устройство за некоторое время до их использования. Процессоры архитектуры Эльбрус поддерживают программно-аппаратный метод подкачки. Это означает, что аппаратная часть микропроцессора включает в себя специальное устройство для обращения к массивам (Array Access Unit, AAU), в то время как необходимость подкачки определяется компилятором, генерирующим специальные инструкции для AAU. Использование устройства подкачки эффективнее помещения элементов массива в кэш, поскольку элементы массивов чаще всего обрабатываются последовательно и редко используются более одного раза [11]. Однако необходимо отметить, что использование буфера предварительной подкачки на Эльбрусе возможно только при работе с выровненными данными. За счет этого чтение/запись выровненных данных происходят заметно быстрее, чем соответствующие операции для невыровненных данных.

Также микропроцессоры Эльбрус поддерживают несколько видов параллелизма помимо параллелизма на уровне команд: векторный параллелизм [12], параллелизм потоков управления, параллелизм задач в многомашинном комплексе.

3. СИСТЕМА РАСПОЗНАВАНИЯ ДОКУМЕНТОВ

Система распознавания документов должна обеспечивать последовательность выполнения следующих этапов обработки изображения и нескольких изображений документа в видеопоследовательности:

1. Оценка качества входного изображения, обработка и нормализация изображения [13–15].

2. Поиск документа на изображении: данный этап включает в себя алгоритмы на основе анализа локальных особенностей изображений и модифицированного детектора Виолы и Джонса [16, 17].

3. Определение конкретного типа документа на изображении [18, 19].

4. Поиск отдельных полей документа. Это могут быть как поля, содержащие текстовую информация, так и фотография или подпись [20, 21].

5. Сегментация и распознавание текстовых полей, выполняемые с помощью алгоритмов динамического программирования и оптимизированных нейронных сетей [22–26] и аналогичных методов распознавания символов [27, 28].

6. Обработка полученной информации: уточнение результатов распознавания [29–31]. Объединение результатов распознавания нескольких кадров с учетом их качества [32, 33] в случае распознавания видеопоследовательностей.

Все эти этапы реализуются в рамках системы распознавания Smart IDReader [34, 35]. Эта система позволяет распознавать документы, удостоверяющие личность, на различных платформах. Доступные режимы распознавания позволяют извлекать данные держателя документа из последовательности кадров видеоролика, цифровых фото или отсканированных изображений документов.

Очевидно, что общее время работы системы зависит от времени работы каждого этапа. В свою очередь, например, время поиска документа зависит от положения документа на изображении и того, насколько он повернут. Определение типа документа также может занимать разное время при разном возможном числе типов. Поэтому в данной работе для оценки производительности распознающей системы использовалось общее время распознавания, т.е. суммарное время работы всех модулей системы.

Система Smart IDReader может работать в клиентском и серверном режимах. Клиентский режим предполагает, что система работает на устройстве конечного пользователя, который выполняет сканирование, фото- или видеосъемку документа и затем запускает распознавание полученных изображений на своем устройстве. При этом такое устройство может обладать весьма ограниченной вычислительной мощностью. Поэтому в клиентском режиме распознавание изображений нескольких разных документов выполняется последовательно. При этом в рамках каждого отдельного запуска распознавания некоторые части системы были распараллелены.

Серверный режим предполагает, что система работает на многоядерном устройстве достаточно большой вычислительной мощностью, на котором можно параллельно запустить несколько независимых процессов распознавания документов. В таком режиме система полностью загружает устройство и демонстрирует максимальную производительность.

4. СПОСОБЫ ПОВЫШЕНИЯ БЫСТРОДЕЙСТВИЯ РАСПОЗНАВАНИЯ НА ПЛАТФОРМЕ ЭЛЬБРУС

В нашей работе использовались две технологии для повышения быстродействия распознающей системы: распараллеливание вычислений и реализация функций низкоуровневой обработки изображений с помощью интринсиков.

Распараллеливание вычислений выполнялось на максимально доступное число потоков при помощи библиотеки tbb. Для этого использовались стандартные методы из библиотеки tbb, такие как parallel_for, позволяющий распараллелить цикл for, и task_group, позволяющий создать набор из нескольких независимых задач, которые затем могут исполняться параллельно.

Были распараллелены этапы поиска документа на изображении (на основе алгоритма Виолы и Джонса), определения конкретного типа документа на изображении (при помощи сравнения документа с шаблоном с помощью расширенного алгоритма RANSAC), поиска текстовых полей (выполняется независимо в каждой из частей документа), а также сегментации и распознавания текстовых полей на основе нейронных сетей. В случае алгоритма Виолы и Джонса и метода определения типа документа удалось выполнить распараллеливание циклов, поскольку действия на каждой итерации цикла независимы. Поиск текстовых полей также выполняется независимо в каждой из частей документа, и может быть легко распараллелен. Сегментация и распознавание символов работают для каждого найденного поля независимо и также были распараллелены стандартными методами библиотеки tbb.

Интринсики – функции, вызовы которых заменяются компилятором на высокоэффективный код для данной платформы. С помощью интринсиков разработчики могут использовать векторный параллелизм: выполнять одну и ту же операцию над одним регистром, содержащим сразу несколько элементов данных. Микропроцессоры Эльбрус-4С и Эльбрус-8С поддерживают набор интринсиков, для которого размер регистра составляет 64 бита. Он включает в себя операции для преобразования данных, инициализации элементов вектора, арифметических операций, побитовых логических операций, перестановки элементов вектора и др. Кроме того, для процессоров Эльбрус доступна библиотека EML, содержащая эффективные реализации основных функций обработки данных.

При использовании интринсиков на платформе Эльбрус следует уделять особое внимание доступу в память, поскольку в задачах обработки изображений часто требуется невыровненное чтение данных в 64-битном регистре. Такое чтение само по себе неэффективно, так как требует пары команд чтения и последующей команды формирования блока данных, но, что еще важнее, при этом не может использоваться буфер подкачки массивов, повышающий скорость доступа к данным на платформе Эльбрус. Таким образом, низкоуровневую обработку данных, например, числовых массивов, следует выполнять в несколько этапов: обработка начальной части (до границы выравнивания на 64-бита), обработка основной части, использующая выровненный доступ к памяти, и обработка оставшихся элементов массива. Поскольку анализ указателей во время компиляции является нетривиальной задачей, можно использовать флаг компилятора – faligned, с которым все операции доступа к памяти выполняются выровненным образом.

Следующая особенность использования интринсиков на платформе Эльбрус связана непосредственно с VLIW-архитектурой. Благодаря наличию нескольких арифметико-логических устройств (АЛУ), которые работают параллельно и загружаются при формировании широких командных слов, несколько команд могут исполняться одновременно. Процессоры Эльбрус-4С и Эльбрус-8С содержат шесть АЛУ, которые можно задействовать в рамках одной широкой команды, однако каждое АЛУ поддерживает свой набор интринсиков. Простые операции, например, сложение или умножение элементов в 64-битных регистрах, как правило, поддерживаются двумя АЛУ. Это означает, что процессор Эльбрус может исполнить по две таких инструкции за один такт. Для этого в исполняемом коде следует использовать развертывание циклов. Компилятор lcc поддерживает программу $\# $pragma unroll(n), которая позволяет выполнить развертывание n итераций цикла.

Таким образом, для эффективного использования интринсиков на платформе Эльбрус необходимо:

• обеспечить выровненный доступ в память;

• обеспечить использование всех доступных АЛУ путем развертывания циклов.

В нашей работе с помощью функций EML и интринсиков был реализован ряд операций, применяемых при низкоуровневой обработке изображений и распознавании образов:

• арифметические операции под отдельными пикселями изображения;

• масштабирование изображения;

• транспонирование изображения;

• поворот изображения;

• фильтрация изображения;

• умножение и сложение матриц вещественных чисел.

5. ЭКСПЕРИМЕНТАЛЬНАЯ ОЦЕНКА ПРОИЗВОДИТЕЛЬНОСТИ РАСПОЗНАЮЩЕЙ СИСТЕМЫ

Рассмотренная система распознавания документов была скомпилирована из исходного кода с помощью lcc [36] версии 1.21.19 и работала в нативном режиме. Распараллеливание выполнялось на максимально доступное число потоков при помощи библиотеки tbb [37]. Библиотека tbb является кроссплатформенной и была собрана lcc из исходного кода для процессоров семейства Эльбрус.

Далее распознающая система была запущена на пяти различных машинах с процессорами Эльбрус:

1. Эльбрус 101-PC,

2. Эльбрус 401-PC,

3. Эльбрус-4.4,

4. Эльбрус 801-PC,

5. Эльбрус-8.4.

Основные характеристики тестируемых устрой-ств приведены в таблице 1.

Была проведена экспериментальная оценка рассмотренных методов повышения быстродействия, а именно, проведены замеры среднего времени распознавания одного изображения, содержащего произвольным образом повернутый паспорт РФ, до и после использования данных методов. Это время не включало время загрузки изображения и файлов конфигурации из памяти. Усреднение выполнялось по набору из 800 изображений. Результаты приведены в таблице 2. Можно видеть, что оптимизация позволила повысить быстродействие системы в 5.3 раза, причем распараллеливание дало ускорение в 2.4 раза, а использование интринсиков – еще в 2.2 раза. Несмотря на то, что Эльбрус-401PC содержит 4 вычислительных ядра, не все части вычислительной системы были распараллелены, поэтому результирующее ускорение не достигло 4. Интринсики также существенно помогли повысить быстродействие, однако далеко не все операции были ускорены с их помощью. Тем не менее, было получено ускорение в 2.2 раза.

Для оценки производительности всей распознающей системы использовалось среднее время распознавания одного изображения, содержащего произвольным образом повернутый документ заранее известного типа. Это время не включало время загрузки изображения и файлов конфигурации из памяти. Для документа каждого типа усреднение выполнялось по набору данных из 800 изображений.

В данной работе были рассмотрены 6 различных типов документов:

• паспорт РФ;

• биометрический паспорт РФ;

• водительское удостоверение (ВУ) РФ;

• водительское удостоверение (ВУ) Великобритании;

• немецкие идентификационные карты;

• листок нетрудоспособности.

В таблице 3 приведено среднее время распознавания документов каждого типа в режимах клиентского и серверного распознавания. Время распознавания на одноядерной машине Эльбрус-101PC составило 2.3 – 7.6 с для разных документов, поскольку они значительно различаются по объему распознаваемой информации. На остальных тестируемых устройствах время распознавания всех документов, кроме листка нетрудоспособности, не превышает 2 с в клиентском режиме и 1.8 с в серверном режиме. Можно видеть, что в клиентском режиме распознавание больше, чем в 4 потока, не дает значительного прироста производительности на всех документах, кроме листка нетрудоспособности. Этот результат связан со свойствами документов: в паспорте распознается 12 текстовых полей, а в водительском удостоверении и идентификационных картах – 7. В таких условиях распараллеленной оказывается не такая большая часть алгоритма распознавания. Листок нетрудоспособности содержит значительно больше полей, поэтому ускорение между 401-РС и Эльбрус-4.4 и 801-РС и Эльбрус-8.4 заметнее. Также стоит отметить, что 101-PC с одним ядром работает всего вдвое медленнее, чем 401 PC, поскольку в рассмотренном 101-РС стоит процессор Эльбрус-1С+ с обновленной микроархитектурой, поддерживающий исполнение до 25 операций за такт и работающий на частоте 950 МГц, а в рассмотренном 401-РС – Эльбрус-4С предыдущей версии.

В серверном режиме запускается несколько независимых процессов распознавания документов. Каждый вызов распознавания распараллелен так же, как и в предыдущем эксперименте, однако здесь время обработки включало время загрузки изображения из файла. Такой режим обеспечивает полную загрузку ядер процессора и позволяет более реалистично оценить производительность соответствующих устройств.

Результаты экспериментов показали, что серверные модули на основе процессоров Эльбрус демонстрируют ускорение в 3–4 раза за счет параллелизма на уровне задач. При этом сервер Эльбрус-4.4 на 20–30% мощнее рабочей станции Эльбрус 801-РС. В свою очередь 801-PC практически в 3 раза быстрее своего предшественника 401-РС за счет повышения тактовой частоты и значительного усовершенствования архитектуры. Для Эльбрус-4.4 и Эльбрус 8.4 это соотношение сохранилось.

6. ЗАКЛЮЧЕНИЕ

Результаты проведенных экспериментальных исследований подтвердили работоспособность системы распознавания Smart IDReader на широком наборе вычислительных устройств с процессорами Эльбрус. Было показано, что процессор нового поколения Эльбрус-8С практически в 3 раза превышает по производительности Эльбрус-4С применительно к рассмотренной системе распознавания. Вычислительная мощность серверов на основе процессоров Эльбрус также практически в 4 раза превышает мощность рабочих станций за счет наличия большего числа процессорных ядер.

В работе было использовано основное преимущество VLIW-архитектур, – высокая степень параллелизма за счет широких командных слов, – наличие SIMD-расширения и параллелизм на уровне задач. В результате удалось добиться снижения времени распознавания в 5 раз, благодаря чему стало возможно применять систему Smart IDReader на практике, что и было показано на примере задач распознавания различных документов.