Программирование, 2022, № 6, стр. 54-58

1. ВВЕДЕНИЕ

Хеширование применяется в самых разнообразных областях использования информационных технологий: в базах данных для ускорения поиска по ключу, в криптосистемах, в высокоуровневых языках программирования для реализации разнообразных структур данных и алгоритмов и пр. [1]. В информационной безопасности хеширование становится краеугольным камнем таких задач, как: хранение паролей, создание уникальных криптографических ключей и электронной цифровой подписи, аудит подлинности и целостности документов в ПК. Хеширование и в настоящее время остается достаточно популярной и востребованной областью информационных технологий, а благодаря достижениям в индустрии микротранзисторов и ростом вычислительных мощностей появилась возможность модификации и возможного улучшения алгоритмов хеширования. С ростом общего объема визуальной информации, передаваемой по сети, возросла необходимость в эффективном хранении и поиске изображений в больших базах данных. Для решения данных проблем идеально подходит хеширование изображений с сохранением их семантических признаков. Данная область научного исследования сравнительно молода и развивается всего на протяжении последних десяти лет, поэтому требует дальнейших усовершенствований и модификаций используемых алгоритмов.

2. СРАВНИТЕЛЬНЫЙ АНАЛИЗ ГЛУБОКИХ МЕТОДОВ ХЕШИРОВАНИЯ ИЗОБРАЖЕНИЙ

Подробный сравнительный анализ эффективности применения традиционных методов машинного обучения и сверочных нейронных сетей для решения задачи семантического хеширования представлен в работах [2] и [3]. В таблице 1 представлена в порядке возрастания точность методов глубокого хеширования с 12/16, 32 и 48‑битными хеш-значениями. Стоит отметить, что несмотря на высокую точность предложенных в работах [2] и [3] моделях и эффективность алгоритма глубокого иерархического поиска, данные модели предъявляют высокие требования к вычислительным ресурсам обучаемой машины, а это нежелательный фактор при необходимости переобучения использованной модели под конкретные технические спецификации. Также некоторые из рассмотренных моделей дают большую погрешность в извлечении похожих картинок по хеш-кодам.

Как видно, наиболее эффективным является метод глубокого обучения на бинарных хеш-значениях, в связи с чем можно определить следующие требования к искомому хеш-значению для изображения:

– сохранение максимально возможного количества информации из входного изображения;

– минимальные потери информации из входного изображения при извлечении главных признаков;

– инвариантность относительно афинных преобразований [4] и аугментации входных данных [5];

– равномерное распределение битов хеш-значения для увеличения полезной информации.

3. ПРЕДВАРИТЕЛЬНОЕ ОБУЧЕНИЕ НЕЙРОННОЙ СЕТИ НА ТРЕНИРОВОЧНЫХ ДАННЫХ

Для реализации сверточной нейронной сети была выбрана архитектура AlexNet, поскольку не требует больших вычислительных ресурсов для обучения или переобучения сети на пользовательском наборе изображений.

На рис. 1 подробно представлена структура модели. Данная модель была предобучена на базе данных ImageNet, предназначенной для отработки и тестирования методов распознавания образов и машинного зрения. Следует отметить, что модель была модифицирована для выполнения поставленной задачи.

Рис. 1.

Порядок слоев в модифицированной модели AlexNet.

Модель включает в себя пять сверточных слоев, предназначенных для минимизации размерности входного изображения, и три полносвязных слоя, которые занимаются собственной классификацией. Был добавлен еще один слой между седьмым и восьмым полносвязными слоями, задачей которого является обучение хешированию изображений. Данный слой принимает на вход семантические признаки изображения, полученные на предыдущем слое и затем вычисляет хеш-значения изображения.

4. НАСТРОЙКА И ОБУЧЕНИЕ НЕЙРОННОЙ СЕТИ

Для обучения хеширующего слоя используется погрешность сверточной нейронной сети по классификации изображений. Также, для данной нейронной сети специально была подобрана функция потерь:

Третье слагаемое данной функции служит для бинаризации выходов хеширующего слоя для составления хеш-значения. Четвертое слагаемое предназначается для равномерного распределения битов хеш-значения, чтобы оно переносило максимально возможное количество информации из входного изображения. Также, для обучения нейронной сети был использован метод регуляризации “drop-out” для уменьшения вычислительной сложности и пакетная нормализация.

Обучение СНС происходило традиционным образом с помощью градиентного спуска [6]. Схема алгоритма обучения нейронной сети представлена на рис. 2. На схеме алгоритма обучения можно видеть, что в каждой итерации (эпохе) обучения нейронная сеть выполняет прямой проход, в котором вычисляет значения функций активации для каждого слоя и сохраняет состояния весовых коэффициентов и параметров сдвига, а затем выполняет обратный проход, в котором вычисляет значения производных функций активации. С помощью полученных значений производных нейронная сеть корректирует значения весовых коэффициентов на каждом слое, тем самым минимизируя функцию ошибки.

Рис. 2.

Схема алгоритма обучения нейронной сети.

Недавние исследования [7], [8] и [9] показали, что значения функций активации последних слоев нейронной сети могут служить визуальным дескриптором входного изображения. Использование таких визуальных дескрипторов демонстрирует впечатляющие результаты для задач классификации изображений, поиска и других задач компьютерного зрения. Однако такие визуальные дескрипторы многомерны и требуют больших вычислительных ресурсозатрат. В данной работе предлагается наряду с использованием СНС для извлечения семантических признаков изображения использовать дополнительный скрытый слой, задачей обучения которого будет аппроксимация хеш-функции для заданного вектора семантических признаков.

Чтобы облегчить эффективный поиск изображений, используется практичный способ преобразования результатов функций активации в двоичные коды. Такие двоичные компактные коды могут быть использованы для хеширования, а затем, для вычисления расстояния Хэмминга [10]. В данной работе предлагается наряду с использованием СНС для извлечения семантических признаков изображения использовать дополнительный скрытый слой, задачей обучения которого будет аппроксимация хеш-функции для заданного вектора семантических признаков. Обучение скрытого слоя для вычисления хеш-значения будет происходить благодаря имеющимся помеченным тренировочным данным и минимизации функции потерь от погрешности работы СНС. Структура скрытого слоя показана на рис. 3. На данном рисунке видно, что скрытый слой нейронной сети имеет параметры (17, 50, 8). Это означает, что данный слой использует для вычисления двоичных кодов 17 входных семантических признаков, 50 скрытых нейронов и 8 выходных нейронов, значения функции активации которых используются для составления хеш-значения. Указанные выше параметры скрытого слоя нейронной сети являются компромиссом между требуемой точностью извлечения изображений из базы данных и вычислительными ресурсами обучаемой машины.

Рис. 3.

Структура скрытого слоя СНС для вычисления хеш-значения изображения.

Настройки модели СНС сохраняются в специальном proto-файле, структура которого представлена на рис. 4. Лаконичность такого формата позволяет эффективно создавать и сохранять новые архитектуры СНС.

Рис. 4.

Архитектура СНС для хеширования изображений.

5. ИЗВЛЕЧЕНИЕ ИЗОБРАЖЕНИЙ С ПОМОЩЬЮ ПРЕДЛОЖЕННОГО АЛГОРИТМА ИЕРАРХИЧЕСКОГО ГЛУБОКОГО ПОИСКА

Поиск изображения на основе его хеш-значения основан на алгоритме нахождения приблизительных ближайших соседей. Схему алгоритма поиска можно увидеть на рис. 5.

Рис. 5.

Схема алгоритма вычисления хеш-значения для изображения на основании вектора его семантических признаков.

Извлечение изображения из базы данных происходит в несколько этапов:

– получение списка кандидатов с помощью алгоритма приблизительного ближайшего соседа;

– определение наилучших кандидатов с помощью минимизации расстояния Хэмминга между векторами главных признаков изображений; ‒ сортировка списка наилучших кандидатов в порядке возрастания расстояния Хэмминга.

На основании исследований, проведенных в работах [11], [12] и [13] был сделан вывод о том, что расстояние Хэмминга – оптимальная характеристика определения похожих изображений. Поэтому минимальное расстояние Хэмминга между хеш-значениями изображений указывает на то, что должны быть похожи при условии корректной работы СНС и метода извлечения главных признаков изображения.

6. ВЫВОДЫ

В настоящей работе было проведено алгоритмическое конструирование программного средства хеширования изображений. Также были рассмотрены следующие алгоритмы:

– бинаризация входных данных;

– инициализация нейронной сети;

– обучение нейронной сети;

– извлечение хеш-значения для входного изображения на основе его главных признаков;

– поиск изображения на основе его хеш-значения.

На основании результатов данной работы будет реализовано программное конструирование программного средства хеширования изображений.