Приборы и техника эксперимента, 2019, № 3, стр. 17-24

ВВЕДЕНИЕ

Оптическая когерентная томография (о.к.т.) – это способ визуализации внутренней структуры оптически мутных сред [1]. Чаще всего о.к.т. используется в биомедицинских исследованиях для получения изображения томографических срезов приповерхностных тканей живого организма (in vivo). Физический принцип о.к.т. основывается на интерферометрическом приеме оптического сигнала, который рассеивается внутри исследуемого объекта в обратном направлении относительно направления зондирующего излучения.

Для зондирования используется непрерывное низкокогерентное оптическое излучение в ближнем инфракрасном диапазоне (длина волны в диапазоне ~800–1300 нм). Таким образом, о.к.т. можно определить как способ измерения пространственного распределения коэффициента обратного рассеяния инфракрасного излучения внутри исследуемого объекта. Метод о.к.т. отличается высоким пространственным разрешением (до нескольких микрометров) и считается неинвазивным за счет низкой мощности зондирующего излучения.

Принято различать корреляционный (time domain) и спектральный (spectral domain) методы о.к.т. Первые практические воплощения систем о.к.т. основывались на корреляционном методе [1]. Он заключается в том, что принимаемый сигнал имеет ненулевое значение только в случае совпадения (с точностью до длины когерентности зондирующего излучения) разности длин оптических путей в опорном и предметном плечах используемого интерферометра. Таким образом, селекция по глубине в корреляционном методе осуществляется за счет механического изменения длины опорного плеча. Сканирование по двум другим ортогональным координатам осуществляется механическим перемещением излучающих, отражающих или фокусирующих элементов системы.

Спектральный метод о.к.т. осуществляется за счет регистрации спектра суммарного поля опорной волны и волны, рассеянной неоднородностями исследуемого объекта в обратном направлении относительно направления зондирующего излучения [2]. Основным преимуществом спектрального метода над корреляционным является на порядки большая достигаемая скорость за счет отсутствия необходимости механического сканирования по координате, направленной внутрь исследуемого объекта. Поэтому именно спектральные системы получили в настоящее время наибольшее распространение.

В подавляющем большинстве случаев системы о.к.т. являются аппаратно-программными комплексами, в которых функцию управления, обработки и визуализации исполняет стандартный персональный компьютер, работающий под управлением операционной системы общего назначения. Рассматриваемые в данной статье системы о.к.т. построены по тому же принципу. Они предназначены для биомедицинских лабораторных и клинических исследований внутренней структуры наружных тканей, слизистых оболочек и серозных покровов внутренних органов in vivo.

Эта задача определяет ряд особенностей и специфических требований, предъявляемых к данным системам о.к.т. К таким требованиям относятся сравнительная компактность и транспортабельность системы. Также необходимо обеспечение соответствия стандартам безопасности, а это предполагает комплекс свойств, обеспечивающий надежность, электробезопасность, электромагнитную совместимость, стерилизуемость и дезинфицируемость, соблюдение установленных пределов мощности облучения и прочее.

Специфика использования рассматриваемых систем о.к.т. такова, что изменения взаимного расположения исследуемой ткани и зонда, т.е. основные манипуляции, контролируются пользователем исходя из текущего о.к.т.-изображения. Другими словами, данные системы должны обеспечивать получение в реальном времени достоверной информации о микромасштабной структуре исследуемого объекта, а также нацеливание зонда в условиях физиологических движений биоткани. Поэтому для решения поставленной задачи высокое быстродействие системы является критически важным.

В данной статье показан способ организации параллельных вычислительных процедур, которые осуществляются персональным компьютером, работающим в составе спектральной системы о.к.т. Эти процедуры предназначены для синтеза и визуализации изображения внутренней структуры исследуемого объекта в реальном времени. Они осуществляются параллельно и асинхронно с процедурами сбора данных и управления системой о.к.т. Для реализации описываемых методов используется вычислительная мощность современных многоядерных центральных процессоров настольного или мобильного типа.

СТРУКТУРА ПРИБОРА

Структурная схема приборов, которые относятся к рассматриваемому семейству спектральных о.к.т.-систем, приведена на рис. 1. Применяемая оптическая схема использует тандемный принцип построения интерферометра (common path optical scheme) [3]. В качестве основного измерительного устройства здесь применен интерферометр Физо. Интерферометрический сигнал в нем образован суммой излучения, рассеянного в исследуемом объекте, и излучения, которое отражается от торца оптоволокна. Дополнительный интерферометр Майкельсона корректирует начальное положение измерительной базы для того, чтобы в нее не попали элементы сканирующей и фокусирующей системы.

Эта тандемная оптоволоконная схема применяется в системах, предназначенных для исследования наружных биотканей, а также для эндоскопических систем. Однако в эндоскопических системах отсутствует сканирующее зеркало. В этом случае сканирование в поперечном направлении осуществляется отклонением конца оптоволокна при помощи миниатюрной электромагнитной системы [4].

Интерференционный сигнал раскладывается на спектральные компоненты при помощи дифракционной решетки и регистрируется линейкой InGaAs-фотоэлементов. В настоящее время мы используем линейки двух типов. Для эндоскопических систем и для большинства систем исследования наружных биотканей используется в интерферометре линейка SU512LD производства фирмы Sensors Unlimited, которая состоит из 512 элементов и позволяет реализовать скорость опроса >20 000 A-сканов/с. Для решения задач, требующих лучшего пространственного разрешения и большей скорости сбора данных, применяется линейка SU1024LC, состоящая из 1024 элементов и обладающая скоростью опроса >91 000 A-сканов/с.

В рассматриваемых спектральных системах о.к.т. со спектрометрами на базе SU512LD для связи с персональным компьютером применяется модуль сбора данных и управления [5], использующий интерфейс USB 2.0. В этом случае скорость непрерывного потока данных в процессе работы системы превышает 10⁷ отсчетов/с.

Для систем с линейками SU1024LC применяется интерфейс USB 3.0 на базе соответствующей специализированной системы управления и сбора данных [6]. При этом скорость цифрового потока составляет 188.2 Мбайт/c.

Выбор USB в качестве интерфейса связи с персональным компьютером обусловлен описанной выше спецификой использования рассматриваемых аппаратно-программных комплексов. Как правило, компьютеры, сертифицированные для использования в условиях операционной и устойчивые к многократным процедурам дезинфекции, не предполагают установки встраиваемых интерфейсных плат. Кроме того, использование интерфейса USB предоставляет выбор из очень широкой номенклатуры компактных и мобильных вычислительных систем.

ОСНОВНЫЕ ВЫЧИСЛИТЕЛЬНЫЕ ПРОЦЕДУРЫ

Недостатком спектрального метода о.к.т. считается большое количество факторов, вызывающих возникновение разнообразных артефактов в искомом изображении внутренней структуры исследуемого объекта. Как следствие, возникает необходимость большого количества сложных математических преобразований, призванных компенсировать влияние этих факторов.

Основным математическим преобразованием, необходимым для получения искомого результата в спектральной о.к.т., является преобразование Фурье данных, которые зарегистрированы линейкой спектрометра. Таким образом предполагается получать распределение оптических неоднородностей из текущей точки поперечного сканирования внутрь исследуемого объекта. Так формируется вертикальный столбец двумерного изображения, которое является томографическим срезом исследуемой ткани. Это изображение принято называть B-сканом, а его столбцы – A-сканами.

Спектрометр регистрирует спектр мощности интерференционного сигнала как последовательность целых чисел. Результат фурье-преобразования таких данных имеет эрмитов фурье-образ. Это приводит к тому, что получаемый результат симметричен относительно нулевой разности длин оптических путей. При этом не представляется возможным отличить сигнал интерференции с положительной и отрицательной разностью хода между опорной и рассеянной волнами.

Чтобы избежать этого, в оптическую схему дополнительного интерферометра Майкельсона включен модулятор (рис. 1). Фазовая модуляция интерферометрического сигнала позволяет при помощи математической обработки трансформировать набор спектров мощности (для соседних A-сканов) в комплексные спектры (спектры амплитуды и фазы) [7].

Еще одним фактором, который искажает искомый результат, являются автокорреляции в опорной и рассеянной волне, вызванные неравномерностью спектра источника и наличием паразитных переотражений в оптической схеме. Когерентные помехи данного типа можно устранить математическим умножением комплексных значений спектральных компонент на поправочные коэффициенты, учитывающие неравномерность спектра источника [8].

Кроме того, наличие явления материальной дисперсии приводит к увеличению ширины отклика от рассеивателей в искомых данных. Другими словами, при этом ухудшается эффективное продольное разрешение пропорционально глубине. Для компенсации влияния материальной дисперсии применяется перемножение комплексных значений спектра с корректирующими комплексными коэффициентами. Данные коэффициенты вычисляются заранее, исходя из обработки экспериментальных данных, полученных от объекта с двумя резкими границами [9].

Призма-компенсатор, которая применена в конструкции спектрометра, призвана сформировать распределение спектральных компонент интерференционного сигнала эквидистантно по волновому числу. Однако в случае достаточно широкого спектра зондирующего сигнала эта оптическая компенсация выполняется только частично. Для окончательного устранения влияния неэквидистантности отсчетов в качестве основного преобразования Фурье следует применять специализированное преобразование Фурье по неэквидистантным отсчетам [10]. В этом случае специализированная матрица преобразования может быть также вычислена заранее по результатам отражения от двух резких границ [9].

На конечном этапе значения модуля полученных комплексных данных следует прологарифмировать, и результат готов в качестве визуализируемого B-скана.

АСИНХРОННЫЙ СБОР ДАННЫХ

Применяемые схемные решения [5, 6] в совокупности с описанной выше спецификой задачи позволяют сформулировать ряд особых требований к программно-алгоритмическому обеспечению рассматриваемых систем о.к.т.

Необходимо, чтобы сбор данных и управление осуществлялись асинхронно и параллельно вычислительным процедурам синтеза B-сканов, описанным выше. При этом показатель загрузки любого из используемых потоков центрального процессора во время сбора данных никогда не должен достигать 100%.

Эти требования, в основном, являются следствием использования интерфейса USB. Проблема в том, что на низком уровне обмен данными по USB-интерфейсу осуществляется мелкими порциями и на каждую транзакцию центральный процессор, так или иначе, задействуется. Кроме того, используемая средняя скорость потока данных близка к предельной пропускной способности USB-канала. Поэтому не имеет смысла увеличивать аппаратную буферизацию. Непрерывность потока это не гарантирует.

Во время работы пользователь должен быть обеспечен в реальном времени наглядной информацией о результатах своих манипуляций. Поэтому время, затрачиваемое на вычислительные процедуры синтеза очередного B-скана, не должно превышать период следования соответствующих исходных данных в их непрерывном потоке. Кроме того, процедуры синтеза B-сканов, визуализации и сохранения на диск не должны нарушать целостность потока данных, получаемого за счет нормального функционирования USB-драйвера при его работе в условиях операционной системы общего назначения. При этом согласно общей концепции задачи необходимо стремиться к минимизации требуемых вычислительных ресурсов.

Для реализации этого программное обеспечение построено таким образом, что после начала и до конца сканирования сбор данных осуществляется непрерывно внутри одной асинхронной процедуры. Под “асинхронной” здесь понимается такая процедура, которая передает управление следующей за ней процедуре сразу после своего старта и задолго до своего завершения. В отличие от этого, “синхронной” называется процедура, которая не передает управление следующей до своего завершения.

Упрощенная блок-схема сбора данных, применяемая для рассматриваемых систем о.к.т., представлена на рис. 2. По готовности очередной порции данных, принятых через USB, они помещаются либо в первый, либо во второй буфер, соответствующие четному и нечетному B-скану. По заполнении соответствующего буфера запускается его параллельная асинхронная обработка. Соответствующие вычислительные потоки создаются заранее и находятся в приостановленном состоянии. И соответствующая команда в цикле сбора данных возобновляет их работу. Для реализации этого используется свойство многозадачности современных операционных систем и многоядерность современных процессоров.

МЕТОД ПАРАЛЛЕЛЬНЫХ ВЫЧИСЛЕНИЙ С МНОГОКРАТНОЙ СИНХРОНИЗАЦИЕЙ

На ранних этапах развития о.к.т. при использовании корреляционных методов не было большой проблемы в обеспечении скорости обработки данных, так как корреляционный метод, аппаратно, выдает практически готовый результат. В компьютере, чаще всего, использовался синхронный сбор данных с последующей визуализацией и сохранением. С развитием спектральных методов проблемы того, что они требуют большого количества сложных вычислений, до сих пор в большинстве случаев решаются либо экстенсивным путем, либо методом постобработки.

Под экстенсивным путем понимается то, что в этом случае для обеспечения работы в реальном времени применяются мощные вычислительные станции с серверной архитектурой или вычислительные модули на базе графических процессоров. Кроме того, большой класс задач о.к.т. не требует визуализации в реальном времени. В этом случае в реальном времени происходит только сбор и сохранение данных спектрометра для последующей обработки. Но в нашем случае это неприемлемо.

Следует отметить, что рассматриваемая в данной статье задача визуализации в реальном времени может быть достаточно эффективно решена при использовании вычислительной мощности одного графического процессора в составе дискретной видеокарты среднего пользовательского класса. Но в данной статье рассматривается ситуация, когда такое оборудование использовать невозможно или нецелесообразно. Такая ситуация, например, возникает при использовании системы в ходе хирургической операции. В этом случае необходим компьютер, который сертифицирован для такого применения, а такие компьютеры дискретной графикой не обладают. Кроме того, в них отсутствует принудительное воздушное охлаждение (вентиляторы) для исключения засасывания внутрь корпуса частиц пыли и влаги. Так пытаются избежать лишних проблем с обеззараживанием. Поэтому такие компьютеры обладают сильно ограниченной вычислительной мощностью, а это еще более актуализирует улучшение эффективности вычислительных методов.

Для решения задачи визуализации непрерывного потока B-сканов в реальном времени, на базе центрального процессора настольной или мобильной архитектуры была применена методика параллельных вычислений с многократной взаимной синхронизацией. Она необходима во многих случаях, когда вычислительные процедуры предполагают разбиение на несколько последовательных этапов, если каждый последующий этап зависит от результатов предыдущего.

Общая концепция данной методики проиллюстрирована на рис. 3. Она заключается в том, что изначально создается несколько (N) приостановленных вычислительных потоков по числу логических процессоров, доступных для обработки текущей порции данных (в случае о.к.т. – текущего B-скана). Каждый из этих потоков будет выполняться в отдельном логическом процессоре. Эти потоки выполняют одну и ту же процедуру, показанную на рис. 3. Кроме того, отдельно создается вычислительный поток, предназначенный для визуализации и сохранения результатов (рис. 4).

Для большинства томографических задач на одном или нескольких этапах количество вычислительных процедур M, доступных для параллельного выполнения, превышает число доступных логических процессоров N (в случае использования центрального процессора настольного или мобильного типа). Поэтому одной из особенностей предложенного метода (рис. 3) является способ организации основных циклов обработки (циклы обозначены на блок-схеме как “Шаг на N”). Внутри этих циклов исполняется процедура “Блок вычислений n”, доступная для параллельного выполнения на данном этапе. На языке C/C++ организация такого цикла может быть записана как

где P – номер текущего вычислительного потока (или номер используемого логического процессора) от 0 до N–1.

Таким образом, одновременно исполняется N вычислительных процедур, доступных для параллельного выполнения из M процедур, доступных для параллельного выполнения на данном этапе. Другой особенностью предложенного метода (рис. 3) являются организация взаимной синхронизации вычислительных потоков. По завершению вышеописанного цикла в каждом из N вычислительных потоков активизируется соответствующее “событие” – “Сообщение готовности”. После этого в каждом из N вычислительных потоков запускается процедура ожидания активации всех N таких событий – “Ожидание общей готовности”.

Работу данного метода параллельных вычислений можно пояснить на примере решения следующей задачи. Предположим, что для текущей обработки необходимо совершить двумерное преобразование Фурье двумерного массива данных размером C на D. Пусть в нашем распоряжении есть синхронная процедура одномерного преобразования Фурье. В этом случае число синхронизаций K = 2.

При этом “Блок вычислений 1” – это будет одномерное преобразование Фурье для строки массива данных. Оно будет выполняться D/N раз в каждом из N параллельных потоков. “Ожидание общей готовности 1” будет продолжаться до тех пор, пока не будет завершено, в общей сложности, D преобразований. Далее выполняется цикл, содержащий “Блок вычислений 2”. Это будут одномерные преобразования Фурье столбцов двумерного массива результатов предыдущих действий. Этот цикл будет состоять из C/N шагов в каждом из N потоков. После соответствующего ожидания готовности запускается асинхронный поток визуализации.

Если усложнить задачу и сделать умножение на массив коэффициентов в “спектральной” области c последующим обратным двумерным преобразованием Фурье, то для этого случая K = 3. На втором этапе нужно будет дополнительно совершить умножение и обратное преобразование столбцов, а на третьем этапе – обратное преобразование строк и т.д.

В простейшем случае обработки B-скана, для рассматриваемой спектральной системы о.к.т., минимальное необходимое количество синхронизаций K = 2. При этом на первом этапе выполняется преобразование исходных целочисленных данных в комплексные спектры. В этом случае независимо обрабатываются строки исходных данных. На втором этапе производятся действия со столбцами. В частности, это коррекция формы спектра, компенсация влияния материальной дисперсии, компенсация неэквидистантности исходных данных, упорядочивание и логарифмирование.

Применение метода многократной взаимной синхронизации параллельных вычислительных потоков позволяет равномерно распределить вычислительную нагрузку на все используемые процессорные ядра и, тем самым, повысить эффективность использования процессора. При этом уменьшается максимальная пиковая нагрузка для каждого процессорного ядра, а данное условие, как было указано выше, способствует стабильному функционированию асинхронного непрерывного сбора данных и предотвращает возникновение потерь данных.

Дополнительным полезным фактором является наличие в параллельных потоках большого количества процедур ожидания события. Эти процедуры не дают дополнительной нагрузки процессору и способствуют более эффективному распределению системных ресурсов менеджером задач операционной системы, а следовательно, и эффективной работе необходимых фоновых асинхронных процедур.

Пример визуализации результата работы спектральной системы о.к.т., предназначенной для исследования наружных биотканей и использующей метод многократной взаимной синхронизации параллельных вычислительных потоков, представлен на рис. 5.

ЗАКЛЮЧЕНИЕ

В результате, для о.к.т.-системы на базе спектрометра с линейкой SU512LD при использовании процессора Intel® Core™ i7-3770 его средняя загрузка не превышает 10%.

С одной стороны, эффективное использование процессора позволяет применять в составе аппаратно-программных комплексов мобильные компьютеры, что способствует мобильности и компактности системы. С другой стороны, дополнительные свободные вычислительные мощности можно использовать для решения усложненных задач. Таким образом, удается в реальном времени визуализировать не только внутреннюю структуру ткани, но и визуализировать дополнительные физиологические и функциональные параметры. К таким параметрам, например, относятся двулучепреломление [11], кровоснабжение [12], эластографические характеристики [13].

Эти возможности были реализованы в спектральных системах о.к.т., использующих метод многократной взаимной синхронизации параллельных вычислительных потоков. Такие модификации систем о.к.т. относятся к так называемой мультимодальной о.к.т., которые имеют большой потенциал как для проведения фундаментальных биологических и биомедицинских исследований, так и для клинической практики, что продемонстрировано в биомедицинских работах, выполненных с использованием описанных систем о.к.т. и описанных вычислительных методов [14–16].

Разработка программ осуществлялась на языке программирования C/C++ с использованием пакета Microsoft Visual Studio 2010. Был разработан ряд технологических и пользовательских 64- и 32-разрядных приложений для семейства операционных систем Microsoft Windows.

Исследование в области разработки алгоритмов параллельных вычислений выполнялось в рамках государственного задания ИПФ РАН № 0035-2014-0018; экспериментальные работы по созданию новых образцов спектральных систем о.к.т. были поддержаны грантом РНФ № 17-72-20249.