Российские ученые из Санкт-Петербургского государственного электротехнического университета «ЛЭТИ» им. В.И. Ульянова в рамках мегагранта создали экспериментальную модель магнонного резервуарного компьютера. В его основу легла система спин-волновой задержки, которая позволила создать оптимальный вариант резервуара для нейронной сети. Так исследователям удалось впервые распознать печатные и рукописные цифры, используя экспериментальную модель магнонного резервуарного компьютера. Об этом рассказал руководитель лаборатории магноники и радиофотоники, профессор кафедры ФЭТ СПбГЭТУ «ЛЭТИ» Алексей Борисович Устинов.
В рамках мегагранта в Санкт-Петербургском государственном электротехническом университете «ЛЭТИ» им. В.И. Ульянова создана лаборатория магноники и радиофотоники. Мегагрант посвящен фундаментальному исследованию спин-волновых явлений, которые могут быть положены в основу разработки резервуарного компьютера на принципах магноники.
Резервуарные компьютеры (РК) — это один из видов рекуррентных нейронных сетей. Нейронные сети состоят из входного вектора, нескольких слоев нейронов, соединенных между собой определенным образом, и выходного вектора. Каждый нейрон — это некоторая функция от линейной комбинации входов. Процесс обучения сети — это уменьшение ошибки выхода сети по отношению к ожидаемому выходу обучающей выборки. Технически обучение заключается в нахождении коэффициентов связей между нейронами. Когда слоев много, то тренировка сети представляет собой сложную задачу. Нейронные сети могут быть разделены на две основные категории: сети прямой передачи, в которых вычисления выполняются послойно, уровень за уровнем от входных параметров сети к выходным; и рекуррентные сети, в которых имеется обратная связь — от логически более удаленного элемента к менее удаленному.
Резервуарные вычисления, которые применяются в РК, представляют собой особый подход к обучению нейронных сетей. Вместо того, чтобы тренировать все слои сети, в резервуарных вычислениях тренируется только выходной слой, а внутренние слои представляют собой набор нелинейных функций — резервуар, из которых можно «собрать» нужную функцию через тренировку выходных нейронов. Это позволяет значительно упростить и ускорить процесс обучения. Важной особенностью, которую необходимо учитывать при разработке физических РК, выступает наличие нелинейности и «затухающей» памяти в динамической системе, используемой в качестве резервуара. В последние годы значительный интерес исследователей привлекает возможность использования магнонных систем в качестве основы для построения физических РК. Магноника — раздел функциональной электроники, занимающийся изучением распространения спиновых волн и их квантов — магнонов — в магнитных веществах. В устройствах магноники, в отличие от устройств обычной электроники, энергию или информацию переносит не электрический ток, а поток магнонов. Преимуществом спиновых волн является их меньшая длина, чем у микроволонового излучения при той же частоте.
Ученые разработали аппаратную модель искусственной нейронной сети. Физический резервуар представлял собой нелинейную колебательную динамическую систему — ферритовую магнитную пленку, размещенную на спин-волновых антеннах, с петлей обратной связи. Вводимый сигнал распространялся по кольцу, затем усиливался и заново подавался на входной преобразователь, смешиваясь с поступающем сигналом. Недавно ученые показали, что, управляя коэффициентом передачи по такой кольцевой резонансной системе и переведя ее в режим автогенерации, можно вводить данные в кольцо. В таком случае эта система будет находиться в режиме переходного процесса между двумя уровнями мощности автогенерации. Это устройство магнонного резервуара называется спин-волновой кольцевой генератор. Такая конструкция резервуара, по мнению авторов, является самой оптимальной, потому что скорость спиновых волн на три-четыре порядка ниже, чем у световых, что позволяет реализовать большое время задержки спиновой волны при малой длине ее пробега. «Вместо использования 100-метрового оптоволокна, мы используем 10-ти сантиметровую магнитную пленку» — рассказал Алексей Устинов.
Российские исследователи построили экспериментальные макеты и разработали теоретические модели устройств, которые могли бы использовать новый проект рекуррентной нейронной сети. В одной из таких моделей вход информационного сигнала осуществлялся с помощью регулировки коэффициента усиления внешним элементом — электронно-управляемым аттенюатором. Это позволило получить, в зависимости от коэффициента ослабления аттенюатора, два уровня автогенерации спиновых волн и переключение между этими уровнями генерации. В другой реализации резервуара ученые объединили все эти элементы. Ввод данных в ней осуществлялся с помощью специального «полоска с током», который был расположен между входной и выходной антенной. «Полосок с током» создавал локальную неоднородность магнитного поля пленки, на которой рассеивались спиновые волны. Это позволило объединить в самой пленке и линию задержки, и элемент ввода данных. Ученые сопоставили теоретические данные моделирования с данными, полученными в эксперименте. Разработанная модель адекватно описывает экспериментальные результаты. Также они провели расчет производительности магнонных ФР с помощью тестов контроля памяти и проверки четности.
Ученые недавно использовали экспериментальную модель магнонного резервуарного компьютера для распознавания печатных и рукописных цифр. В результате впервые такая модель успешно распознавала практически все вводные данные (самый низкий результат распознавания некоторых рукописных цифр составил 50%). Сейчас исследователи продолжают работать над обучением нейронной сети и повышением точности системы. В дальнейшим ученые планируют провести эксперменты по распознованию печатных букв, произносимых цифр и слов.
Резервуарные компьютеры представляют собой новый подход к обработке информации, основанный на принципах резервуарных вычислений. Они обладают рядом преимуществ, которые делают их полезными в различных областях. Они могут обрабатывать большие объемы данных параллельно и быстро. Благодаря использованию набора нелинейных функций во внутренних слоях, они способны эффективно обрабатывать сложные задачи, такие как распознавание образов и анализ временных рядов.
«Физические резервуарные компьютеры, как и нейросети, эффективно решают те задачи, на решение которых с помощью обычных компьютеров затрачивается много ресурсов и времени» — говорит Алексей Борисович Устинов, соавтор исследования, профессор кафедры физической электроники и технологии СПбГЭТУ «ЛЭТИ», доктор физико-математических наук.
Автор: Дария Пляченко.
Материал подготовлен при финансовой поддержке Минобрнауки России в рамках федерального проекта «Популяризация науки и технологий».