МЕТОД И АЛГОРИТМ ИЗВЛЕЧЕНИЯ ПРИЗНАКОВ ИЗ ЦИФРОВЫХ СИГНАЛОВ НА БАЗЕ НЕЙРОСЕТЕЙ ТРАНСФОРМЕР
Аннотация
В последнее время нейросетевые модели стали одним из наиболее перспективных направле- ний в области автоматического извлечения признаков из цифровых сигналов. Традиционные под- ходы, такие как статистический, временной, частотный и частотно-временной анализ, требуют значительных экспертных знаний и часто оказываются недостаточно эффективными при рабо- те с нестационарными и сложными сигналами, например, биомедицинскими (ЭКГ, ЭЭГ, ЭМГ) или промышленными сигналами (примером могут служить токограмы). Перечисленные выше методы имеют ряд ограничений, когда требуется анализировать многоканальные данные с изменяющейся частотной структурой, либо когда разметка сигналов слишком трудоёмка или дорогостоящая. Современные архитектуры нейросетей, такие как трансформеры, показали высокую эффектив- ность в автоматическом извлечении признаков из сложных данных. Трансформеры превзошли традиционные свёрточные и рекуррентные нейронные сети по многим ключевым характеристикам, особенно в задачах прогнозирования временных рядов, классификации мультимодальных данных и извлечения признаков из последовательностей. Их способность моделировать сложные временные зависимости и нелинейные зависимости в данных делает их идеальными для таких задач, как фильтрация шумов и обработка мультимодальных сигналов. В данной статье предложен метод извлечения признаков из цифровых сигналов, основанный на модифицированной архитектуре транс- формера, включающей нелинейный слой после модуля самовнимания. Этот подход позволил улуч- шить способность модели выявлять сложные и нелинейные зависимости в данных, что особенно важно при работе с биомедицинскими и полученных от промышленных систем сигналов. Приводит- ся описание архитектуры и проведенных экспериментов, демонстрирующих высокие показатели модели при решении задач классификации, прогнозирования и фильтрации сигналов. Ожидается, что данная модель может применяться для широкого спектра приложений, включая диагностику заболеваний и сбоев, прогнозирование параметров сигналов и системное моделирование.
