Анотація до роботи:

Новицький Д.В. Алгебраїчні методи у теорії нейронної асоціативної пам’яті. – Рукопис.

Дисертація на здобуття наукового ступеню кандидата фізико-математичних наук за спеціальністю 01.05.02 – математичне моделювання та обчислювальні методи. – Інститут Кібернетики імені В.М. Глушкова НАН України, Київ, 2005.

Дисертація присвячена удосконаленню математичних моделей у теорії нейронної асоціативної пам'яті, а також розробці нових архітектур і алгоритмів навчання асоціативних нейромереж. Запропоновано зображення синаптичних матриць за допомогою точок на многовиді Грасмана, та досліджено метод застосування спектрального аналізу матриць для вивчення властивостей НАП. Отримано умови при яких мережі з двома різними матрицями мають один набір образів у пам’яті. Досліджено статистичні властивості елементів синаптичної матриці НАП та їх зв’язок з алгоритмом селекції зв’язків. Теоретично обґрунтовано явище відновлення асоціативної мережі з видаленими нейронами. Досліджено клітинні мережі асоціативної пам’яті, їх атракторні властивості та межі ємності пам’яті. Застосовано ядерні методи до систем асоціативної пам’яті. Такі нейромережі виявилися ефективними для запам’ятовування великих масивів даних різних типів.

На основі узагальненого усереднення на многовиді Грасмана побудовано асоціативну пам’ять, здатну до самонавчання, узагальнення даних та кластеризаціі. Продемонстровано ефективність запропонованих алгоритмів для вирішення практичних задач розпізнавання оптичних та хімічних образів.

Результатом дисертаційного дослідження є удосконалення математичних моделей нейронної асоціативної пам’яті із застосуванням методів алгебри та ріманової геометрії. Знайдено теоретичне пояснення ряду експериментальних фактів та створено нові більш досконалі алгоритми нейронної асоціативної пам’яті, ефективність яких продемонстровано на прикладах вирішення прикладних задач. При проведенні досліджень одержано такі основні результати:

1. Запропоновано представлення матриць асоціативної пам’яті за допомогою точок на многовиді Грасмана. Побудовано алгоритми оптимізації на ріманових многовидах та доведено можливість їх використання в асоціативній пам’яті при вирішенні задач кластеризації даних.

   Запропоновано та досліджено метод застосування спектрального аналізу матриць для вивчення властивостей НАП;

   Досліджено алгоритм відновлення проекційної матриці при частковому видаленні нейронів. Доведено, що повне відновлення пам’яті досягається при залученні раніш запам’ятованих векторів, число яких дорівнює числу видалених нейронів.

   Досліджено ємність пам’яті і одержано оцінки атракторного радіусу клітинних НАП. Доведено теорему про обмеження зверху ємності пам’яті для неповнозв’язних мереж загального вигляду.

   Запропоновано нову модель НАП на базі ядерного перетворення даних. Розроблено програмні моделі авто- і гетероасоціативної ядерної пам'яті і продемонстровано їх ефективність.

   6. Експериментально досліджено застосування АП для розпізнавання хімічних образів (електронний ніс) і продемонстровано суттєві переваги НАП у швидкості запам’ятовування даних порівняльно з нейропарадигмами, що традиційно використовуються для вирішення цієї задачі.

Публікації автора:

1. Дехтяренко А.К., Новицкий Д.В. Нейронная ассоциативная память с клеточной структурой // Математические машины и системы. – 2002. – №3. – С. 37-44.

2. Новицкий Д.В. Нейронная ассоциативная память на основе ядерных сетей // Математические машины и системы. – 2003. – №3-4.

3. Новицкий Д.В. Геометрические методы в теории нейронной ассоциативной памяти: опыт разработки алгоритма кластеризации сетей // Математические машины и системы. – 2004-№4. – С. 29-37.

4. Dedieu J.-P., Nowicki D., Symplectic Methods for the Approximation of the Exponential Map and the Newton Iteration on Riemannian Submanifolds. //To appear in the Journal of Complexity (2004).

5. A.M. Reznik, A.A. Galinskaya, O.K. Dekhtyarenko, D.W. Nowicki, “Preprocessing of matrix QCM sensors data for the classification by means of neural network” //To appear in Sensors and Actuators B, available online (2004).

6. Д.В. Новицкий. Существенно распределенные нейронные сети. Модели для классификации и восстановления зависимостей.// Моделирование процессов управления и обработки информации , Москва, МФТИ, 1999 г.

7. Дехтяренко А.К., Новицкий Д.В. Ассоциативная память на базе неполносвязных нейронных сетей // Труды конференции “Нейрокомпьютеры и их применение” НКП-2002, Москва, 21-22 марта 2002 г., С. 934-941.

8. Reznik A.M., Shirshov Yu. M., Snopok B.A., Nowicki D.W., Dekhtyarenko A.K., Kruglenko I. V. Associative Memories for Chemical Sensing//Proc. of Int. Conf. on Neural Information Processing, Singapore 2002.

9. Резник А.М., Ширшов Ю.М., Новицкий Д.В., Дехтяренко А.К., Кругленко И.В. Ассоциативная память в задачах распознавания химических образов// Праці міжнародної конференції з індуктивного моднлювання, Львів, 20-25 травня 2002 р. т.1, секція 3, С. 246-252.

10. Резник А.М., Железняк М.Й., Новицький Д.В., Кужель К.М, Дончиць Г.В. Використання штучної нейронної мережі для короткотермінового прогнозування повеней// Праці міжнародної конференції з індуктивного моднлювання, Львів, 20-25 травня 2002 р. т.2, секція 3, С. 96-102 .

11. A.M. Reznik, A.A. Galinskaya, O.K. Dekhtyarenko, D.W. Nowicki, A comparison of preprocessing techniques for matrix QCM sensors data classified by neural network// Proc. of the 10th International Symposium on Olfaction and Electronic Nose, 26 - 28 June, 2003, Riga, Latvia, p. 189.

12. A.M. Reznik, A.S. Sitchov, O.K. Dekhtyarenko, and D.W. Nowicki, Associative Memories with "Killed" Neurons: the Methods of Recovery// Proc. IJCNN’03, Portland, Oregon, July 20-24, p. 2579-2582.

13. D.W.Nowicki, O.K. Dekhtyarenko, Kernel-Based Associative Memory // Proc. IJCNN’04, Budapest, Hungary, July 25-28, p. 741-744.