Нейромережа Хопфілда як відкрита динамічна система
DOI:
https://doi.org/10.34121/1028-9763-2022-4-3-14Ключові слова:
open dynamic system, Hopfield neural network, convergence, відкрита динамічна система, нейромережа Хопфілда, конвергенціяАнотація
Анотація. Стаття містить аналіз моделі нейронної мережі Хопфілда з позицій концепції відкритих динамічних систем (ВДС), запропонованої нами раніше, за якою еволюцію Всесвіту можна представити як послідовність етапів розвитку ВДС, протягом яких формувались все більш складні ВДС, з яких згодом утворилиь живі клитини, подальший розвиток яких привів до появи людини та її інтелекту, формування цивілізації та появи штучного інтелекту. Подано огляд положень концепції ВДС та детально проаналізовано етап появи життя як колективного розвитку ВДС у формі популяцій нащадків материнської клітини, що привів до появи складних організмів, нервової системи, людини та інтелекту як нематеріальної форми розвитку ВДС. Висловлено припущення, що перетворення неживої макромолекули ВДС на живу клітину пов’язано з появою в її складі мультистабільної складової типу мережі Хопфілда, прототип якої – спінове скло є квантовим об’єктом, що існував ще до появи життя на Землі. Для його перевірки проведено детальний аналіз моделі мережі Хопфілда як лінійного многовиду, напнутого на множину запам’ятованих векторів даних. Представлено нове доведеня збіжності процесу конвергенції мережі та виявлено джерело енергії, необхідної живій клітині для розмноження. Запропоновано структуру живої ВДС, подібну мережі Хопфілда, доповнену модулем розмноження, схожим на молекулу ДНК, що повністю відповідає структурі перших бактерій на Землі, виявлених археологами. Результати дослідження підтверджують ефективність методів концепції ВДС при вивченні динаміки розвитку систем різної природи, включаючи новітні системи штучного інтелекту, поведінка яких може не піддаватись контролю.Посилання
1. Rosenblatt F. The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain. Psychol. Rev. 1958. N 65. Р. 386–408.
2. Розенблатт Ф. Принципы нейродинамики (перцептроны и теория механизмов мозга). М.: Мир, 1965. 473 с.
3. Hebb D.O. The organization of behavior. J. Wiley, 1949.
4. Минский М., Пейперт С. Персептроны. М.: Мир, 1971. 252 с.
5. Hopfield J.J. Neural networks and physical systems with emergent collective computational abilities. Proc. Nat. Acad. Sci. U.S.A. 1982. N 79 (8). P. 2554–2558.
6. Kirkpatrick S., Sherrington D. Infinite-ranged models of spin-glasses. Physical Review. 1978. Vol. 17. Series B. P. 4384–4403.
7. Хайкин С. Нейронные сети. Полный курс. М.: Вильямс, 2006. 1103 с.; Reed R.D., Marks II R.J. Neural Smithing, MIT Press, 1995.
8. Rumelhardt D.E., Hinton G.E., Williams R.I. Learning Internal Representations by Error Propagation. Parallel Distributed Processing: Explorations in the Microstructure of Cognition. Cambridge, Mass.: MIT Press. 1986. Vol. 1. P. 318–362.
9. Krotov D., Hopfield J.J. Dense associative memory for pattern recognition / D.D. Lee, M. Sugiyama, U.V. Luxburg, I. Guyon, R. Garnett (eds.). Advances in Neural Information Processing Systems. 2016. N 29. P. 1172–1180.
10. Різник О.М. Концепція відкритої динамічної системти. Математичні машини і системи. 2020. № 3. С. 3–22.
11. Месарович М., Такахара Я. Общая теория систем. Математические основы. М.: Мир, 1978. 311 с.
12. Ейнштейн А. Основы общей теории относительности. Альберт Эйнштейн и теория гравитации. М.: Мир, 1979. С. 146–198.
13. Румер Ю.Б., Рывкин М.С. Теория относительности. М: ГУПИ МП. РСФСР, 1960. С. 212.
14. Месарович М. Основания общей теории систем. Общая теория систем / пер. с англ. М.: Мир, 1966. С. 15–48.
15. Уиллер Дж. Гравитация, нейтрино и вселенная. М., 1962.
16. Никонов О.А. Философские аспекты геометродинамики. Вестник МГТУ. 2011. Т. 14, № 2. С. 272–280.
17. Эткинс П. Кванты. Справочник концепций / пер. с англ. В.Л. Ядровского. М.: Мир., 1977. 496 с.
18. Майр Э. Эволюция. М.: Мир, 1981. 264 с.
19. Дикерсон Р.Е. Химическая эволюция и происхождение жизни. Эволюция. М.: Мир, 1981. C. 67–108.
20. Валентайн Дж.У. Эволюция многоклеточных организмов и животных. Эволюция. М.: Мир, 1981. С. 149–172.
21. Personnaz I., Guyon I., Dreyfus G. Collective computational properties of neural networks: New learning mechanisms. Phys. Rev. A. 1986. Vol. 34, N 5. P. 4217–4228.
22. Алберт А. Регрессия, псевдоинверсия и рекуррентное оценивание / пер. с англ. М.: Наука, 1977. 237 с.
23. Gorodnichy D.O., Reznik A.M. Increasing Attraction of Pseudo-Inverse Neural Networks. Neural Processing Letters 5. 1997. Р. 121–125.
24. Кириченко Н., Резник А., Щетинюк С. Псевдообращение матриц в проблеме проектирования ассоциативной памяти. Кибернетика и системный анализ. 2001. № 3. С. 18–27.
25. Резник А.М. Хопфилдовские ансамбли в латеральных нейроструктурах коры мозга. Математичні машини і системи. 2006. № 1. С. 3–12.
26. Reznik A.M., Sitchov A.S., Dekhtyarenko O.K., Nowicki D.W. Associative Memories with "Killed" Neurons: the Methods of Recovery. Proc. of the International Joint Conference on Neural Networks, (July 20–24, 2003, Portland, Oregon).
27. Кун Т. Структура научных революций. М.: Прогресс, 1975. 246 с.
183
79Опубліковано
Номер
Розділ
Ліцензія
Авторське право (c) 2022 Математичні машини і системи
Ця робота ліцензується відповідно до ліцензії Creative Commons Attribution 4.0 International License.
