Компьютер будущего

Елманов Олег (SpyDr@comail.ru)

Xakep, номер #054, стр. 054-046-2

Существует немало алгоритмов обучения нейросетей, в зависимости от решаемой задачи, типа сети, исходных данных и т.п. Самым распространенным является алгоритм обратного распространения ошибки. Его принцип в следующем: Есть некий массив исходных данных и результатов. На вход сети поступают исходные данные, а выход сравнивается с имеющимися данными. В зависимости от степени несоответствия полученной и контрольной выборок веса нейронов корректируются. Данный алгоритм обучения в основном применяется в задачах классификации, обобщения, распознавания образов и прогноза.

История альтернативной технологии

А сейчас небольшой экскурс в историю. Временем рождения нейрокомпьютинга считается 1943 год, когда вышла работа нейропсихолога Уоррена Маккалока (J. McCulloch) и математика Уолтера Питтса (W. Pitts) "Логическое исчисление идей, относящихся к нервной деятельности". В ней были сформулированы основные принципы построения искусственных нейронов и нейронных сетей. Потом психологами были созданы модели человеческого обучения. Естественно, что пытливые умы ученых попробовали их применить к нейронным сетям. Получилось.

В 1958 году Френк Розенблатт разработал модель перцептрона (от perception - восприятие). Его обучение требовало около получаса машинного времени на одной из самых мощных в то время ЭВМ IBM-704. Аппаратный вариант - Mark 1 Perceptron - был построен в 1960 году и предназначался для распознавания зрительных образов.

Первые успехи в области нейрокомпьютинга привлекли большое внимание научных и околонаучных кругов общественности, стало модным предсказывать скорейшее развитие искусственного интеллекта, создания искусственного разума и т.п.

Конец этому буму положил бывший однокашник Розенблатта по Высшей научной школе в Бронксе Марвин Минский, который в 1969 году выпустил книгу "Перцептроны". В ней он математически строго доказал, что нейронным сетям доступен лишь очень узкий круг задач. Несмотря на то, что его критика относилась к простейшей сети - однослойному перцептрону, массовые исследования и разработки были свернуты вплоть до 80-х годов прошлого века.

В 1982 году физик Джон Хопфилд с помощью новейших методов теоретической физики разработал модель ассоциативной памяти нейронной сети. Это пробудило интерес широкой научной общественности к некогда позабытым разработкам.

Исследования в этом направлении были возобновлены в 1983 году, когда развитие таких технологий стало финансировать Агентство перспективных военных исследований США (DARPA). Но широкое практическое применение нейросетей началось лишь после публикации в 1986 году Дэвидом Румельхатом метода обучения многослойного перцептрона, названного им методом обратного распространения ошибки (error back-propagation). Ограничения перцептронов, о которых писал Минский, оказались преодолимыми, а возможности вычислительной техники - достаточными для решения широкого круга прикладных задач.