Искусственные нейросети: контроль хаоса и мозг

Разработан новый подход, позволяющий искусственным нейронным сетям имитировать работу реальных нейронных сетей в мозге. Это исследование может пролить свет на механизмы функционирования мозга и послужить основой для создания новых систем искусственного интеллекта, обучающихся подобно мозгу.

Человеческий мозг обладает выдающимися способностями к обучению и выполнению сложных задач, эффективно обрабатывая сенсорную информацию и генерируя комплексные результаты. Тоситакэ Асабуки из Центра наук о мозге RIKEN исследует процессы эффективного и надежного обучения в мозге, стремясь выявить правила обучения, которые могли бы быть реализованы в реальных нейронных цепях.

Рекуррентные нейронные сети, в которых нейроны связаны петлями обратной связи, рассматриваются как перспективный способ моделирования реальных нейронных цепей. В отличие от простых прямоfeedforward моделей, рекуррентные сети способны сохранять следы прошлой активности, что позволяет им обрабатывать временные данные, память и контекст. Именно поэтому они считаются наиболее близким математическим аналогом мозговых цепей.

Особенностью рекуррентных нейронных сетей является их склонность к генерации хаотического выходного сигнала, который может значительно изменяться даже при малейших вариациях входных данных. Это свойство имеет как преимущества, так и недостатки: хаос обеспечивает системе богатую динамику, способствующую гибкому обучению и обобщению, но одновременно делает систему нестабильной и трудной для обучения. Таким образом, существует компромисс между богатством динамики и контролем.

До сих пор использование такой сложности представляло собой главную проблему. Было предложено несколько правил обучения, однако они не соответствовали биологическим реалиям. Теперь Асабуки и Клаудия Клопат из Имперского колледжа Лондона нашли решение, которое является биологически правдоподобным.

«Наше исследование показывает, что нейронная сеть может стабилизировать свою хаотическую активность с помощью биологически правдоподобного механизма, не прибегая к нереалистичным вычислениям», — отмечает Асабуки.

Исследователи исходили из простого вопроса: если мозг постоянно предсказывает будущее, может ли само предсказание служить стабилизирующей силой?

«Мы разработали правило обучения, которое позволяет каждому нейрону предсказывать будущий выход сети», — объясняет Асабуки. «Сопоставляя эти предсказания с фактическими сигналами обратной связи, сеть постепенно учится подавлять свою хаотическую динамику».

В ходе симуляции было обнаружено, что данное правило приводит к удивительно плавным переходам. «Мы были удивлены тем, насколько эффективно сеть самостабилизировалась. Это было одновременно просто и мощно», — делится впечатлениями Асабуки.