ИИ становится ближе к мозгу: новая архитектура ускоряет обучение

Исследователи из Университета Джонса Хопкинса представили новую архитектуру искусственного интеллекта (ИИ), которая демонстрирует активность, схожую с человеческим мозгом, еще до начала обучения. Это открытие ставит под сомнение традиционные методы разработки ИИ, ставящие во главу угла объемы данных и вычислительные мощности.

Вместо того чтобы полагаться на обучение с использованием огромных массивов данных, что требует значительных затрат времени, денег и энергии, авторы работы предлагают сосредоточиться на архитектурном дизайне. По словам ведущего автора исследования Мика Боннера, профессора когнитивных наук, эволюция могла выбрать именно такую конструкцию мозга не случайно. Разработка ИИ с архитектурой, более похожей на мозг, дает системе существенное преимущество на старте.

Команда ученых исследовала три распространенных типа архитектур нейронных сетей, используемых в ИИ: трансформеры, полносвязные сети и сверточные сети. Путем внесения изменений в эти базовые структуры были созданы десятки новых искусственных нейронных сетей. Затем эти модели, еще не прошедшие обучение, подвергались воздействию изображений объектов, людей и животных. Полученные ответы сравнивались с активностью мозга людей и приматов при просмотре тех же изображений.

Результаты показали, что модификации трансформеров и полносвязных сетей, такие как увеличение числа искусственных нейронов, не приводили к существенным изменениям. Однако изменение архитектуры сверточных нейронных сетей позволило добиться активности в ИИ, которая значительно лучше имитировала паттерны в человеческом мозге. Исследователи отметили, что эти обученные сверточные сети по своей эффективности приблизились к традиционным системам ИИ, которые проходят обучение на миллионах изображений. Это подчеркивает первостепенную роль архитектуры в работе ИИ.

«Если бы обучение на огромных данных было действительно решающим фактором, то невозможно было бы достичь состояния, подобного мозгу, исключительно за счет архитектурных модификаций», — пояснил Боннер. «Это означает, что, начиная с правильного «чертежа» и, возможно, учитывая другие биологические принципы, мы можем существенно ускорить процесс обучения в системах ИИ».

В настоящее время исследователи работают над созданием простых алгоритмов обучения, смоделированных по аналогии с биологическими системами, которые могут лечь в основу новой концепции глубокого обучения.