Исследователи из Технического университета Дармштадта недавно представили новую архитектуру нейросетей с дополненной памятью, которая может применять к решению проблем изученные абстрактные стратегии.

Нейронный гарвардский компьютер (NHC), описанный в статье для журнала Nature Machine Intelligence, разделяет всю поступающую в алгоритм информацию на два разных потока, а именно поток данных (содержащий манипуляции с данными) и поток управления (содержащий алгоритмические операции). В конечном итоге это позволяет ему отличать модули данных от алгоритмических модулей и создавать две отдельные, но тем не менее связанные области памяти.

Три основных компонента NHC — контроллер, память и шина — имеют разные функции, но взаимодействуют друг с другом, чтобы получить абстракции, применимые к будущим задачам.

«Этот механизм абстрагирования и эволюционное обучение позволяют обучать надежные и масштабируемые алгоритмические решения», — пояснили исследователи в своей статье.

Команда из Дармштадта оценила возможности NHC на 11 различных алгоритмах. Исследователи сообщают, что для всех этих алгоритмов NHC обеспечивает идеальное обобщение и масштабирование, что позволяет им хорошо справляться с задачами, даже более сложными, чем те, для выполнения которых они были изначально натренированы.

Это недавнее исследование подтверждает потенциал использования компонентов внешней памяти для повышения производительности и универсальности архитектур на основе нейронных сетей, применительно к решению задач различной сложности. Объединение и улучшение возможностей различных нейросетей с помощью архитектуры NHC будет способствовать в разработке моделей, которые смогут определять полезные стратегии точного прогнозирования на основе новых данных.

Источник: ko.com.ua