Искусственный интеллект вызывает все меньше доверия, так как управляется заинтересованными корпорациями, вроде Amazon и Google. Новые сети, совмещающие ИИ и блокчейн, сделают машинное обучение прозрачным и менее предвзятым, считает глава Never Stop Marketing Джереми Эпстайн, который изложил свое мнение в колонке VentureBeat.
Эпстайн задумался о проблеме объективности искусственного интеллекта после того, как его дочь решила показать Alexa в действии. Когда они дошли до темы «сетевой нейтральности», выяснилось, что голосовой помощник использует цензуру и отбирает новости и мнения, которые отражают только одну точку зрения. В данном случае — «против».
По мнению Джереми, это соответствует интересам Amazon и, похоже, в компании специально натренировали ИИ следовать «линии партии». Проблема носит глобальный характер, считает он, так как качество обучения ИИ зависит от объема данных: чем их больше, чем точнее алгоритм. Учитывая, что самые крупные данные собирают гигантские ИТ-корпорации, то сетевая власть концентрируется в их руках. Более того, все ключевые компоненты обучения ИИ — набор данных, алгоритм, ИИ-интерфейс, — все они скрыты от публики и могут использоваться для манипуляций или продвижения собственных интересов.
Решением проблемы могут стать блокчейн-сети, интегрированные с ИИ. Один из примеров — Ocean Protocol, который позволяет обычным людям загружать наборы данных и получать за это компенсацию (проект open source). По тому же принципу работает IOTA. Другой проект — SingularityNet делает открытыми модели машинного обучения, которые компании могут применять к собственным наборам данных, опять же за компенсацию.
Наконец, проект SEED обеспечивает прозрачность на уровне самого чат-бота. В сети SEED Network хранятся все «деревья решений» и модели обучения ботов, в которые пользователи могут вносить свой вклад. Также у ботов есть авторы, которые вознаграждаются. SEED Marketplace позволяет торговать отдельными элементами ботов, используя «внутреннюю валюту» — токены SEED.

Источник: hightech.fm