В ближайшем будущем правительство будет вести борьбу не за архивы сообщений в мессенджерах, а за логи наших мыслей. Контролировать личные данные пользователей будут крупные ИТ-корпорации — для этого им и нужны нейроинтерфейсы для управления гаджетами.

Инвестиции крупных корпораций в технологии искусственного интеллекта — это первый шаг к овладению мыслями пользователей, считает Мередит Уиттакер, соосновательница института AI Now и ведущий эксперт по ИИ в Google.

Компании уже владеют массивами данных о пользователях сети, но пока эта информация включает лишь результаты наших действий в интернете: фотографии, сообщения, клики и другую активность.

В будущем, когда появится первое поколение нейроинтерфейсов, база данных пополнится мыслями пользователей.

Над подобными продуктами уже работает Facebook, а также стартап Илона Маска Neuralink. «Ваши мысли будут принадлежать им», — заявила Уиттакер на конференции Artificial Intelligence 2018 в Сан-Франциско. Ее цитату приводит Business Insider.

По ее словам, такой сценарий вселяет ужас, однако он вполне реален. Другой вопрос — как именно будут хранить информацию о пользователях и насколько эти данные будут защищены.

Эксперт допускает, что некоторые корпорации будут сотрудничать с властями и передавать им архивы мыслей по первому запросу.

Другая проблема, с которой человечество рискует столкнуться в ближайшем будущем, — это предвзятость алгоритмов. ИИ-системы уже не раз уличали в расовой дискриминации, которую — намеренно или нет — заложили разработчики. Современные системы распознавания лиц постоянно ошибаются, но государство все равно применяет их на практике. В Китае камеры слежения с поддержкой ИИ уже стали частью повседневности, Европа же пока пытается найти им применение на фоне дискуссий о нарушении приватности.

Уиттакер опасается, что на рынке будут доминировать компании-монополисты, во главе которых будут стоять исключительные белые состоятельные американцы мужского пола. «На данный момент в мире существует примерно семь компаний, которые готовы производить ИИ-решения в больших масштабах», — отмечает исследовательница.

О похожем сценарии предупреждал и основатель блокчейн-стартапа SingularityNET профессор Бен Герцель. Ситуацию, при которой технологии развиваются по западноцентричной модели, он называет цифровым колониализмом.

Источник: hightech.plus