После победы компьютера над человеком в шахматы и го казалось, что больше не осталось преград, которые не может взять искусственный интеллект. Но люди нанесли ответный удар

В конце августа в Ванкувере прошел чемпионат мира по игре Dota 2. Счастливые финалисты заработали $11,2 млн. Но для мира важнее события, которые произошли за пределами турнирной таблицы. На этом чемпионате проводятся официальные поединки между командами людей и компьютерной системой на базе искусственного интеллекта (ИИ). Может ли устоять человек перед силой «глубокого обучения», «нейросетями» и прочей магией современных технологий?

Компьютер победил сильнейшего шахматиста мира больше 20 лет назад, следующего достижения ИИ пришлось ждать целых 19 лет: в 2016 году программа AlphaGo выиграла 4 из 5 матчей у обладателя высшего звания в этой дисциплине. Несмотря на долгое ожидание, это случилось гораздо раньше, чем прогнозировалось — считалось, что компьютер сможет победить человека в го не раньше 2020-2025 годов.

Новый уровень Илона Маска

Следующий уровень сложности — компьютерные игры. В игре-стратегии Dota 2 соревнуются две команды из 5 человек. Цель — разрушить базу противника. О сложности игры может говорить например то, что пока ни одной команде в мире не удалось стать чемпионами более двух раз. Именно сложность игры и многообразие используемых стратегий делает задачу создания алгоритма, который мог бы победить команду людей такой сложной.

Одним из главных катализаторов прогресса в мире ИИ является организация OpenAI, которая поставила перед собой амбициозную задачу — построить алгоритм, который сможет победить в схватке с командой людей. OpenAI была основана в 2015 году создателем Tesla и SpaceX Илоном Маском и президентом самого известного в мире стартап-акселератора Y Combinator Сэмом Альтманом. Среди целей компании — предотвратить концентрацию знаний об ИИ в руках одной группы людей. Заявлено, что компания будет осуществлять мониторинг появления прорывных технологий, скрытых создателями от широкой общественности. Сама OpenAI получила известность благодаря ИИ, создаваемому для победы в Dota 2.

Первые результаты были достигнуты в 2017 году, всего через два года после создания компании, когда разработанный ею алгоритм победил топового игрока мирового рейтинга Dota 2 в поединке «один на один». Стоит оговориться, что игра проходила по упрощенным правилам, например нельзя было использовать заклинания для скрытия героев. Теперь OpenAI ставит более амбициозную задачу — победить в полноценном командном соревновании, когда в игре участвуют сразу 5 человек.

Внутренняя конкуренция

Хотя алгоритм в 2018 проиграл профессиональным командам, очень значительный прогресс очевиден: в августе 2018 боты OpenAI выиграли в двух играх у команды игроков-ветранов, отошедших от регулярного участия в соревнованиях. Правда проиграли в двух показательных боях командам, одна из которых заняла последнее место в призовом зачете, а другая даже не вошла в список призеров. От дальнейшего участия организация отказалась.

Полагаю, это только начало, и скорость, с которой развиваются алгоритмы, а также снижение стоимости аппаратного обеспечения изменят наш мир до неузнаваемости. Пример с AlfaGo отлично иллюстрирует утверждение Билла Гейтса, что мы всегда переоцениваем события последующих 20 лет, но недооцениваем то, что случиться в ближайшие 5.

Один из важных компонентов прогресса — наличие конкуренции. Кроме OpenAI исследования в области игр ведут и другие компании. Например, подразделение Google DeepMind, которое создала победивший чемпиона мира по игре в го алгоритм, создает ботов для компьютерных стрелялок от первого лица. Они уже способны обыгрывать обычных игроков.

Трудности обучения

Главная техническая особенность современных алгоритмов, которые играют в игры — универсальность и в плане решаемых задач, и по аппаратному обеспечению. После успешного применения в играх их можно будет применить в прикладных задачах.

Можно сравнить подход Deep Blue, компьютера, который победил Каспарова в 1997 году, и современную реализацию. Deep Blue был спроектирован и построен как шахматный компьютер: были даже разработаны специальные микропроцессоры, которые брали на себя часть вычислений. Применяемые алгоритмы нельзя было использовать больше ни в каких задачах, кроме шахмат.

В отличии от Deep Blue современный подход использует стандартное железо и программное обеспечение, доступное для всех. В частности, AlphaGo работал в облачном сервисе Google Cloud. Но самое невероятное — это алгоритмы. Они устроены так, что в начале ИИ ничего не знает о задаче, которую должен решить. Нет информации ни о правилах игры, ни о взаимодействии с окружающей средой и партнерами по команде и т.п. Программа должна не только всему этому научиться, но и «найти» стратегию поведения для победы.

Очень упрощенно описать принцип обучения ИИ можно так: алгоритм, называемый «сверточная нейронная сеть», отвечает за зрение. Он обеспечивает за связь других частей программы с игровой средой. Другой алгоритм, называемый «обучение с подкреплением», делает множество случайных действий, исчисляемые миллионами, и получает баллы за каждое: сделал движение вперед — получил +1 балл. Нанес повреждение герою противника — получил +1 балл. Получил повреждение — балл отнимается, и т.д. Алгоритм набирает опыт, играя множество партий сам с собой. По этому же принципу был устроен и AlphaGo, победивший человека в го.

Ограничение возможностей ИИ

В целом вся высокотехнологичная отрасль движется по пути стандартизации. Так, если раньше обучение ИИ проводилось на центральных процессорах разных производителей или специально создаваемых нейропроцессорах, то в последние несколько лет стандартом стало обучение на видеокартах компании Nvidia. Изначально они применялись для графики, но оказались эффективными помощниками центральных процессоров в различных расчетах.

Также и алгоритмы OpenAI и DeepMind можно будет применить на практике. Многие ИИ-алгоритмы доступны всем желающим буквально несколькими щелчками мыши. В частности, сверточные нейронные сети широко применяются в программах распознавания образов, они используются внутри Google Photo, фотоальбомах Apple, самоуправляемых автомобилях и т.д.

Но существующие алгоритмы пока не универсальны, они имеют свою специализацию. В той же Dota 2 применяются решения, которые заточены специально под определенные характеристики игрового мира. Это значит, что для решения других задач, например, игр иного класса, потребуется не только тюнинг существующих алгоритмов, но и создание принципиально новых, которые требуют дополнительных исследований.

Также и применение на практике — любые алгоритмы пока имеют имеют узкоспециализированное применение, хотя ученые мечтают о создании универсального ИИ, который, как человек, сможет решать любые задачи. Но скорость, с которой происходит развитие самообучающихся алгоритмов, вызывает беспокойство о том, как они будут применяться.

Моральная дилемма

Моральные вопросы волнуют исследователей ИИ не меньше, чем создателей атомной бомбы. Они готовы разрабатывать технологию, но задумались о последствия ее применения раньше коллег из Манхэттенского проекта. В 2014 году при покупке корпорацией Google компании DeepMind (сумма сделки около $400 млн по данным Reuters), условием сделки было создание в интернет-гиганте коллегии по этике. Планы корпорации в этом году вернуться в Китай привели чуть ли не к восстанию сотрудников, считавших недопустимыми фильтровать контент. Сотрудники Microsoft и Google массово протестовали против контрактов с военными, что показыает стремление индустрии к открытости.

Возможно, OpenAI и Google DeepMind ведующие игроки на рынке ИИ, но точно не единственные, они просто публичны. Трудно оценить, что происходит в Китае и Корее, наряду с США являющихся крупнейшими центрами притяжения для талантливых специалистов по ИИ со всего мира. Так в 2017 году Китай объявил о намерении стать лидером в области ИИ к 2030 году, потратив на это $22 млрд только государственных средств.

Теперь мир стоит перед проблемой, как поступить с знаниями по ИИ: открыто распространять как OpenAI или прятать в секретных разработках по азиатскому примеру? Дело в том, что последствия применения ИИ превосходят влияние на мир создания ядерной бомбы. Ведь для того, чтобы создать атомную электростанцию или термоядерный заряд, требуются ресурсы целых стран. А полезное или вредоносное приложение на базе ИИ может быть создано одним программистом с помощью имеющихся в открытом доступе готовых программных средств.

OpenAI считает, что ИИ должна быть доступна всем без ограничений. Хорошим примером из истории может быть получение СССР западных секретов атомной бомбы — ядерный паритет на долгие годы заложил основы мировой стабильности.

Альтернативное мнение — такой подход больше похож на раздачу «ядерных чемоданчиков» большому количеству людей. Не очень сложно представить, что могут сделать несколько способных парней, разочаровавшихся в современном мироустройстве, на существующих вычислительных мощностях. И даже думать не хочется, что может натворить группа сильных ученых при государственной поддержке в какой-нибудь закрытой экосистеме.

Участие OpenAI в чемпионате Dota2 показало, что пока даже у тех, кто находится на переднем крае исследований в области ИИ, нет алгоритмов, позволяющих построить универсальную машину, которая будет управлять значительными ресурсами и побеждать человека в 100% случаев. Это хорошая новость. У нас еще есть время, чтобы решить не только технологические, но и моральные вопросы: что можно позволить ИИ, чтобы он не разрушил жизнь своих создателей.

Источник: forbes.ru