Внедрение ИИ в военные технологии, а также создание «роботов-убийц» может послужить началом Третьей мировой войны.

Об этом пишет Ольга Гоголадзе в статье "Пять пугающих прогнозов о развитии ИИ".

— Больше всех об этом беспокоится Илон Маск, регулярно предрекая подобный исход. Увы, с ним солидарны многие эксперты. По их мнению, ведение войны с помощью ИИ может спровоцировать ряд этических дилемм, а сбои в программе — вызвать гибель человечества и на практике воспроизвести сценарий "Терминатора", — отметила она.

В 2013 году группа неправительственных организаций основала движение «Остановим роботов-убийц», чтобы помешать дальнейшей разработке военных беспилотников и других военных ИИ-технологий. Контракт Google с Пентагоном и ее участие в проекте Maven вызвали ожесточенные споры внутри компании, после чего около дюжины сотрудников уволились в знак протеста, а 4000 инженеров выступили решительно против против подобного сотрудничества.

Письмо-клятву с призывом к властям полностью запретить создание летального автономного ИИ-оружия подписали 160 компаний и 2400 ученых и предпринимателей, в их числе сооснователь DeepMind Демис Хассабис и проект Google Xprize Foundation. Сами они обещают не вести подобных разработок. Но уверены, что гарантии нужны на государственном уровне. Иначе рано или поздно машины научатся убивать людей с помощью алгоритмов, разработанных менее щепетильными компаниями.

Эти опасения нельзя назвать беспочвенными. Достаточно вспомнить инцидент 1983 года, когда несовершенные советские компьютеры сигнализировали, что США выпустили ракеты в сторону СССР. Если бы не вмешательство простого офицера Станислава Петрова, который не поверил этим данным, ядерная война могла начаться еще 35 лет назад.

Источник: socportal.info