Несколько месяцев обсуждений понадобилось группе правозащитников, чтобы составить руководство, защищающее человечество от угрозы бесконтрольного искусственного интеллекта. Теперь активисты предлагают правительству США принять эти принципы как руководящие.

Обойтись тремя законами робототехники, как у Айзека Азимова, у правозащитников не вышло. Список из двенадцати правил, обнародованный на встрече коалиции Public Voice, созданной в 1996 году для содействия участию общества в принятии решений о будущем интернета, призван «информировать и улучшать разработку и применение ИИ».

Поскольку искусственный интеллект становится все более широко распространенным явлением, плоды его деятельности оказывают все большее влияние на жизнь человека — от выдачи кредита до получения работы или судебного приговора, пишет TechCruch.

Созданные организацией руководящие принципы должны обеспечить защиту прав человека. В это понятие входит право знать факторы, логику и технологии, которые использовались для принятия машиной решения; гарантии справедливости; и обязательства по защите от нарушения кибербезопасности. Также к ним относится запрет на присвоение гражданам рейтингов или баллов со стороны правительства — того, что происходит в Китае.

Некоторые другие важные принципы:

-Право на человеческое решение — только люди, а не алгоритмы, имеют право на финальное решение.
-Требование идентификации — организация, ответственная за ИИ, должна быть известна обществу.
-Требования качества данных — компании должны указывать источник данных и обеспечивать их качество и релевантность.
-Требование прекращения работы — компания, разработавшая ИИ, должна прекратить деятельность системы, если человеческий контроль над ней более невозможен.

Эти принципы почти полностью совпадают с национальным стратегическим планом исследования ИИ, которым руководствуется Национальный научный фонд США. Обращение подписали свыше 200 экспертов и 50 организаций, в том числе, Федерация американских ученых и Управление подотчетности правительства. Полный текст обращения можно прочитать по ссылке.

Источник: hightech.plus