Компания IBM разработала инструменты, которые позволят анализировать в режиме реального времени, как и почему алгоритмы искусственного интеллекта (ИИ) принимают решения.

Набор программных инструментов Fairness 360 Kit будет также выявлять признаки необъективности решений и предоставлять рекомендации для их корректировки.

Этот шаг IBM демонстрирует, что использование ИИ становится всё более серьёзной проблемой, поскольку компании повсеместно внедряют машинное обучение и различные модели для принятия решений. Часто алгоритмы работают в так называемом «чёрном ящике», то есть люди не могут видеть, как принимаются решения. У руководителей могут возникнуть проблемы с пониманием предложенных ИИ моделей и анализа данных и процессов, предоставляемых в готовом виде.

Возрастает беспокойство по поводу того, что алгоритмы, используемые как техническими гигантами, так и другими фирмами, не всегда объективны в процессе принятия решений. Например, в недалёком прошлом системы распознавания образов не смогли идентифицировать лица людей с не белым цветом кожи.

Однако, поскольку алгоритмы всё чаще принимают автоматические решения по широкому кругу вопросов, таким как полицейская деятельность и страхование, последствия их рекомендаций становятся более значимыми.

Программное обеспечение для облачных вычислений IBM будет работать с открытым исходным кодом и поддерживать множество широко используемых фреймворков для построения алгоритмов. В частности, ПО IBM совместимо с моделями, основанными на платформах машинного обучения, таких как Watson, Tensorflow, SparkML, AWS SageMaker и AzureML.

IBM заявила, что её технология позволит контролировать процесс принятия решений ИИ, чтобы работа предприятий соответствовала нормативным требованиям. Клиенты смогут видеть через визуальную панель, как алгоритмы принимают решения, и какие факторы используются при составлении окончательных рекомендаций.

Источник: servernews.ru