В ближайшее время искусственный интеллект не будет встроен в системы управления военными и гражданскими самолетами — все потому, что нейросеть невозможно спросить о причинах принятого ей решения. Об этом пишет Aviation Week со ссылкой на исследование ученых из Французского аэрокосмического исследовательского центра (ONERA).

Основное требование к системам управления в авиации — возможность найти причину того или иного сбоя или полная воспроизводимость всей последовательности действий. Сейчас этим критериям, к примеру, соответствуют системы предупреждения столкновений. Они сообщают пилоту об опасном сближении с другим самолетам и дают рекомендации относительно действий, которые надо совершить для предотвращения аварии.

Искусственный интеллект не может быть допущен к управлению летательными аппаратами потому, что нейросети обучаются на больших объемах данных. В случае ошибки найти ответ на вопрос, почему система приняла то или иное решение, невозможно, считают исследователи.

Пока разработчики не понимают, почему ИИ принимает решение, и подвижки в этой области вряд ли произойдут в ближайшие десять лет, заключают в ONERA.

Источник: hightech.fm