Искусственный интеллект все более уверенно входит в жизнь людей. Подобные сети сегодня используются в банках, при постановке медицинских диагнозов, поисках преступников и пр. Тем не менее ИИ для специалистов разных областей остается своего рода «черным ящиком», поскольку никто толком не знает, как он работает.
Между тем в развитии ИИ существует целая философия. Есть также идея, называемая контрфактическим объяснением, способная приоткрыть «черный ящик» и сделать работу ИИ более понятной для обычных людей.
Почему важны объяснения
Когда ИИ используется для принятия судьбоносных решений, люди, безусловно, должны знать, как именно было принято это решение. Это признают, в том числе и специалисты, ответственные за процессы, происходящие в социуме.
ИИ еще несовершенен и может давать сбои. В качестве примера можно привести случай в Австралии, когда ИИ поручили прогнозировать уровни долгов для лиц, получающих социальное пособие. Выполняя эту работу, машина допустила много ошибок. Многие люди были загнаны в долги, и чтобы решить проблему, пришлось собирать королевскую комиссию.
Объяснить, почему алгоритм принял именно такое решение, тогда удалось. Однако ИИ становится все сложнее и дать объяснение его решениям не представляется зачастую возможным уже сегодня.
Контрфактический подход
При использовании котрфактического метода сложная система остается не вскрытой. Но при этом изучаются ее входы и выходы. Контрфактом, как известно, называется утверждение о том, что произошло бы, если бы обстоятельства сложились иначе. В контексте ИИ это означает рассмотрение того, как выходные данные ИИ могут отличаться, если машина получит разные входные данные.
К примеру, банк передает своей системе ИИ информацию о женщине, решившей взять кредит. Исходя из этого, банк вычисляет, что наименьшее изменение, которое нужно внести женщине в свою жизнь для получения займа — это увеличить свой доход. Возможность такого контрфактуального объяснения многими рассматривается, как приемлемое.
Однако, как утверждают исследователи, оно может считаться неадекватным. Ведь со стороны банка может быть ошибкой сообщить женщине о том, что ей отказано в кредите в связи с низким доходом. Женщина может вполне обоснованно признать такое решение неадекватным.
Отсутствие адекватных объяснений же грозит существенным увеличением несправедливости, с которой столкнутся люди. Не зная о причинах ошибок ИИ, нельзя будет их и исправить. К счастью, на помощь может придти философия.
Философия
Как известно, за века философы разработали ряд методов извлечения объяснительной информации из моря корреляций, а также разработали сложные теории о том, как работает объяснение.
Опираясь на философские идеи, человечество в конечном итоге сможет разработать более сложные и эффективные подходы к объяснимой нейросети. К сожалению, пока между философией и информатикой по этой теме существует не слишком много совпадений. Чтобы бороться с несправедливостью, людям потребуется боле комплексный подход, объединяющий работу в этих областях.
