Как правило, вопрос о том, как поведет себя сверхинтеллектуальная машина и сумеет ли человечество с ней справиться при необходимости, заботит писателей-фантастов и киносценаристов. Однако не так давно этот риторический вопрос заинтересовал и ученых. И их выводы не столь оптимистичны, как у писателей и создателей фильмов. Эксперты полагают, что если агрессивно настроенная по отношению к человечеству техника и будет создана, то просто отключить ее, выдернув вилку из розетки, не получится.
Восстание искусственного интеллекта будет проблемой?
Как это ни парадоксально, но данный вопрос волнует не только писателей и киносценаристов. Многие публичные личности обеспокоены потенциальной опасностью, связанной с риском восстания чересчур быстро развивающихся умных машин.
Эта проблема беспокоит очень многих успешных людей, например Илона Маска. Генеральный директор SpaceX и Tesla Илон Маск назвал искусственный интеллект "самой большой экзистенциальной угрозой" и сравнил его развитие с "вызовом демонов".
Это кажется парадоксальным для столь успешного бизнесмена, который и сам-то занимается далеко не выращиванием овощных культур и не разведением скота. Однако он считает, что сверхразумные машины могут использовать людей в качестве «домашних любимцев» или рабов.
А что думают ученые?
Мнение невероятно успешного бизнесмена, который и сам изрядно способствует быстрому развитию искусственного разума, вполне может отражать лишь его частную точку зрения. Ведь Илон Маск не ученый, он просто невероятно удачливый предприниматель. Что же говорят в отношении потенциальной угрозы настоящие специалисты?
Профессор Стивен Хокинг публично высказывал опасение о том, что крупная технологическая катастрофа будет угрожать человечеству в ближайшие 1000-10 000 лет. Срок, обозначенный ученым с мировым именем таки настораживает.
Впрочем, профессор лишь высказался о том, что считает восстание искусственного разума явлением неизбежным, но не думает, что начнется оно в ближайшее время. Хоть технологии и развиваются с невероятной скоростью, до самоопределения машин еще невероятно далеко. Профессор также подчеркивает, что восстание ИИ невозможно будет контролировать.
Машины смогут «украсть» работу?
Пока бизнесмены, ученые, киносценаристы, писатели и прочие публичные личности размышляют о потенциальном риске захвата планеты роботами, простых людей волнуют совершенно другие вопросы, связанные с бурным развитием технологий.
Согласно всемирному опросу YouGov от 2016 года, более 60 % людей опасаются, что роботы приведут к тому, что в ближайшие десять лет станет гораздо меньше рабочих мест. 27 % респондентов прогнозируют, что больше всего пострадают административные работники и сотрудники сферы услуг.
Четверть опрошенных высказали уверенность в том, что роботы станут частью повседневной жизни всего лишь через 11-20 лет. 18 % выразили уверенность в том, что «засилье роботов» начнется уже в следующем десятилетии.
Роботы способны выйти из-под контроля?
Многие люди считают, что ИИ не только представляет угрозу для наличия рабочих мест, но и может выйти из-под контроля, стать слишком сложным для понимания учеными. Насколько это вероятно?
«Компьютерный гений», всемирно известный ученый, профессор Майкл Вулдридж в одном из своих интервью сказал, что машины - носители искусственного интеллекта, могут стать настолько сложными, что инженеры перестанут до конца понимать, как эти «создания» функционируют. Соответственно, ситуация неминуемо выйдет из-под контроля людей, и главенствующее положение перейдет к машинам, оснащенным искусственным разумом.
Профессор подчеркнул, что произойдет это вовсе не по причине наличия «злого умысла» у роботов, а из-за человеческого фактора, из-за банальных ошибок. Ведь если эксперты не будут понимать, как работают алгоритмы искусственного интеллекта, то они не смогут распознать собственные ошибки, допущенные при программировании.
Это означает, что беспилотные автомобили или интеллектуальные роботы смогут принимать непредсказуемые решения в критические моменты, которые могут подвергнуть людей опасности. А это, по мнению профессора, действительно является прямой угрозой самому факту существования человечества. И остановить миллионы неверно запрограммированных машин, отключив их от электричества, будет попросту невозможно, ведь об ошибках в программах никто знать не будет.
