Основатель компаний SpaceX и Tesla Илон Маск считает искусственный интеллект величайшей угрозой для человеческой цивилизации. Инженер призывает поверить в его слова, ведь он имеет доступ к самым передовым технологиям современности. Он считает, что нужно строго контролировать ИИ. Если люди будут реагировать на изменения уже после того, как они произойдут, будет слишком поздно.
История покупки компании DeepMind Technologies корпорацией Google
В 2010 году британская компания, занимающаяся развитием искусственного интеллекта, начала разрабатывать программы, способные победить человека в таких играх, как шахматы, "Понг" и "Космические захватчики". В 2014 году эта фирма привлекла внимание материнской компании Google – Alphabet, которая приобрела лабораторию искусственного интеллекта за 500 млн долларов. Вскоре после покупки представители Google сформировали секретную комиссию по этике для контролирования исследований DeepMind. Имена участников этой миссии не были названы. Через несколько лет комиссия компании DeepMind была расширена и получила официальное название «Этика и общество DeepMind». Несмотря на то что фирма заявила, будто основные цели заключаются в исследовании этических и социальных вопросов, связанных с существованием невероятно мощного искусственного интеллекта, настоящие действия комиссии все еще окутаны тайной.
Глобальный искусственный интеллект
Однако позднее в новостном журнале The Economist был опубликован отчет о проведении основных мероприятий группы. Оказывается, что перед тем как руководство корпорации Google согласилось приобрести лабораторию ИИ, оно потребовало заключения договора, желая немедленно взять под свой контроль искусственный интеллект DeepMind, если он достигнет глобального уровня, а именно станет частью сильного искусственного интеллекта. Сильный ИИ – это любой искусственный разум, который может успешно решать любые интеллектуальные задачи, с которыми справляется человек. Более того, учитывая неимоверные массивы информации, которые способен проработать компьютер, эта система сможет обрести больше человеческих качеств, чем сам человек.
Опасность, о которой предупреждают ученые
По мнению ученых, есть вероятность, что система ИИ DeepMind не очень хорошо отнесется к комиссии по этике, которая попытается ее контролировать. В этом случае человечество окажется в той ситуации, которую предвещали многочисленные истории из области научной фантастики.
Все это не так уж далеко от реальной возможности, учитывая, что система уже смогла доказать свою способность побеждать лучших игроков в самых сложных играх мира, таких как го и даже стратегическая видео игра StarCraft 2. В прошлом году искусственный интеллект DeepMind удивил своих разработчиков тем, что сумел успешно справиться с созданием нейронных путей, напоминающих нейронные сети в человеческом мозге. Причем система справилась с этим самостоятельно. Сколько еще времени потребуется для того, чтобы перейти на более глобальный уровень?
Многие ученые и предприниматели наряду с Илоном Маском предупреждают об опасности развития системы с собственным разумом. Роботы могут стать бессмертными диктаторами. Смогут ли комиссии контролировать их действия, прежде чем компьютеры захватят весь мир? Либо все эти опасения базируются исключительно на произведениях научной фантастики, либо мы действительно создаем наших будущих правителей.
Одна из версий мрачного будущего, о которой говорит Илон Маск, выглядит следующим образом: роботы начнут фабриковать новости и манипулировать сознанием людей, что может привести к войне, ведь перо страшнее меча.
Вместо итогов
Самое страшное то, что несмотря на опасения и предупреждения лучших ученых, жадные корпорации будут упорно идти в выбранном направлении. Устраивая гонку за передовыми технологиями, эти фирмы забывают об угрозе. Сдержать их в состоянии только самые влиятельные представители власти. Следует задуматься, действительно ли это принесет пользу человечеству. Неужели мы хотим отдать право принимать решения собственным изобретениям?
