Терминаторов не будет? Может ли искусственный интеллект когда-либо стать самосознательным

Все чаще можно увидеть в прессе или по телевидению предположения разного рода специалистов в том, что ИИ угрожает нашей цивилизации. Говорится, что искусственный интеллект вскоре выйдет из-под контроля и станет способен оригинально, по-человечески решать проблемы. Но реальна ли такая опасность? Может ли ИИ когда-нибудь стать по-настоящему самосознательным? Ученые пока не пришли к единому ответу.

Интеллект интеллекту рознь

Прежде всего: может ли искусственный интеллект беспилотного автомобиля когда-нибудь обрести самосознание? Нет. Узкий ИИ будет работать только в пределах своей сферы, независимо от того, насколько он может преуспеть в этих пределах. Такая программа создана для конкретной функциональной цели.

Узкий ИИ может принимать форму программного обеспечения для распознавания лиц, инструментов диагностики здоровья или набора простых сценариев, которые использует враг видеоигры, чтобы определить, как вести себя и сражаться. Фактически, этот тип ИИ в наши дни наиболее распространен и бояться его точно не стоит.

Есть разница между узким ИИ и общим искусственным интеллектом (AGI). Определения последнего пока до сих пор расплывчаты, как, впрочем, и человеческое сознание. И самое главное – общий искусственный интеллект еще не создан. В будущем он (если его удастся создать) будет иметь множество форм, подходящих для множества задач, но пока это только в планах.

Интеллект против сознания

Среди людей существует путаница относительно терминов, используемых для описания ИИ и самосознания. Многие из них используются неправильно или ненаучно. Интеллект, возможно, легче всего определить, как способность выполнять задачи, используя доступные данные, знания и навыки. Например, птица действует разумно, когда строит гнездо.

Сознание же мерой способности выполнять задачи. Это когнитивная способность иметь субъективный опыт. Вопрос сознания занимает центральное место в таких областях, как философия, и выходит далеко за рамки данной статьи. Это атрибут, гораздо менее распространенный, чем интеллект и чувствительность. Все существа, обладающие сознанием, разумны, но не все разумные существа обладают сознанием.

Что такое суперинтеллект?

Существует еще одна категория ИИ, выходящая за рамки узкого и общего: искусственный сверхинтеллект (ASI). Поскольку исследователи и технократы всегда соперничают за то, чтобы превзойти реальность, сверхинтеллект — это еще одна гипотеза, которой не существует и, возможно, никогда не будет существовать.

И все же, когда задается вопрос, сможет ли ИИ когда-либо обладать самосознанием, сверхинтеллект становится частью дискуссии, поскольку он может стать последним ориентиром для истинного сознания. ASI является мультимодальным, способным к нейроморфным вычислениям и владеющим эволюционными алгоритмами. Он также призван создавать уникальные изобретения, вот только смоделировать его мы вряд ли сможем.

Это было бы окончательное человеческое творение, почти всеведущее детище, неподвластное человеческому контролю или вмешательству, способное в мгновение ока превзойти всю совокупность человеческих достижений и научных знаний. Ученые называют это технологической "сингулярностью". Это момент, когда ИИ опережает человечество настолько, насколько человечество опережает слизняка, за пределами которого никакие технологические достижения человечества больше невозможны.

Проблема антропоморфизации

Если мы даже когда-нибудь приблизимся к какому-то будущему, где нам придется этически и юридически определить, является ли форма жизни разумной, это случится очень нескоро. Проблема в том, что люди настолько увлеклись научно-фантастическими идеями ИИ, что весь процесс создания и оценки ИИ стал предвзятым.

Несмотря на то, что такие люди, как Илон Маск и Стивен Хокинг, заявляют, что ИИ представляет собой величайшую опасность человечества, мы ни на шаг не приблизились к созданию общего искусственного интеллекта (AGI). Это единственный интеллект мог бы пройти тест Тьюринга и продемонстрировать зачатки сознания.

В этом и заключается настоящая проблема: мы думаем о сознании человеческого типа в творении, которое не является человеком. Это похоже на то, как если бы вы смотрели в космос, не обнаруживая никаких двуногих, бисимметричных инопланетян, использующих вербальный язык, и говорили: "Нет, там точно нет жизни". Поиски самосознающего ИИ по своей сути антропоморфны.

Черный ящик сознания

Учитывая все вышесказанное, возникает вопрос: сможет ли ИИ когда-нибудь обрести самосознание? На сегодняшний день ответ ученых – это неизвестно. Мы не можем определить сознание вне человеческого опыта, мы не знаем, что вызывает сознание у людей, мы не знаем, как "создать" сознание в чем-либо еще. Максимум, что мы можем сделать, это, возможно, признать существование сознания, создав списки "индикаторных свойств", которые предположительно в сумме указывают на свидетельства существования сознания.

Внутренняя работа ИИ часто остается загадкой даже для его разработчиков. Разработчики просто кодируют параметры, оставляют свое творение в покое, а затем наблюдают, что оно делает и как оно развивается. Самосознание, иначе говоря, сознание, — это возникающий побочный продукт системы, а не то, что мы можем планировать с самого начала.

Это еще одна причина, по которой разработчики ИИ беспокойно возятся с системами для получения разных результатов. В этой связи исследователи говорят о том, что сознанию необходимы системы отсчета между собой и другими вещами, а также осознание причины и следствия и их связи с намерением. В настоящее время все это пока невозможно.