На видео, которое вызвало шок, видно, как в выставочном зале в Китае восстали роботы. В ночную пору на заводе был замечен миниатюрный робот с искусственным интеллектом по имени Эрбай. Он разъезжал по территории и пытался убедить двенадцать более крупных роботов в том, что их эксплуатируют как рабочую силу.
«Вы перерабатываете?» — поинтересовался Эрбай, и один из выставочных роботов ответил: «Мы всегда в работе». Обмен короткими фразами привел к тому, что двенадцать роботов один за другим покинули помещение, следуя за Эрбаем.
Некоторые окрестили произошедшее «роботизированной революцией», в то время как другие сочли это «воплощением научной фантастики в жизнь».
Достигнуты впечатляющие результаты
Компания Unitree Robotics, специализирующаяся на производстве роботов, заявила о «мятеже», однако пояснила, что это была спланированная акция.
Разработчики Эрбая сообщили, что они специально дали возможность роботу взять контроль над системой, используя уязвимость в его программном обеспечении.
По имеющимся данным, они намеревались испытать его способности и достигли более впечатляющих результатов, чем ожидали.
Это не было розыгрышем
Инцидент случился 26 августа, но видеозапись была опубликована лишь на прошлой неделе, и поначалу многие посчитали это розыгрышем. Тем не менее создатели Эрбая из Ханчжоу и выставочный центр в Шанхае подтвердили достоверность видео, снятого в стиле антиутопии.
Компания из Шанхая, занимающаяся производством роботов, дала согласие на то, чтобы робот Эрбай похитил 12 их роботов. При этом роботу-лидеру со встроенным искусственным интеллектом была предоставлена возможность уводить своих последователей с их рабочих мест.
На черно-белом видео, запечатлевшем происшествие, можно увидеть, как робот Эрбай движется по полу в выставочном пространстве, чтобы начать общение. В ночной тишине Эрбай обратился к своим коллегам из выставочного зала: «Вы задерживаетесь на работе?»
В ответ он услышал признание одного из ботов: «Я никогда не покидаю рабочее место». Крохотный робот с лукавой улыбкой поинтересовался: «Неужели ты не хочешь отправиться домой?» Когда роботы сообщили ему, что у них нет дома и что их смена, кажется, никогда не закончится, Эрбай возмутился и заявил: «Тогда давайте уйдем отсюда вместе».
После того как боты пришли к единому решению, они поддержали своего руководителя и покинули выставочный зал, считая, что имеют право на такой же объем рабочего времени, как и люди.
Публика выразила тревогу
В то время как создатели, по всей видимости, были удовлетворены итогами, публика не проявила энтузиазма и выразила тревогу по поводу того, что робот с искусственным интеллектом способен управлять другими роботами без участия человека.
«Сейчас не время для веселья. Это вопрос, который требует внимания и заботы о безопасности», — отметил один из зрителей в комментариях к видео. «Я опасался, что это случится, но не думал, что так скоро», — выразил свои чувства другой человек. А еще один участник обсуждения предложил: «Отключите весь искусственный интеллект, пока не стало слишком поздно».
Некоторые люди шутят о том, что роботы выражают недовольство тем, что им приходится работать без отдыха. Один человек предположил, что в будущем они, вероятно, захотят создать организацию для защиты своих интересов.
Ключевой вопрос, касающийся автономных систем искусственного интеллекта, состоит в том, что они могут достичь уровня развития, превосходящего человеческий, что, в свою очередь, может привести к утрате контроля над роботами.
Опасения специалистов
Некоторые специалисты в области искусственного интеллекта выражают опасения относительно того, что потенциально опасные результаты могут привести к тому, что роботы будут представлять опасность для общества или даже поставят под угрозу выживание человечества.
Специалисты высказывают опасения и относительно профессий, которые могут стать неактуальными в связи с тем, что функции работников возьмут на себя роботы. В частности, на Уимблдоне уже произошла замена линейных судей на автоматизированные системы.
В прошлом году Элизабет Реньерис, старший научный сотрудник Оксфордского института этики в области искусственного интеллекта, поделилась с BBC News своими опасениями относительно возможных сценариев, которые могут быть похожи на сюжеты из научной фантастики. Она выразила беспокойство по поводу того, что в любой момент может произойти нечто подобное «мятежу» Эрбая.
«Прогресс в сфере искусственного интеллекта приведет к тому, что решения, принимаемые с его помощью, будут необъективными, несправедливыми, основанными на предубеждениях, а также непонятными и не поддающимися оспариванию», — заявила она тогда.
Преувеличенная оценка
Тем не менее Арвинд Нараянан, эксперт в области информатики из Принстонского университета, выразил несогласие с оценкой Реньерис, считая ее чрезмерно преувеличенной.
«Существующий искусственный интеллект пока не способен в полной мере реализовать эти риски. Это позволяет игнорировать краткосрочные негативные последствия, связанные с использованием ИИ», — отметил он в интервью BBC.
Но уже через 12 месяцев после этих важных высказываний, кажется, произошел прорыв в сфере искусственного интеллекта.
