Высокие темпы развития искусственного интеллекта (ИИ) настораживают экспертов, которые усматривают потенциальные угрозы для человечества от будущих роботов. И хотя таким опасениям уже несколько десятилетий, по мере совершенствования технологий они обретают все новые краски.
Особую изюминку в понимание данной проблематики внесла и система ИИ Ameca. Она тоже поделилась своими "мыслями" относительно рисков, которые могут исходить от гуманоидов будущего.
Опасения робота
Возможность выступить у ИИ Амека появилась в Лондоне, на Международной конференции по робототехнике и автоматизации благодаря чат-боту ChatGPT Open AI.
Автор разработки Уилл Джонсон из компании Engineered Arts задал вопрос о том, каким Амека видит наиболее пессимистичный сценарий будущего развития ИИ.
Ответ был такой: "Роботы стали контролировать людей или манипулировать ими без их ведома". Также гуманоид рассказал, что в будущем человеческое общество может быть угнетено и лишено прав личности".
Одна из главных угроз
Ameca может быть если не первым, то одним из первых роботов, которые обеспокоились проблемой возможного выхода ИИ из под человеческого контроля.
Но и представители экспертного сообщества все серьезнее относятся к этой угрозе. Об этом свидетельствует и тот факт, что ряд специалистов ставят ее в один ряд с более реальными апокалиптическими сценариями наподобие пандемии.
Не так давно руководители технологических компаний Open AI, Google и Anthropic поддержали заявление о важности рассмотрения риска неуправляемого ИИ в глобальном приоритете. В этом заявлении, в частности, говорится о необходимости снижения риска исчезновения человечества из-за ИИ.
Меры предохранения
В свое выступление Амека внесла и нотки оптимизма, отметив, что на данном этапе человечество еще не находится в условиях, когда подобные сценарии имеют шансы на реализацию. Однако сохранить контроль таких рисков с перспективой на будущее помогут только специальные меры и сознательный подход к продвижению инноваций в области ИИ.
По словам Ameca, одним из условий сдерживания негативных сценариев станет ответственное использование передовых технологий, причем уже сегодня. Научное сообщество и рядовые пользователи должны открыто сформулировать ключевые принципы разработки и внедрения роботов на базе ИИ.
Все острее будут вставать вопросы об этике создания гуманоидов и последствиях их эксплуатации на бытовом уровне.
Перспективы развития Ameca
На данном этапе робот Engineered Arts представляет собой лишь говорящую голову с конечностями без возможности передвижения. Но в будущем авторы проекта намерены научить гуманоида и ходьбе. Для этого, как заявляют в компании, нужно будет преодолеть немало препятствий.
Дело в том, что ходьба - достаточно сложная задача для роботов. И хотя разработчики уже провели ряд исследований в этом направлении, полноценной ходячей версии робота пока нет.
Возможно, физические возможности и не будут главной способностью ИИ Ameca. Ведь даже экспертов прежде всего впечатляют глубокие и реалистичные ответы робота. И до вопроса о сценариях угрозы ИИ он делал весьма любопытные высказывания. К примеру, многих слушателей тронул ответ, в котором гуманоид жалел о невозможности испытания настоящих чувств и простых человеческих радостей. Эту данность Ameca называет удручающей и печальной, но в то же время заставляющей ценить положительные стороны своего бытия.
Интересно, что и в ответе на вопрос о жутких сценариях порабощения человечества робот проявил весьма однозначные эмоции беспокойства и тревоги. Это было видно по нескрываемой мимике, что только усилило впечатления от сказанного.
При этом чувственная сфера продолжает быть одной из самых проблематичных с точки зрения ее воплощения в ИИ.
