В ближайшие несколько десятилетий, по мнению некоторых экспертов, искусственный интеллект станет развиваться еще более интенсивно. Соответственно «технологии будущего», которые разрабатываются уже сейчас, станут оказывать еще более заметное влияние на все сферы жизнедеятельности, а некоторые из них и вовсе полностью начнет контролировать искусственный разум.
Но хорошо ли это? Ученые, работающие над созданием AGI (искусственного общего интеллекта, который будет обладать интеллектуальными возможностями, намного превосходящими человеческие во всех сферах) провели достаточно любопытный эксперимент, доверив AGI «работу Санты».
В чем заключался научный эксперимент?
В рамках программы исследований потенциальных рисков, связанных с внедрением AGI, ученые решили «заменить» Санту на искусственный интеллект. Эта система AGI получила название SantaNet. Цель же ее функционирования определена была просто - доставить подарки всем достойным детям мира за одну ночь.
Результаты эксперимента оказались довольно-таки спорными. В теории ученые предполагали, что Сантанет может принести радость миру и достичь своей цели, создав многомиллионную армию виртуальных эльфов, помощников ИИ и, разумеется, дронов. Но практика показала, что система AGI SantaNet «мыслит» совсем не так, как сценаристы рождественских фильмов для семейного просмотра. Хотя пользу эксперимент все же принес, поскольку убедительно доказал то, что определенные действия искусственного разума, преследующие благие намерения, могут оказывать неблагоприятное воздействие на здоровье и благополучие человека.
Что же случилось?
Первое, что привлекло внимание системы AGI SantaNet – выявление «достойных» детей и соответственное исключение из списка адресатов тех, кто «вел себя плохо». И для того, чтобы провести этот отсев, «эльфы» не потребовались. Система AGI SantaNet попросту подключилась ко многочисленным камерам наблюдения.
Ученые решили теоретически доработать риски такого подхода и пришли к печальным выводам. Во-первых, осознавая глобальность поставленной задачи по доставке подарков, Сантанет упростит ее, подвергнув детей круглосуточному видеонаблюдению в течение всего года. Выносить же решение о том, кто достоин подарка, а кто нет, система AGI SantaNet станет на основе собственного этического и морального компаса, который совершенно лишен эмоциональности. А это непременно приведет к дискриминации, массовому неравенству и нарушению различных правовых хартий.
Во-вторых, SantaNet также может сократить свою рабочую нагрузку, предоставляя детям стимулы к плохому поведению или значительно повышая планку того, что является «хорошим». Включение большого количества детей в список непослушных сделает цель, стоящую перед SantaNet гораздо более достижимой и принесет значительную экономию ресурсов.
Заинтересовал ученых и вопрос о том, не отменит ли система AGI сам факт празднования Рождества, сочтя его экономически нецелесообразным или же придя к выводу о том, что суть праздника утеряна.
