ПРИЧИНА №1: В какой-то момент искусственный интеллект может выйти из-под контроля

Я неоднократно встречался с действующими сотрудниками нашей разведки и учёными – они считают, что за искусственным интеллектом будущее, а я вот на это смотрю довольно скептически. Одна из учёных, с которой я недавно познакомился, как-то сказала мне: “Я долгое время считала это направление перспективным, а сейчас до чёртиков напугана”. Мне кажется, она поняла, что так или иначе могут возникнуть сложности с контролем искусственного интеллекта: эта технология находится за гранью человеческого понимания».

Трейлер фильма «Терминатор»

ПРИЧИНА №2: Развитие ИИ приведёт к неизбежному господству некоторых государств

Путин недавно сказал, что нация, которая станет лидером в сфере искусственного интеллекта, будет главенствовать над миром. Складывается безвыходное положение: разные государства будут пытаться милитаризировать искусственный интеллект, оправдывая свои действия как превентивную меру. Все будут стараться превратить искусственный интеллект в оружие. Мне кажется, что только это уже должно вызывать опасения».

Круглый стол с Джеймсом Кэмероном и Тимом Миллером


ПРИЧИНА №3: Даже великие умы видят в искусственном интеллекте угрозу

Элон Маск и Стивен Хокинг уже предупреждали, что искусственный интеллект может поставить под угрозу само выживание человеческой расы - наряду с такой глобальной проблемой, как ядерное оружие. Большинство авторов научно-фантастической литературы давно видят в развитии ИИ один из апокалиптических элементов».

«Терминатор: Генезис». Джеймс Кэмерон о фильме

ПРИЧИНА №4: В реальной жизни машины уже побеждают

Технологии меня всегда пугали и привлекали одновременно. Мне часто говорят: машины никогда не выиграют войну с людьми, на что я отвечаю: «Оглянитесь вокруг, в любом аэропорту, в любом ресторане, посмотрите, сколько людей увлечены своими смартфонами. Машины уже победили: наше сознание в какой-то степени сливается с сознанием машин».

«Терминатор 3: Восстание машин». Удалённая сцена с Арнольдом Шварценеггером

ПРИЧИНА №5: В настоящее время уже существуют технологии, способные на убийство

То, что было научной фантастикой во время съёмок первых двух частей в 1984 и 1991 годах, теперь уже является реальностью. Мы живём в мире искусственного интеллекта и дронов, способных не только наблюдать, но и убивать».

«Терминатор 2». Начальные титры фильма

ПРИЧИНА №6: Машины вскоре смогут убивать автономно

Сегодня беспилотники меняют способы ведения войны, а политики всерьёз обсуждают вопрос, стоит ли разрешить машинам убивать самостоятельно. Это большая проблема, ведь пока что каждый аппарат для убийств контролируется оператором дистанционно. В будущем же подобные дроны смогут самостоятельно принимать решение о ликвидации цели».

Трейлер фильма «Я, робот», в котором также поднимается вопрос использования разумных роботов

ПРИЧИНА №7: Развитие технологий необратимо

Наши отношения с нашими собственными достижениями всегда были очень непростыми. Такое чувство, что человечество делает само себя несколько устаревающим. В любом случае, выдавив пасту из тюбика, назад её уже не вернёшь. Таким образом, мы уже выпустили одного джинна из бутылки в 1940-х годах, запустив развитие ядерного вооружения. Окончание Холодной войны стало лишь концом напряжённости, однако всем нам до сих пор есть о чём беспокоиться. Развитие искусственного интеллекта тоже уже запущено».

Фрагмент из фильма «Терминатор 2»

ПРИЧИНА №8: Искусственный интеллект лишает людей рабочих мест

Уже давно многие технологии на производстве автоматизируются, люди заменяются машинами, техническими приспособлениями. Однако дальнейшая перспектива ещё хуже: искусственный интеллект способен сравниться с мозгом лучших учёных мира».

Трейлер фильма «Из машины», главный герой которого проводит тест Тьюринга над женщиной-роботом

ПРИЧИНА №9: Не все учёные осознают угрозу

Мы развиваемся вместе с нашими технологиями. Технологии становятся для нас зеркалом. Производство человекоподобных роботов с интеллектом, равным нашему, - это вопрос ближайших десятилетий. Исследователи дают нам от десяти до тридцати лет. Попробуйте пообщаться с молодыми разработчиками - и вы поймёте, что эти люди живут в том же мире восторженного оптимизма, что и учёные-ядерщики 1930-х, размышляющие о том, как их изобретение изменит мир. Они не брали на себя ответственность за то, что их разработка может стать оружием и уничтожит впоследствии сотни тысяч людей».

«Прометей». Фрагмент «Рождения Дэвида». В этой картине Ридли Скотта андроид становится главным антагонистом

ПРИЧИНА №10: Конкуренция порождает превосходство

Наши изобретения, конечно же, отражают наши лучшие и худшие стороны. Но технологии - это тоже бизнес. Именно поэтому компании будут делать своих роботов более самостоятельными, более умными, словом, во всём превосходящими продукцию конкурентов. Представьте, как это опасно для машин, которые умеют убивать? Вряд ли это закончится благополучно».

«Бегущий по лезвию 2049». Дублированный ролик «2036: Возрождение Nexus». Человекоподобные роботы-слуги репликанты находятся в центре сюжета как первой, так и второй части киносерии