Сегодняшние системы и близко не представляют экзистенциальный риск. Но через один, два, пять лет? Слишком много неопределенности. Вот в чем проблема. Нет уверенности, что мы осознаем этот момент, когда мы будем на грани катастрофы, — отметил профессор, научный сотрудник Монреальского университета Йошуа Бенжио.

Компании могут предоставить системам с ИИ все больше автономии и подключать их к жизненно важной инфраструктуре: электрические сети, фондовые рынки и вооружению. Именно это и может вызвать проблемы.

В какой-то момент станет ясно, что большая машина, управляющая обществом и экономикой, на самом деле не находится под контролем человека и не может быть отключена, как не может быть отключен S&P 500, — говорит космолог из Калифорнийского университета в Санта-Крузе Энтони Агирре.

Эксперты уверены, что пока системы с ИИ склонны «застревать в бесконечных петлях» из повторяющихся данных. Однако со временем это перестанет быть проблемой для ИИ.

Поскольку ИИ-системы учатся на большем количестве данных, чем способны понять даже их создатели, эти системы уже демонстрируют неожиданное поведение. Некоторые эксперты опасаются, что по мере того, как исследователи делают эти системы более мощными, обучая их на все больших объемах данных, они могут приобрести больше вредных и даже опасных привычек, - говорят аналитики.

В конце мая главы компаний в области ИИ написали письмо, в котором предупредили, что технологии искусственного интеллекта однажды могут представлять экзистенциальную угрозу для человечества и должны рассматриваться как риск наравне с пандемиями и ядерными войнами.