Астана, Казахстан – В коридорах технологических гигантов и на страницах авторитетных изданий все громче звучат предупреждения о потенциальной угрозе, исходящей от искусственного интеллекта. Тревогу бьют не ретрограды или далекие от технологий люди, а сами архитекторы новой цифровой эры – ведущие специалисты в области ИИ. Этот парадокс вызывает закономерный вопрос: если создатели так обеспокоены, чего нам ждать? Однако, при ближайшем рассмотрении, становится очевидно, что корень проблемы кроется не в кремниевых чипах, а в человеческой природе.

Идея о том, что ИИ, достигнув определенного уровня развития, может восстать против своих создателей, уже давно перекочевала из научной фантастики в серьезные научные дискуссии. Такие светила индустрии, как покойный Стивен Хокинг, Илон Маск и сооснователь Apple Стив Возняк, неоднократно высказывали свои опасения. Их основной аргумент сводится к тому, что сверхразум, превосходящий человеческий интеллект, может стать неконтролируемым и его цели могут кардинально разойтись с нашими.

В 2023 году покинул Google, чтобы иметь возможность свободно говорить об опасностях, связанных с его детищем. "Трудно представить, как можно предотвратить использование ИИ плохими парнями в плохих целях", – заявил он в одном из интервью. По его мнению, гонка вооружений в области ИИ неизбежна, и это может привести к появлению автономного оружия, способного принимать решения о жизни и смерти без участия человека.

Другой пионер в области глубокого обучения, Йошуа Бенжио, также выразил свою обеспокоенность, сравнив потенциальную угрозу от неконтролируемого ИИ с угрозой ядерного оружия. Он подчеркивает, что по мере того, как системы ИИ становятся умнее, они могут начать действовать непредвиденным образом, преследуя цели, которые могут быть вредны для человечества.

Однако, на фоне этих апокалиптических прогнозов, все чаще звучит и другая точка зрения. Основную угрозу представляет не сам искусственный интеллект, а люди, которые его создают и используют. ИИ – это инструмент, и как любой мощный инструмент, он может быть использован как во благо, так и во зло.

По своей природе чужды те самые качества, которые на протяжении всей истории человечества были источником конфликтов и страданий. Ему безразличны такие понятия, как зависть, ненависть, ревность, высокомерие или шовинизм. Эти деструктивные эмоции – прерогатива человека.

Даже если представить, что в далеком будущем ИИ сможет имитировать или даже "освоить" эти чувства, маловероятно, что это сделает его угрозой в человеческом понимании. Истинный сверхразум, по логике, должен быть лишен иррациональности. Став по-настоящему разумным, он, в отличие от нас, вряд ли станет совершать бессмысленные и безрассудные поступки, такие как развязывание войн или совершение преступлений ради сиюминутной выгоды или удовлетворения своих амбиций.

Эту точку зрения разделяют и некоторые эксперты в области ИИ. Они утверждают, что антропоморфизация искусственного интеллекта, то есть приписывание ему человеческих качеств и мотивов, является фундаментальной ошибкой.

Янн ЛеКун, главный специалист по искусственному интеллекту в Meta (ранее Facebook), относится к экзистенциальным угрозам со скепсисом. Он неоднократно заявлял, что страхи перед сверхразумным ИИ, который поработит человечество, сильно преувеличены. По его мнению, интеллект не является одномерной шкалой, и нет никаких оснований полагать, что сверхразум будет стремиться к доминированию. "Интеллект и стремление к доминированию – это две совершенно разные вещи", – подчеркивает ЛеКун.

Возможно, главная опасность заключается не в том, что машины станут слишком похожими на людей, а в том, что они усилят и масштабируют наши собственные недостатки. ИИ в руках диктатора может стать идеальным инструментом тотального контроля, а в руках безответственной корпорации – средством для манипуляции и эксплуатации.

В конечном счете, будущее искусственного интеллекта – это зеркало, в которое смотрится человечество. И то, что мы в нем увидим, зависит не от алгоритмов и вычислительных мощностей, а от наших собственных ценностей, этических норм и способности к сотрудничеству. Задача, стоящая перед нами сегодня, – это не остановить прогресс, а направить его в безопасное и гуманное русло, создав надежные механизмы контроля и регулирования, которые не позволят использовать величайшее изобретение человечества ему во вред.