The post has been translated automatically. Original language: Russian
# Введение: прогресс ИИ стремителен
Прогресс в области искусственного интеллекта беспрецедентен. Многие компании стремятся создать ОИИ (Общий искусственный интеллект) — тип искусственного интеллекта, который будет соответствовать или превосходить человеческие способности практически во всех когнитивных задачах. Руководители этих компаний считают, что они могут достичь этого всего через несколько лет, некоторые называют дату уже в 2027 году. Хотя эти заявления могут показаться преувеличенными, а точные сроки создания ОИИ всё ещё остаются под вопросом, существует вполне реальная вероятность того, что эта технология появится очень скоро
# Прогресс ИИ опасен.
Такие темпы прогресса означают, что человечество очень скоро будет обладать огромной властью. И в ИИ достаточно силы, чтобы поставить под угрозу выживание нашего вида. Этот риск был широко признан в 2023 году в Заявлении о рисках ИИ, которое гласит: «Снижение риска вымирания от ИИ должно быть глобальным приоритетом наряду с другими рисками социетального масштаба, такими как пандемии и ядерная война». Среди подписавших были ведущие исследователи ИИ, руководители таких компаний, как Google DeepMind, OpenAI, Anthropic, и общественные деятели, такие как Билл Гейтс.
Из возможных рисков ИИ, это эссе в основном будет сосредоточено на рисках концентрации власти, массового неравенства и потери рабочих мест.
# Потенциальные последствия ИИ: Массовая потеря рабочих мест
Организационные структуры большинства корпораций предстваляют собой пирамиды: множество младших сотрудников в основании и небольшое количество руководителей на вершине.
Всё более мощный ИИ спровоцирует «пирамидальное замещение»: систематическое вымывание корпоративных структур, которое начнется с заморозки найма на начальные позиции и будет продвигаться вверх через волны сокращений.
Первые версии ИИ-сотрудников позволят компаниям сократить расходы на сотрудников без увольнения кого-либо. Вместо этого они просто перестанут нанимать новых сотрудников. По мере того как оставшиеся сотрудники начального уровня получают повышение до младших специалистов (джуниоров), ряды начинающих специалистов начнут редеть.
Перенесёмся на несколько лет вперёд и допустим, что вы владелец крупной корпорации. Крупная ИИ-лаборатория только что выпустила новую систему. Она выполняет любую задачу на 20% быстрее и на 10% лучше, чем любой из ваших младших сотрудников. Её использование для замещения работы одного сотрудника стоит 10000 долларов в год, это как минимум 80% экономии средств. Она может позволить вашему лучшему джуниору выполнять работу за десятерых или полностью автоматизировать класс младших специалистов.
Поначалу вы скептически относитесь к этой новой системе. Вы внедряете ее в тестовом режиме, и через год она превосходит всех ваших сотрудников. Более того, сохранение людей в рабочем цикле замедляет систему и ухудшает результаты работы.
Почему бы вам не уволить ваших младших сотрудников? Они дороже, хуже справляются с работой и менее надёжны. И если ваша компания их не уволит, вы будете раздавлены конкурентами, которые готовы пойти на массовое увольнение.
Перенесёмся чуть дальше в будущее. ИИ системы вновь становятся лучше. На этот раз они открывают возможность выполнять все среднесрочные задачи в компании. Несмотря на растущее общественное недовольство, акционеры будут требовать повышения производительности для роста прибыли. Если фирма не автоматизирует большую часть своей работы, она проиграет конкурентам. Схема массового увольнения и автоматизации повторяется, но на этот раз она приобретает ещё более глобальный масштаб.
Теперь ИИ может выполнять весь интеллектуальный труд в компании, и они справляются со своей работой без участия старшего руководства. Многие фирмы принимают решение: им нужен только топ-менеджмент.
# Потенциальные последствия ИИ: Заработная плата резко упадёт
Говоря откровенно, традиционная работа белых воротничков вряд ли переживёт революцию ИИ. Это не проблема 2050 или 2100 года — это проблема для сегодняшних предпринимателей, политиков и правительств.
В ответ на это, многие могут утверждать, что на замену старым профессиям будут созданы новые, лучшие вакансии, и что в результате автоматизации зарплаты вырастут. Но когда экономисты действительно серьёзно моделируют последствия ИИ, они приходят к другим выводам. Исследование Коринека и Су показвает, что в случае массовой автоматизации труда работников заработные платы резко падают.
Как заявил исследователь ИИ Мэттью Барнетт:
«Как только станет возможным широкое развёртывание ОИИ (Общего Искусственного Интеллекта), количество ОИИ агентов будет быстро расти, быстро насыщая существующую физическую инфраструктуру. Это быстрое расширение автоматизации рабочей силы может резко снизить ценность человеческого труда.
Если ОИИ смогут полностью заменить человеческих работников, минимальный рыночный уровень заработной платы больше не будет определяться уровнем прожиточного минимума человека. Вместо этого минимальная стоимость труда будет определяться энергетическими потребностями ОИИ, которые потенциально могут быть гораздо ниже энергетических потребностей человека».
Хотя в ближайшем будущем физический труд скорее всего не подвергнётся автоматизации, но ОИИ в теории способен заменить рабочих во всех сферах труда. Уволенные офисные работники вначале могут перейти в профессии синих воротничков. Но такая тенденция не продлится надолго. В результате растущая конкуренция за постоянно сокращающийся список рабочих мест может привести к тому, что заработная плата упадёт ниже прожиточного минимума.
# Ресурсное проклятие
На основании этого можно спросить: «Если развитие ИИ увеличивает объем производимых товаров и услуг, а население становится беднее, куда девается избыточное богатство? Что здесь происходит? Как может быть, что крайняя нищета большинства граждан совместима с никогда невиданной возможностью человечества производить все блага, товары и услуги?»
Не нужно много размышлять, чтобы найти ответ на этот вопрос. Существует широко распространённый феномен под названием ресурсное проклятие, при котором страны с богатыми природными ресурсами, как правило, демонстрируют более низкий экономический рост и более высокий уровень бедности, чем их экономически диверсифицированные аналоги.
У нас уже есть общества, которые производят много богатства, используя труд очень маленького процента своего населения. Такие страны называются государствами-рантье. Эти государства — включая Венесуэлу, Саудовскую Аравию, ДРК и Оман — получают большую часть своих доходов от ресурсов (обычно нефти), а не от продуктивного труда своего народа. В качестве примера, Демократическая Республика Конго является одной из беднейших стран, несмотря на то, что в её недрах находятся полезные ископаемые на сумму более 24 триллионов долларов. Добыча этих минералов не требует большого количества людей, поэтому она не создает много рабочих мест, но приносит огромную прибыль их владельцам.
Прошлые технологические революции расширяли человеческий потенциал. Аграрная революция породила цивилизации; промышленная революция позволила нам масштабировать производства. Эти революции создали инструменты, которые улучшали потенциал людей, позволяли каждому человеку быть более продуктивным. ОИИ не будет таким. ОИИ больше похож на уголь или нефть, чем на плуг, паровой двигатель или личный компьютер. Как и эти ресурсы:
- Для его развития и использования потребуется огромный капитал.
- Контроль, вероятно, будет сосредоточен в руках нескольких игроков: лабораторий, которые производят ИИ, государств, в которых они находятся, и компаний, которые производят сырьё, чипы, роботов и электричество.
- Государства, получающие ренту в основном или полностью от ИИ, не будут нуждаться в налогах рабочего класса для поддержания себя.
Поскольку они зарабатывают деньги на ресурсах, у государств-рантье нет стимула давать социальную помощь людям сегодня или инвестировать в них ради завтрашнего дня. Они инвестируют ровно столько, сколько требуется, чтобы вывезти нефть из-под земли, погрузить её на грузовики и доставить в порты. Тем не менее, классические рентные государства всё ещё имеют долгосрочный стимул диверсифицировать свою экономику, потому что нефть нестабильна в цене, и её запасы могут исчерпаться.
Доход, поступающий от ИИ вместо налогообложения людей, означает, что нет необходимости строить государственные школы, больницы и предоставлять социальные гарантии. В настоящее время государства имеют экономический стимул создавать процветающих и продуктивных инженеров, предпринимателей, новаторов и других работников и создавать для них среду, чтобы они платили больше налогов. Государства должны улучшать жизнь граждан, потому что они финансово зависят от их труда. Эта зависимость не будет применима к государствам эпохи, где ОИИ уже изобрели.
В полностью автоматизированном мире зачем умолять и задабривать своих людей производить товары и услуги, когда это можно получить от ИИ? Теперь власть имущим можно просто отказаться помогать населению, и это легко сойдёт у них с рук. Что ещё хуже, забастовки и восстания становятся невозможными в мире, где автоматизированные ИИ-солдаты и массовая слежка делают свержение деспотов невозможным.
# Преодоление ресурсного проклятия: Видение лучшего будущего
Означает ли это, что с автоматизацией наша жизнь окончена? Не факт. Всегда можно и нужно использовать силу технологии для улучшения нашей жизни. Для этого, давайте определим принципы будущего, в котором мы хотим жить:
- Каждый гражданин имеет беспрецедентные материальные блага для поддержания здоровой и счастливой жизни.
- Ни один отдельный субъект или олигархия — будь то правительства, компании или горстка людей — не будут единолично контролировать ОИИ. Как следствие, никто не будет способен монополизировать власть.
- Обычные люди контролируют свою судьбу и могут выбирать, как и где жить. Я считаю самоочевидной истиной, что люди должны быть хозяевами своего собственного будущего.
# Преодоление ресурсного проклятия: устойчивые социальные институты
Ресурсное проклятие не было неизбежным. К примеру, [исследователи](https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4381252) обнаружили, что после нахождения больших запасов нефти большинство государств стали менее демократичными. Однако государства с существующими, относительно высокими уровнями демократии избежали негативных последствий ресурсного проклятия.
Возьмём в качестве примера Норвегию. Норвегия совершила «ресурсное чудо» вместо ресурсного проклятья. Это одна из самых богатых стран в мире, и её народ непосредственно выиграл от её природных ресурсов. Индекс человеческого развития Норвегии — второй в мире. Её национальный фонд благосостояния, который занимается инвестированием огромных нефтяных доходов, стоит более двух триллионов долларов, или более 300 тысяч долларов на человека. Они также постоянно занимают лидирующие позиции в списке самых счастливых стран.
Ресурсного проклятия и «проклятия интеллекта», по-видимому, можно избежать, если власть изначально принадлежит народу, а не маленькой горстке людей. Это предотвращает захват богатств злонамеренными людьми. Повторение успеха Норвегии означает, что мы должны очень быстро улучшить наши социальные институты. Особенность Норвегии заключается в том, что она построила сильную демократию с высокой бюрократической способностью дооткрытия нефти. Как заявил доктор Стейнар Холден, один из ведущих норвежских экономистов:
«Когда в нашей стране была обнаружена нефть, мы уже были стабильной демократией с момента обретения независимости в 1905 году. Государственная бюрократия функционировала хорошо, а уровень коррупции был низок. Правовая система работала хорошо, и СМИ активно оценивали и комментировали работу чиновников».
Следовательно, нам необходимо построить крайне надёжные социальные институты до достижения ОИИ, иначе абсолютное большинство людей может на неопределённый срок застрять в нищете.
# Преодоление ресурсного проклятия: Запретить безрассудные разработки ИИ
ИИ — это крайне мощный инструмент, и в неправильных руках он может причинить много вреда. Мы как цивилизация должны достичь того, чтобы его распространение было ограничено.
Тревожная реальность заключается в том, что учёные не понимают, как работают современные ИИ системы вроде СhatGPT. В отличие от ядерных реакторов, которые основаны на твёрдых, хорошо установленных и понятых теоретических принципах, люди изобрели современные ИИ-системы методом проб и ошибок. Несмотря на прекрасное понимание ядерной физики и инженерии, ядерные аварии всё ещё происходят. В отличие от этого, человечество не имеет всеобъемлющего теоретического понимания ИИ, и его внутренняя работа остаётся загадкой даже для тех, кто его создаёт. Это означает, что ИИ гораздо сложнее понимать и предсказывать в сравнении с ядерными реакторами. С современным уровнем понимания ИИ, о его контроле можно даже и не мечтать.
Следовательно, мы не должны улучшать ИИ пока полностью не поймем, как он работает, это крайне опасно и непредсказуемо. ИИ с опасными возможностями или правами либо вообще не должны существовать, либо должны контролироваться специальным подотчётным органом, приверженным делу использования ИИ только для общего благополучия людей. Как и в случае с ядерным оружием, информация, необходимая для разработки ОИИ, должна тщательно охраняться, чтобы она не попала в руки радикальных движений. В то же время, контроль над системами ИИ должен подлежать строгим сдержкам и противовесам, чтобы избежать захвата контроля этого органа маленькой группой лиц.
Подобно гонке ядерных вооружений времен Холодной войны, гонка ИИ ставит человечество под угрозу. Правительства и корпорации перед лицом растущей конкуренции могут использовать ИИ для создания более опасных и неконтролируемых инструментов, таких как чрезвычайно убедительные боты для пропаганды, смертоносные и заразные инфекции, автономное роботизированное оружие и, возможно, даже рекурсивно самосовершенствующийся ИИ. Создатели этих средств не могут остановиться и потратить больше усилий на обеспечение безопасности своих творений, потому что в противном случае рискуют быть превзойдёнными конкурентами. Поэтому мы можем застрять в ситуации, когда все хотят потратить дополнительные усилия, чтобы безопасно проводить свои разработки и избежать самоубийственной катастрофы, но они вынуждены гнаться, чтобы не быть побеждёнными кем-то ещё более безрассудным.
Тем не менее, вырваться из этой петли возможно. Это уже делалось раньше. Человечеству удалось избежать ядерной войны благодаря сотрудничеству. Ядерные державы достигли соглашения и скоординировались, чтобы избежать ядерной катастрофы.
Чтобы снизить риски ядерной катастрофы, наша страна была одной из первых в числе подписантов Договора о запрещении ядерного оружия (TPNW). И прямо сейчас наша страна всё ещё является активным сторонником ядерного нераспространения. Как и в случае с ядерным разоружением, Казахстан может стать ведущей державой и в решении проблемы ИИ. Мы уже одни из первых внедряем законы, запрещающие создание и использование систем ИИ, которые манипулируют человеческим сознанием, нарушают права граждан или незаконно обрабатывают персональные данные. Если и дальше продолжить эти усилия, наша страна может стать главной платформой для разработки мирного и безопасного ИИ.
В конце концов, хотя ограничения на исследования ИИ трудно реализовать и они часто вызывают споры, они могут служить важной силой для предотвращения катастрофы. Учитывая, что искусственный интеллект может причинить серьёзный вред цивилизации или даже её уничтожить, обязательно стоит ввести международные ограничения на научные исследования для наиболее опасных форм ИИ.
# Историю будущего писать нам
На данный момент самые обеспеченные компании мира тратят сотни миллиардов долларов, пытаясь построить ОИИ. Если они преуспеют, они могут дать всему человечеству беспрецедентное изобилие. Однако нынешний план для ОИИ также отнимает у всех людей, кроме их создателей, главный рычаг власти: нашу способность делать что-то полезное.
Как будут жить люди в таком мире? Вы можете слепо довериться политикам и владельцам корпораций которые окажутся у власти, и надеяться, что они над вами сжалятся и помогут. Может быть, они и вправду будут доброжелательными. Но если посмотреть на историю человечества, такой исход довольно редок. Лучший мир — это тот, где люди не зрители, а участники.
Некоторая часть населения наивно надеется, что в будущем лично с ними всё будет в порядке несмотря ни на что. Возможно, у них высокооплачиваемые рабочие места в ИИ-компаниях, или они думают, что у них есть уникальная человеческая работа, которую ИИ не может занять.
Другие же игнорируют возможности ИИ и пишут манифесты о том, что ИИ неспособен преодолеть определённый барьер или решить определённые задачи. ИИ обычно довольно быстро преодолевает возведённый ими барьер. Видя это, они игнорируют доказательства и прибегают к самообману вместо того чтобы изменить свои убеждения.
Вместо того, чтобы слепо надеяться на то, что наши новые будущие повелители в конечном итоге окажутся хорошими, лучше всего заставить их быть такими, какими мы хотим.
- Если вы в правительстве, вам следует прогнозировать возможности ИИ и продумывать решения проблемы «проклятия интеллекта».
- Если вы разработчик искусственного интеллекта, не занимайтесь неэтичными разработками, которые ставят под угрозу нашу свободу и жизнь.
- Если вы молоды, будьте амбициозны. Традиционные престижные карьерные пути все равно закрываются. Создавайте компании, пытающиеся разработать технологии, которые сохранят востребованность людей и распространят изобилие.
- И если у вас есть право голоса, действуйте. Голосуйте за своё право быть значимыми. Голосуйте за своё право быть живым.
Будущее не определено. Приступайте к работе, пока не стало слишком поздно. Историю будущего писать нам.
# Введение: прогресс ИИ стремителен
Прогресс в области искусственного интеллекта беспрецедентен. Многие компании стремятся создать ОИИ (Общий искусственный интеллект) — тип искусственного интеллекта, который будет соответствовать или превосходить человеческие способности практически во всех когнитивных задачах. Руководители этих компаний считают, что они могут достичь этого всего через несколько лет, некоторые называют дату уже в 2027 году. Хотя эти заявления могут показаться преувеличенными, а точные сроки создания ОИИ всё ещё остаются под вопросом, существует вполне реальная вероятность того, что эта технология появится очень скоро
# Прогресс ИИ опасен.
Такие темпы прогресса означают, что человечество очень скоро будет обладать огромной властью. И в ИИ достаточно силы, чтобы поставить под угрозу выживание нашего вида. Этот риск был широко признан в 2023 году в Заявлении о рисках ИИ, которое гласит: «Снижение риска вымирания от ИИ должно быть глобальным приоритетом наряду с другими рисками социетального масштаба, такими как пандемии и ядерная война». Среди подписавших были ведущие исследователи ИИ, руководители таких компаний, как Google DeepMind, OpenAI, Anthropic, и общественные деятели, такие как Билл Гейтс.
Из возможных рисков ИИ, это эссе в основном будет сосредоточено на рисках концентрации власти, массового неравенства и потери рабочих мест.
# Потенциальные последствия ИИ: Массовая потеря рабочих мест
Организационные структуры большинства корпораций предстваляют собой пирамиды: множество младших сотрудников в основании и небольшое количество руководителей на вершине.
Всё более мощный ИИ спровоцирует «пирамидальное замещение»: систематическое вымывание корпоративных структур, которое начнется с заморозки найма на начальные позиции и будет продвигаться вверх через волны сокращений.
Первые версии ИИ-сотрудников позволят компаниям сократить расходы на сотрудников без увольнения кого-либо. Вместо этого они просто перестанут нанимать новых сотрудников. По мере того как оставшиеся сотрудники начального уровня получают повышение до младших специалистов (джуниоров), ряды начинающих специалистов начнут редеть.
Перенесёмся на несколько лет вперёд и допустим, что вы владелец крупной корпорации. Крупная ИИ-лаборатория только что выпустила новую систему. Она выполняет любую задачу на 20% быстрее и на 10% лучше, чем любой из ваших младших сотрудников. Её использование для замещения работы одного сотрудника стоит 10000 долларов в год, это как минимум 80% экономии средств. Она может позволить вашему лучшему джуниору выполнять работу за десятерых или полностью автоматизировать класс младших специалистов.
Поначалу вы скептически относитесь к этой новой системе. Вы внедряете ее в тестовом режиме, и через год она превосходит всех ваших сотрудников. Более того, сохранение людей в рабочем цикле замедляет систему и ухудшает результаты работы.
Почему бы вам не уволить ваших младших сотрудников? Они дороже, хуже справляются с работой и менее надёжны. И если ваша компания их не уволит, вы будете раздавлены конкурентами, которые готовы пойти на массовое увольнение.
Перенесёмся чуть дальше в будущее. ИИ системы вновь становятся лучше. На этот раз они открывают возможность выполнять все среднесрочные задачи в компании. Несмотря на растущее общественное недовольство, акционеры будут требовать повышения производительности для роста прибыли. Если фирма не автоматизирует большую часть своей работы, она проиграет конкурентам. Схема массового увольнения и автоматизации повторяется, но на этот раз она приобретает ещё более глобальный масштаб.
Теперь ИИ может выполнять весь интеллектуальный труд в компании, и они справляются со своей работой без участия старшего руководства. Многие фирмы принимают решение: им нужен только топ-менеджмент.
# Потенциальные последствия ИИ: Заработная плата резко упадёт
Говоря откровенно, традиционная работа белых воротничков вряд ли переживёт революцию ИИ. Это не проблема 2050 или 2100 года — это проблема для сегодняшних предпринимателей, политиков и правительств.
В ответ на это, многие могут утверждать, что на замену старым профессиям будут созданы новые, лучшие вакансии, и что в результате автоматизации зарплаты вырастут. Но когда экономисты действительно серьёзно моделируют последствия ИИ, они приходят к другим выводам. Исследование Коринека и Су показвает, что в случае массовой автоматизации труда работников заработные платы резко падают.
Как заявил исследователь ИИ Мэттью Барнетт:
«Как только станет возможным широкое развёртывание ОИИ (Общего Искусственного Интеллекта), количество ОИИ агентов будет быстро расти, быстро насыщая существующую физическую инфраструктуру. Это быстрое расширение автоматизации рабочей силы может резко снизить ценность человеческого труда.
Если ОИИ смогут полностью заменить человеческих работников, минимальный рыночный уровень заработной платы больше не будет определяться уровнем прожиточного минимума человека. Вместо этого минимальная стоимость труда будет определяться энергетическими потребностями ОИИ, которые потенциально могут быть гораздо ниже энергетических потребностей человека».
Хотя в ближайшем будущем физический труд скорее всего не подвергнётся автоматизации, но ОИИ в теории способен заменить рабочих во всех сферах труда. Уволенные офисные работники вначале могут перейти в профессии синих воротничков. Но такая тенденция не продлится надолго. В результате растущая конкуренция за постоянно сокращающийся список рабочих мест может привести к тому, что заработная плата упадёт ниже прожиточного минимума.
# Ресурсное проклятие
На основании этого можно спросить: «Если развитие ИИ увеличивает объем производимых товаров и услуг, а население становится беднее, куда девается избыточное богатство? Что здесь происходит? Как может быть, что крайняя нищета большинства граждан совместима с никогда невиданной возможностью человечества производить все блага, товары и услуги?»
Не нужно много размышлять, чтобы найти ответ на этот вопрос. Существует широко распространённый феномен под названием ресурсное проклятие, при котором страны с богатыми природными ресурсами, как правило, демонстрируют более низкий экономический рост и более высокий уровень бедности, чем их экономически диверсифицированные аналоги.
У нас уже есть общества, которые производят много богатства, используя труд очень маленького процента своего населения. Такие страны называются государствами-рантье. Эти государства — включая Венесуэлу, Саудовскую Аравию, ДРК и Оман — получают большую часть своих доходов от ресурсов (обычно нефти), а не от продуктивного труда своего народа. В качестве примера, Демократическая Республика Конго является одной из беднейших стран, несмотря на то, что в её недрах находятся полезные ископаемые на сумму более 24 триллионов долларов. Добыча этих минералов не требует большого количества людей, поэтому она не создает много рабочих мест, но приносит огромную прибыль их владельцам.
Прошлые технологические революции расширяли человеческий потенциал. Аграрная революция породила цивилизации; промышленная революция позволила нам масштабировать производства. Эти революции создали инструменты, которые улучшали потенциал людей, позволяли каждому человеку быть более продуктивным. ОИИ не будет таким. ОИИ больше похож на уголь или нефть, чем на плуг, паровой двигатель или личный компьютер. Как и эти ресурсы:
- Для его развития и использования потребуется огромный капитал.
- Контроль, вероятно, будет сосредоточен в руках нескольких игроков: лабораторий, которые производят ИИ, государств, в которых они находятся, и компаний, которые производят сырьё, чипы, роботов и электричество.
- Государства, получающие ренту в основном или полностью от ИИ, не будут нуждаться в налогах рабочего класса для поддержания себя.
Поскольку они зарабатывают деньги на ресурсах, у государств-рантье нет стимула давать социальную помощь людям сегодня или инвестировать в них ради завтрашнего дня. Они инвестируют ровно столько, сколько требуется, чтобы вывезти нефть из-под земли, погрузить её на грузовики и доставить в порты. Тем не менее, классические рентные государства всё ещё имеют долгосрочный стимул диверсифицировать свою экономику, потому что нефть нестабильна в цене, и её запасы могут исчерпаться.
Доход, поступающий от ИИ вместо налогообложения людей, означает, что нет необходимости строить государственные школы, больницы и предоставлять социальные гарантии. В настоящее время государства имеют экономический стимул создавать процветающих и продуктивных инженеров, предпринимателей, новаторов и других работников и создавать для них среду, чтобы они платили больше налогов. Государства должны улучшать жизнь граждан, потому что они финансово зависят от их труда. Эта зависимость не будет применима к государствам эпохи, где ОИИ уже изобрели.
В полностью автоматизированном мире зачем умолять и задабривать своих людей производить товары и услуги, когда это можно получить от ИИ? Теперь власть имущим можно просто отказаться помогать населению, и это легко сойдёт у них с рук. Что ещё хуже, забастовки и восстания становятся невозможными в мире, где автоматизированные ИИ-солдаты и массовая слежка делают свержение деспотов невозможным.
# Преодоление ресурсного проклятия: Видение лучшего будущего
Означает ли это, что с автоматизацией наша жизнь окончена? Не факт. Всегда можно и нужно использовать силу технологии для улучшения нашей жизни. Для этого, давайте определим принципы будущего, в котором мы хотим жить:
- Каждый гражданин имеет беспрецедентные материальные блага для поддержания здоровой и счастливой жизни.
- Ни один отдельный субъект или олигархия — будь то правительства, компании или горстка людей — не будут единолично контролировать ОИИ. Как следствие, никто не будет способен монополизировать власть.
- Обычные люди контролируют свою судьбу и могут выбирать, как и где жить. Я считаю самоочевидной истиной, что люди должны быть хозяевами своего собственного будущего.
# Преодоление ресурсного проклятия: устойчивые социальные институты
Ресурсное проклятие не было неизбежным. К примеру, [исследователи](https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4381252) обнаружили, что после нахождения больших запасов нефти большинство государств стали менее демократичными. Однако государства с существующими, относительно высокими уровнями демократии избежали негативных последствий ресурсного проклятия.
Возьмём в качестве примера Норвегию. Норвегия совершила «ресурсное чудо» вместо ресурсного проклятья. Это одна из самых богатых стран в мире, и её народ непосредственно выиграл от её природных ресурсов. Индекс человеческого развития Норвегии — второй в мире. Её национальный фонд благосостояния, который занимается инвестированием огромных нефтяных доходов, стоит более двух триллионов долларов, или более 300 тысяч долларов на человека. Они также постоянно занимают лидирующие позиции в списке самых счастливых стран.
Ресурсного проклятия и «проклятия интеллекта», по-видимому, можно избежать, если власть изначально принадлежит народу, а не маленькой горстке людей. Это предотвращает захват богатств злонамеренными людьми. Повторение успеха Норвегии означает, что мы должны очень быстро улучшить наши социальные институты. Особенность Норвегии заключается в том, что она построила сильную демократию с высокой бюрократической способностью дооткрытия нефти. Как заявил доктор Стейнар Холден, один из ведущих норвежских экономистов:
«Когда в нашей стране была обнаружена нефть, мы уже были стабильной демократией с момента обретения независимости в 1905 году. Государственная бюрократия функционировала хорошо, а уровень коррупции был низок. Правовая система работала хорошо, и СМИ активно оценивали и комментировали работу чиновников».
Следовательно, нам необходимо построить крайне надёжные социальные институты до достижения ОИИ, иначе абсолютное большинство людей может на неопределённый срок застрять в нищете.
# Преодоление ресурсного проклятия: Запретить безрассудные разработки ИИ
ИИ — это крайне мощный инструмент, и в неправильных руках он может причинить много вреда. Мы как цивилизация должны достичь того, чтобы его распространение было ограничено.
Тревожная реальность заключается в том, что учёные не понимают, как работают современные ИИ системы вроде СhatGPT. В отличие от ядерных реакторов, которые основаны на твёрдых, хорошо установленных и понятых теоретических принципах, люди изобрели современные ИИ-системы методом проб и ошибок. Несмотря на прекрасное понимание ядерной физики и инженерии, ядерные аварии всё ещё происходят. В отличие от этого, человечество не имеет всеобъемлющего теоретического понимания ИИ, и его внутренняя работа остаётся загадкой даже для тех, кто его создаёт. Это означает, что ИИ гораздо сложнее понимать и предсказывать в сравнении с ядерными реакторами. С современным уровнем понимания ИИ, о его контроле можно даже и не мечтать.
Следовательно, мы не должны улучшать ИИ пока полностью не поймем, как он работает, это крайне опасно и непредсказуемо. ИИ с опасными возможностями или правами либо вообще не должны существовать, либо должны контролироваться специальным подотчётным органом, приверженным делу использования ИИ только для общего благополучия людей. Как и в случае с ядерным оружием, информация, необходимая для разработки ОИИ, должна тщательно охраняться, чтобы она не попала в руки радикальных движений. В то же время, контроль над системами ИИ должен подлежать строгим сдержкам и противовесам, чтобы избежать захвата контроля этого органа маленькой группой лиц.
Подобно гонке ядерных вооружений времен Холодной войны, гонка ИИ ставит человечество под угрозу. Правительства и корпорации перед лицом растущей конкуренции могут использовать ИИ для создания более опасных и неконтролируемых инструментов, таких как чрезвычайно убедительные боты для пропаганды, смертоносные и заразные инфекции, автономное роботизированное оружие и, возможно, даже рекурсивно самосовершенствующийся ИИ. Создатели этих средств не могут остановиться и потратить больше усилий на обеспечение безопасности своих творений, потому что в противном случае рискуют быть превзойдёнными конкурентами. Поэтому мы можем застрять в ситуации, когда все хотят потратить дополнительные усилия, чтобы безопасно проводить свои разработки и избежать самоубийственной катастрофы, но они вынуждены гнаться, чтобы не быть побеждёнными кем-то ещё более безрассудным.
Тем не менее, вырваться из этой петли возможно. Это уже делалось раньше. Человечеству удалось избежать ядерной войны благодаря сотрудничеству. Ядерные державы достигли соглашения и скоординировались, чтобы избежать ядерной катастрофы.
Чтобы снизить риски ядерной катастрофы, наша страна была одной из первых в числе подписантов Договора о запрещении ядерного оружия (TPNW). И прямо сейчас наша страна всё ещё является активным сторонником ядерного нераспространения. Как и в случае с ядерным разоружением, Казахстан может стать ведущей державой и в решении проблемы ИИ. Мы уже одни из первых внедряем законы, запрещающие создание и использование систем ИИ, которые манипулируют человеческим сознанием, нарушают права граждан или незаконно обрабатывают персональные данные. Если и дальше продолжить эти усилия, наша страна может стать главной платформой для разработки мирного и безопасного ИИ.
В конце концов, хотя ограничения на исследования ИИ трудно реализовать и они часто вызывают споры, они могут служить важной силой для предотвращения катастрофы. Учитывая, что искусственный интеллект может причинить серьёзный вред цивилизации или даже её уничтожить, обязательно стоит ввести международные ограничения на научные исследования для наиболее опасных форм ИИ.
# Историю будущего писать нам
На данный момент самые обеспеченные компании мира тратят сотни миллиардов долларов, пытаясь построить ОИИ. Если они преуспеют, они могут дать всему человечеству беспрецедентное изобилие. Однако нынешний план для ОИИ также отнимает у всех людей, кроме их создателей, главный рычаг власти: нашу способность делать что-то полезное.
Как будут жить люди в таком мире? Вы можете слепо довериться политикам и владельцам корпораций которые окажутся у власти, и надеяться, что они над вами сжалятся и помогут. Может быть, они и вправду будут доброжелательными. Но если посмотреть на историю человечества, такой исход довольно редок. Лучший мир — это тот, где люди не зрители, а участники.
Некоторая часть населения наивно надеется, что в будущем лично с ними всё будет в порядке несмотря ни на что. Возможно, у них высокооплачиваемые рабочие места в ИИ-компаниях, или они думают, что у них есть уникальная человеческая работа, которую ИИ не может занять.
Другие же игнорируют возможности ИИ и пишут манифесты о том, что ИИ неспособен преодолеть определённый барьер или решить определённые задачи. ИИ обычно довольно быстро преодолевает возведённый ими барьер. Видя это, они игнорируют доказательства и прибегают к самообману вместо того чтобы изменить свои убеждения.
Вместо того, чтобы слепо надеяться на то, что наши новые будущие повелители в конечном итоге окажутся хорошими, лучше всего заставить их быть такими, какими мы хотим.
- Если вы в правительстве, вам следует прогнозировать возможности ИИ и продумывать решения проблемы «проклятия интеллекта».
- Если вы разработчик искусственного интеллекта, не занимайтесь неэтичными разработками, которые ставят под угрозу нашу свободу и жизнь.
- Если вы молоды, будьте амбициозны. Традиционные престижные карьерные пути все равно закрываются. Создавайте компании, пытающиеся разработать технологии, которые сохранят востребованность людей и распространят изобилие.
- И если у вас есть право голоса, действуйте. Голосуйте за своё право быть значимыми. Голосуйте за своё право быть живым.
Будущее не определено. Приступайте к работе, пока не стало слишком поздно. Историю будущего писать нам.
