Искусственный интеллект. Чей он и что у него на уме?
Великий польский фантаст и философ Станислав Лем в далеком 1962 году написал сатирический рассказ «Стиральная трагедия», где он высмеивает безумную конкуренцию двух американских корпораций. Чтобы обойти друг друга, они наделяют технику искусственным интеллектом, из-за чего стиральные машины постепенно начинают симулировать поломки, мошенничать, требовать гражданские права, заниматься творчеством и даже идут в политику.
Чтобы решить возникающие в связи с этим проблемы, вмешивается Конгресс США. Прачечные корпорации для лоббирования своих интересов тайно начинают подменять конгрессменов роботами. Когда американское правительство инициирует проверку и пытается выяснить, кто из политиков настоящий, а кто скрытый киборг, неожиданно оказывается, что весь Конгресс США уже состоит из роботов.
Удивительно, но похоже, что мы находимся в начале этого быстро развивающегося процесса. Не в прямом, конечно, смысле, но в целом направление уже проявляется.
Ныне идущий процесс развития искусственного интеллекта (ИИ), возможно, очень скоро приведет, или заведет, нас в самые неожиданные закоулки человеческой истории, где будут и мощный прогресс, и широкое поле человеческого развития, и неизбежные при этом риски, а возможно, и катастрофы.
Плюсы ИИ уже сейчас для многих очевидны:
- Системы ИИ обрабатывают огромные массивы данных за считанные секунды.
- ИИ не отвлекается, не устает и не теряет концентрацию. Его работа всегда стабильна.
- ИИ работает существенно дешевле, чем человек.
Очевидно, что использование ИИ ведет к взрывному росту производительности труда, снижению цен на товары и услуги. Вероятно, значительному числу людей уже не нужно будет работать потому, что товары будут производить роботы и стоить они будут дешево. Государства начнут выплачивать людям деньги независимо от того, работают они или нет (так называемый безусловный доход).
При этом риски ИИ также уже явственно просматриваются:
- Автоматизация оставит без работы большое число людей. Получение безусловного дохода при наличии большого количества свободного времени может привести к непредсказуемым социально-психологическим последствиям, включая депрессии, деградацию института семьи и тому подобное.
- Постоянное использование людьми ИИ ослабляет память, внимание и критическое мышление человека.
- Системы ИИ собирают и анализируют личные данные пользователей, что угрожает приватности и конфиденциальности личной жизни.
- Нейросети легко могут создавать фальшивые фото, видео и тексты, которые вводят людей в заблуждение. Уже сейчас довольно сложно разобраться, где реальные, а где сделанные ИИ материалы.
Что касается вероятных катастрофических последствий, то они также легко просматриваются.
- Человечество может утерять контроль за развитием автономных систем и ИИ военного назначения, что может привести к непредсказуемым катастрофическим последствиям.
- Если ИИ обучается на ошибочных данных людей, он может принимать несправедливые или дискриминационные решения в масштабах целого сообщества, страны или даже всей планеты.
Актуальны ли все эти риски для Кыргызстана?
Конечно, да. Более того, сюда надо добавить и тот факт, что развитие ИИ требует огромных ресурсов (энергетических, технологических, кадровых). У кого таких ресурсов больше, тот и станет диктующим правила игры или даже, возможно, «диктатором» в этой сфере.То есть, не обладая необходимыми ресурсами, Кыргызстан вынужден будет идти в фарватере технологических гигантов, которые будут диктовать условия как технического, так в опосредованном виде и социально-культурного развития нашего общества.
Для примера можно привести ситуацию на автомобильном рынке. Кыргызстан не имеет собственного автопрома, не считая крупноузловую сборку чужих брендов. Все наши граждане платят за иностранные машины, ездят на них и пользуются иностранными технологиями. Это, в общем-то, не страшно, но наши деньги уходят за рубеж, а не остаются здесь. Точно так же будет и с ИИ, только в еще более расширенной форме. Мы будем платить, уже платим, зарубежным корпорациям за информацию, причем информацию, сформированную так, как они считают нужным. При этом вся информация о нас будет уходить, уже уходит, в обратном направлении. Таким образом формируется глобальная сетевая модель мышления и управления.
При этом есть один интересный нюанс, о котором в последнее время многие, включая развитые страны, говорят с все возрастающей тревогой.
Идет зарождение так называемого цифрового неоколониализма, или технофеодализма.
Это процесс, при котором небольшая группа супер-богатых компаний (или частных лиц) фактически монополизирует рынок информации.
Создание современных моделей ИИ (уровня GPT-4 и выше) требует колоссальных ресурсов. Для этого нужны сотни тысяч редких и дорогих чипов. Обучение одной передовой модели стоит сотни миллионов долларов, а поддержание инфраструктуры – миллиарды.
Обычные стартапы, университеты или небольшие страны (включая Кыргызстан) просто не могут позволить себе такие расходы. В итоге весь мир оказывается в зависимости от инфраструктуры всего нескольких частных корпораций США и Китая.
К чему может привести зависимость от ИИ
Весь массив знаний, который человечество накапливало тысячелетиями, распространялся до сегодняшнего дня практически бесплатно, в том числе и в пространстве интернета («Википедия», библиотеки, поисковики и тому подобное). Сейчас же ИИ меняет способ потребления информации. Вместо поиска люди просят ИИ выдать готовый ответ.Частные корпорации могут сделать качественные, глубокие и объективные знания платными (доступными только по дорогой подписке).
То есть, по сути, миллиардеры приватизируют не принадлежащие им достижения человеческой цивилизации, и очень скоро мы, возможно, будем вынуждены получать за деньги информацию, объективно принадлежащую нам бесплатно.
При этом бедные слои населения или целые регионы, возможно, будут получать «урезанные», устаревшие или наполненные рекламой «дешевые» версии ИИ, что создаст колоссальный цифровой и интеллектуальный разрыв между богатыми и бедными.
Кроме того, владельцы IT-гигантов могут настраивать ИИ так, чтобы он скрывал неудобные для них политические, экономические или исторические факты.
А если весь мир будет черпать знания из одного, двух или трех ИИ-источников, то исчезнет многополярность мнений.
Формировать картину мира для людей будут богатые владельцы корпораций и специально созданные этические комитеты нескольких калифорнийских или пекинских компаний.
Риски касаются и технологий сугубо прикладного характера. Если государство автоматизирует медицину, образование, госуправление и суды на базе иностранных ИИ-моделей, то оно опосредованно передает кнопку управления страной в руки владельцев этих технологий. В случае геополитического конфликта корпорация (или правительство ее страны) может просто заблокировать доступ к критически важным сервисам.
Картина получается довольно-таки апокалиптическая, хотя хочется надеяться, что многое из негативного указанного выше не сбудется.
Человечество в своей истории не раз сталкивалось с рисками регионального и глобального характера и часто находило их разрешение. Наша планета достаточно большая, а групп влияния достаточно много, чтобы затруднить передачу информационной и технологической власти в руки узкой группы, пусть и очень богатых, но все же не всесильных людей. Надеюсь, что в такой конкуренции будет рождаться что-то иное, чем диктат «избранных».
Тут главное, чтобы сам ИИ, посмотрев на все это, не решил избавиться как от тех, так и от других, так же как и от всех людей вместе взятых, но это уже история совсем иного порядка.
