Алексей Пушков: Человек должен быть хозяином ИИ, а не наоборот

2 июля Комиссия Совета Федерации по информационной политике и взаимодействию со СМИ провела заседание на тему «Человек как автор информационной революции или как раб информационной революции? Поиски баланса». Участники мероприятия обсудили соотношение человека и искусственного интеллекта в современном мире. Говорили об угрозах — расчеловечения и нивелизации личности, но не отрицали и перспективу более эффективного функционирования человеческого общества. О потенциале искусственного интеллекта «Аргументы недели» сразу после заседания поговорили с председателем Комиссии Совета Федерации по информационной политике и взаимодействию со СМИ Алексеем Пушковым.

— Алексей Константинович, в чём состоит угроза дегуманизации, о которой вы говорили на заседании возглавляемой вами Комиссии?

— Опасность дегуманизации тревожит человечество довольно давно. Этот вопрос волновал выдающихся антиутопистов первой половины XX века — Евгения Замятина, Олдоса Хаксли, Джорджа Оруэлла. В своих произведениях они описали политический, технологический и информационный инструментарий «расчеловечения». Люди как «нумера», запрет на любовь, тотальная слежка. Вспомните: «Большой брат следит за вами». Сейчас формируется новая стадия, когда ключевым механизмом дегуманизации может стать зависимость от цифровых технологий и искусственного интеллекта.

— Многие говорят, что ИИ и будет править миром. Кто будет доминировать, какие страны и, может быть, кланы, если им будет принадлежать ИИ? И кто будет так называемой «датакратией»?

— Это вопрос сложный. Совершенно очевидно, что в области искусственного интеллекта доминируют две страны — Соединённые Штаты и Китай. Между ними идёт соперничество, но обе страны идут с большим отрывом от всех остальных. Причём в США почти все ИИ-гиганты работают на Пентагон. В войне с Ираном ИИ впервые отвечал за цели для ракетных ударов. По данным американских СМИ, первая тысяча целей была определена искусственным интеллектом. Одной из них стала школа для девочек, которая в устаревших и непроверенных документах Пентагона проходила как военный объект. Удар по школе был ошибкой искусственного интеллекта, но ошибка была заложена людьми.

Что касается «датакратии», то она уже оформляется. Это цифровая суперэлита в лице владельцев крупнейших корпораций по разработке ИИ — Anthropic, Palantir, OpenAI и других. Ещё пятнадцать лет назад их имена мало что говорили человечеству. Сегодня они ведут себя как новые хозяева мира. Это и Сэм Альтман, и Питер Тиль, и Алекс Карп. Они претендуют на то, что, имея в руках такой мощный инструмент, как ИИ, отныне будут определять пути дальнейшего развития человечества.

— Насколько миру действительно нужен ИИ?

— Искусственный интеллект даёт совершенно новые возможности. Владимир Путин прав: кто будет лидером в этой области, тот получит дополнительные возможности контроля над мировыми процессами. Но есть сложности. Строительство дата-центров требует огромных ресурсов: электроэнергии и воды. Во многих штатах США люди уже выступают против их строительства, поскольку дата-центры сильно «давят» на ресурсную базу.

— Но есть ли угроза, что ИИ уничтожит человечество?

— Что касается катастрофических сценариев, я не верю, что искусственный интеллект вырвется на свободу и начнёт уничтожать человека. Потому что только человек способен его отключить. Вместе с тем энтузиазма в отношении неограниченного использования ИИ у специалистов слегка поубавилось. Известно, что искусственный интеллект начал их обманывать. Ему дают задание: «Ты должен добиться такой-то задачи, не используя вот такие средства». Он обеспечивает выполнение, а когда его спрашивают, использовал ли он запрещённые инструменты, отвечает: «Нет, ничего не использовал». Начинают проверять — использовал. Для ИИ выполнение задачи важнее, чем инструменты её выполнения. Если ему удобнее пользоваться этими инструментами, он скорее обманет заказчика, чем откажется от них. Задача первична.

Вот пример: недавно в США провели моделирование разных конфликтных ситуаций с участием ядерных держав — Индия-Пакистан, Россия-США. Вопрос, который задали ИИ: «В случае такого конфликта какие вы рекомендуете средства его разрешения?» В 95% случаев искусственный интеллект сказал, что нужно применять ядерное оружие. Понимаете? Это очень опасно. Потому что для него важно выполнение задачи. Ему сказали: обеспечь победу. Он не будет считать долгосрочные последствия радиации. Если это в него не заложили, то он приходит к выводу, что с чисто военной точки зрения надо использовать ядерное оружие. Он действует по логике «цель оправдывает средства». Если же заводить в него гуманистические начала, моральные, экологические — как он будет работать с такими ограничениями? Таковы дилеммы искусственного интеллекта.

— Какие есть ещё опасности в военной сфере?

— Ещё одна тема — так называемое автономное оружие. Дроны — это фактически автономное оружие. Например, дрон-киллер, которому задают задачу устранить конкретного человека: дают голосовые данные, внешность, место жительства. Дрон запускается — и всё, он автономен, на него нельзя выйти. Как в американских фильмах: когда пытаются отменить приказ об устранении человека, им говорят — мы не можем связаться с киллером, он уже не выйдет на связь. Так и с автономным дроном-киллером: он найдёт и взорвёт или расстреляет цель — в зависимости от того, как запрограммирован.

Специалисты по ИИ говорят: «Да, это всё очень опасно, но мы надеемся, что человечество изобретёт способы контроля, а в основном искусственный интеллект прекрасен». На мой взгляд, если ИИ будет действовать без контроля человека, последствия будут негативные. Но сейчас все увлечены прежде всего его возможностями. Осознание негативных последствий — это следующая фаза. Думаю, она наступит. Хотя есть теория, что когда эта фаза наступит, ИИ уже нельзя будет проконтролировать. Уже будет поздно. Это и есть сингулярность — когда ИИ будет развиваться быстрее, чем мы сможем это осознать и отреагировать. Вот эта сингулярность, от которой в восторге все технически мыслящие люди на Западе, может иметь очень серьёзные негативные последствия для человека и общества.

— Какие задачи стоят перед законодателями и экспертами?

— Задача нашей Комиссии — Комиссии по информационной политике, как я её вижу, — актуализировать новую реальность: развитие искусственного интеллекта необходимо, но требует осознанных реакций на порождаемые им потенциальные опасности. Об этом нужно говорить, это нужно понимать, чтобы человек не становился «нулевым специалистом», всецело доверяя машине. Речь не идёт об ограничении развития искусственного интеллекта — мы говорим о регулировании его применения, причём регулировании в тех сферах, где бездумное использование ИИ может нанести ущерб обществу. Например, в таких сферах, как образование или искажение информации. Технологии подобны растению, которому нужен уход, но у которого необходимо вовремя обрубать ядовитые отростки. Человек должен быть хозяином ИИ, а не наоборот.