Чудовище по имени ИИ

Искусственный интеллект (ИИ) все больше и больше входит в нашу жизнь, и сегодня трудно назвать область, в которой он не нашел бы того или иного применения. Однако не многие понимают, что ИИ может быть не только помощником, но и врагом. Причем врагом умным и беспощадным. Об этой малоизвестной стороне развития ИИ мы поговорили с Алексом К., недавно завершившим службу в подразделении разведки 8200 

- Алекс, около месяца назад в СМИ была опубликована информация о том, как иранские спецслужбы создали с помощью ИИ фиктивный образ раввина ХАБАДа и с его помощью пытались заманить двух израильских министров в ловушку. Будь они чуть более умелыми, у них это, возможно, и получилось бы. Насколько широко сегодня применяется ИИ в качестве оружия в борьбе против Израиля?

- Прежде всего, я не думаю, что за этим письмом действительно стоял Иран – уж слишком топорно оно было сработано. Иранцы обычно работают умнее и тоньше. Но эта история еще раз показала, что ИИ может с легкостью моделировать любые тексты. 

Причем, обрабатывая огромные массивы информации, он учится просто с немыслимой для человека скоростью. 

То, что мы знали об ИИ год или даже полгода назад, сегодня уже нерелевантно. Это все равно как для нас сто лет назад. И вы совершенно правы, когда говорите, что в наши дни ИИ – это оружие. Я бы сказал, очень мощное оружие, и мы активно использовали его во время войны в Ливане и в Газе, да и на всех других фронтах как для “вылавливания” и установления личностей террористов, местонахождения их объектов, так и для достижения других целей в борьбе с террором. 

Но следует понимать, что ИИ – оружие обоюдоострое. Сегодня им все лучше овладевают и активно используют различные террористические и преступные группировки. ИИ, кстати, впервые начала активно использовать еще “Аль-Каида”, и это было время, когда он еще не получил такого широкого распространения, как сегодня. Затем его задействовал ИГИЛ. 

Так что не нужно думать, что нам противостоят исламские фанатики из какого-то средневековья. При всех своих взглядах, отдающих средневековьем, они достаточно хорошо образованы и отлично используют все достижения современного мира. И я, к сожалению, не могу сказать, что в войне, которая ведется с помощью ИИ, мы всегда побеждаем. Слишком много случаев, когда победу празднуют террористы.

- Что конкретно вы имеете в виду?

- Давайте начнем с информационной войны. Вы упомянули “письмо раввина ХАБАДа”. Это пример очень плохой работы. Но, как я уже сказал, ИИ непрестанно совершенствуется и уже сегодня может создавать тексты очень высокого уровня, к примеру фальсифицировать правительственные и другие документы, которые даже профессионалы не всегда могут отличить от подлинных. Как вы понимаете, подобное может привести к международным скандалам и серьезно осложнить отношения между странами.

Разумеется, это позволяет создавать и вбрасывать в мировое информационное пространство огромное количество ложных новостей, фейк-ньюз. Вспомните хотя бы теракт в российском “Крокус-Сити Холле”, в результате которого сорок человек погибли и более ста пострадали. 

Вслед за этим появился изготовленный ИИ фейк-ролик, восхваляющий этот теракт. А вспомните фейк-ролик с Владимиром Зеленским, в котором он призывает украинцев сложить оружие! Тоже, кстати, топорная работа. ИИ отлично смоделировал голос президента Украины, но при этом его поведение в кадре очень статично, и почти сразу становится понятно, что перед тобой монтаж. 

Но, повторю, ИИ очень быстро учится, становится все доступнее для овладения его возможностями даже примитивными пользователями, поэтому уровень подобных фейков будет постоянно повышаться.

- Хотелось бы услышать примеры из куда более близкой нам действительности.

- Что ж, их тоже немало. К примеру, многие распространяемые ХАМАСом видеоролики ужасных разрушений, которые произвел ЦАХАЛ в Газе, “убийств и страданий мирных жителей”, “свидетельств жертв израильского террора”, множества убитых детей и т.д. – это фейки, созданные с помощью ИИ. 

Они уже сыграли и продолжают играть огромную роль в создании мифа о “геноциде в Газе” и негативном восприятии Израиля мировым сообществом. Одновременно ХАМАС активно ведет войну и внутри Израиля, запуская созданные опять-таки с помощью ИИ фейковые ролики и новостные сообщения, призванные повлиять на общественное мнение. Их очень много, но у меня нет права приводить конкретные примеры таких информационных диверсий.

- А можно ли использовать ИИ и для ведения самой обычной войны – с танками и самолетами?

- Что значит “можно”?! Он уже давно и весьма активно в этом смысле используется. Достаточно вспомнить, что многие БПЛА, которые запускались в последние месяцы “Хизбалллой” по Израилю, были оснащены ИИ и после задания цели и запуска летели практически автономно. Это и есть одна из самых больших угроз нашего времени – появление “автономного” оружия, нацеленного на выполнение определенного задания. Больше нет нужды использовать террориста-смертника и вообще живую силу: ты можешь наносить очень болезненные удары по противнику, одновременно минимизируя собственные потери. 

Кроме того, ИИ может оказаться очень эффективным средством для проведения мегатерактов, в том числе с использованием неконвенционального оружия. Например, способен создать на базе штаммов того же коронавируса новый смертоносный вирус, останется только запустить его на определенную территорию. Все это как раз входит в круг тех проблем, которыми я занимался. 

- Успешно?

- Без комментариев.

- Около года назад я говорил с видным экспертом по ИИ, и он заверил меня, что создатели позаботились о том, чтобы эта... гм, сущность была лишена способности совершить преступление. Например, если вы попросите у него рецепт яда или инструкцию по созданию бомбы, то ИИ вам в этом откажет.

- Как я уже сказал, год назад – это для ИИ вечность. С тех пор многое изменилось. 

Но вам сказали правду: в ИИ изначально действительно заложены такие ограничения. Однако следует понять: у ИИ нет морали, он работает с тем, что в него заложено. 

Понятно, что как только этот инструмент оказался в руках террористов и преступников, они начали искать пути, позволяющие сломать или обойти заложенные в него ограничения. И, разумеется, смогли это сделать. 

Сегодня ИИ вполне может помочь разработать план теракта или убийства, построенный на обработке колоссального объема информации и с учетом различных вероятностей развития событий, и подскажет, как исполнителям остаться в живых. Это все равно как играть в шахматы с компьютером: как известно, даже выдающиеся мастера время от времени ему проигрывают. 

Ну и, конечно, после снятия ограничений ИИ может подсказать вам, как создать из подручных, возможно, хранящихся в вашем холодильнике или кухонном шкафу продуктов сильнодействующий яд или мощную бомбу.

- Насколько активно ИИ сегодня используется преступным миром?

- Необычайно активно, что, в общем-то, неудивительно. Будем откровенны: большого ума для овладения ИИ не нужно. Тем более, что сегодня интернет забит всевозможными роликами по обучению пользованию ИИ, не говоря уже о платных специализированных курсах, и овладеть его возможностями может каждый человек любого возраста и с весьма средним уровнем интеллекта. В том числе, террорист или потенциальный преступник. Сегодня ИИ наиболее активно пользуются всякого рода мошенники, занимающиеся фишингом жертв в интернете. 

Все эти ролики, на которых Илон Маск или другие знаменитости призывают воспользоваться программами для игры на бирже или в валютные опционы, созданы с помощью ИИ, который без проблем точно имитирует голос любого человека. Это позволяет, кстати, симулировать и ваш голос, записать сообщение о том, что вы попали в беду, вам срочно нужны деньги и вы просите их перевести на такой-то счет. Тысячи людей уже попались на подобное мошенничество. 

Возвращаясь к проблеме террора, отмечу, что фишингом для набора потенциальных террористов или шпионов занимаются все террористические организации и многие спецслужбы. Прочесав социальные сети, ИИ услужливо выдаст вам наиболее подходящих по выбранным вами критериям кандидатов.

- Но если ИИ так опасен, то почему в мире практически ничего не делается для того, чтобы его как-то ограничить и нейтрализовать?

- Об опасности ИИ не говорит только ленивый, но следует признать, что у человечества пока нет эффективных методов борьбы с негативными сторонами ИИ. Джин вырвался из бутылки и обратно его не загнать. Израиль, вне сомнения, сегодня является мировым лидером в этой борьбе, поэтому наши разработки в области кибербезопасности пользуются таким спросом. Но знаете, что во всем происходящем самое страшное?

- Что?

- Неопределенность. Мы не можем точно предсказать, как будет развиваться ИИ, какие сюрпризы преподнесет. В сущности, мы даже не знаем толком, что он такое. Думаю, в ближайшее время появится множество законов, регулирующих деятельность этой, как вы сказали, сущности, но не уверен, что они будут эффективны. Пока я лишь могу посоветовать всем поменьше публиковать в соцсетях видеоролики и посты о своей частной жизни, так как этим вкладываете в руки ИИ огромные возможности для создания вашей фиктивной личности и манипулирования вами.

– Спасибо за интервью.

Беседовал Петр Люкимсон