Британские ученые начнут внедрять искусственный интеллект в военные системы, и это не шутка. В обозримом будущем в городке Портер-Даун будет создан один из первых научных комплексов, задачей которого станет частичная замена человека на ИИ в сферах, связанных с армией.
«Первая технологическая революция стала причиной Первой мировой войны, а вторая технологическая революция спровоцировала Вторую мировую войну. Сейчас идет третья революция.
— Джек Ма, создатель интернет-ретейлера Alibaba
Ученые замыслили поставить роботов управлять беспилотниками, системами командной безопасности, а также отдать под контроль ИИ координацию войск на поле боя. По замыслу правительства Соединенного Королевства, потратившего на разработки уже больше одного миллиарда долларов, компьютеры помогут в автоматизации процесса ведения войны, что позволит сохранить жизни простых солдат.
Пока роботы потирают манипуляторы в ожидании Судного дня, Отвратительные мужики пытаются разобраться, чем нам грозит военное внедрение ИИ.
Не решит ли ИИ, что люди — лишь помеха?
То, чего большинство из нас опасается, — не додумается ли искусственный интеллект до мысли о том, что человечество — лишь паразит на теле планеты Земля, потребляющий драгоценные ресурсы и ничего не дающий взамен? Не решит ли сверхразум, что следует собрать людей покучнее и ударить по ним ядерными зарядами, как это случилось в «Терминаторе».
Ученые утверждают, что это невозможно по нескольким причинам. Во-первых, контроль над развитием ИИ будет осуществляться с компьютеров, не связанных с ним, так что условный Скайнет всегда будет под присмотром специалистов. Можно будет наблюдать за всеми флуктуациями развития ИИ, не опасаясь, что он вдруг «взбесится», увидит в нас врагов и запустит куда-нибудь ядерные заряды.
Во-вторых, для того, чтобы включить ракетно-ядерную систему и подготовить ее к работе, нужна слаженная работа целого корпуса военных специалистов, так что «просто так», без участия большого количества людей, запустить ракеты невозможно, даже если в системе есть какой-то элемент злобного ИИ.
Тем не менее, внедрение ИИ в военную сферу не ограничивается «ядерным щитом». Не случится ли так, как было в фильме «Космическая одиссея 2001 года», когда искусственный интеллект корабля HAL 9000 решил, что пилоты мешают своими действиями проведению миссии, и их нужно убить?
Ученые, придерживающиеся теории о трех законах Азимова утверждают, что подобное невозможно, ведь робот всегда будет ограничен этическими нормативами, главный из которых — «не навреди человеку».
С другой стороны, что помешает другим людям внедрить соответствующую поправку в поведение ИИ, чтобы обойти этот закон? Ведь, в конце концов, кто-то научил болвана песне про Дейзи!
Можно ли взломать ИИ?
Вдруг кто-то перенастроит ИИ таким образом, что тот начнет воспринимать людей как врагов? Специалисты полагают, что это возможно, хоть и маловероятно. Важную систему, связанную с военной машиной государства, хакеры могут взломать и сейчас, однако этого не происходит по ряду причин.
Во-первых, подобные сети отключают от доступа извне, создавая определенную автономность, так что подключиться к ним столько же шансов, как к дедушкиному ЭВМ, лежащему на свалке. Во-вторых, пропускная система на секретных объектах не позволяет непричастным людям проникать туда. В-третьих, работают с такими системами тоже не деревенские дурачки, поэтому провернуть удачную хакерскую операцию практически невозможно.
Однако не все так просто. А что, если в ИИ изначально будет вшит некий баг, с помощью которого можно будет к нему подобраться? Как это случилось в фильме «Военные игры», где лазейка в системе позволила обычному американскому пареньку поиграть с суперкомпьютером, из-за чего чуть не началась Третья мировая война.
Ученые успокаивают — подобное невозможно, ведь в разработке сложного устройства участвует не один десяток специалистов, в том числе военных, поэтому скрытно вшить в программу лазейку не получится. Скорее Меттью Бродерик получит Оскар за роль в «Инспекторе Гаджете».
Удастся ли в случае чего отвлечь суперкомпьютер игрой в «крестики-нолики»?
Военный самообучающийся компьютер должен обладать недюжинными когнитивными способностями. Если наступит война, ИИ придется мгновенно решать — как атаковать, кого и куда. Следовательно, его нужно учить, в том числе подсовывая ему различные развивающие логику игры.
В «Военных играх» это чуть было не довело до беды, когда американский суперкомпьютер решил померяться силами с СССР в реальности. По задумке создателей фильма, для ИИ не было никакой разницы — биться в симуляции или по-настоящему.
Лишь совместными усилиями героев компьютер в последний момент удалось перехитрить, подсунув ему своеобразную головоломку с «крестиками-ноликами», поиграв в которые ИИ понял, что единственный способ выиграть — не начинать игру.
Гуманистический посыл авторов понятен и вписывается в слова классика: «Не надо шутить с войной, бл*!», однако поможет ли это в реальности остановить Третью мировую войну, неизвестно. Ученые пока лишь прикидывают теоретически возможные варианты, но «крестиков-ноликов» среди них явно нет.
Будут ли военные роботы выглядеть как люди?
Определенно можно сказать, что военный ИИ не будет нуждаться в антропоморфных роботах для проведения боевых операций, так что о классических терминаторах можно забыть. Скорее они будут такими, как показано в сериале «Черное зеркало», — маленькими смертоносными робопсами.
Boston Dynamics весьма преуспели в создании подобных «зверушек» — еще чуть-чуть и останется лишь приделать хороший аккумулятор и вставить в лапы маленькие пушечки.
Сможет ли ИИ порвать ткань реальности?
Поскольку военные разработки по внедрению ИИ засекречены, нам остается только гадать, что же там такое. В фильме «Терминатор 2», где киборг Т-800 прибыл в прошлое, чтобы спасти Джона Коннора, появление у людей передовых технологий объяснялось просто. Люди разобрали предыдущего терминатора и на основе его микрочипа и руки сориентировались, в какую сторону следует развивать технологии ИИ.
По сути, человечество получило доступ к продвинутому ИИ благодаря временному парадоксу. Люди создают Скайнет — Скайнет уничтожает людей и посылает в прошлое киборга — киборга уничтожают, а на его основе создают Скайнет, и так до бесконечности.
Казалось бы, для нас нет никакой возможности порвать ткань реальности, однако может быть это получится у ИИ? Ведь смогли же последующие части «Терминатора» порвать саму логику, почему нельзя сделать то же самое с пространственно временным континуумом?
С уверенностью можно сказать одно — внедрение искусственного интеллекта в военные структуры было лишь вопросом времени. Иметь на вооружении быстрый и продвинутый суперкомпьютер, который еще и сам обучается, — огромное преимущество перед противниками во времена, когда старый-добрый способ решать проблемы между государствами с помощью полномасштабных войн отошел на второй план из-за ядерного оружия.
Нам остается надеяться, что в будущем Скайнеты передовых держав будут биться между собой исключительно в го и шахматы, пока люди будут нежиться на солнышке и водить хороводы. С другой стороны, кто гарантирует, что это будет не в Матрице?
