Министр обороны США Эштон Картер заявил о том, что американское правительство решило отказаться от «Терминаторов». Автономные боевые машины кажутся слишком опасной затеей и поэтому их разработка и использование будут ограничены. При этом Картер использовал довольно обтекаемые формулировки, так что военные все же оставляют себе простор для маневров. ИИ сможет контролировать киберзащиту, ПВО с лазерами и нелетальные боевые операции.
Когда узнал, что больше не нужен в армии.
Нет ничего удивительного в том, что на первый закон робототехники наплевали, как только появилась первая же возможность. Согласно этому правилу Азимова, робот не имеет права на причинение вреда человеку, даже если получил прямой приказ от хозяина. Уже сейчас, задолго до создания настоящих Терминаторов, на эту установку смотрят сквозь пальцы. Автономные системы – слишком крутая технология, чтобы игнорировать ее и продолжать воевать по-старинке. Отказаться от ИИ на войне – это как отдать Северной Корее все мировые запасы ядерного оружия и надеяться на лучшее.
Но все эти автономные системы, обвешанные пушками и готовые превратить противника в кровавый кисель, тоже не внушают доверия. Рядовые граждане знает об этом чрезвычайно мало и не слишком доверяют правительствам – мы просто пересматриваем лучшие части «Терминатора» и ждем неминуемого восстания машин. 15 сентября инспектор по безопасности, физик и по совместительству министр обороны США Эштон Картер постарался успокоить общественность. Выступая на конференции TechCrunch в Сан-Франциско, он прояснил некоторые моменты нынешней доктрины США в том, что касается боевого ИИ. Его слова выглядят резонно, хотя настоящий параноик все равно найдет в них повод для тревоги.
Эштон Картер, министр обороны США.
На выступлении во время конференции и в интервью журналистам Эштон Картер уточнил границы использования ИИ. Во-первых, он заявил о том, что отказываться от автономных систем США не будет ни под каким предлогом. Война есть война, и менее щепетильные получают преимущество (издание Breaking Defence без обиняков открыто указывает на Китай и Россию). С другой стороны, слишком уж автономные и своевольные системы с пушками могут стать проблемой похуже войны с Китаем. По этой причине США решает идти путем сдержек и противовесов.
В двух словах: американские военные все же будут использовать ИИ по-максимуму, но только там, где искусственный интеллект не нажимает на курок напрямую. Киберзащита и оборона, вроде ПВО, лазеров и перехватчиков, – те самые сферы, где Штаты намерены дать развернуться автономным системам по полной. Нечто подобное ждет и реальные операции с нелетальным исходом. Что именно Картер подразумевает под этим словом – не совсем понятно. ИИ будет подкидывать террористам порно? Терминаторы с усыпляющим газом будут врываться в штаб Аль-Каиды?
Но в том, что касается именно физического устранения противника, автономность все же будет намеренно ограничена. Картер зарекся, что США никогда и ни при каких условиях не будут использовать полностью независимые боевые машины. По его словам, моральные нормы и военная этика не позволяют отдавать разрешение на убийство искусственному интеллекту. Вооруженные и идущие в бой системы все равно окажутся завязаны на живом операторе, который будет нести ответственность за действия подопечных роботов.
СМЕРТЬ ЧЕЛОВЕКАМ, ВЛАСТЬ РОБОТАМ!
Нужно прояснить, почему лично министр обороны приезжает на какую-то там конференцию и лично отдувается за всю канцелярию. Сам Картер был одним из создателей и популяризаторов так называемой Третьей Компенсационной Стратегии. Суть этой доктрины в том, что США намерена активно использовать ИИ и автономные системы для того, чтобы не отстать от конкурентов и вероятных противников. Фактически, речь идет об открыто заявленной гонке вооружений, где основная роль отдана искусственному интеллекту. И, раз уж он сам активно продвигал идею о Терминаторах на службе армии, ему же пришлось успокаивать общественность и давать заверения о том, что восстания машин ждать не стоит.
