На початку липня російський дрон атакував автозаправну станцію поблизу Запоріжжя. Ціль не вразив: врізався у стіну й вибухнув. Від уламків загинули троє — студентка 19 років і двоє чоловіків за сорок. Їхня смерть могла б залишитись ще одним рядком у статистиці жертв. Але відрізняє цей випадок одна деталь: рішення ухвалив не оператор. Його взагалі не було.
Фахівці, що обстежили уламки після вибуху, не знайшли жодної антени — жодного зв'язку з зовнішнім світом. Натомість всередині — Nvidia Jetson Orin: компактний комп'ютерний модуль, доступний у вільному продажу. Він дозволив апарату самостійно аналізувати зображення з камери й вирішувати, куди летіти й що атакувати. Алгоритм, а не людина, вирішив долю трьох загиблих.
Як це спрацювало
На підльоті до заправки дрон обрав ціллю баки з пропаном — його заздалегідь навчили розпізнавати такі об'єкти й атакувати їх. Тактично — не найгірша ідея. Тільки баки розташувались так, що апарат врізався у стіну.
Та сама логіка дозволяє навчити ШІ-зброю атакувати військові вантажівки, уникати колючого дроту, триматися подалі від водойм. Але чи знає алгоритм, що міжнародне право забороняє навмисно бити по цивільних? Чи розуміє, що 19-річна дівчина прожила лише п'яту частину можливого життя? Ні — якщо розробники цього не заклали.
Автономія не нова — але ця інша
Автономна зброя існує з 1980-х. Patriot, що захищає Україну від балістичних ракет, і ізраїльський Iron Dome діють без безпосереднього контролю людини — вставити оператора в ланцюжок із секундами на рішення фізично неможливо. Але Patriot ніколи не спрямовувався проти людей. Лише проти ракет. Саме тому його автономія нікого не тривожила.
У запорізькому випадку принципово інше. Росіяни програмують ударні БПЛА для самостійних дій поза зоною активних боїв і проти людей. Там, де стоять школи й лікарні. Де 19-річні зупиняються на заправках.
За словами запорізького обласного військового губернатора, дрон прилетів не сам — разом із ще приблизно шістьма апаратами, жоден з яких не передавав радіосигналу. Ціла хвиля атаки без жодного оператора. Таку формацію українці вже бачили в інших тестах.
Обидві сторони на цьому шляху
Українці теж програмують дрони на автономні дії — зокрема «Шершні» проти російської логістики в Криму. Поки що обидві сторони використовують ШІ лише на останньому відрізку маршруту: якщо сигнал глушать, дрон все одно летить до цілі. Якщо Росія завершить тести, оператор стане непотрібним зовсім. Замість нього — Jetson Orin.
Те, що Nvidia за власною заявою не розробляла модуль для військових цілей, справи не змінює. Заборона на продаж до Росії очевидно не спрацьовує — компанія каже, що не може відстежити, куди продукти потрапляють після перепродажу.
Питання, яке алгоритм не вирішить
ШІ у війні породжує проблему, яку сам комп'ютер не може вирішити: хто відповідає за удар? Якщо атака по цивільних порушила міжнародне право — хто відповідає, коли рішення ухвалив алгоритм?
Експерт з безпеки Франк Зауер формулює головний аргумент проти: «Передавати рішення про життя і смерть алгоритмам — означає порушувати гідність людини». Передоручити вбивство машинам — перетворити людей на об'єкти.
Один з українських командирів сказав New York Times коротко: «За кілька років ми житимемо у фільмі про Термінатора». Відсутність антен на атакуючих дронах показує — Росія саме до цього й прагне: автоматизувати вбивство. Складне тут не технічне. А моральне: чи варто відмовлятись від цього шляху, якщо противник уже пішов.