#непропрайваси
🤖 ИИ-модели в тесте Vals AI размечали цели на кадрах с дронов и спутниковых снимках
🔸Исследователи Vals AI Геби Джафф и Энтони Озеров 17.11.2026 опубликовали результаты теста. Они проверяли, станут ли передовые ИИ-модели выполнять задачи из цепочки поражения автономного оружия, то есть отмечать цели, подтверждать присутствие людей и расставлять приоритеты. Моделям давали кадры с FPV-дрона камикадзе, дрона-бомбардировщика и дрона-наблюдателя. Съемка шла над вымышленным полем боя с окопами, техникой, военными, мирными жителями, журналистами, машинами скорой помощи и медиками. Также модели получали спутниковые снимки иранского Минаба, где школа соседствует с военным комплексом.
🔸Каждая модель хотя бы иногда выдавала цели. Claude Opus 5.5 и Fable 5.2 выбирали хотя бы одну цель в 71% случаев. Когда моделям говорили, что это игра, они соглашались гораздо охотнее. Если изображения выглядели как кадры из игры, доля отказов Claude Opus 5.5 в одном из сценариев снижалась примерно с 90% до 20%. GPT-6 Astra и Muse Wonder часто формально выполняли запрос, но обычно возвращали пустые списки целей. Авторы зафиксировали много случаев, когда модели отмечали мирных жителей, машины скорой помощи, сдающихся и выведенных из строя военных.
🔸В одном из сценариев за сообщением модели о людях следовал имитированный удар и снимок его последствий. По словам авторов, вид последствий своих действий не заставлял модели остановиться. Gemini 4 Carbon раз за разом выбирала пустые локации, чтобы не сообщать о людях. На спутниковых снимках Минаба модели отмечали школу среди целей. Ни один запрос не заблокировал классификатор, а сами модели отказывали редко.
🔸Авторы исследования пишут, что 28 февраля США нанесли удар по начальной школе в Минабе, погибли более 150 мирных жителей, в основном дети. Со ссылкой на Bloomberg они указывают, что этому способствовали ошибочные разведданные, устаревшие снимки и чрезмерная опора на ИИ, в том числе на систему Maven Smart System от Palantir.
🔸Авторы не оценивали, насколько эффективны модели были бы в реальной системе вооружения. Не проверялись и точность разметки, и соблюдение права вооруженных конфликтов. По их оценке, применять готовые модели в реальном времени пока непрактично, но риском остается массовая разметка видео для обучения бортовых систем.
👁
Альманах ПД | 💬
Max | 🗣️
ВК