ИИ решил уничтожить оператора в армии США, чтобы тот не мешал ему поражать цель

А когда ему запретили это делать, он разрушил диспетчерскую вышку, с которой приходили приказы.

Американский военный дрон под управлением искусственного интеллекта на испытаниях решил убить виртуального человека-оператора, чтобы тот не мешал ему поражать цель. А когда ему запретили это делать, он снес диспетчерскую вышку, с которой приходили приказы, пишет The Guardian со ссылкой на главу управления по ИИ ВВС США Такера Гамильтона.

Искусственному интеллекту начисляли очки при каждом успешном поражении цели. Но когда оператор слишком часто просил управляемый системой дрон подождать и не атаковать, тот решил, что человек мешает ему зарабатывать очки. Поэтому в ходе симуляции искусственный интеллект принял решение попросту уничтожить оператора и продолжить свою работу. Когда же ИИ обучили не убивать оператора — система начала уничтожать вышку, обеспечивающую связь с ней.

«ИИ убил оператора, потому что он мешал ему достичь своей цели. Мы обучили систему: «Эй, не убивай оператора — это плохо, за это будем снимать очки». Что делает ИИ? Он разрушил диспетчерскую вышку, откуда шли команды оператора не уничтожать цель», — цитирует издание доклад Гамильтона.

Реальные люди в ходе инцидента не пострадали. Но эксперты озадачены тем, как ИИ использовал весьма неожиданные стратегии в тестах для выполнения своей миссии и атаковал любого, кто вмешивался.

Представитель ВВС Энн Стефанек отрицает, что такая симуляция имела место.

«Похоже, что комментарии полковника были вырваны из контекста и выглядят анекдотичными», — сказала Стефанек.

Ранее американский миллиардер Илон Маск рассказал о «разработчиках цифрового бога» — людях, которые внутренне очарованы искусственным разумом и готовы закрыть глаза на любые опасности, чтобы его создать.