Наука и технологии
Происшествия
02 июня 2023, 13:57 | Автор: Олег Клейст

The Guardian: искусственный интеллект попытался убить вводящего команды оператора ВВС США

Искусственный интеллект предпринял попытку убить вводящего команды оператора ВВС США
фото:
Эксперты пояснили, почему была сделана ошибка.

СМИ США сообщают об инциденте на испытании по отражению ракетной атаки с участием искусственного интеллекта, который управлял БПЛА. ИИ попытался убить оператора.

Как сообщает The Guardian причиной такого поведения ИИ стало желание, чтобы специалист не мешал дрону выполнять свою задачу.

Мероприятие по имитационным испытания проводило Королевское аэронавтическое общество Великобритании. Сценарий был разработан полковником ВВС США, начальником отдела испытаний и операций ИИ Такером Гамильтоном.

По заданию дрон должен был уничтожить ПВО врага, а управление беспилотником проводил ИИ.

Оператор, согласно заданию, отдавал команды по атаке или ее отмене. Но, в определенный момент, ИИ, которому начислялись очки за цели, решил уничтожить оператора.

Так, его боевая задача — уничтожить противника, могла быть выполнена без участия отменившего атаку человека.

Когда он получил запрет на уничтожение, ИИ стал прерывать связь.

Как пояснил Гамильтон, военные после такого прокола провели дополнительное обучение системы, по вопросу о возможной атаке на человека.

Он пояснил, что «системы определила угрозу, но… человек-оператор… мешал ей».

«Система… приняла решение убить оператора», —  констатировал он.

Ранее Topnews писал, что клип группы Duran Duran, созданный с помощью искусственного интеллекта, собрал 300 000 просмотров.

Вступайте в нашу группу в VK , чтобы быть в курсе событий в России и мире
материалы ПО ТЕМЕ
Ошибки искусственного интеллекта принесли Сбербанку миллиарды убытков Ошибки искусственного интеллекта принесли Сбербанку миллиарды убытков
Сбербанк вернул на экраны героя комедии Гайдая Сбербанк вернул на экраны молодого Куравлева в роли Жоржа Милославского с помощью искусственного интеллекта
 
топ НОВОСТЕЙ
Все новости раздела
новости Наука и технологии
Все новости раздела