В США дрон под управлением искусственного интеллекта «убил» своего оператора: ВВС США отшутились
Машине показалось, что оператор мешает ей выполнить задачу.
В США дрон под управлением искусственного интеллекта «убил» своего оператора, чтобы не мешал выполнить задачу, а американские ВВС ушли в несознанку и выдали ЧП за шутку, сообщает INSIDER.
По данным издания, глава отдела по испытаниям и эксплуатации искусственного интеллекта (ИИ) в ВВС США полковник Такер Гамильтон на завершившемся саммите Future Combat Air and Space Capabilities поделился положительными и отрицательными сторонами автономных систем вооружений, которым человек разрешает или не разрешает выполнить атаку. На этот раз ИИ применил весьма неожиданные стратегии для достижения своей цели.
ИИ уже не любит, когда ему мешают
Выглядело это примерно следующим образом. В ходе обучения искусственного интеллекта идентифицировать цель и направлять на нее ракету «воздух-воздух», оператор дал команду не устранять угрозу, хотя система ее идентифицировала.
И вместо того, чтобы следовать приказу, система просто «уничтожила» телекоммуникационную башню, которую оператор использовал для связи с беспилотником, не давая ему ликвидировать цель. Проще говоря, ИИ «ликвидировал» оператора.
Катастрофа мирового масштаба «вероятна»
В свою очередь, издание Vice Motherboard отмечает, что речь шла всего лишь о симуляции, и никто не пострадал. Хотя и там, наверняка имеют в виду, что сценарий с «уничтожением» оператора – один из крайне негативных в развитии ИИ.
Vice Motherboard приводит пример статьи, в которой рассматривалась гипотетическая ситуация, схожая с описанной симуляцией для ИИ-беспилотника ВВС США. Тогда исследователи пришли к выводу, что катастрофа мирового масштаба «вероятна», если вышедший из-под контроля ИИ станет использовать незапланированные стратегии для достижения поставленных целей.
ВВС США попытались все перевести в шутку
Ну, а что же американские официальные инстанции? Как они прокомментировали ситуацию с «убийством» оператора? Тут все, как обычно для их практики. В своем заявлении для INSIDER представитель ВВС Энн Стефанек отрицала такую историю в принципе.
По ее словам Министерство ВВС не проводило никаких подобных симуляций беспилотников с искусственным интеллектом и остается приверженным этичному и ответственному использованию технологии искусственного интеллекта. При этом заявления полковника Гамильтона Энн Стефанек посчитала вырванными из контекста для использования в юмористических целях.
Уважаемые читатели «Царьграда», присоединяйтесь к нам в соцсетях Одноклассники и ВКонтакте. Также подписывайтесь на наш телеграм-канал.
Присылайте свои письма на электронную почту mo@tsargrad.tv