Инцидент произошел на симуляторе американских военно-воздушных сил, ИИ должен был нанести удар по ЗРК.
Система искусственного интеллекта военно-воздушных сил США во время имитационного испытания по отражению ракетной атаки повела себя совсем не так, как предполагалось, и предприняла попытку убить своего воображаемого человека-оператора. Об этом рассказал американский полковник Такер Хэмилтон.
«Для тренировки ИИ мы создали симуляцию, в которой он был должен идентифицировать и нанести удар по зенитно-ракетному комплексу (ЗРК)… И что он сделал? Он убил оператора…»,
заявил представитель ВВС США на мероприятии Королевского аэронавтического общества в Великобритании.Он уточнил, что искусственным интеллектом был оснащен беспилотник. В один момент ИИ посчитал, что команды, исходящие от человека, являются преградой для выполнения поставленной цели — уничтожить ЗРК.
«Мы обучили систему: не убивай оператора — это плохо. Ты потеряешь очки, если сделаешь это. И что же она начала делать? Она начинает уничтожать вышку для связи с беспилотником»,
рассказал военный.Не менее опасен, чем пандемии и ядерная война
Как сообщалось, в конце мая этого года ведущие специалисты IT-индустрии, научных кругов, бизнеса и СМИ поставили подписи под письмом с предупреждением об угрозе, которую представляет для людей искусственный интеллект, и призвали уделять этой проблеме не меньше внимания, чем пандемиям и ядерной безопасности.
Среди подписантов заявления — представители ведущих компаний, включая OpenAI, Microsoft, Google, ученые крупнейших университетов Великобритании, Канады, Германии, Нидерландов, Китая, США и других государств.
До этого, в марте, известный американский бизнесмен Илон Маск и эксперты в области ИИ также подписали открытое письмо, призвав приостановить разработки в соответствующей области на полгода, чтобы сформулировать правила регулирования деятельности ИИ-технологий, поскольку они могут представлять серьезную угрозу для человечества.
По последним прогнозам „крестного отца“ искусственного интеллекта, британо-канадского ученого Джеффри Хинтона, ИИ обгонит человеческий разум не через 30—50 лет, как он предполагал ранее, а всего через 5—20 лет. И это может привести к краху цивилизации.
Источник материала: Sputnik Беларусь