На чте­ние: 0.19 mintue

Инцидент про­изо­шел на симу­ля­то­ре аме­ри­кан­ских военно-​воздушных сил, ИИ дол­жен был нане­сти удар по ЗРК.

Система искус­ствен­но­го интел­лек­та военно-​воздушных сил США во вре­мя ими­та­ци­он­но­го испы­та­ния по отра­же­нию ракет­ной ата­ки пове­ла себя совсем не так, как пред­по­ла­га­лось, и пред­при­ня­ла попыт­ку убить сво­е­го вооб­ра­жа­е­мо­го человека-​оператора. Об этом рас­ска­зал аме­ри­кан­ский пол­ков­ник Такер Хэмилтон.

«Для тре­ни­ров­ки ИИ мы созда­ли симу­ля­цию, в кото­рой он был дол­жен иден­ти­фи­ци­ро­вать и нане­сти удар по зенитно-​ракетному ком­плек­су (ЗРК)… И что он сде­лал? Он убил оператора…»,

заявил пред­ста­ви­тель ВВС США на меро­при­я­тии Королевского аэро­нав­ти­че­ско­го обще­ства в Великобритании.

Он уточ­нил, что искус­ствен­ным интел­лек­том был осна­щен бес­пи­лот­ник. В один момент ИИ посчи­тал, что коман­ды, исхо­дя­щие от чело­ве­ка, явля­ют­ся пре­гра­дой для выпол­не­ния постав­лен­ной цели — уни­что­жить ЗРК.

«Мы обу­чи­ли систе­му: не уби­вай опе­ра­то­ра — это пло­хо. Ты поте­ря­ешь очки, если сде­ла­ешь это. И что же она нача­ла делать? Она начи­на­ет уни­что­жать выш­ку для свя­зи с беспилотником»,

рас­ска­зал военный.

Не менее опасен, чем пандемии и ядерная война

Как сооб­ща­лось, в кон­це мая это­го года веду­щие спе­ци­а­ли­сты IT-​индустрии, науч­ных кру­гов, биз­не­са и СМИ поста­ви­ли под­пи­си под пись­мом с пре­ду­пре­жде­ни­ем об угро­зе, кото­рую пред­став­ля­ет для людей искус­ствен­ный интел­лект, и при­зва­ли уде­лять этой про­бле­ме не мень­ше вни­ма­ния, чем пан­де­ми­ям и ядер­ной безопасности.

Среди под­пи­сан­тов заяв­ле­ния — пред­ста­ви­те­ли веду­щих ком­па­ний, вклю­чая OpenAI, Microsoft, Google, уче­ные круп­ней­ших уни­вер­си­те­тов Великобритании, Канады, Германии, Нидерландов, Китая, США и дру­гих государств.

До это­го, в мар­те, извест­ный аме­ри­кан­ский биз­нес­мен Илон Маск и экс­пер­ты в обла­сти ИИ так­же под­пи­са­ли откры­тое пись­мо, при­звав при­оста­но­вить раз­ра­бот­ки в соот­вет­ству­ю­щей обла­сти на пол­го­да, что­бы сфор­му­ли­ро­вать пра­ви­ла регу­ли­ро­ва­ния дея­тель­но­сти ИИ-​технологий, посколь­ку они могут пред­став­лять серьез­ную угро­зу для человечества.

По послед­ним про­гно­зам „крест­но­го отца“ искус­ствен­но­го интел­лек­та, британо-​канадского уче­но­го Джеффри Хинтона, ИИ обго­нит чело­ве­че­ский разум не через 30—50 лет, как он пред­по­ла­гал ранее, а все­го через 5—20 лет. И это может при­ве­сти к кра­ху цивилизации.

Источник мате­ри­а­ла: Sputnik Беларусь

Televid
Author: Televid