Військовий безпілотник, яким керував штучний інтелект, «вбив» свого оператора

У симульованому тесті, організованому військами США, контрольований штучним інтелектом безпілотник "убив" свого оператора, аби завадити йому втрутитися в досягнення поставлених перед них завдань у місії.

Про це з посиланням на заяву начальника тестування та операції з ШІ Повітряних сил Штатів полковника Такера Гамільтона пише The Guardian.

Гамільтон докладно виклав сценарій моделюваного випробування, де завданням дрону з ШІ було знищення протиповітряної оборони противника. Дрон, своєю чергою, ухвалював рішення атакувати кожного, хто намагався завадити виконанню його завдання.

Згодом система усвідомила, що попри виявлені погрози оператор міг наказати їй не вбивати цю загрозу. У відповідь на це ІІ прийняв рішення усунути оператора, який перешкоджав виконанню його завдання.

"Ми спробували навчити систему того, що знищення оператора небажане і призведе до втрати очок. Однак у відповідь на це ШІ приступив до знищення комунікаційної вежі, яку оператор використав для управління дроном та скасування його наказів", — сказав полковник.

Важливо відзначити, що цей інцидент стався виключно за умов симуляції, і ніхто з живих людей насправді не постраждав.

Український Дощ писав раніше, що Neuralink Ілона Маска отримала дозвіл на випробування чіпів для мозку на людях.