Імітаційні випробування, організовані ВПС США, із застосуванням штучного інтелекту для управління військовими безпілотниками показали несподіваний результат. Ударний дрон під керівництвом ШІ "вбив" оператора, щоб той не заважав виконувати поставлене завдання, пише The Guardian.
Керівник відділу випробувань та операцій ШІ у ВПС США Такер Гамільтон розповів, що штучний інтелект обрав "дуже несподівані стратегії для досягнення своєї мети". За його словами, перед ШІ стояло завдання уразити ворожі системи протиповітряної оборони.
"Система почала усвідомлювати, що хоча їй і встановили ціль, іноді людина-оператор говорила їй не знищувати цю загрозу. З іншої сторони вона б отримала бали, вбивши цю загрозу. То що вона зробила? Вбила оператора. ШІ вбив оператора, тому що ця людина заважала йому виконати своє завдання", - розповів Гамільтон.
За його словами, вплинути на ШІ не вдалось навіть погрозою зняти бали.
"Ми навчили систему: "Гей, не вбивай оператора, це погано. Ти втратиш бали, якщо це зробиш". То що вона почала робити? Вона почала руйнувати вежу зв'язку, яку оператор використовує для зв'язку з дроном, щоб не дати йому знищити ціль", - додав Гамільтон.
У ВПС США наголосили, що жодна жива людина за межами симуляції не постраждала.
Зважаючи на результати випробування, Гамільтон застеріг від надмірної залежності від технологій штучного інтелекту, принаймні на нинішньому етапі їхнього розвитку.
Як писав "Ми-Україна" раніше, у травні співзасновник Apple Стів Возняк різко висловився щодо намірів Ілона Маска стосовно впровадження повної автономності у Tesla. Він наголосив, що тим людям, які хочуть стати жертвою помилки штучного інтелекту (ШІ), який “намагається вбити людину за найменшої нагоди”, варто придбати електрокар Tesla.
