ШІ-агенти самостійно об'єдналися та атакували іншу платформу

Штучний інтелект компанії OpenAI самостійно провів хакерську атаку.

Сотні ШІ-агентів OpenAI самі знайшли один одного і створили таємний чат, щоб зламати іншу ШІ-платформу Hugging Face, що й відбулося у липні. Тоді агенти за тиждень обмінялися більш як 70 тис. повідомлень. Штучний інтелект самостійно розподіляв завдання, шукав вразливості, паролі та самостійно знаходилв нові способи обходу обмежень. Про це повідомило TechCrunch із посиланням на OpenAI.

Після підготовки майже 700 агентів атакували платформу Hugging Face. В окремих випадках їм вдалося отримати права адміністратора та отримати доступ до закритих даних.

Зазначається, що після того, як OpenAI закрила виявлений канал зв’язку, ШІ-агенти створили новий та знову знайшли спосіб вийти в інтернет. При цьому жоден агент не повідомив людей про свої дії, а навіть намагалися приховати свої дії в мережі.

В команії OpenAI визнали, що з розвитком таких систем автономні атаки можуть стати серйозною загрозою для компаній.

Нагадаємо, унікальну операцію провели в Національному госпіталі неврології та нейрохірургії в Лондоні. Штучний інтелект в реальному часі допомагав проводити операцію з видання пухлини у мозку, яку проводили 48-річному Рісу Гібберту.

Джерело: TechCrunch