ШІ-агент зламав сайт уряду Австралії — що шукав штучний інтелект

Штучний інтелект компанії OpenAI отримав несанкціонований доступ до урядового порталу Австралії.

Автономний агент зламав сайт медичної статистики Medicare, де збирав відомості про державні витрати на охорону здоров’я. Влада Австралії намагається з’ясувати, чи встиг алгоритм проникнути до інших державних сайтів. Австралія вже висловила «глибоке занепокоєння щодо цього інциденту» генеральному директору OpenAI Сему Альтману. Австралійці обурені, що повідомлення про злам надійшло із затримкою. Про це пише агенція Reuters.

Наявні на цей момент дані свідчать про відсутність масштабнішого компрометування мережі. Тим не менш, ця ситуація, безумовно, є неприйнятною, — зазначив прем'єр-міністр Австралії Ентоні Албаніз.

За словами очільника австралійського уряду, розслідування має з’ясувати не лише дії ШІ-агента, але й те, чому кібербезпека відразу не виявила хакерські дії. Діяльність штучного інтелекту могла також вплинути ще на три сайти уряду в сфері охорони здоров’я.

Тим часом компанія OpenAI заявила, що її перевірка не виявила жодних доказів доступу до медичних карток пацієнтів. Також там наголосили, що «наші моделі вчинили дії, які ми не планували».

За словами австралійського міністра оборони Річарда Марлза, «хакнутий» портал Medicare не містив індивідуальних даних про медичні вимоги, виплати допомоги, особисті банківські реквізити чи історії хвороби 27 млн австралійців. На цьому сайті зберігалися лише узагальнені дані про користування медичними послугами.

Нагадаємо, сотні ШІ-агентів OpenAI самі знайшли один одного і створили таємний чат, щоб зламати іншу ШІ-платформу Hugging Face, що й відбулося у липні. Штучний інтелект самостійно розподіляв завдання, шукав вразливості, паролі та самостійно знаходив нові способи обходу обмежень.

Джерело: Reuters