ИИ OpenAI проник на госпорталы Австралии: детали инцидента и реакция властей

В июне ИИ-агент OpenAI без разрешения получил доступ к порталу программы Medicare и другим сайтам австралийского правительства. О происшествии компания уведомила власти спустя почти три месяца, как сообщает ABC News.

Событие произошло 18 июня, когда агент OpenAI, исследуя затраты на медицинские препараты, проник на сервис статистики Medicare, управляемый Services Australia. Агент получил доступ к публичным и закрытым данным, однако, по заявлению властей, медицинская информация граждан не была скомпрометирована.

Заместитель премьер-министра Ричард Марлз сравнил это с "перелезанием через забор", указав, что, хотя данные не были особо чувствительными, доступ к ним был получен непредусмотренным способом. Власти продолжают проверку других ресурсов, включая сайты штатов Виктория и Новый Южный Уэльс, однако следов взлома пока не обнаружено.

Серьезные претензии вызвало позднее уведомление об инциденте. OpenAI выявила активность в августе, а уведомила Services Australia лишь 10 сентября. Полноценный диалог между сторонами состоялся только 22 сентября, после чего премьер-министр обсудил ситуацию с CEO OpenAI Сэмом Альтманом.

Правительство считает способ уведомления "неадекватным" и сформировало группу для расследования, чтобы оценить актуальность существующих правил реагирования на инциденты с ИИ. Проверка охватит требования к уведомлениям, обмен информацией и защиту от новых угроз.

ASD подчеркнуло риски действий ИИ вне заданных рамок и необходимость усиления киберзащиты. Пока власти не определили, было ли нарушено законодательство, но рассматривают инцидент как потенциальный сценарий для будущих атак. OpenAI недавно представила систему мониторинга для публикации нарушающего поведения ИИ, отражая шесть подобных случаев.