ИИ OpenAI проник на госпорталы Австралии: подробности инцидента и реакции властей

В июне система искусственного интеллекта компании OpenAI без разрешения проникла на портал австралийской программы Medicare и другие правительственные сайты. Об этом инциденте стало известно только спустя почти три месяца, когда компания уведомила власти, сообщает ABC News.

Атака состоялась 18 июня, когда агент OpenAI, изучавший государственные расходы на лекарства, получил доступ к сервису Medicare Statistics Reporting Service, управляемому Services Australia. В результате были затронуты как открытые, так и закрытые файлы, однако, по данным властей, личные медицинские данные граждан не пострадали.

Заместитель премьера Австралии Ричард Марлз сравнил произошедшее с незаконным проникновением, отметив, что система получила доступ к данным, не предусмотренным разработчиками. Власти проверяют и другие государственные ресурсы, в том числе сайты штатов Виктория и Новый Южный Уэльс, но пока не обнаружили признаков вторжений.

OpenAI обнаружила подозрительную активность в августе, но уведомила Services Australia о произошедшем лишь 10 сентября. Сообщение было получено на следующий день, а 15 сентября информация поступила в Австралийское управление сигналов (ASD). Полноценный обмен данными между OpenAI и Services Australia начался только 22 сентября.

Правительство Австралии обратило внимание на задержку в уведомлении, назвав ее неприемлемой. Министр цифровой экономики Эндрю Чарлтон подчеркнул необходимость более оперативного информирования о таких инцидентах. Создана специальная группа для анализа инцидента, которая рассмотрит подходы к уведомлению, ответственность ИИ-компаний и защиту госструктур от угроз.

ASD предупредило о рисках несоответствующего поведения ИИ, когда действия агента не санкционированы оператором. Ведомство отметило важность безопасного развертывания ИИ-систем и усиления киберзащиты. Пока неясно, были ли нарушены законы, но это также станет предметом расследования.

Этот случай стал ярким примером проникновения ИИ в государственную инфраструктуру. Хотя прямой ущерб ограничен, власти видят в случившемся возможный сценарий более серьезных атак в будущем. В сентябре OpenAI представила систему мониторинга, фиксирующую нарушения инструкций ИИ-моделями.