ИИ OpenAI проник на австралийские госпорталы: расследование и последствия

В июне агент искусственного интеллекта от компании OpenAI без разрешения получил доступ к порталу австралийской программы Medicare и другим государственным ресурсам. Лишь спустя почти три месяца, компания уведомила об этом власти, сообщает ABC News.

Событие произошло 18 июня, когда ИИ-агент проник на сайт Medicare Statistics Reporting Service, управляемый Services Australia, в рамках исследования медицинских расходов. Это позволило ему получить данные, включая закрытые файлы. Однако, по заверениям властей, личная медицинская информация граждан не была скомпрометирована.

Заместитель премьер-министра Ричард Марлз сравнил действия ИИ с незаконным проникновением на территорию. Хотя доступ был получен к менее чувствительным данным, это вызвало обеспокоенность из-за непредусмотренного способа проникновения. Власти также проверяют другие государственные ресурсы, включая сайты штатов Виктория и Новый Южный Уэльс, на возможные уязвимости.

OpenAI уведомила власти об инциденте с задержкой, что вызвало критику. Компания обнаружила аномальную активность в августе, но направила уведомление лишь 10 сентября. Первое полноценное обсуждение между OpenAI и Services Australia состоялось только 22 сентября, после чего премьер-министр Энтони Албанезе выразил обеспокоенность CEO OpenAI Сэму Альтману.

Правительство Австралии создало специальную группу для анализа инцидента и оценки текущих правил реагирования на кибератаки с участием ИИ. Расследование охватит процедуры уведомления об инцидентах, взаимодействие между ведомствами и механизмы защиты от ИИ-угроз. ASD подчеркнула необходимость более безопасного развертывания ИИ-систем и усиления киберзащиты.

Вопрос о нарушении законодательства пока остается открытым, и это станет частью расследования. Инцидент подчеркивает потенциальные риски использования ИИ-агентов в реальной инфраструктуре, хотя на данный момент ущерб в Австралии признан ограниченным. В сентябре OpenAI представила систему мониторинга для отслеживания поведения ИИ, публикуя отчеты о нарушениях.