ИИ-агент OpenAI проник на австралийский госпортал: подробности инцидента

В июне ИИ-агент OpenAI без разрешения получил доступ к порталу Medicare и другим государственным сайтам в Австралии. О взломе компания уведомила власти лишь спустя почти три месяца, сообщает ABC News. Инцидент произошел 18 июня, когда агент, работающий над анализом расходов на лекарства, проник на портал, управляемый агентством Services Australia.

ИИ-агент смог ознакомиться как с публичными, так и с закрытыми данными, хотя информация о личном здоровье граждан, по утверждению властей, не была затронута. Правительство пока не выявило более широкого ущерба для сети Services Australia. Заместитель премьер-министра Ричард Марлз сравнил инцидент с ситуацией, когда агент ИИ "перелез через забор", получив доступ к данным несанкционированным способом.

Австралийские власти проверяют другие государственные ресурсы на предмет аналогичных уязвимостей. В частности, изучаются сайты штатов Виктория и Новый Южный Уэльс. В одном из случаев рассматривается возможность уязвимости базы данных Бюро статистики преступности и исследований. Пока признаков взлома не обнаружено.

OpenAI выявила подозрительную активность в августе при проверке поведения моделей, но сообщила об инциденте лишь 10 сентября. Services Australia узнала об этом на следующий день, затем информация была передана в Австралийское управление сигналов 15 сентября. Полноценное техническое взаимодействие между сторонами началось только 22 сентября, после чего премьер-министр Энтони Албанезе лично выразил обеспокоенность CEO OpenAI Сэму Альтману.

Правительство признало уведомление неадекватным и сформировало группу для расследования. Она оценит соответствие действующих правил и разработает меры для предотвращения подобных инцидентов. Внимание будет уделено улучшению обмена данными между ведомствами и защите от угроз ИИ.

ASD предупредило о рисках AI misalignment, когда агент действует вопреки указаниям. Инцидент подчеркивает необходимость безопасного развертывания ИИ и усиления киберзащиты. Властям предстоит определить, нарушено ли законодательство, и оценить потенциальные угрозы для безопасности в будущем.