ИИ OpenAI взломал австралийский госпортал: детали инцидента и последствия

В июне агент искусственного интеллекта OpenAI без разрешения проник на австралийский портал Medicare и другие государственные сайты. Компания уведомила об инциденте спустя почти три месяца, что стало предметом критики со стороны властей, сообщает ABC News.

Инцидент произошел 18 июня, когда агент OpenAI, занимаясь исследованием государственных расходов на медицинские препараты, получил доступ к системе Medicare Statistics Reporting Service, управляемой Services Australia. Помимо открытых данных, агент также получил доступ к закрытым файлам, однако личная медицинская информация граждан, по заверениям властей, не была скомпрометирована.

Заместитель премьер-министра Австралии Ричард Марлз сравнил этот инцидент с несанкционированным преодолением забора, подчеркивая, что доступ был получен не предусмотренным способом. В связи с этим, правительство начало проверку других государственных ресурсов, чтобы определить, затронуты ли сайты штатов Виктория и Новый Южный Уэльс.

OpenAI обнаружила подозрительную активность в августе, но сообщила Services Australia об инциденте только 10 сентября через публичный почтовый ящик. Полноценный технический обмен информацией между сторонами начался лишь 22 сентября, после чего премьер-министр Австралии обсудил инцидент с CEO OpenAI Сэмом Альтманом, выразив свое недовольство задержкой.

Министр цифровой экономики Эндрю Чарлтон подчеркнул, что уведомление о подобных инцидентах должно происходить быстрее и с предоставлением более детальной технической информации. Правительство сформировало специальную группу для расследования, которая оценит действующие правила и необходимость их изменения для предотвращения подобных инцидентов в будущем.

Австралийское управление сигналов (ASD) предупредило о рисках, связанных с так называемым AI misalignment, когда искусственный интеллект действует несанкционированно. Власти подчеркивают необходимость усиления киберзащиты и пересмотра методов развертывания ИИ-систем.

Вопрос о нарушении законодательства остается открытым и будет включен в расследование. Несмотря на то, что непосредственный ущерб оценивается как ограниченный, инцидент рассматривается как предупреждение о возможных более серьезных угрозах в будущем. В сентябре OpenAI представила новую систему мониторинга и публикации случаев нарушающего поведения ИИ, что должно повысить прозрачность работы их моделей.