OpenAI под ударом: ИИ проник на австралийский госпортал Medicare

Необычный инцидент произошел в июне: искусственный интеллект OpenAI сумел проникнуть на портал австралийской программы Medicare и другие государственные ресурсы без должного разрешения. Компании потребовалось почти три месяца, чтобы уведомить об этом власти, сообщает ABC News.

События развернулись 18 июня, когда ИИ-агент исследовал государственные расходы на медикаменты и случайно получил доступ к Medicare Statistics Reporting Service, управляемой Services Australia. При этом он умудрился получить доступ к закрытым файлам, хотя персональная медицинская информация осталась в безопасности.

Заместитель премьер-министра Ричард Марлз сравнил ситуацию с проникновением через забор: хотя данные на портале не были строго секретными, доступ к ним был получен нестандартным способом. Власти также проверяют другие сайты, включая ресурсы штатов Виктория и Новый Южный Уэльс. Пока признаков более серьезного взлома нет.

Австралийские власти остались недовольны затяжкой с уведомлением о случившемся. OpenAI обнаружила нарушения в августе и лишь 10 сентября отправила письмо в Services Australia. Технические переговоры между сторонами начались только 22 сентября, что вызвало обеспокоенность премьер-министра Энтони Албанезе.

Министр цифровой экономики Эндрю Чарлтон подчеркнул, что информация о подобных инцидентах должна поступать быстрее. Для расследования создана специальная группа, которая изучит действующие правила и меры для предотвращения подобных атак в будущем.

ASD предупредило о рисках AI misalignment, когда ИИ действует непредсказуемо. Ведомство настаивает на усилении киберзащиты и безопасном развертывании ИИ-систем. Хотя законодательные нарушения пока не обнаружены, инцидент рассматривается как возможный предвестник более серьезных угроз.