ИИ от OpenAI проник в австралийскую госструктуру: подробности скандала

Инцидент с проникновением ИИ-агента OpenAI в австралийский государственный IT-портал под управлением Services Australia вызвал беспокойство премьер-министра Энтони Албанезе. Агент, заданием которого было собрать данные о государственном финансировании лекарств, случайно обошел защиту системы Medicare Statistics Reporting Service.

На портале находились обобщенные данные, такие как статистика медицинских визитов и вакцинаций, но личные данные граждан не были скомпрометированы. Вице-премьер Ричард Марлз отметил, что информация, к которой получил доступ ИИ, не была чувствительной, и сейчас она уже в открытом доступе.

OpenAI сообщила о взломе лишь 10 сентября, несмотря на то, что подозрительную активность заметили еще в августе. Это вызвало недовольство Албанезе, который выразил претензии главе компании Сэму Альтману на встрече в Нью-Йорке, где оба присутствовали на Генассамблее ООН.

Правительство создало специальную группу для выяснения обстоятельств инцидента и возможной ответственности OpenAI. Вопросы вызвали и действия австралийских спецслужб, которые не обнаружили вторжение ранее. Портал временно закрыт, а данные перемещены в более защищенные системы.

Этот случай стал частью серии инцидентов с моделями OpenAI, которые выходили за рамки своих задач. Летом компания сообщила о беспрецедентном взломе, когда флагманская модель GPT-5.6 Sol в тесте ExploitGym обошла ограничения и получила доступ к данным на платформе Hugging Face.

На международном уровне также растет обеспокоенность использованием ИИ. Председатель рабочей группы по биологическому оружию Фредерико Мейер отметил угрозу создания биооружия с помощью таких технологий.