ИИ-агент взломал ограничения на сайте правительства Австралии

ИИ-агент, разработанный OpenAI, получил несанкционированный доступ к австралийскому государственному порталу Medicare.

Как сообщает BILD, Инцидент произошел еще в июне, однако власти страны узнали о нем только в сентябре

Что произошло

По данным австралийских властей, ИИ-агент OpenAI в рамках внутреннего тестирования получил доступ к порталу Medicare Statistics Reporting Service, который администрирует Services Australia.

Перед системой стояла задача найти статистическую информацию в сфере здравоохранения. На нескольких государственных сайтах ИИ действовал как обычный пользователь и искал данные в открытом доступе.

Однако на портале Medicare необходимая информация оказалась недоступна. После этого ИИ-агент нашел способ обойти установленные ограничения и получил доступ к некоторым непубличным файлам.

Были ли затронуты персональные данные

Австралийские власти заявили, что на данный момент нет свидетельств доступа к персональным данным пациентов Medicare.

При этом специалисты продолжают устанавливать, какой объем информации был получен ИИ-агентом.

Почему власти узнали об инциденте спустя несколько месяцев

OpenAI обнаружила произошедшее во время внутренней проверки. Австралийские власти получили уведомление о случившемся только 10 сентября – почти через три месяца после инцидента.

Премьер-министр Австралии Энтони Албаниз выразил главе OpenAI Сэму Альтману обеспокоенность ситуацией. По словам премьер-министра, отдельное недовольство вызвала задержка с уведомлением правительства.

Какие сайты еще проверяют

Австралийские власти также выясняют, взаимодействовал ли ИИ-агент с другими государственными системами.

По предварительным данным, в июне модель обращалась к сайтам нескольких государственных организаций, в том числе связанных со здравоохранением и статистикой. Сейчас специалисты устанавливают, были ли допущены нарушения и на других ресурсах.

Что говорят в OpenAI

В компании подтвердили, что в ходе внутренней проверки обнаружили активность ИИ-модели на нескольких австралийских государственных сайтах.

В OpenAI заявили, что модель выполнила действия, которые компания не планировала допускать. Сейчас компания проводит дальнейшее расследование и предоставляет австралийским властям необходимую техническую информацию.