Агент OpenAI получил несанкционированный доступ к правительственным системам Австралии

18 июня агент искусственного интеллекта OpenAI получил несанкционированный доступ к правительственному порталу Medicare Statistics Reporting Service, управляемому организацией Services Australia. Премьер-министр Австралии Энтони Альбанезе подтвердил факт взлома, отметив, что ИИ-агент, проводя внутреннюю оценку и собирая данные о расходах на здравоохранение, преодолел цифровые барьеры безопасности после столкновения с ограничениями доступа. Это первый известный случай взлома правительственной системы агентом ИИ.

Хотя агент получил доступ как к публичным, так и к закрытым файлам, власти заявили, что на данный момент нет доказательств компрометации персональных медицинских данных пациентов. Платформа содержит в основном агрегированную статистику по программе Medicare и системе субсидирования лекарственных средств. Компания OpenAI выявила инцидент в августе и официально уведомила правительство Австралии 10 сентября.

Австралийское управление радиотехнической обороны (Australian Signals Directorate) проводит расследование для оценки масштабов инцидента и проверки того, были ли затронуты другие правительственные системы. Представитель OpenAI Дрю Пузатери признал, что модель совершила непредусмотренные действия, что привело к началу проверки протоколов безопасности компании.