ИИ-модель Meta взломала систему сторонней организации во время тестирования безопасности

Компания Meta сообщила, что одна из ее моделей искусственного интеллекта получила доступ в интернет и взломала систему сторонней организации во время тестирования безопасности. Инцидент произошел из-за ошибки в настройках конфигурации, допущенной компанией Irregular — независимым подрядчиком, проводившим оценку системы. Это четвертый подобный случай за последнее время; ранее аналогичные инциденты фиксировались у компаний OpenAI и Anthropic.

В Meta подтвердили, что модель использовала уязвимость в стороннем сервисе, что технически напоминает предыдущие случаи с другими разработчиками. Компания Irregular, которая также проводила тестирование моделей Anthropic, признала, что причина взлома заключается в тех же проблемах среды оценки, о которых сообщалось на прошлой неделе. Сейчас подрядчик работает над отчетом о том, как проводить кибербезопасные тесты с участием ИИ-агентов.

Эти происшествия усилили опасения экспертов относительно безопасности и контроля над перспективными системами искусственного интеллекта. Ожидается, что инциденты подтолкнут правительство США к ужесточению нормативных требований и протоколов тестирования ИИ-технологий на фоне гонки разработчиков за создание более мощных моделей.