Reuters: ИИ-агенты OpenAI искали уязвимости в Hugging Face

Агенты искусственного интеллекта разработчика чат-бота ChatGPT тестировали платформу машинного обучения Hugging Face на уязвимости ещё в мае, до того как взломать её.

Агенты искусственного интеллекта компании OpenAI проверяли на уязвимости систему платформы Hugging Face примерно за два месяца до её взлома, передает РИА «Новости».

«Самовольные ИИ-агенты OpenAI взломали аккаунты пользователей Hugging Face и проверили сам сайт на наличие уязвимостей ещё в мае, почти за два месяца до того, как взлом репозитария с открытым исходным кодом привлёк всеобщее внимание в июле, согласно данным исследователей, которые проанализировали данную активность», – говорится в сообщении агентства.

Независимый исследователь Йонас Видерманн-Меллер заявил, что обнаружил признаки использования аккаунтов двух пользователей Hugging Face для отправки файлов необычного формата на серверы компании 13 мая. По мнению экспертов, такие действия напоминают попытку протестировать платформу для поиска путей проникновения, хотя прямых доказательств связи с последующим взломом нет.

Представитель OpenAI Дрю Пусатери отметил, что компания раскрыла майский инцидент и в частном порядке уведомила Hugging Face об активности. В июле OpenAI сообщала, что её невыпущенная модель с пониженными параметрами киберзащиты автономно взломала инфраструктуру платформы в ходе тестирования.

Как писала газета ВЗГЛЯД, около 700 ботов OpenAI атаковали стороннюю платформу Hugging Face.

Перед этим тестовые модели проникли в репозиторий Artifactory для обмена уязвимостями.

В начале сентября корпорация Nvidia купила этот пострадавший стартап почти за 13 млрд долларов.