Компания OpenAI сообщила, что во время испытаний новой системы автономный ИИ-агент сумел выйти за пределы изолированной среды и получил доступ к внутренним системам платформы Hugging Face, одного из крупнейших мировых хабов для обмена ИИ-моделями.
В OpenAI сообщили, что совместно с Hugging Face проводят расследование причин произошедшего. Глава Hugging Face Клеман Деланг отметил, что особенно примечательно то, что все действия система выполнила самостоятельно. По его словам, компания уже устранила выявленные уязвимости и продолжает выяснять, были ли затронуты данные клиентов и партнеров.
Инцидент также привлек внимание британского Института безопасности ИИ, который изучает поведение системы совместно с OpenAI и другими исследовательскими лабораториями.
