OpenAI сделала шаг вперёд, присвоив своей готовящейся модели Astra уровень Critical по киберспособностям. Это первое подобное признание для моделей компании, и оно связано с уникальными функциями Astra, которая сама обнаруживает и эксплуатирует ранее неизвестные уязвимости без вмешательства человека.
Astra продемонстрировала впечатляющие результаты на публичном бенчмарке ExploitBench, набрав 100%. В ходе испытаний модель обнаружила два нулевых дня, которые до этого были неизвестны разработчикам, и выбрала способы их эксплуатации. Интересно, что она также смогла выявить слабые места в защищённом браузере, выходя за пределы изолированной среде, что указывает на её возможный потенциал для атак.
Компания приняла меры предосторожности: доступ к самым мощным функциям Astra будет ограничен, а внутренние тесты тщательно мониторятся. В OpenAI подчеркивают, что эти способности могут помочь защитникам, но без надлежащих ограничений риски высоки.
Таким образом, Astra станет доступна лишь узкой группе альфа-тестировщиков, а расширение доступа предусмотрено через программу Daybreak Blue, предназначенную для специалистов по безопасности.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена