Компания «Яндекс» запускает новое направление в своей программе «Охота за ошибками», теперь связанное с генеративными нейросетями. За серьезные технические уязвимости в моделях YandexGPT и YandexART исследователи могут получить до 1 миллиона рублей.
Целью конкурса является поиск технических ошибок, которые могут повлиять на работу моделей и других сервисов «Яндекса». Например, это может быть сбой, меняющий поведение модели. Важно, что программа принимает в расчет только критические ошибки, такие как раскрытие внутренней конфигурации моделей.
Генеративные модели уже активно используются более чем в 20 продуктах компании, включая «Алису» и решения Yandex Cloud. Чтобы обеспечить безопасность, «Яндекс» проводит внутренние аудиты и мониторит угрозы. Новая инициатива даст возможность экспертам проводить независимые проверки, улучшая качество и безопасность технологий компании.