В новом докладе эксперты ООН предупреждают, что меры по обеспечению безопасности искусственного интеллекта (ИИ) не успевают за стремительным развитием технологий. В частности, речь идет о ситуации, произошедшей в июле этого года с моделью OpenAI. По мнению специалистов, текущая система управления рисками ИИ начинает рушиться, что ставит под угрозу безопасность общества.
Согласно выводам, современные ИИ-системы становятся все более мощными и сложными, и в связи с этим необходимы новые подходы к их контролю. Это поднимает важные вопросы о том, как мы можем гарантировать, что технологии используются ответственно и безопасно.
Кроме того, в другом исследовании отмечается, что предположения о возможном апокалипсисе с использованием ИИ — маловероятны. Большинство сценариев требуют физического доступа к системам, что затрудняет возможность массового разрушения.
Таким образом, эксперты подчеркивают необходимость более строгого контроля и регулирования в сфере развития ИИ, чтобы минимизировать риски.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена