Недавно команда исследователей под руководством Лауры Уайдингер и Уильяма Исаака представила инновационную трехуровневую рамку для оценки социальных и этических рисков, связанных с системами искусственного интеллекта (ИИ). В свете быстрого развития генеративных ИИ, которые уже активно используются в таких сферах, как медицина и творчество, важно понимать, какие потенциальные риски могут возникнуть.
Предложенная рамка включает три ключевых аспекта: способность системы ИИ, человеческое взаимодействие и системное влияние. Исследователи выяснили три основных пробела в текущих оценках безопасности: контекст, специфические риски и мультимодальность. Важно адаптировать существующие методы оценки и интегрировать многоуровневые подходы, чтобы понимать, как информация, генерируемая ИИ, может исказить общественное мнение.
Исследование подчеркивает, что безопасность ИИ — это общая ответственность, требующая сотрудничества разработчиков и государственных учреждений для разработки надежных и безопасных технологий.
*Компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена.