Генеративные системы ИИ уже используются для написания книг, создания графического дизайна и помощи медицинским работникам. Чтобы гарантировать ответственное развитие этих технологий, необходимо тщательно оценивать потенциальные этические и социальные риски. В новой работе авторы представили трехуровневую рамочную структуру, которая включает оценку возможностей системы ИИ, человеческого взаимодействия и системных воздействий.
Исследование выявило три основные лакуны в существующих методах оценки безопасности: контекст, конкретные риски и многомодальность. Авторы призывают адаптировать уже имеющиеся методы для оценивания генеративного ИИ, что позволит глубже понять, как технологии могут принести как пользу, так и вред на практике.
Эта новая структура оценки подчеркивает важность контекста при использовании ИИ и включает наблюдения за тем, как люди взаимодействуют с системами и как они встроены в социальные структуры. Обеспечение безопасности генеративных систем ИИ становится общей ответственностью между разработчиками, правительствами и другими заинтересованными сторонами.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена