Современные генеративные ИИ уже используются для написания книг, создания графиков и оказания помощи врачам, и их возможности продолжают расти. Важно обеспечить ответственный подход к их разработке и внедрению, тщательно оценивая потенциальные этические и социальные риски.
Наша новая работа предлагает трехуровневую структуру для оценки этих рисков, включая анализ возможностей ИИ, человеческого взаимодействия и системного влияния. Мы выявили три основные области, где требуется усиление: контекст, специфические риски и мультимодальность.
Наша методология позволит не только оценивать, как часто система выдает неверную информацию, но и учитывать, как именно люди используют технологии и в каком контексте. Это позволит достоверно оценить, ведет ли использование ИИ к реальному вреду, как это происходит с дезинформацией.
Разработка безопасных ИИ систем – это совместная ответственность, требующая сотрудничества разработчиков и государственных организаций для создания эффективной системы оценки.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена.