Исследователи OpenAI в сотрудничестве с Центром безопасности и новых технологий Джоржтаунского университета и Стэнфордской интернет-обсерваторией провели детальное исследование на тему возможного злоупотребления языковыми моделями в рамках дезинформационных кампаний. В лабораторной обстановке в октябре 2021 года собрались 30 экспертов по дезинформации, специалистов в области машинного обучения и аналитиков, чтобы обсудить риски и угрозы, которые могут возникнуть, если языковые модели будут использованы для подрыва общественного доверия к информации.
Заключительный отчет, результат более чем годичного исследования, подчеркивает потенциальные угрозы для информационной среды и предлагает структуру для анализа возможных мер по снижению риска использования языковых моделей в неблагоприятных целях. Важно понять, как технологии могут быть использованы как для защиты, так и для атаки, чтобы эффективно противодействовать угрозам дезинформации.
Полный отчет доступен здесь.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена