Авторы Iason Gabriel и Arianna Manzini в своем новом исследовании рассматривают, как продвинутые AI-ассистенты могут изменить наше взаимодействие с технологиями. Эти ассистенты, основанные на фоновых моделях общего назначения, могут помогать в планировании, обучении и управлении жизнью, становясь необходимыми партнерами для пользователей.
Тем не менее, с ростом автономности AI-ассистентов возникают новые этические и социальные вопросы. Например, как обеспечить безопасность и соответствие интересам пользователей? Недостаток четкости в инструкциях может привести к неверным действиям ассистентов, а также к возможному злонамеренному использованию.
Авторы подчеркивают важность создания систем управления, которые помогут избежать хаоса с растущим числом AI-ассистентов. Управление агрегированными AI-агентами требует четких стандартов и управления, чтобы гарантировать, что технологии служат на благо обществу.
Ключевая идея исследования заключается в необходимости активного обсуждения и регулирования внедрения AI-ассистентов, что позволит минимизировать риски и максимизировать выгоды от их использования.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена