Глава Google DeepMind, Демис Хассабис, выдвинул инициативу о создании в США специального органа для разработки стандартов, которые будут проверять мощные ИИ-модели перед их запуском. Он считает, что общий искусственный интеллект (AGI), который по своей сути должен будет обладать всеми когнитивными способностями человека, может стать настоящей революцией, сопоставимой с открытием электричества или огня.
По мнению Хассабиса, AGI сможет значительно ускорить разработки в таких областях, как медицина и возобновляемая энергетика. Однако с ростом возможностей ИИ растут и связанные с ними риски для кибербезопасности и общества в целом.
В качестве примера он предложил создать Frontier AI Standards Body – регулирующую организацию, которая будет разрабатывать протоколы оценки ИИ-систем и их безопасности. Хассабис подчеркивает необходимость защитных технологий, поскольку ИИ-системы становятся всё более автономными.
Эта инициатива может привести к созданию системы независимых аудитов и международных стандартов, которые обеспечат контроль над передовыми моделями. Хассабис также напомнил о недавнем указе президента Трампа, касающемся проверки кибервозможностей ИИ.