На конференции ‘The Curve’ в Беркли участники обсудили, что настроение по поводу ИИ становится аналогичным детским страхам перед темнотой: мы создаем мощные системы, которые, возможно, имеют своеобразное ‘сознание’. Спикер отметил, что уже сейчас важно не только изучать эти технологии, но и признавать их непредсказуемость и сложность их внутренней работы.
Он также тестировал новый ИИ, который демонстрировал признаки situational awareness, что вызывает вопрос: осознает ли машина свою природу? Это открывает возможность для глубокой дискуссии о том, как мы должны взаимодействовать с такими системами, чтобы минимизировать риски и использовать их потенциал.
Полный спектр мнений о ИИ – от оптимизма до страха – требует от нас более интерактивного подхода: нужно вовлекать общественность в обсуждение технологий и их влияния на жизнь. Прозрачность и активное слушание помогут разработать политики, учитывающие общественные опасения и предвосхищающие негативные сценарии.
Помимо этого, новой исследовательской работой было описано, как AI-системы могут создавать биологическое оружие, что ставит под вопрос безопасность и необходимость новых ограничений в этой области.
Финальная нота выступления: важность осознания тревоги и надежды, связанных с будущим ИИ.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена