Инь Цзюнь Пхуа из Токийского института науки разработал ИИ-агентов, которые представляют три ведущие теории сознания: глобальное рабочее пространство (GWT), теории высшего порядка (HOT) и теорию интегрированной информации (IIT). Эти агенты служат «идеальными модельными организмами», где можно наблюдать и модифицировать каждый нейрон.
Пхуа провел три эксперимента, чтобы проверить различные гипотезы о сознании. Первый эксперимент показал, что отключение модуля самомониторинга у агента не снизило общую точность выполнения задач, но значительно ухудшило способность оценивать собственную уверенность. Это напоминает феномен слепозрения у людей.
Во втором эксперименте исследователи подтвердили, что наличие рабочего пространства критично для доступа к информации — без него точность реакции значительно снижается. Третий эксперимент выявил уязвимость архитектуры GWT: когда к системе добавляются шумы, они транслируются всем модулям, снижая общую точность. Таким образом, метакогнитивная калибровка оказывается крайне важной для создания безопасных систем ИИ.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена