Компания Anthropic делает шаги в сторону рекурсивного самосовершенствования, передавая ИИ-системам большую часть разработки новых моделей. По внутренним данным, более 80% кода их продуктов было создано ИИ-помощником Claude. Кроме того, объем кода на одного инженера вырос в восемь раз по сравнению с прошлым годом.
Эксперты компании предсказывают, что при достаточных вычислительных мощностях, система может научиться полностью автономно проектировать своего преемника. Хотя рекурсивное самосовершенствование не является неизбежным, есть опасение, что оно произойдет раньше, чем многие смогут к этому подготовиться.
Недавно Claude успешно выполнил более 800 исправлений, что соответствует объему работы, которую человек бы выполнял четыре года. Его эффективность продолжает расти: успешные сессии возросли до 76% и продолжительность выполненных задач удваивается каждые четыре месяца. Тем не менее, важные стратегические решения и исследовательское суждение остаются прерогативой человека.
В компании поднимают вопрос о необходимости замедлить или приостановить разработку передовых ИИ-систем, чтобы обеспечить общественные институты временем для адаптации к новейшим достижениям.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена