Компания Anthropic проводит тестирование своего нового AI-модели под названием Claude Mythos, которая, по утверждениям, является самой мощной на сегодняшний день. Модель сейчас проходит испытания с ограниченной группой клиентов, что вызвало большой интерес в AI-сообществе и опасения относительно возможных рисков.
Интерес к Claude Mythos возрос после того, как OpenAI приостановила свои проекты, включая Sora. Эксперты подчеркивают опасности использования лакированных AI, которые могут продемонстрировать непредсказуемые и даже угрожающие способности. Anthropic уверяет, что их новая модель значительно улучшена и предлагает лучшее понимание, кодирование и безопасность по сравнению с предыдущими версиями. Представитель компании сказал: «Мы внимательно подходим к тому, как мы ее запускаем».
Однако общественные волнения усиливаются: в открытом доступе возник черновик, указывающий на «беспрецедентные киберугрозы», которые могут возникнуть с использованием модели. Кто-то в соцсетях скептически относился к громким утверждениям о Mythos, другие же выражали волнение по поводу его возможности. В дополнение, Anthropic работает над платформой Conway, которая должна обеспечить Claude более постоянное и автономное использование. Поскольку тестирование Mythos продолжается, его потенциальные риски и обратная связь от пользователей становятся предметом пристального наблюдения.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена