Компания Anthropic начала тестирование новой версии своего ИИ-модели под названием Claude Mythos. По утечке данных стало известно, что этот модель является наиболее мощной на сегодняшний день. Сейчас его испытывают избранныеEarly access-клиенты, что поднимает обеспокоенность в ИИ-сообществе, особенно на фоне приостановки проектов OpenAI, таких как Sora.
Специалисты предупреждают о рисках, связанных с использованием так называемых «взломанных» ИИ-моделей, которые могут продемонстрировать пугающие свойства, если отключить меры безопасности. Anthropic утверждает, что Claude Mythos значительно улучшен по сравнению с предыдущими версиями, обладая лучшими способностями в области рассуждения, программирования и кибербезопасности. Пресс-секретарь компании отметил, что они тщательно подходят к процессу его релиза.
Тем не менее общественность обеспокоена возможными «беспрецедентными рисками кибербезопасности». Прежде Anthropic выражала недоумение по поводу сознания и морального статуса своих ИИ-систем. Реакция в социальных сетях варьируется от волнения до скепсиса, при этом некоторые пользователи считают заявления компании преувеличенными.
Тестирование Claude Mythos продолжает вызывать вопросы о безопасности и необходимости тщательного контроля в разработке ИИ. Важно помнить, что даже самые современные технологии требуют осторожного подхода к их использованию.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена