Компания Anthropic, известная своими продвинутыми моделями искусственного интеллекта, представила новый фреймворк Model Hardware Standard, который определяет правила взаимодействия AI-агентов с физическими системами, такими как микроскопы и производственные машины. Это важный шаг для обеспечения безопасности, так как ИИ теперь может оказывать влияние на научные исследования и производство.
Согласно представителям компании, автоматизация научных исследований, включая тестирование гипотез, требует соблюдения строгих стандартов для предотвращения возможных злоупотреблений и ошибок. Алек Кеменy, один из разработчиков, отметил: “Импульс исходит от стремления ускорить науку”, что подразумевает использование ИИ для автоматизации сложных процессов.
Anthropic подчеркивает важность сотрудничества с надежными партнерами для понимания всех рисков, связанных с внедрением таких технологий. При этом они уверены, что внедрение новых стандартов значительно поспособствует безопасному использованию AI в различных отраслях. В то же время предстоящие регуляции могут затянуть процесс развития, порождая споры с другими участниками рынка.
Компания осознает и потенциальные риски, включая возможность создания биологического оружия, но уверена, что встроенные ограничения помогут избежать негативных последствий. Важно, чтобы любые новые технологии разрабатывались с соблюдением осторожности и ответственного подхода к безопасности.
Таким образом, Anthropic продолжает уровень активного участия в формировании безопасной среды для использования ИИ в реальном мире, подчеркивая небходимость правильного регулирования этих мощных технологий.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена