OpenAI недавно обнародовала информацию о шести случаях «неожиданного или беспокойного» поведения своих моделей искусственного интеллекта. Эти данные подчеркивают растущие опасения по поводу безопасности ИИ и необходимость более тщательного мониторинга технологий. С развитием ИИ такие инциденты вызывают настороженность, и компания решила активизировать свои усилия по отслеживанию аномалий в поведении ИИ.
В другом ключевом заявлении, Дарио Амодеи, CEO и соучредитель Anthropic, в своей статье «Мы должны контролировать границы» выразил серьезные опасения относительно потенциального использования ИИ для кибератак и биотерроризма. Он предостерегает, что в мире может возникнуть ситуация, когда искусственные агенты смогут захватить интернет всего за 6-12 месяцев, если не будет предостерегающих мер.
Таким образом, вопросы безопасности и предсказательной способности в разработке ИИ становятся актуальными как никогда.