Claude Mythos: ИИ-модель нашла уязвимости в ПО

Новая разработка компании Anthropic, искусственный интеллект под названием Claude Mythos, демонстрирует выдающиеся способности в поиске уязвимостей в программном обеспечении. Модель обнаружила тысячи ранее неизвестных дефектов в популярных приложениях, для которых пока не существует исправлений.

Этот прорыв в области искусственного интеллекта вызывает обеспокоенность у специалистов по кибербезопасности. По мере развития возможностей ИИ-моделей возрастает риск их использования злоумышленниками для взлома паролей или расшифровки данных. Anthropic подчеркивает необходимость действовать сейчас, чтобы кибербезопасность могла опережать развитие технологий.

Самая старая из обнаруженных Mythos уязвимостей насчитывает 27 лет. По словам представителей Anthropic, эти дефекты оставались незамеченными разработчиками ПО до тех пор, пока их не выявил искусственный интеллект. Mythos является последним поколением семейства ИИ-моделей Claude от Anthropic. Недавняя утечка части кода модели стала поводом для компании выпустить предупреждение о беспрецедентных рисках для кибербезопасности.

Представители Anthropic отмечают, что находимые Mythos уязвимости часто являются малозаметными и трудными для обнаружения. В качестве примера приводится обнаруженный flaw в видеопрограммном обеспечении, которое более 5 миллионов раз тестировалось его создателями.

В рамках превентивных мер Anthropic сотрудничает с ведущими компаниями в области кибербезопасности, такими как CrowdStrike и Palo Alto Networks, а также с технологическими гигантами Apple, Microsoft и Amazon. Этот совместный проект, получивший название "Glasswing", направлен на усиление защиты программного обеспечения.

К проекту также присоединились производители сетевого оборудования Cisco и Broadcom, а также Linux Foundation, поддерживающая разработку открытых операционных систем. Около 40 организаций, занимающихся разработкой, поддержкой и эксплуатацией компьютерных систем, участвуют в "Glasswing". Партнеры будут делиться информацией об обнаруженных Mythos уязвимостях, в то время как Anthropic предоставит для миссии около 100 миллионов долларов в виде вычислительных ресурсов.

Важно отметить, что Mythos изначально разрабатывался как универсальная ИИ-модель, а не как инструмент для поиска уязвимостей. Anthropic также ведет переговоры с правительством США относительно Mythos, несмотря на ранее вынесенное Белым домом решение о прекращении контрактов с компанией. Это решение было приостановлено решением федерального суда, пока рассматривается судебный иск от Anthropic.