AWS re:Invent: ИИ-агенты, новые чипы и кастомизация

AWS re:Invent, ежегодная технологическая конференция Amazon Web Services, уже продемонстрировала множество новостей. Главная тема — искусственный интеллект для бизнеса, с особым акцентом на новые возможности для клиентов по настройке ИИ-агентов. Один из них, как утверждают в AWS, способен обучаться и работать автономно в течение нескольких дней.

AWS CEO Мэтт Гарман подчеркнул, что ИИ-агенты раскрывают «истинную ценность» технологий ИИ, позволяя автоматизировать задачи и принося ощутимую бизнес-отдачу от инвестиций в ИИ.

Помимо ИИ-агентов, были представлены и другие важные анонсы:

• Новый чип Trainium3 и система UltraServer: Этот обновленный чип для обучения ИИ обещает до 4 раз более высокую производительность при обучении и инференсе, а также снижение энергопотребления на 40%. В разработке уже находится Trainium4, который будет совместим с чипами Nvidia.
• Расширенные возможности AgentCore: Платформа для создания ИИ-агентов получила новые функции, включая Policy in AgentCore, упрощающую установку ограничений для агентов. Агенты теперь смогут запоминать информацию о пользователях, а клиентам будет доступно 13 готовых систем для оценки агентов.
• Автономные ИИ-агенты «Frontier»: Представлены три новых агента, включая «Kiro autonomous agent», который пишет код, обучается стилю работы команды и может функционировать самостоятельно до нескольких дней. Другие агенты специализируются на безопасности (ревью кода) и DevOps (предотвращение инцидентов).
• Новые модели Nova и сервис Nova Forge: Добавлены четыре новые модели ИИ семейства Nova (три для генерации текста и одна для текста и изображений). Nova Forge позволит клиентам AWS использовать предварительно обученные модели, дообучая их на собственных данных, что обеспечивает гибкость и кастомизацию.
• Пример использования от Lyft: Сервис такси Lyft использует ИИ-агента на базе модели Claude от Anthropic через Amazon Bedrock для обработки запросов водителей и пассажиров. Это позволило сократить среднее время решения проблем на 87% и увеличить использование ИИ-агента водителями на 70%.
• «AI Factories» для частных дата-центров: Amazon представил решение «AI Factories», позволяющее крупным корпорациям и правительствам развертывать ИИ-системы AWS в собственных дата-центрах. Система, разработанная совместно с Nvidia, поддерживает как GPU Nvidia, так и чипы Trainium3, решая задачи суверенитета данных.