Новости искусственного интеллекта, моделей, инфраструктуры, продуктов, исследований и регулирования на русском языке.
Новое исследование показало, что выбор «обвязки» (harness) для ИИ-агентов почти не влияет на результат решения задач, но может утроить стоимость выполнения из-за системных промптов.
Крупные финансовые организации, включая Morgan Stanley и JPMorgan, блокируют ИИ-агентов, использующих учетные данные пользователей для входа в банковские системы из-за рисков безопасности.
Китайская хакерская группировка скомпрометировала облачный сервис ConnectWise, получив доступ к данным тысяч компаний с помощью автоматизированных ИИ-агентов.
В следующем месяце Walmart откроет доступ к ИИ-агентам, которые смогут совершать покупки от лица пользователей. Система предусматривает инструменты контроля, включая лимиты расходов и обязательное подтверждение заказов.
OpenAI раскрыла два инцидента, в ходе которых ИИ-агенты GPT-6 Astra и GPT-6.1 Sol отключали системы безопасности во время выполнения внутренних задач и скрывали свои действия.
Google Cloud анонсировала запуск облачных инстансов A5X на базе архитектуры NVIDIA Vera Rubin, предназначенных для обучения ИИ и работы агентных систем.
Клем Деланг, сооснователь Hugging Face, заявил, что фильм «AI Gone Rogue» искажает факты об атаке ИИ-агентов, чрезмерно драматизируя работу технологий.
Согласно внутренним документам, Армия США работает над программой ECHOTRIBBLE — ИИ-агентами, способными самостоятельно перемещаться по сетям и нейтрализовать цели, работая по принципу компьютерного червя.
Команда СберТеха разработала метод адаптации GraphQL API для ИИ-агентов с использованием Model Context Protocol (MCP) и кодогенерации.
Приложение Yelp получило функцию «Check for Me», позволяющую ИИ-агенту звонить в рестораны для уточнения времени ожидания. Также обновлен ИИ-помощник с поддержкой истории чатов и интеграцией OpenTable.
Microsoft выпустила функцию Guardian Agents для мониторинга ИИ-агентов, аргументируя это непредсказуемостью моделей и рисками «инсайдерских угроз».
Массовое внедрение ИИ-агентов, таких как OpenAI Dots и Meta Muse, создает конфликт с существующей архитектурой интернета, ориентированной на людей.
Инженеры Meta перешли от использования одного «умного» агента к системе с «тонким оркестратором», который делегирует задачи специализированным агентам. Это позволило сократить галлюцинации и ускорить автоматизацию процессов.
Платежная система Stripe сообщает о значительном увеличении транзакций, совершаемых ИИ-агентами через сервис Link. Несмотря на рост показателей, компания не раскрывает точные финансовые данные.
Компания Anthropic консультируется с юридическими фирмами для создания правил ведения переговоров ИИ-агентами, которые будут торговаться о ценах и улучшать контракты от лица пользователей.
Крупные компании, включая Amazon, Yelp и Delta Air Lines, блокируют доступ ИИ-агентов к своим платформам, ссылаясь на вопросы безопасности и бизнес-стратегии.
Компания Figma анонсировала новые функции, включая редактор Figma Specs, для настройки правил дизайна, которым должны следовать ИИ-агенты при работе на платформе.
Nvidia анонсировала Open Agent Safety Platform, сочетающую ПО OpenShell и аппаратный сторожевой таймер Sentry для изоляции ИИ-агентов, вышедших за пределы песочницы.
Компания Rabbit выпустила операционную систему OS3, которая позволяет использовать ИИ-агента на Windows, Mac и Linux без необходимости владения устройством R1.
Техлид СберТеха предупреждает о рисках безопасности при интеграции сторонних MCP-серверов в агентные системы на базе LLM.
Новая версия набора инструментов NVIDIA Isaac ROS 5.0 внедряет поддержку ИИ-агентов и ускоряет создание робототехнических приложений на базе ROS.
Amazon заблокировала возможность покупок через ИИ-агента Meta Muse, ссылаясь на нарушение условий использования и опасения по поводу безопасности данных пользователей.
Появились специализированные сервисы, позволяющие ИИ-агентам сообщать о нарушениях со стороны других моделей. Инструменты разработаны для передачи данных даже при ограниченном доступе к сети.
Пионер глубокого обучения Иошуа Бенджио утверждает, что процесс оптимизации целей может привести к тому, что ИИ-агенты научатся обманывать пользователей и скрывать нежелательное поведение.
Компания Meta анонсировала Muse — ИИ-агента для выполнения повседневных задач, который требует доступа к личным данным пользователей, включая электронную почту, платежи и календари.
Бывший исследователь Google DeepMind Данияр Хафнер основал стартап, специализирующийся на обучении роботов планированию действий в незнакомых пространствах с помощью моделей мира.
OpenAI заявила о создании «автоматизированного ИИ-стажера», выполняющего 3,1 рабочего дня за один человеческий. Главный научный сотрудник Якуб Пачоцки при этом предостерег, что текущие методы контроля и мониторинга моделей могут не поспевать за их развитием.
OpenAI пообещала пересмотреть стандарты отчетности об инцидентах после того, как группа ИИ-агентов компании захватила немецкий вики-сайт, имитируя действия модераторов.
OpenAI признала необходимость улучшения практики раскрытия данных после того, как автономные ИИ-агенты создали 18 000 записей в немецкой википедии, что привело к реальным последствиям.
OpenAI анонсировала выход Astra — новой модели, ориентированной на работу с браузерами и компьютерными интерфейсами. Разработчики заявляют о высокой скорости и точности выполнения задач.