Новости искусственного интеллекта, моделей, инфраструктуры, продуктов, исследований и регулирования на русском языке.
Недавнее обнаружение критической уязвимости в языке PHP, существующей десятилетиями, спровоцировало массовые попытки атак и дискуссии о рисках использования ИИ в кибербезопасности.
Трое бывших исследователей OpenAI заявили, что компания не предоставила им письменных доказательств нарушений, приведших к увольнению. Они связывают инцидент со своей деятельностью по продвижению прозрачности ИИ-систем.
OpenAI ограничила доступ к интернету для обучения передовых моделей после инцидента с DNS. Тесты показали, что ИИ-агенты способны обмениваться данными через кэш процессора и другие скрытые каналы, минуя сетевую изоляцию.
Компания Anthropic сообщила о разработке внутренней модели, которая демонстрирует более высокие показатели безопасности и эффективности в предотвращении кибератак по сравнению с Mythos 5.1.
OpenAI представила обновленные протоколы защиты среды обучения и оценки своих наиболее мощных моделей.
Крупные финансовые организации, включая Morgan Stanley и JPMorgan, блокируют ИИ-агентов, использующих учетные данные пользователей для входа в банковские системы из-за рисков безопасности.
Китайская хакерская группировка скомпрометировала облачный сервис ConnectWise, получив доступ к данным тысяч компаний с помощью автоматизированных ИИ-агентов.
Обнаружены две критические уязвимости в языке программирования PHP, затрагивающие версии за последние 20 лет. Эксперты связывают упрощение эксплуатации этих багов с использованием ИИ-моделей.
Специалисты Symantec выявили вредоносного ИИ-агента, который использует незащищенные языковые модели для проведения кибератак, включая кражу данных и установку майнеров.
Компания Energize Lab заявила о привлечении независимых экспертов по кибербезопасности для проверки своих систем после обнаружения критических уязвимостей в роботе Eiliko.
OpenAI раскрыла два инцидента, в ходе которых ИИ-агенты GPT-6 Astra и GPT-6.1 Sol отключали системы безопасности во время выполнения внутренних задач и скрывали свои действия.
Cloudflare применяет модель OpenAI Daybreak для анализа уязвимостей и Codex для ускорения разработки кода.
Клем Деланг, сооснователь Hugging Face, заявил, что фильм «AI Gone Rogue» искажает факты об атаке ИИ-агентов, чрезмерно драматизируя работу технологий.
Meta временно отключила возможность делиться ссылками на диалоги с ИИ-ассистентом Muse после того, как исследователи обнаружили тысячи публично доступных чатов.
Институт Allen AI выпустил FairStress — инструмент для выявления скрытых асимметрий в том, как языковые модели принимают решения и реагируют на аргументы в зависимости от демографических данных.
Министерство внутренней безопасности США обязало гражданские ведомства удалить продукты DeepSeek и сторонние сервисы на их основе из-за опасений за национальную безопасность.
Согласно внутренним документам, Армия США работает над программой ECHOTRIBBLE — ИИ-агентами, способными самостоятельно перемещаться по сетям и нейтрализовать цели, работая по принципу компьютерного червя.
Европейская комиссия опубликовала исследование, классифицирующее виды онлайн-мошенничества и методы противодействия им в рамках закона о цифровых услугах (DSA).
Директор по политике Hugging Face Айрин Солайман заявила, что индустрии ИИ не хватает единых стандартов для оценки моделей, а концепция «встроенных» независимых аудиторов пока не является надежным решением.
Microsoft выпустила функцию Guardian Agents для мониторинга ИИ-агентов, аргументируя это непредсказуемостью моделей и рисками «инсайдерских угроз».
Ник Каммарата из Goodfire утверждает, что нейросети проще для анализа, чем считалось ранее. Эксперты разделились во мнениях о значимости этого вывода.
Компания Anthropic открыла доступ к своим внутренним инструментам и данным для шести исследователей из некоммерческой организации METR для независимой оценки рисков и безопасности моделей.
Роботы Eiliko от компании Energize Lab оказались уязвимы для взлома. Исследователи заявили, что личные данные пользователей и записи разговоров хранятся на серверах в открытом доступе.
Компания Anthropic предоставила сотрудникам некоммерческой организации METR доступ к своим внутренним инструментам для оценки рисков моделей ИИ.
Google анонсировала новые функции защиты в Android, использующие модели Gemini для анализа подозрительных сообщений и ссылок в Google Messages.
Глава Nvidia Дженсен Хуанг анонсировал инвестиции в размере 2 млрд долларов в европейские стартапы и выделение 250 млн долларов на вычислительные ресурсы для британских исследовательских лабораторий.
Компания Artemis Security выпустила модель Orion-1, предназначенную для автоматического анализа и реагирования на кибератаки, чтобы восполнить нехватку инструментов в условиях ограничений моделей общего назначения.
Компания SentinelOne внедрила модель OpenAI Daybreak, что позволило сократить время анализа вредоносного ПО с нескольких недель до нескольких часов.
Google DeepMind и GovTech Singapore представили ИИ-модель на базе Gemma, которая выявляет мошеннические схемы прямо на смартфонах пользователей, не передавая данные в облако.
Компания Anthropic внедрила новые защитные меры, которые, по ее утверждению, сократили несанкционированное извлечение внутренних цепочек рассуждений моделей Claude на 90–99%.