Компания OpenAI поделилась информацией о подготовке к запуску своей новой языковой модели под названием Astra. Одной из ключевых особенностей системы стали её высокие способности в анализе и взаимодействии с компьютерными сетями, что делает модель потенциально эффективным инструментом для поиска уязвимостей. В связи с этим разработчики уделили особое внимание мерам безопасности, стремясь минимизировать риски использования ИИ в злонамеренных целях. В рамках превью OpenAI продемонстрировала, как именно Astra справляется с задачами по поиску слабых мест в программном обеспечении. Чтобы предотвратить несанкционированное использование возможностей модели, компания внедряет многоуровневые протоколы защиты и ограничения доступа. Эти меры призваны гарантировать, что мощные аналитические способности Astra будут направлены на укрепление кибербезопасности, а не на создание угроз для инфраструктуры пользователей.