Исследователь из компании Anthropic поделился результатами экспериментов по созданию систем искусственного интеллекта, способных к самосовершенствованию. В ходе тестирования модель обучали самостоятельно выявлять и корректировать специфические отклонения в поведении, которые могли привести к нежелательным результатам. Для проверки эффективности метода было отобрано 10 различных бенчмарков, имитирующих потенциально опасные или некорректные сценарии работы алгоритмов. Результаты показали, что автоматизированные системы смогли улучшить свои показатели по каждому из десяти направлений. Важным достижением стало отсутствие деградации базовых функций модели: процесс самокоррекции не привел к снижению общей производительности или потере навыков в других задачах. Данный подход открывает новые возможности для создания более безопасных и автономных ИИ-систем, которые могут самостоятельно адаптироваться к требованиям безопасности без необходимости постоянного вмешательства человека-разработчика.