JavaCapsule: Итеративная генерация и отладка Java-кода на основе структурированной обратной связи

JavaCapsule: Итеративная генерация и отладка Java-кода на основе структурированной обратной связи

Александров Д.В. (НИУ ВШЭ, Москва, Россия)
Василевский В.И. (НИУ ВШЭ, Москва, Россия)
Резуник Л.А. (НИУ ВШЭ, Москва, Россия)
Кулигин Л.А. (НИУ ВШЭ, Москва, Россия)
Манушкина А.В. (НИУ ВШЭ, Москва, Россия)
Думкин Н.А. (НИУ ВШЭ, Москва, Россия)
Прозорский М.А. (НИУ ВШЭ, Москва, Россия)
Пинигин К.Ю. (Университет Иннополис, Иннополис, Россия)

Аннотация

Ограничения при выполнении задач, требующих точного извлечения информации из сверхдлинных последовательностей, приводят к снижению качества генерации и отладки кода крупных объектно-ориентированных систем, характеризующихся сложными межклассовыми зависимостями и необходимостью анализа длинных трассировок выполнения, превышающих размеры стандартных контекстных окон. Предлагается технология JavaCapsule для генерации и отладки Java-кода, реализующая итеративную отладку на основе структурированной обратной связи, включающей результаты выполнения тестов и трассировки выполнения. Для обработки сверхдлинного контекста исследуется Ассоциативный рекуррентный трансформер с памятью (Associative Recurrent Memory Transformer, ARMT), демонстрирующий точность извлечения информации до 99% на последовательностях длиной до 1 миллиона токенов. Для корректной оценки разработан JavaBench+ – модернизированный набор задач с устраненными дефектами, предоставляющий расширенный цикл обратной связи. Экспериментальные результаты показывают, что JavaCapsule обеспечивает увеличение качества генерации на 20 процентов по метрике Pass@1 по сравнению с базовой моделью Google Gemma-3-27B-it, а исследование архитектуры ARMT подтверждает возможность эффективной обработки сверхдлинных последовательностей.

Ключевые слова

генерация кода; интеллектуальная отладка; модели с длинным контекстом; трансформеры с расширенной памятью; ассоциативная память; рекуррентный трансформер ARMT; язык программирования Java; большие языковые модели.

Издание

Труды Института системного программирования РАН, том 38, вып. 5, 2026, стр. 73-90.

ISSN 2220-6426 (Online), ISSN 2079-8156 (Print).

DOI: 10.15514/ISPRAS-2026-38(5)-5

Для цитирования

Александров Д.В., Василевский В.И., Резуник Л.А., Кулигин Л.А., Манушкина А.В., Думкин Н.А., Прозорский М.А., Пинигин К.Ю. JavaCapsule: Итеративная генерация и отладка Java-кода на основе структурированной обратной связи. Труды Института системного программирования РАН, том 38, вып. 5, 2026, стр. 73-90. DOI: 10.15514/ISPRAS-2026-38(5)-5.

Полный текст статьи в формате pdf Вернуться к содержанию тома