Команда KwaiKAT из Kuaishou представила технический отчет о своей новой модели KAT-Coder-V2.5, которая представляет собой значительный шаг вперед в области агентного кодирования. Исследователи утверждают, что ключевым ограничением для развития возможностей агентного кодирования является не масштаб модели, а скорее инфраструктура для ее обучения. Этот подход подчеркивает важность качественных и верифицируемых сред для подготовки ИИ-агентов, способных к автономной разработке.
Для решения этой проблемы команда разработала инструмент AutoBuilder, который значительно повысил успешность создания сред. Показатель успеха в конструировании сред вырос с 16,5% до впечатляющих 57,2%. Благодаря этому прорыву удалось создать более 100 000 верифицируемых репозиторных сред, охватывающих 12 различных языков программирования. Это колоссальный объем данных, который обеспечивает беспрецедентную базу для обучения и тестирования моделей, значительно превосходящую предыдущие возможности.
Кроме того, команда KwaiKAT внедрила аудит в изолированной среде (sandbox audit), который сыграл критическую роль в повышении надежности обучения. Этот аудит позволил сократить количество ошибок обратной связи в обучении с подкреплением (RL feedback errors) с примерно 16% до менее чем 2%. Такое снижение ошибок существенно улучшает качество обучения модели и ее способность к автономному кодированию, делая ее более стабильной и предсказуемой.
Выпуск KAT-Coder-V2.5 и сопутствующие технологические достижения, такие как AutoBuilder и система аудита, демонстрируют, что инвестиции в инфраструктуру обучения могут принести гораздо более значимые результаты, чем простое увеличение размера моделей. Это открывает новые перспективы для создания более надежных и эффективных ИИ-агентов, способных к самостоятельному написанию, отладке и верификации кода в различных программных средах.
Подробнее: marktechpost.com