Estudio
When Execution Feedback Reveals the Expected Output: A Forensic Study of Answer Leakage in Agentic Code Repair
Zenodo, preprint del autor, sin revisión por pares. DOI 10.5281/zenodo.21286873 · 10 de julio de 2026
Los agentes de código suelen recibir feedback de pruebas, al que se atribuye la mejora de la reparación. El preprint audita tres diseños experimentales del propio programa de investigación del autor y encuentra la salida esperada en el feedback: en el brazo principal de QuixBugs, 156 de 169 mensajes consumidos (92,3%) mostraban el campo fijo de la respuesta esperada. El feedback que expone una aserción de la prueba visible confunde el efecto de la verificación con el de la respuesta filtrada. Afirmar un beneficio de verificación exige feedback limitado a aprobado o fallido, control de selección con el mismo conjunto de candidatos, inferencia agrupada por tarea y hashes inmutables entre transcripciones y filas de resultados. Así piensa NASCIA la evaluación: debe comprobar qué revela su feedback.
Leer en Zenodo