Adaptador LoRA público en Mistral 7B para optimizar prompts en inglés británico y un segundo repositorio vacío

El problema

Un adaptador de fine-tuning solo es útil para otras personas si pueden cargarlo, ver cómo se hizo y juzgar si funciona. Publicar los pesos es la parte fácil.

Estos dos repositorios son el trabajo del fundador en optimización de prompts en inglés británico para Mistral 7B. Uno lleva un adaptador LoRA: pesos, una configuración y un tokenizador. El otro está vacío. Ambos se crearon el mismo día, en agosto de 2025, y hoy son públicos.

Este caso de estudio expone lo que dicen los repositorios y lo que no dicen. La distancia entre ambas cosas es el problema que el método de NASCIA existe para cerrar.

Qué se construyó

Dos repositorios públicos en la cuenta del fundador en Hugging Face, ambos creados el 11 de agosto de 2025. Solo uno de ellos lleva un adaptador.

roneymatusp/british-optimizer-mistral-final es un adaptador LoRA para mistralai/Mistral-7B-v0.1, construido con PEFT, con las etiquetas lora, sft y trl, y registrado para generación de texto. Incluye siete archivos: la configuración del adaptador, los pesos del adaptador en safetensors (unos 694 MB), tres archivos del tokenizador, la ficha del modelo (model card) y los atributos de git.

roneymatusp/british-prompt-optimizer-mistral-lora no tiene ficha del modelo y solo guarda un archivo de atributos de git. Figura aquí por exhaustividad; nada en esta página afirma más sobre él.

El propósito que declaran los dos nombres de repositorio es la optimización de prompts en inglés británico. La ficha no describe qué hace el adaptador con un prompt, y el segundo repositorio no tiene ficha, así que esta página tampoco lo describe.

Cómo funciona

LoRA deja los pesos del modelo base tal como están y entrena pequeñas matrices de bajo rango sobre módulos elegidos; en la inferencia, ambos se combinan. La configuración del adaptador muestra las decisiones: rango 16, alpha 32, dropout 0,05, sobre ocho nombres de módulo del modelo base: q_proj, k_proj, v_proj y o_proj en la atención, gate_proj, up_proj y down_proj en el bloque feed forward, y lm_head, la capa de salida. El tipo de tarea es modelado causal de lenguaje; los términos de bias, DoRA y rsLoRA están desactivados. El framework es PEFT 0.17.0.

Para ejecutarlo, el lector descarga el modelo base de Mistral y el adaptador del repositorio, y luego carga el adaptador sobre la base con PEFT. La ficha no incluye ese código. La configuración además deja vacía la ruta del modelo base, por lo que la página de Hugging Face muestra una advertencia de lectura de la configuración y su panel de uso no encuentra el modelo base; quien carga el adaptador debe nombrar el modelo base por su cuenta.

Evidencia

Las cifras de esta página salen de los archivos del repositorio, no de una ficha. Rango 16, alpha 32 y dropout 0,05 están en la configuración del adaptador (open-models-06), igual que la lista de ocho nombres de módulo objetivo (open-models-07). Los pesos del adaptador ocupan 694.438.976 bytes, según el árbol de archivos de Hugging Face (open-models-10). Ambos repositorios se crearon el 11 de agosto de 2025 (open-models-11).

Lo que falta importa tanto como lo que está. La ficha del modelo es la plantilla de Hugging Face sin completar: desarrollador, licencia, datos de entrenamiento, evaluación y resultados dicen todos "More Information Needed" (open-models-12). El segundo repositorio no tiene ficha alguna (open-models-13). No hay evaluación publicada de este adaptador, ni licencia declarada, ni datos de entrenamiento declarados, y este sitio no afirma ninguno de ellos.

Tecnologías

Mistral 7B v0.1 como modelo base; un adaptador LoRA mediante PEFT 0.17.0, con las etiquetas sft y trl; pesos en safetensors; el Hugging Face Hub para la distribución, en el repositorio roneymatusp/british-optimizer-mistral-final.

Qué demuestra

Definir: una tarea acotada, un modelo base abierto, un adaptador. El nombre del repositorio declara la tarea y la configuración declara el método.

Instrumentar: aquí es donde el artefacto se queda corto, y lo decimos. Sin una evaluación publicada, nadie puede distinguir una mejora de la suerte. Por eso el banco de evaluación ahora va antes que el modelo en cada proyecto.

Integrar: el adaptador usa el formato estándar de PEFT e incluye su tokenizador, así que se carga con las mismas herramientas que cualquier otro adaptador PEFT.

Transferir: los pesos son públicos y la configuración puede leerla cualquiera. La ficha debería llevar el resto, y esta página nombra los campos que siguen vacíos.