Please use this identifier to cite or link to this item: http://ciateq.repositorioinstitucional.mx/jspui/handle/1020/699
Automatización de rastreabilidad de requerimientos de software por medio de procesamiento de lenguaje natural
CARLOS OCTAVIO MENDÍVIL VÁZQUEZ
LUIS RICARDO CORRAL VELAZQUEZ
Carolina Reta
LEONOR ADRIANA CARDENAS ROBLEDO
Acceso Abierto
Atribución-NoComercial-CompartirIgual
Procesamiento de lenguaje natural (NLP)
Rastreabilidad de requerimientos
Ingeniería de requerimientos
Tecnología de la automatización
BERT
Natural Language Processing (NLP)
Requirements traceability
Requirements engineering
Automation technology
El desempeño de un modelo de lenguaje ajustado finamente mediante la transferencia de aprendizaje para automatizar el proceso de rastreabilidad de requerimientos depende del aprendizaje obtenido para representar la información textual de los requerimientos. Esto indica que para incrementar el desempeño en esta tarea es necesario estudiar técnicas de transferencia de aprendizaje enfocadas en la captura de la información semántica y sintáctica en los requerimientos. Por lo descrito anteriormente, se ha motivado a generar una propuesta de metodología de transferencia de aprendizaje de ajuste fino en dos etapas del modelo BERT que permite complementar la tarea de rastreabilidad de requerimientos de software. Esto consiste en entrenar en una primera etapa solamente las capas transformer de BERT que concentran la información semántica y continuando con una segunda etapa entrenando solamente las capas transformer de BERT que concentran la relación entre frases y la información sintáctica. El método propuesto se evalúo dentro de un marco de comparación contra los métodos de ajuste fino estándar, ajuste fino del 50 % del modelo y sondeo lineal entrenando solamente la capa de clasificación, obteniendo un incremento en la métrica de F2 de 6.38 %, 13.45 % y 65.72 %, respectivamente.
Language model transfer learning performance on the downstream task to automate the traceability of software requirements depends on the ability to represent the requirements textual information. Then, to increase the model performance in this downstream task, it is required to develop transfer learning methods focused on capturing the semantic and syntactic information within the requirements. Therefore, this motivates to develop of a two-stage fine tuning transfer learning method proposal for BERT to collaborate with the software requirements traceability task. In the first stage only the BERT transformer layers that concentrate the semantic information are trained, next, in the second stage, only the BERT transformer layers that concentrate the syntactic information are trained. The proposed method was evaluated within a comparison framework against standard fine-tuning, fixing 50 % of model layers and classification layer linear probing, obtaining an F2 increment of 6.38 %, 13.45 % and 65.72 %, respectively.
CIATEQ, A.C.
2024
Tesis de doctorado
Español
Público en general
OTRAS
Versión aceptada
acceptedVersion - Versión aceptada
Appears in Collections:Doctorado en Manufactura Avanzada

Upload archives


File Description SizeFormat 
MendivilVazquezCarlosO DMANAV 2024.pdfTesis de doctorado en texto completo2.03 MBAdobe PDFView/Open