Ingeniería GPTizada: Explorando modelos de lenguaje preentrenados para potenciar y simplificar tareas específicas de ingeniería

Abstract

Este Trabajo de Fin de Grado explora el potencial de los modelos de lenguaje preentrenados (PLMs) en tareas propias del ámbito de la ingeniería, con el objetivo de evaluar su aplicabilidad como herramienta de apoyo técnico. La investigación se estructura en dos fases: una primera parte teórica, en la que se desarrolla un marco conceptual que abarca los fundamentos de la inteligencia artificial, el procesamiento del lenguaje natural y las arquitecturas actuales como los Transformers; y una segunda parte experimental, en la que se evalúa empíricamente el rendimiento de distintos modelos (GPT, Claude, Gemini, entre otros) en tareas técnicas específicas.

Para la fase práctica se diseñaron cinco experimentos representativos que abarcan desde la explicación de conceptos técnicos hasta la resolución de problemas físicos, la redacción de informes de laboratorio, la interpretación de imágenes técnicas y el diagnóstico de procesos simulados. La evaluación de los resultados se realizó mediante métricas cuantitativas (similitud TF-IDF y embeddings) y análisis cualitativo de estructura, coherencia y precisión técnica.

Los resultados obtenidos muestran que modelos como GPT-4o y Claude-3-Haiku destacan por su capacidad para generar respuestas estructuradas, precisas y adaptadas al contexto técnico, mientras que modelos más antiguos como GPT-2 evidencian las enormes mejoras alcanzadas en los últimos años. En conjunto, el trabajo demuestra que los LLMs pueden ser herramientas muy importantes para automatizar tareas repetitivas o pedagógicas en ingeniería, aunque siempre bajo supervisión profesional y con una reflexión crítica sobre su uso.

This Final Degree Project explores the potential of pretrained language models (PLMs) in engineering-related tasks, with the aim of assessing their applicability as technical support tools. The research is structured in two main phases: a theoretical part, which develops a conceptual framework covering the fundamentals of artificial intelligence, natural language processing, and modern architectures such as Transformers; and an experimental part, which empirically evaluates the performance of various models (including GPT, Claude, Gemini, among others) in specific technical tasks.

For the practical phase, five representative experiments were designed, ranging from the explanation of technical concepts to the resolution of physics problems, the drafting of laboratory reports, the interpretation of technical diagrams, and the diagnosis of simulated processes. The results were evaluated using quantitative metrics (TF-IDF similarity and embeddings) as well as qualitative analysis of structure, coherence, and technical accuracy.

The findings show that models such as GPT-4o and Claude-3-Haiku stand out for their ability to generate structured, accurate, and contextually relevant responses, while older models like GPT-2 highlight the significant advancements achieved in recent years. Overall, the project demonstrates that LLMs can be valuable tools for automating repetitive or educational tasks in engineering, provided they are used under professional supervision and with critical reflection on their limitations.