ANALYTICAL FINANCE. APPLYING NLP and LLMs IN STOCK PRICE PREDICTION - Conderana Medem, Elena

Abstract

La predicción del precio de las acciones sigue siendo una tarea fundamental y compleja en las finanzas analíticas, con la volatilidad inherente de los mercados y las limitaciones de los indicadores técnicos estimulando la integración de análisis de sentimiento. Los modelos de lenguaje amplio (LLM, Large Language Models), como FinBERT, que sólo utiliza codificadores, están recibiendo cada vez más atención por su potencial para desarrollar modelos de predicción más precisos y adaptables en sinergia con algoritmos de aprendizaje automático. Este estudio investiga el impacto de la integración del sentimiento derivado de FinBERT a partir de los titulares financieros de Reuters junto con los indicadores técnicos en el rendimiento predictivo de los modelos de memoria a largo plazo (LSTM) para los precios de las acciones del sector bancario del IBEX-35.

Los modelos LSTM se entrenaron con un amplio conjunto de indicadores técnicos de mayo de 2020 a mayo de 2025, en los que el precio de cierre sirvió como variable objetivo de la investigación. A través de una amplia experimentación a través de varias ventanas lookback y un meticuloso ajuste de hiperparámetros, los resultados demuestran consistentemente que el sentimiento derivado de FinBERT actúa como un factor diferencial, capturando la dinámica subyacente del mercado no observable a través de indicadores tradicionales, y mejorando significativamente el rendimiento del modelo LSTM a través de las métricas R^2 , RMSE y MAE. La contribución distintiva de esta investigación radica en la aplicación de los modelos LSTM, la recopilación de noticias de Reuters y la extracción del sentimiento FinBERT al índice español, el IBEX-35, en gran medida poco explorado, así como la inclusión exclusiva del sentimiento de noticias específicas para cada una de las empresas. Los resultados generales subrayan el importante potencial del sentimiento para mejorar la predicción de las cotizaciones bursátiles y justifican una mayor exploración de su impacto e interacción con otros modelos dentro del IBEX-35.

Stock price prediction remains a foundational and complex task in analytical finance, with the inherent volatility of markets and the limitations of technical indicators spurring the integration of sentiment analysis. Large Language Models (LLMs), such as encoder-only FinBERT, are garnering increased attention for their potential to develop more accurate and adaptive forecasting models in synergy with machine learning (ML) algorithms. This study investigates the impact of integrating FinBERT-derived sentiment from Reuters financial headlines alongside technical indicators on the predictive performance of Long Short-Term Memory (LSTM) models for IBEX-35 banking sector stock prices.

LSTM models were trained on an extensive set of technical indicators from May 2020 to May 2025, where closing price served as target variable of the research. Through extensive experimentation across various lookback windows and meticulous hyperparameter tuning, the findings consistently demonstrate that FinBERT-derived sentiment acts as a differential factor, capturing underlying market dynamics unobservable through traditional indicators alone, significantly improving LSTM model performance across metrics R^2 , RMSE, and MAE. The distinct contribution of this research lies in the application of LSTM models, Reuters news collection, and FinBERT sentiment extraction to the largely underexplored Spanish index, the IBEX-35, as well as solely including sentiment from company-specific news. Overall results underscore sentiment's significant potential for enhancing stock price prediction and warrant further exploration of its impact and interplay with other models within the IBEX-35.