Ploutos: Towards interpretable stock movement prediction with financial large language model

📄 arXiv: 2403.00782v1 📥 PDF

作者: Hanshuang Tong, Jun Li, Ning Wu, Ming Gong, Dongmei Zhang, Qi Zhang

分类: q-fin.ST, cs.AI, cs.CL

发布日期: 2024-02-18

备注: 8 pages, 4 figures

💡 一句话要点

提出Ploutos以解决金融投资中的可解释性与信息融合问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 金融投资 股票预测 可解释性 多模态数据 大型语言模型 深度学习 量化金融

📋 核心要点

  1. 现有的深度学习方法在量化金融中难以有效融合文本与数值信息，导致股票运动预测的准确性不足。
  2. Ploutos框架通过PloutosGen和PloutosGPT模块，灵活分析多模态数据并生成可解释的预测理由，解决了信息融合与可解释性问题。
  3. 实验结果显示，Ploutos在预测准确性和可解释性上均超越了当前的最先进方法，展现出显著的性能提升。

📝 摘要（中文）

近年来，大型语言模型（LLMs）的进步为多个领域开辟了新路径。然而，LLMs在金融投资中的潜力尚未得到充分利用。现有的深度学习方法在量化金融中面临两个主要挑战：一是难以灵活融合文本和数值信息以进行股票运动预测；二是传统方法缺乏清晰性和可解释性，限制了其在需要预测理由的场景中的应用。为了解决这些挑战，本文提出了Ploutos，一个新颖的金融LLM框架，包含PloutosGen和PloutosGPT。PloutosGen包含多个主专家，能够从不同角度分析文本和数值数据，并提供量化策略。然后，PloutosGPT结合这些见解和预测，生成可解释的理由。实验表明，该框架在预测准确性和可解释性上均优于现有最先进的方法。

🔬 方法详解

问题定义：本文旨在解决金融投资中股票运动预测的可解释性与信息融合问题。现有方法在处理文本与数值信息时存在灵活性不足和缺乏透明度的痛点。

核心思路：Ploutos框架通过引入PloutosGen和PloutosGPT，分别处理多模态数据并生成可解释的预测理由，从而提升预测的准确性和透明度。

技术框架：Ploutos框架由两个主要模块组成：PloutosGen负责分析不同模态数据并提供量化策略，PloutosGPT则结合这些策略生成可解释的预测理由。

关键创新：Ploutos的核心创新在于其结合了多模态数据分析与生成可解释理由的能力，采用了后视镜提示机制和动态令牌加权机制，显著提升了模型的可解释性与准确性。

关键设计：在训练过程中，PloutosGPT利用后视镜提示机制引导GPT-4生成合理的预测理由，同时通过动态令牌加权机制对关键令牌的权重进行调整，以优化模型性能。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，Ploutos框架在股票运动预测的准确性上超越了当前最先进的方法，具体表现为预测准确率提升了XX%，并在可解释性方面也取得了显著进展，提供了更为清晰的预测理由。

🎯 应用场景

该研究的潜在应用领域包括金融市场分析、投资决策支持和风险管理等。通过提供可解释的预测理由，Ploutos能够帮助投资者更好地理解市场动态，从而做出更为明智的投资决策。未来，该框架有望在其他领域的多模态数据分析中发挥重要作用。

📄 摘要（原文）

Recent advancements in large language models (LLMs) have opened new pathways for many domains. However, the full potential of LLMs in financial investments remains largely untapped. There are two main challenges for typical deep learning-based methods for quantitative finance. First, they struggle to fuse textual and numerical information flexibly for stock movement prediction. Second, traditional methods lack clarity and interpretability, which impedes their application in scenarios where the justification for predictions is essential. To solve the above challenges, we propose Ploutos, a novel financial LLM framework that consists of PloutosGen and PloutosGPT. The PloutosGen contains multiple primary experts that can analyze different modal data, such as text and numbers, and provide quantitative strategies from different perspectives. Then PloutosGPT combines their insights and predictions and generates interpretable rationales. To generate accurate and faithful rationales, the training strategy of PloutosGPT leverage rearview-mirror prompting mechanism to guide GPT-4 to generate rationales, and a dynamic token weighting mechanism to finetune LLM by increasing key tokens weight. Extensive experiments show our framework outperforms the state-of-the-art methods on both prediction accuracy and interpretability.