FinGPT：一個「專用于金融領域」的開源大語言模型（LLM）框架，源碼公開！

520jefferson 2023-06-19 發(fā)布于中國臺灣

展開全文

引言

目前，大型語言模型（LLM）在不同領域中已經(jīng)展現(xiàn)出它強悍的性能，這也極大引起了金融科技圈的濃厚興趣。然而金融數(shù)據(jù)的實時性、多樣性、復雜性等特點，限制了大模型的應用。為此，今天給大家分享的這篇文章面對該挑戰(zhàn)，「提出了一個開源的大語言模型框架FinGPT，專門用于金融領域」，它采用以數(shù)據(jù)為中心的方法，為研究人員提供了可訪問和資源來開發(fā)自己FinLLMs。該框架可用在智能投顧、情緒分析、量化交易、風險管理、破產(chǎn)預測、金融教育培訓等方面。

Paper：https:///pdf/2306.06031v1.pdf

Code：https://github.com/ai4finance-foundation/fingpt

金融數(shù)據(jù)特點

2022年12月，ChatGPT生成式大型語言模型的爆火吸引了全世界人們的注意，人們也逐步開始將大型語言模型應用到其它領域中，例如：工業(yè)機械控制、計算機視覺等。不僅如此，金融科技圈同樣對生成式大語言模型在金融領域的潛在應用產(chǎn)生了濃厚興趣。之前和一位金融科技的大佬聊天就提到，「目前保險、證券、銀行等都在迫切尋找應用場景，盡快實現(xiàn)大模型的應用試點」。這或許就是為啥各大科技公司都在發(fā)布自己的大模型吧，因為這塊國企蛋糕還是挺香的。

但是，對于金融大型語言模型（FinLLM），成功的策略不僅取決于模型架構的能力，而且同樣依賴于訓練數(shù)據(jù)。金融數(shù)據(jù)來自各種來源，具有獨特的特點。例如：財經(jīng)新聞包含有關世界經(jīng)濟、特定行業(yè)和個別公司的重要信息。該數(shù)據(jù)通常存在以下特點：實時性、動態(tài)性、影響力大等；公司申報/公告是企業(yè)向監(jiān)管機構提交的官方文件，提供有關公司財務狀況和戰(zhàn)略方向的信息。此類數(shù)據(jù)通常存在以下特點：粒度細、可靠性、周期性、影響力大等；與金融相關的社交媒體討論可以反映公眾對特定股票、行業(yè)或整個市場的情緒。此類數(shù)據(jù)通常存在以下特點：多變性、實時情緒、波動性；趨勢走向數(shù)據(jù)，此類數(shù)據(jù)經(jīng)常能夠在金融財經(jīng)及論壇中看到，一般會提供關于市場動態(tài)和投資策略見解。此類數(shù)據(jù)通常存在以下特點：專業(yè)的分析觀點、市場情緒、覆蓋市場廣泛等。?這幾類數(shù)據(jù)對于市場動態(tài)都能給出獨特的見解，通過整合這些數(shù)據(jù)，金融語言模型FinGPT能夠促進人們對金融市場有更全面的了解，進而做出有利的金融決策。

金融數(shù)據(jù)處理挑戰(zhàn)

對于復雜多樣的金融數(shù)據(jù)的處理，主要面臨的挑戰(zhàn)：

「時間敏感」，一篇新聞的發(fā)布，就會給投資者提供一個機會窗口來最大化它們的alpha；

「高度動態(tài)」，每天都會存在大量的新聞信息，依據(jù)此類信息頻繁的訓練模型是不切實際的；

「低信噪比」，數(shù)據(jù)量很大但真正有用的數(shù)據(jù)卻相對較少，如何提取有用的信息需要復雜的技術手段。

FinGPT

基于以上問題，本文提出FinGPT，它是專為在金融領域應用大型語言模型 (LLM) 而設計的開源框架。如下圖所示，F(xiàn)inGPT 主要由四個基本組件組成：數(shù)據(jù)源、數(shù)據(jù)工程、LLM 和應用程序。其中每個組件都在維護 FinGPT 在處理動態(tài)金融數(shù)據(jù)和市場條件方面的功能和適應性方面發(fā)揮著至關重要的作用。

「數(shù)據(jù)源層」：FinGPT 管道的起點是數(shù)據(jù)源層，它協(xié)調從各種在線資源中獲取大量財務數(shù)據(jù)。該層通過整合來自新聞網(wǎng)站、社交媒體平臺、財務報表、市場趨勢等的數(shù)據(jù)來確保全面的市場覆蓋。目標是捕捉市場的每一個細微差別，從而解決金融數(shù)據(jù)固有的時間敏感性問題。

「數(shù)據(jù)處理層」：該層專注于NLP數(shù)據(jù)的實時處理，以應對金融數(shù)據(jù)固有的高時間敏感性和低信噪比的挑戰(zhàn)。它結合了最先進的 NLP 技術來過濾噪音并突出顯示最重要的信息。

「LLMs層」：處于核心位置，它包含各種微調方法，優(yōu)先考慮輕量級適應，以保持模型的更新和相關性。通過維護更新的模型，F(xiàn)inGPT 可以處理金融數(shù)據(jù)的高度動態(tài)特性，確保其響應與當前的金融環(huán)境同步。

「應用層」：FinGPT 的最后一個組成部分是應用層，旨在展示FinGPT 的實際適用性。它為金融任務提供實踐教程和演示應用程序，包括機器人咨詢服務、量化交易和低代碼開發(fā)。這些實際演示不僅可以作為潛在用戶的指南，還可以強調 LLM 在金融領域的變革潛力。

應用范圍

通過結合以上這些相互關聯(lián)的組件，F(xiàn)inGPT提供了一個全面可用的解決方案，利用人工智能在金融領域的研究、創(chuàng)新和實際應用。它可以應用在以下方面：

1.「智能投資顧問」：提供個性化的金融建議，減少需要經(jīng)常面對面咨詢的需求。

2.「量化交易」：生成交易信號，幫助做出明智的交易決策。

3.「投資組合優(yōu)化」：利用眾多的經(jīng)濟指標和投資者檔案，構建最佳投資組合。

4.「金融情緒分析」：評估不同金融平臺上的情緒，為投資指導提供深入的見解。

5.「風險管理」：通過分析各種風險因素制定有效的風險策略。

6.「金融欺詐檢測」：識別潛在的欺詐交易模式，增強金融安全性。

7.「信用評分」：根據(jù)財務數(shù)據(jù)預測信用風險，幫助貸款決策。