最近，人工智能（AI）和機器學習（ML）模型在各個領域的應用都取得了顯著的進展，相關討論也在不斷增多。學界認為，AI和ML模型應當是透明的，可解釋的和可信的。

在此背景下，可解釋AI（XAI）領域在迅速擴張。通過解釋一些復雜模型，比如深度神經(jīng)網(wǎng)絡（DNN）結(jié)果如何生成，可解釋AI在提高人工智能系統(tǒng)可信度和透明度方面前景廣闊。此外，許多研究員和業(yè)內(nèi)人士認為，使用數(shù)據(jù)起源去解釋這些復雜的模型有助于提高基于人工智能系統(tǒng)的透明度。

本文對數(shù)據(jù)起源、可解釋AI（XAI）和可信賴AI（TAI）進行系統(tǒng)的文獻綜述，以解釋基本概念，說明數(shù)據(jù)起源文件可以用來提升基于人工智能系統(tǒng)實現(xiàn)可解釋性。此外，文中還討論了這個領域近期的發(fā)展模式，并對未來的研究進行展望。

對于有意了解關于數(shù)據(jù)起源，XAI和TAI的實質(zhì)的諸多學者和業(yè)界人士，希望本文能成為助力研究的一個起點。

1. 引言

2. XAI和TAI的基本概念

3. 數(shù)據(jù)起源, XAI, TAI的文獻計量分析

4. 數(shù)據(jù)起源, XAI, TAI的關系的思考

5. 數(shù)據(jù)起源, XAI, TAI未來十年發(fā)展趨勢

6. 結(jié)論

作者先列舉了多例AI和機器學習的漏洞證明了提高可解釋性的重要。又說明TAl的基本原則是建立合法透明的AI系統(tǒng)。然后列舉各個國家在數(shù)據(jù)科學領域到XAI方法和戰(zhàn)略計劃，學者Wing擴充了計算機系統(tǒng)的維度，并認為需要權衡多種維度。

這些方法可以生成結(jié)果，但是為了增加AI系統(tǒng)的透明度，需要應用數(shù)據(jù)起源作為XAI的補充技術。

文中進行文獻計量分析去搜集這三者之間在論文中相互關聯(lián)的證據(jù)。作者說明選擇數(shù)據(jù)庫的原因和查詢的關鍵字以及分析工具是Bibliometrix和VOS Viewer。

作者進行文獻綜述，整理研究主題后得出：

文中也介紹了一些能夠使得Provenance文檔化的工具，比如W3C PROV本體，OpenML等。

對于現(xiàn)實世界的實踐，作者進行文獻綜述，講述數(shù)據(jù)起源模型類別，W3C PROV的六個組件，然后作者簡單介紹Renku等應用工具軟件。

本部分討論了在AI/ML模型中造成偏差的原因，數(shù)據(jù)不可追蹤，沒有數(shù)據(jù)起源支持的決定是不可信的。

這項工作是社會-技術交叉領域問題，需要從兩方面解決問題。

開發(fā)數(shù)據(jù)起源功能應用前應掌握用戶需求

應開發(fā)更多的自動化工具記錄數(shù)據(jù)起源，并將其標準化、使數(shù)據(jù)起源記錄可查詢可訪問。

用事后解釋的方法來解釋AI或機器學習模型是不夠的，需要數(shù)據(jù)起源加入增加系統(tǒng)可信度和透明度。作者總結(jié)了文章行文順序，強調(diào)數(shù)據(jù)起源對于XAI和TAI的重要性。