|
來源：DAMA數(shù)據(jù)管理 全文共計(jì)4081字，預(yù)計(jì)閱讀時(shí)間 8 分鐘1 范圍
本標(biāo)準(zhǔn)規(guī)定了XX公司數(shù)據(jù)質(zhì)量管理內(nèi)容、管理機(jī)制和工作流程。本標(biāo)準(zhǔn)適用于XX所有項(xiàng)目整個(gè)生命周期的數(shù)據(jù)質(zhì)量管理，非項(xiàng)目可參照使用。2 術(shù)語和定義下列術(shù)語和定義適用于本文件 數(shù)據(jù)質(zhì)量data quality
客觀反映業(yè)務(wù)數(shù)據(jù)固有特性的程度。注：“固有的” (其反義是“賦予的”)就是指在某事或某物中本來就有的，尤其是永久的特性。數(shù)據(jù)質(zhì)量管理 data quality management
對數(shù)據(jù)從計(jì)劃、獲取、存儲、共享、維護(hù)、應(yīng)用、消亡生命周期的每個(gè)階段里可能引發(fā)的各類數(shù)據(jù)質(zhì)量問題，進(jìn)行識別、監(jiān)控、預(yù)警、處理等一系列管理活動，并通過改善和提高管理水平使得數(shù)據(jù)質(zhì)量獲得進(jìn)一步提高。技術(shù)評估 technology assessment
科技主管部門對已審批的業(yè)務(wù)需求，組織相關(guān)部門和人員進(jìn)行技術(shù)可行性評估，并作出評估結(jié)論的活動。數(shù)據(jù)質(zhì)量監(jiān)控 data quality control
獲取業(yè)務(wù)各環(huán)節(jié)的數(shù)據(jù)質(zhì)量信息，結(jié)合有關(guān)檢查規(guī)則和采集規(guī)則，對數(shù)據(jù)質(zhì)量情況進(jìn)行診斷，并及時(shí)向數(shù)據(jù)質(zhì)量管理實(shí)施部門報(bào)告的活動。數(shù)據(jù)質(zhì)量評估 data quality assessment
由數(shù)據(jù)質(zhì)量管理實(shí)施部門根據(jù)需要發(fā)起，得到評估結(jié)果并作為依據(jù)評估指標(biāo)和評估方法進(jìn)行評價(jià)，數(shù)據(jù)質(zhì)量改進(jìn)的參考和依據(jù)。數(shù)據(jù)質(zhì)量報(bào)告 data quality report
對數(shù)據(jù)質(zhì)量日常監(jiān)控以及質(zhì)量評估等過程累積的各種信息進(jìn)行匯總、梳理、統(tǒng)計(jì)和分析，形成統(tǒng)計(jì)報(bào)告的過程。數(shù)據(jù)質(zhì)量知識 data quality knowledge
在數(shù)據(jù)質(zhì)量管理活動中獲取的有關(guān)數(shù)據(jù)質(zhì)量問題處理的經(jīng)驗(yàn)和成果。3 數(shù)據(jù)質(zhì)量管理內(nèi)容與評價(jià)原則
3.1管理目標(biāo)與內(nèi)容數(shù)據(jù)質(zhì)量管理目標(biāo)
數(shù)據(jù)質(zhì)量分為絕對質(zhì)量和過程質(zhì)量，絕對質(zhì)量是指業(yè)務(wù)數(shù)據(jù)的真實(shí)性、完備性和自洽性，過程質(zhì)量指業(yè)務(wù)數(shù)據(jù)的使用質(zhì)量、存儲質(zhì)量和傳輸質(zhì)量。數(shù)據(jù)質(zhì)量管理目標(biāo)包括： a)建立穩(wěn)定運(yùn)行的數(shù)據(jù)質(zhì)量測控體系，及時(shí)發(fā)現(xiàn)并改正數(shù)據(jù)質(zhì)量問題；b)建立可靠的數(shù)據(jù)質(zhì)量評估流程，判斷改進(jìn)趨勢,衡量數(shù)據(jù)質(zhì)量改進(jìn)效果；c)建立一套改進(jìn)、提升數(shù)據(jù)質(zhì)量的管理機(jī)制。數(shù)據(jù)質(zhì)量管理內(nèi)容
數(shù)據(jù)質(zhì)量管理內(nèi)容包括：a)制定、修訂數(shù)據(jù)質(zhì)量管理遵循的標(biāo)準(zhǔn)；b)確立、修訂數(shù)據(jù)質(zhì)量管理工作流程、優(yōu)化部門協(xié)同機(jī)制；c)制定數(shù)據(jù)質(zhì)量管理決策機(jī)制；d)監(jiān)督日常數(shù)據(jù)質(zhì)量管理的有序進(jìn)行；數(shù)據(jù)質(zhì)量影響要素包括：a)信息類要素：由于對數(shù)據(jù)本身的描述、理解及其度量標(biāo)準(zhǔn)偏差而造成數(shù)據(jù)質(zhì)量問題的影響要素；b)技術(shù)類要素：由于具體數(shù)據(jù)處理的各技術(shù)環(huán)節(jié)異常而造成數(shù)據(jù)質(zhì)量問題的影響要素，技術(shù)實(shí)現(xiàn)上的某種缺陷是其產(chǎn)生的主要原因；c)流程類要素：由于系統(tǒng)作業(yè)流程和人工操作流程設(shè)置不當(dāng)造成數(shù)據(jù)質(zhì)量問題的影響要素；d)管理類要素：指由于人員素質(zhì)及管理機(jī)制方面的原因造成數(shù)據(jù)質(zhì)量問題的影響要素。3.2 數(shù)據(jù)質(zhì)量評價(jià)原則數(shù)據(jù)質(zhì)量評價(jià)原則包括：a)完整性：數(shù)據(jù)是充分的，任何有關(guān)操作的數(shù)據(jù)都沒有被遺漏。主要包括實(shí)體不缺失、屬性不缺失、記錄不缺失和字段值不缺失；b)唯一性：數(shù)據(jù)值被約束成一組獨(dú)特的條目，每個(gè)值都是唯一的。主要包括主鍵唯一和候選鍵唯一；c)準(zhǔn)確性 ：數(shù)據(jù)必須真實(shí)準(zhǔn)確的反映實(shí)際發(fā)生的業(yè)務(wù)；d)精確性：計(jì)量誤差、度量單位等方面的精確度應(yīng)符合業(yè)務(wù)需求；e)一致性：描述數(shù)據(jù)結(jié)構(gòu)、數(shù)據(jù)值和他們的相互關(guān)系符合邏輯規(guī)則的程度。如統(tǒng)一數(shù)據(jù)來源、統(tǒng)一存儲和統(tǒng)一數(shù)據(jù)口徑；f)及時(shí)性：數(shù)據(jù)更新、修改和提取等的快速性程度，應(yīng)符合業(yè)務(wù)需求；g)合規(guī)性：數(shù)據(jù)格式、類型、域值和業(yè)務(wù)規(guī)則的有效性。4 相關(guān)部門職責(zé)
4.1概述相關(guān)部門包括以下部門：業(yè)務(wù)主管部門、技術(shù)主管部門、技術(shù)承辦單位和數(shù)據(jù)質(zhì)量管理實(shí)施部門。4.2業(yè)務(wù)主管部門職責(zé)a)對于擬開發(fā)的應(yīng)用項(xiàng)目，對相關(guān)業(yè)務(wù)提出數(shù)據(jù)質(zhì)量約束性需求；b)對于在開發(fā)的應(yīng)用項(xiàng)目，從業(yè)務(wù)角度提供數(shù)據(jù)質(zhì)量檢測方法和驗(yàn)收標(biāo)準(zhǔn)；c)對于已運(yùn)行的應(yīng)用項(xiàng)目，根據(jù)應(yīng)用狀況提出數(shù)據(jù)質(zhì)量問題和改進(jìn)建議；d)受理與本部門業(yè)務(wù)相關(guān)的數(shù)據(jù)質(zhì)量管理協(xié)同通告，并作出處理反饋。4.3技術(shù)主管部門職責(zé) 技術(shù)主管部門是數(shù)據(jù)質(zhì)量的主管部門，主要職責(zé)包括：a)組織制定、頒布數(shù)據(jù)質(zhì)量管理、保障、控制和維護(hù)流程；b)組織制定、頒布數(shù)據(jù)質(zhì)量管理和技術(shù)相關(guān)標(biāo)準(zhǔn)；c)監(jiān)督數(shù)據(jù)質(zhì)量問題處理的整個(gè)流程并對數(shù)據(jù)質(zhì)量的監(jiān)控結(jié)果進(jìn)行評估；d)組織、協(xié)調(diào)相關(guān)部門，解決數(shù)據(jù)質(zhì)量管理活動中的異常問題；e)受理、審批數(shù)據(jù)質(zhì)量需求變更；f)針對已處理的數(shù)據(jù)質(zhì)量問題發(fā)起處理效能評估；g)數(shù)據(jù)質(zhì)量管理其他有關(guān)事項(xiàng)。4.3技術(shù)承辦單位職責(zé) a)協(xié)助數(shù)據(jù)質(zhì)量管理實(shí)施部門解決業(yè)務(wù)應(yīng)用系統(tǒng)數(shù)據(jù)質(zhì)量問題；b)協(xié)助業(yè)務(wù)主管部門提出數(shù)據(jù)質(zhì)量管理的業(yè)務(wù)需求；c)協(xié)助數(shù)據(jù)質(zhì)量管理實(shí)施部門處理數(shù)據(jù)質(zhì)量需求變更評估。4.4數(shù)據(jù)質(zhì)量管理實(shí)施部門職責(zé) 受技術(shù)主管部門委托，負(fù)責(zé)數(shù)據(jù)質(zhì)量管理的具體實(shí)施。主要職責(zé)包括：a)監(jiān)控?cái)?shù)據(jù)質(zhì)量問題；b)提出數(shù)據(jù)質(zhì)量問題改進(jìn)建議；c)依據(jù)數(shù)據(jù)質(zhì)量管理處理流程，負(fù)責(zé)數(shù)據(jù)質(zhì)量管理系統(tǒng)運(yùn)維；d)處理數(shù)據(jù)質(zhì)量監(jiān)控系統(tǒng)告警，并向相關(guān)部門通告數(shù)據(jù)質(zhì)量問題；e)經(jīng)主管部門授權(quán)后，負(fù)責(zé)組織解決相關(guān)的數(shù)據(jù)質(zhì)量問題；f)組織處理數(shù)據(jù)質(zhì)量需求變更的評估；g)形成報(bào)告并報(bào)技術(shù)主管部門；h)協(xié)助業(yè)務(wù)主管部門提出數(shù)據(jù)質(zhì)量管理的業(yè)務(wù)需求。5 數(shù)據(jù)質(zhì)量管理工作流程工作流程圖，數(shù)據(jù)質(zhì)量管理流程工作流程見圖 1。圖 1：數(shù)據(jù)質(zhì)量管理流程工作流程業(yè)務(wù)主管部門依據(jù)業(yè)務(wù)工作的實(shí)際情況，向技術(shù)主管部門提出相關(guān)業(yè)務(wù)系統(tǒng)的業(yè)務(wù)需求。需求提出過程中，技術(shù)承辦部門和數(shù)據(jù)管理實(shí)施部門應(yīng)協(xié)助業(yè)務(wù)主管部門，就特定業(yè)務(wù)應(yīng)用系統(tǒng)，歸納并提出業(yè)務(wù)需求。技術(shù)主管部門在受理業(yè)務(wù)主管部門提交的業(yè)務(wù)需要后，應(yīng)對業(yè)務(wù)需求在規(guī)定時(shí)限內(nèi)進(jìn)行審批，并將審批意見告知業(yè)務(wù)需求提出部門。對于審批通過的業(yè)務(wù)需求，數(shù)據(jù)質(zhì)量管理實(shí)施部門應(yīng)在規(guī)定時(shí)限內(nèi)，組織相關(guān)部門和人員，對業(yè)務(wù)需求進(jìn)行技術(shù)評估，并給出評估結(jié)論。技術(shù)承辦單位，應(yīng)協(xié)助科技主管部門開展業(yè)務(wù)需求的技術(shù)評估。技術(shù)承辦單位對已完成技術(shù)評估的業(yè)務(wù)需求，應(yīng)依據(jù)業(yè)務(wù)需求組織并實(shí)施應(yīng)用系統(tǒng)的設(shè)計(jì)與開發(fā)。對于技術(shù)承辦單位已完成開發(fā)的應(yīng)用系統(tǒng)，其業(yè)務(wù)主管部門應(yīng)在規(guī)定時(shí)限內(nèi)組織測試與驗(yàn)收。技術(shù)承辦單位和數(shù)據(jù)質(zhì)量管理實(shí)施部門應(yīng)協(xié)助業(yè)務(wù)主管部門，完成測試與驗(yàn)收。對業(yè)務(wù)主管部門已驗(yàn)收的應(yīng)用系統(tǒng)，數(shù)據(jù)質(zhì)量管理實(shí)施部門應(yīng)組織實(shí)施應(yīng)用系統(tǒng)的上線和日常運(yùn)維工作。技術(shù)承辦單位應(yīng)協(xié)助、配合數(shù)據(jù)質(zhì)量管理實(shí)施部門開展應(yīng)用系統(tǒng)的上線工作。對已上線的應(yīng)用系統(tǒng)，數(shù)據(jù)質(zhì)量管理實(shí)施部門應(yīng)利用數(shù)據(jù)質(zhì)量管理系統(tǒng)，開展數(shù)據(jù)質(zhì)量監(jiān)控，并定期提供數(shù)據(jù)質(zhì)量監(jiān)控報(bào)告。在數(shù)據(jù)質(zhì)量監(jiān)控過程中產(chǎn)生的告警信息，數(shù)據(jù)質(zhì)量管理實(shí)施部門應(yīng)在規(guī)定的時(shí)限內(nèi)開展告警信息分析，并對告警產(chǎn)生的原因作出判定。對于一般性告警信息，數(shù)據(jù)質(zhì)量管理實(shí)施部門可直接按照操作規(guī)程給予處理，如：系統(tǒng)斷電等原因產(chǎn)生的告警；對于嚴(yán)重告警信息，應(yīng)將告警產(chǎn)生的問題通告技術(shù)主管部門和相關(guān)業(yè)務(wù)部門。注：一般性告警是指系統(tǒng)運(yùn)行環(huán)境異常或操作失誤等導(dǎo)致的、具有偶發(fā)性、在短期內(nèi)恢復(fù)且不產(chǎn)生嚴(yán)重后果的數(shù)據(jù)質(zhì)量監(jiān)控告警。技術(shù)主管部門在受理數(shù)據(jù)質(zhì)量管理實(shí)施部門通告的數(shù)據(jù)質(zhì)量問題后，應(yīng)組織協(xié)調(diào)問題所涉及的相關(guān)部門，協(xié)同確認(rèn)并授權(quán)數(shù)據(jù)質(zhì)量管理實(shí)施部門解決問題。數(shù)據(jù)質(zhì)量管理實(shí)施部門在獲得授權(quán)后，應(yīng)組織開展解決問題的工作并予以完成。技術(shù)承辦單位應(yīng)協(xié)助數(shù)據(jù)質(zhì)量管理實(shí)施部門解決問題的工作。對已處理的數(shù)據(jù)質(zhì)量問題，數(shù)據(jù)質(zhì)量管理實(shí)施部門應(yīng)將問題處理結(jié)果在規(guī)定時(shí)限內(nèi)通告技術(shù)主管部門、業(yè)務(wù)主管部門和技術(shù)承辦單位。各相關(guān)部門收到數(shù)據(jù)質(zhì)量問題處理結(jié)果后，應(yīng)在規(guī)定時(shí)限內(nèi)對問題處理結(jié)果給予確認(rèn)，并將確認(rèn)結(jié)果和建議反饋數(shù)據(jù)質(zhì)量管理實(shí)施部門和其他相關(guān)部門。數(shù)據(jù)質(zhì)量管理實(shí)施部門應(yīng)定期編寫數(shù)據(jù)質(zhì)量監(jiān)控報(bào)告，歸檔備查。數(shù)據(jù)質(zhì)量問題處理解決后應(yīng)編寫數(shù)據(jù)質(zhì)量問題分析報(bào)告，報(bào)送相關(guān)部門。對數(shù)據(jù)質(zhì)量監(jiān)控報(bào)告和問題分析報(bào)告進(jìn)行總結(jié)，編寫數(shù)據(jù)質(zhì)量定期總結(jié)報(bào)告，報(bào)送相關(guān)部門。數(shù)據(jù)質(zhì)量管理活動主要如下：數(shù)據(jù)資源變更會引起系統(tǒng)內(nèi)部和系統(tǒng)外部的數(shù)據(jù)質(zhì)量問題。數(shù)據(jù)資源變更管理主要是利用元數(shù)據(jù)管理的分析功能對系統(tǒng)變更信息進(jìn)行影響評估，并將變更信息及時(shí)告知數(shù)據(jù)質(zhì)量管理相關(guān)部門，協(xié)同各部門完成數(shù)據(jù)資源變更處理工作，避免變更引起的數(shù)據(jù)質(zhì)量問題。數(shù)據(jù)質(zhì)量管理業(yè)務(wù)應(yīng)在HG業(yè)務(wù)系統(tǒng)數(shù)據(jù)處理相關(guān)環(huán)節(jié)采集數(shù)據(jù)，供數(shù)據(jù)質(zhì)量監(jiān)控分析使用并存檔。根據(jù)監(jiān)控?cái)?shù)據(jù)對象性質(zhì)的不同，采用多種定性或定量預(yù)警分析方法進(jìn)行數(shù)據(jù)質(zhì)量評價(jià)。根據(jù)告警所反映的數(shù)據(jù)質(zhì)量現(xiàn)象的嚴(yán)重程度、影響范圍，設(shè)定嚴(yán)重性程度不同的告警級別。每一級別告警信息的發(fā)送都應(yīng)具備多種送達(dá)手段。從數(shù)據(jù)采集、預(yù)警分析到告警生成，每個(gè)階段都需進(jìn)行程序化管理。指對數(shù)據(jù)質(zhì)量管理中產(chǎn)生的各類問題進(jìn)行分析，并根據(jù)分析結(jié)果，方法進(jìn)行處理，選擇適當(dāng)?shù)姆绞?、并根?jù)處理效果歸納總結(jié)的處理過程。關(guān)鍵環(huán)節(jié)包括：問題發(fā)現(xiàn)、問題分析、問題通告、問題解決指派、問題處理方法設(shè)計(jì)、審評、實(shí)施和問題總結(jié)。指利用各種評估方法（如：直接評估法和間接評估法），根據(jù)數(shù)據(jù)質(zhì)量問題影響程度的不同，以評估報(bào)告等形式，對數(shù)據(jù)質(zhì)量的給以評價(jià)和改進(jìn)建議。數(shù)據(jù)質(zhì)量報(bào)告是對數(shù)據(jù)資源變更管理、數(shù)據(jù)監(jiān)控、數(shù)據(jù)質(zhì)量分析、問題處理以及數(shù)據(jù)質(zhì)量評估等過程積累的各種信息進(jìn)行匯總、梳理、統(tǒng)計(jì)和分析，形成統(tǒng)計(jì)報(bào)告的過程。數(shù)據(jù)質(zhì)量報(bào)告的發(fā)布具有一定的時(shí)效性。用戶應(yīng)在所賦權(quán)限范圍內(nèi)查看質(zhì)量報(bào)告，防止信息泄露。數(shù)據(jù)質(zhì)量報(bào)告的歸檔要求將相關(guān)報(bào)告按照分類,作為后續(xù)數(shù)據(jù)質(zhì)量問題處理和分析的參照。歷史數(shù)據(jù)質(zhì)量知識的積累為數(shù)據(jù)質(zhì)量問題的解決提供參考方法。數(shù)據(jù)質(zhì)量知識主要來源于對數(shù)據(jù)質(zhì)量問題的記錄與總結(jié)，以及對問題解決過程自身的知識評價(jià)。數(shù)據(jù)質(zhì)量知識的產(chǎn)生與利用過程是一個(gè)互相促進(jìn)改良的過程，為數(shù)據(jù)質(zhì)量管理的其他活動提供重要的支撐。
|
