【原】醫(yī)務(wù)人員，萬不可過度迷信AI，它可能會坑死你！

感控plus 2025-02-11 發(fā)布于中國香港

展開全文

作者：董宏亮

導(dǎo) 讀：

我們在春節(jié)假日期間蹭了個(gè)熱點(diǎn)新聞（我問DeepSeek如何做好醫(yī)院感染防控？）相信很多老師都看了，隨后很多的醫(yī)療相關(guān)的平臺都推出了DeepSeek相文章，無不對AI表示認(rèn)可，動輒DeepSeek會不會取代這個(gè)崗位，取代那個(gè)崗位，造成很多老師開始焦慮，不會使用AI軟件是不是就落伍了，是不是馬上就被淘汰了，是不是馬上就下崗了？然后就有會員老師私信我們讓我們推薦一些AI軟件或著一些關(guān)于AI的課程......然后我們突然發(fā)現(xiàn)這個(gè)問題比較嚴(yán)重，所以今天發(fā)篇關(guān)于AI軟件的文章。

人工智能（Artificial Intelligence），英文縮寫為AI。是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，是研究、開發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)科學(xué)。顯然關(guān)于AI的定義是度娘給出的，然后目前網(wǎng)上關(guān)于AI的軟件多如牛毛，但也魚龍混雜，任何事物發(fā)展的最初階段都是粗獷的，因?yàn)槎疾怀墒?，所以沒有標(biāo)準(zhǔn)，這個(gè)時(shí)候很多騙子就進(jìn)來了，所以有句話叫“潮水退去才知道誰在裸泳”，這些道理各位老師應(yīng)該都懂，至少現(xiàn)階段我們不應(yīng)該過度迷信AI。

其實(shí)大家想想去年的時(shí)候當(dāng)ChatGPT剛出來的時(shí)候，是不是也是這種感覺？然后呢？是不是又回歸到正常了，大家該干啥干啥？

其實(shí)當(dāng)初ChatGPT剛出來的時(shí)候，我們也用了一下，就跟用DeepSeek一樣，然后我們以醫(yī)學(xué)科研的身份讓ChatGPT寫個(gè)綜述，確實(shí)很震撼，但是問題很快出就出了，ChatGPT生成的綜述中很多的觀點(diǎn)是明顯的錯誤，包括引用的參考文獻(xiàn)在PUBMED等數(shù)據(jù)庫根本找不到相應(yīng)的文章，也就是ChatGPT“造假”了！后來在一些文字的使用中，比如完成領(lǐng)導(dǎo)要求的稿子，讓幾個(gè)人一起寫，發(fā)現(xiàn)內(nèi)容幾乎一模一樣，顯然別人也會使用ChatGPT，而對于相關(guān)的指令必然生成相同的結(jié)果，就跟我們大學(xué)時(shí)候抄百度一個(gè)道理。

DeepSeek橫空出世后，很快專業(yè)人士便對其進(jìn)行了測試。測試結(jié)果讓人沒臉看，DeepSeek 在新聞測試中準(zhǔn)確率僅為 17%。DeepSeek 的聊天機(jī)器人在 NewsGuard 審計(jì)中失敗率為 83%，在 11 個(gè)聊天機(jī)器人中排名第 10。而且有 30% 的時(shí)間重復(fù)虛假聲明，并且在超過一半的案例中給出了模糊或無用的答案。除了信息錯誤之外，DeepSeek 還會撒謊，而且是高級謊言。

不少科研人員下載DeepSeek 后，以為自己找到了一個(gè)智能助手，但是問題很快就出來了......

有科研人員在使用 DeepSeek 找材料時(shí)，發(fā)現(xiàn)它會虛構(gòu)出不存在的文獻(xiàn)，而且還會一本正經(jīng)編造出不存在的論文，有些論文題目對的，但是后面的作者、期刊名字、PMID（生命科學(xué)和醫(yī)學(xué)等領(lǐng)域的文獻(xiàn)編號）等都是錯誤的！

也就是說，DeepSeek 會假裝很專業(yè)，還會企圖編造不存在的信息去欺騙用戶。這個(gè)跟我去年體驗(yàn)ChatGPT幾乎是一模一樣的，所以后面我也就再也沒用過。然后再來說說（我問DeepSeek如何做好醫(yī)院感染防控？）這篇文章吧，其實(shí)大家看了，基本都是正確的廢話，如果你院感工作時(shí)間足夠長，它里面生成的內(nèi)容你基本上都清楚，看不到什么創(chuàng)新的內(nèi)容對吧，任意一篇關(guān)于院感防控的綜述都比它寫的好。其實(shí)說白了，人工智能也只是基于存在的“數(shù)據(jù)”來生成結(jié)果，越簡單的AI軟件越是如此，如果你認(rèn)為某個(gè)AI軟件能給你寫論文，寫本子，做PPT，無疑是想不勞而獲，顯然在任何領(lǐng)域想“不勞而獲”都是危險(xiǎn)的，特別是我們從事的醫(yī)療衛(wèi)生行業(yè)，更是如此！

可能你高高興興的以為通過某個(gè)AI軟件做了一個(gè)PPT或論文去參加某個(gè)比賽的時(shí)候，評委直接就否定了，因?yàn)橐呀?jīng)看到十個(gè)幾乎一模一樣的作品（你會用別人也會用），而科研行業(yè)對這種“抄襲”幾乎是最為鄙視的，所以不要亂花錢買什么AI課，妄想它能給你寫論文，寫國科金，那真的是在侮辱科研。所以如果你覺得你花錢買了什么AI課，軟件的，做出來的東西很有可能很一些人雷同，那就涉嫌抄襲，更有可能是錯的，那更是坑你不帶商量的。

當(dāng)然AI的前景依然是光明的，發(fā)展也是迅猛的，在一些領(lǐng)域AI的應(yīng)用已經(jīng)比較廣泛了，特別是一些數(shù)據(jù)提取，分析上有著不可估量的作用，“馬斯克帶著6個(gè)打手，橫掃聯(lián)邦政府”這個(gè)新聞可能大家都刷到過，這就是AI的強(qiáng)大之處，所以未來醫(yī)院中的統(tǒng)計(jì)數(shù)據(jù)、編碼、報(bào)表、病程醫(yī)囑信息提取將非常之方便，幾乎不需太多的人參與，醫(yī)院的運(yùn)營、某種藥物使用情況、醫(yī)院感染疑似病例幾乎可以“一鍵導(dǎo)出”。

最后呢，我想說醫(yī)學(xué)是事關(guān)生命健康的科學(xué)，是嚴(yán)謹(jǐn)且神圣的，不容許存在任何的“彎道超車”，醫(yī)學(xué)也是一種經(jīng)驗(yàn)學(xué)科，每一位專家之所以成為專家是經(jīng)過數(shù)十年的積累而成的，不是新來的博士玩?zhèn)€軟件就能取代的，就是給你一個(gè)“達(dá)芬奇”你會用嗎？任何NB事物都是需要時(shí)間沉淀并經(jīng)歷磨難的，速成都是不靠譜的，唐僧成佛得九九八十一難，需要14年的時(shí)間，即便他有三個(gè)AI助手（孫悟空翻個(gè)跟頭來回西天十趟也是綽綽有余）也不行，而悟空從“妖猴”至“斗戰(zhàn)勝佛”也得在五行山下壓個(gè)五百年，所以任何成功都是需要時(shí)間，需要磨練的，不是拿個(gè)外掛就能上天的。所以我們還是需要腳踏實(shí)地，認(rèn)真做好每一個(gè)小事，通過不斷的學(xué)習(xí)、積累，一定可以做好任何事情，如果過度強(qiáng)調(diào)AI，不就是在強(qiáng)調(diào)“投機(jī)取巧”嗎？而我們中國人對投機(jī)取巧的事情有天然的厭惡感。