陳根：封禁后又開始打假，ChatGPT作弊成風(fēng)

陳根談科技 2023-01-13 發(fā)布于浙江

展開全文

文/陳根

ChatGPT作為優(yōu)越的語言生成模型，受到了廣泛的好評(píng)和大眾的喜歡，與此同時(shí)，也由于較高的錯(cuò)誤率而遭到不同機(jī)構(gòu)的封禁。前段時(shí)間就有 Stack Overflow 封禁 ChatGPT 的消息滿天飛，Stack Overflow官方表示暫時(shí)封禁 ChatGPT 正是因?yàn)樗傻拇鸢刚_率太低，而發(fā)布由 ChatGPT 創(chuàng)建的答案對(duì)網(wǎng)站和查詢正確答案的用戶來說是非常有害的。

現(xiàn)在，ChatGPT又陷入了造假作弊的風(fēng)波。畢竟，ChatGPT生成內(nèi)容時(shí)會(huì)“參照”現(xiàn)有作品，產(chǎn)出的速度又幾乎無限，人們對(duì)其的擔(dān)憂已經(jīng)蔓延到了 AI 學(xué)界自身，全球知名機(jī)器學(xué)習(xí)會(huì)議之一的 ICML 最近也宣布禁止發(fā)表包含由 ChatGPT 和其他類似系統(tǒng)生成內(nèi)容的論文，以免出現(xiàn)“意外后果”。

《華爾街日?qǐng)?bào)》的專欄作家曾使用 ChatGPT 撰寫了一篇能拿及格分的 AP 英語論文，而《福布斯》記者則利用它在 20 分鐘內(nèi)完成了兩篇大學(xué)論文。亞利桑那州立大學(xué)教授 Dan Gillmor 在接受衛(wèi)報(bào)采訪時(shí)回憶說，他嘗試給 ChatGPT 布置一道給學(xué)生的作業(yè)，結(jié)果發(fā)現(xiàn) AI 生成的論文也可以獲得好成績。

對(duì)于這樣的情況，ChatGPT 的開放者 OpenAI 已宣布正在努力開發(fā)“緩解措施”，幫助人們檢測由 AI 自動(dòng)生成的文本。

目前，已經(jīng)有開發(fā)者制作了面向 ChatGPT 生成內(nèi)容的檢測工具——“GPTZero”，只需要將內(nèi)容粘貼在輸入框，就能在幾秒鐘之內(nèi)得到分析結(jié)果，快速檢測出一篇文章是 ChatGPT 還是人工撰寫的。

GPTZero 應(yīng)用程序的原理是借助一些文本屬性進(jìn)行分析。首先是困惑度（perplexity），即文本對(duì)模型的隨機(jī)性，或語言模型對(duì)文本的“喜愛”程度；然后是突發(fā)度（burstiness），即機(jī)器寫作的文本在一段時(shí)間內(nèi)表現(xiàn)出的困惑度更均勻和恒定，而人類書寫的文本則不會(huì)這樣。

事實(shí)上，盡管 AI 生成的文字內(nèi)容在學(xué)術(shù)會(huì)議和學(xué)校禁止機(jī)器寫論文作弊的新聞中看起來令人印象深刻，但要知道，與真正的人類寫作相比，它們時(shí)常缺乏真正的理解與邏輯。

人都在討論它的智能，這不足為奇。但是 ChatGPT類似人類的輸出和驚人的通用性只是優(yōu)秀技術(shù)的結(jié)果，而不是真正的聰明。AI仍然會(huì)犯一些可笑的錯(cuò)誤，這說明它完全沒有常識(shí)。無疑， ChatGPT在語言生成模型上是一個(gè)巨大的飛躍，但它仍然是人類制造出來的工具，它還有很多缺陷和局限性，這也是技術(shù)持續(xù)努力的方向。

本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間，所有內(nèi)容均由用戶發(fā)布，不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購買等信息，謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請(qǐng)點(diǎn)擊一鍵舉報(bào)。

轉(zhuǎn)藏 分享

QQ空間 QQ好友新浪微博微信

獻(xiàn)花（0） +1

來自：陳根談科技 > 《待分類》

舉報(bào)/認(rèn)領(lǐng)