日益增多的研究造假情況正影響著學(xué)術(shù)出版界。經(jīng)過成功試點(diǎn),施普林格·自然近日推出了兩款定制的人工智能(AI)工具,以幫助識(shí)別論文中由AI生成的虛假內(nèi)容和有問題的圖片。
其中一款工具Geppetto,是與施普林格·自然2023年收購的Slimmer AI的科學(xué)部門合作開發(fā)的。該工具可檢測AI生成的內(nèi)容,這是提示有論文工廠活動(dòng)的典型跡象。
Geppetto在運(yùn)作時(shí),將論文分成若干部分,并使用自己的算法檢查每個(gè)部分的文本一致性。然后根據(jù)文本由AI生成的概率,給出各個(gè)部分的分?jǐn)?shù)。分?jǐn)?shù)越高,存在問題的概率就越高,相關(guān)論文會(huì)交由施普林格·自然工作人員進(jìn)行人工檢查。Geppetto已成功識(shí)別并阻止發(fā)表數(shù)百篇虛假論文,從而減少了編輯和同行評(píng)審的時(shí)間成本。
SnappShot則是一款A(yù)I輔助的圖像誠信分析工具。目前用于分析含有凝膠和印跡圖像的PDF文件,并查找這類圖像中是否存在重復(fù)。
與Geppetto一樣,SnappShot并不決定投稿是否進(jìn)入下一階段的編輯流程,而是提示是否需要對(duì)圖像進(jìn)行人工評(píng)判。該工具不僅有助于避免發(fā)表被復(fù)制或竄改的數(shù)據(jù),還有助于為作者提供關(guān)于圖片的有益反饋,尤其在圖片被不慎復(fù)制的時(shí)候,從而提升科研實(shí)踐和數(shù)據(jù)管理規(guī)范水平。
“出版業(yè)面臨論文工廠或不良分子的惡意威脅,后者提交了包含偽造數(shù)據(jù)的虛假論文。”施普林格·自然科研誠信總監(jiān)Chris Graf說,“我們會(huì)持續(xù)改進(jìn)這些工具,以確保發(fā)表的研究是真實(shí)可靠、可以信賴和借鑒的。”(作者?馮麗妃)
信息來源:中國科學(xué)報(bào)
