ai newsMi., 21. Okt.
EilmeldungI audited the Electron apps on my Mac: Claude 6/6, Cursor 0/6, Postman 1/6

實測 4 款 AI 圖片偵測工具(100 張圖):比準確率更該看的是誤判

LINE 群組裡又轉來一張截圖,可能是某個名人「推薦」投資群組的廣告,可能是哪裡淹水的現場照片,你想知道它是不是 AI 做的。上網一查,AI 圖片偵測工具一大堆,每家都寫著自己的準確率有多高,卻沒有一家說清楚是怎麼量出來的,根本沒辦法比。 我最近在做一個小小的 AI 圖片檢查工具,總得替它選一個偵測引擎。既然各家的數字沒辦法比,我就自己測。規模不大,也有不少缺口(後面會一條條列出來),但測完之後,我看這類工具的方式整個變了。 測試用的圖 100 張圖,全部在 2026 年 10 月 13 日跑完。 真實照片 50 張 ,大多來自 Wikimedia Commons,授權是 CC0 或創用 C

dev.toMittwoch 15:47 · 21.10.1 Min. Lesezeit
Bild: dev.to

LINE 群組裡又轉來一張截圖,可能是某個名人「推薦」投資群組的廣告,可能是哪裡淹水的現場照片,你想知道它是不是 AI 做的。上網一查,AI 圖片偵測工具一大堆,每家都寫著自己的準確率有多高,卻沒有一家說清楚是怎麼量出來的,根本沒辦法比。

我最近在做一個小小的 AI 圖片檢查工具,總得替它選一個偵測引擎。既然各家的數字沒辦法比,我就自己測。規模不大,也有不少缺口(後面會一條條列出來),但測完之後,我看這類工具的方式整個變了。

真實照片 50 張 ,大多來自 Wikimedia Commons,授權是 CC0 或創用 CC。其中 38 張是原始檔:手機隨手拍、人像、風景、商品照。50 張裡有 37 張的 EXIF 還留著相機型號,來自 iPhone、Pixel 和 Galaxy 手機。另外 12 張是我刻意做出來、模仿「被轉傳過」的副本:4 張手機風格的螢幕截圖、4 張像聊天軟體那樣重度壓縮過的檔案、4 張輕度修圖的版本。

AI 圖片 50 張 ,來自六個生成器系列:OpenAI GPT Image、Google Nano Banana、Black Forest Labs FLUX.2、Midjourney(v6 到 v8.1)、ByteDance(字節跳動)Seedream 和 Stable Diffusion XL。其中 42 張出自 2025 年以後推出的生成器。40 個 AI 原始檔裡,27 張是我為這次測試自己生成的(API 費用大約 1.42 美元),13 張取自 Hugging Face 上開放授權的資料集。最後 10 張是 AI 圖的手機風格截圖,存成 PNG,完全沒有中繼資料。

每個引擎拿到的檔案完全一樣。每家的回答,我都用一條固定規則轉成「AI」或「真實」:Sightengine 分數 0.5 以上算 AI;Hive 用官方建議的門檻 0.9;AI or Not 和 WasItAI 直接採用廠商自己的判定。回答「不確定」一律算錯。

看數字之前先講一個前提:只有兩個引擎看過全部 100 張。我只用免費試用額度,所以 AI or Not 只跑了分層抽樣的 20 張,WasItAI 只跑了 9 張。

下面兩列請不要當成排名。20 張和 9 張實在太少。AI or Not 那份樣本也比整體難,截圖和重新壓縮的比例比較高,它唯一一次誤判是一張輕度修圖的照片。四個引擎都看過的那 9 張裡,Sightengine 和 Hive 都是 9 張全對,AI or Not 對 8 張,WasItAI 對 7 張。這只能當參考,不是定論。

按生成器來看,FLUX 最難抓:Sightengine 9 張抓出 8 張,Hive 9 張抓出 6 張。Midjourney 的圖,兩個引擎都全部抓到。

「準確率」把兩種性質很不一樣的錯混在一起。我的測試程式裡有一個假引擎,不管什麼圖都回答「AI」,只用來確認整套流程有接通。在這組圖上,它 50 張 AI 圖全部抓到,準確率還是有 50%,因為它也把 50 張真實照片全部判成 AI。

這兩種錯的代價不一樣。漏掉一張 AI 圖,可惜而已。把真照片說成 AI,倒楣的是一個真實的人:網拍真的收到瑕疵品、申請退款的買家;一筆一筆自己畫出來的繪師;在交友軟體上只是很會拍照的人。如果你檢查的圖大多數其實是真的,就算誤判率很低,冤枉的人也可能比真正抓到的還多。

現在有些 AI 工具會用 C2PA 標準替產出的檔案加上數位簽章,一般叫做「內容憑證」(Content Credentials)。紀錄裡寫著是哪個工具做的,而且用密碼學跟檔案綁在一起。讀它不用錢,在瀏覽器裡就能讀。

在我的測試組裡,50 張 AI 圖有 24 張帶著內容憑證,真實照片沒有任何一張帶著「AI 生成」的聲明。我看到的簽署者有 OpenAI、Google、Black Forest Labs 和 BytePlus(字節跳動)。這 24 張全部是原始檔,也就是 40 個 AI 原始檔裡有 24 個帶憑證。

有個重點我後來才認真看待:簽章有效,只告訴你是誰簽的,不代表你該信任它。24 張裡,只有 14 張的簽署者在 C2PA 官方信任清單上(OpenAI 和 Google)。另外 10 張用的數位憑證不在清單上,而自己做的憑證什麼都能簽。所以我的工具把這 10 張,還有像 Midjourney 那種單純寫在中繼資料裡的標籤,都只當成「聲明」,照樣跑偵測模型。

所以,有內容憑證的時候,它幾乎就是證據;沒有的時候,什麼也說明不了。如果你在 LINE 群組裡看到的瘋傳圖片是一張截圖,就別期待找得到。

上面那張表為了方便比較,用的是一條簡單的切線(Sightengine 0.5 以上算 AI)。工具本身比較保守:分數高於 0.8 判 AI,低於 0.2 判真實,中間就說「無法判斷」。先讀內容憑證,剩下的才送 Sightengine,用這兩條線,結果是 100 張中 98 張正確、1 張「無法判斷」(一張真實照片的截圖,分數 0.21)、1 張判錯(一張 FLUX 截圖,分數 0.18,被判成真實),真實照片依然是 0/50 誤判。有 16 張靠可信的內容憑證就有答案,不用呼叫模型(14 張 AI 圖,加上 2 張簽成真實拍攝的 Pixel 照片),其餘 84 張才交給模型。

截圖也會讓模型掉分。拿 10 組「AI 原圖+它的截圖」來比,Sightengine 從抓到 10 張掉到 9 張,Hive 從 10 張掉到 8 張。

整理測試組的時候,有一張 Pixel 照片的中繼資料寫著「Edited with Google AI」。它不算完全真實,也不算完全生成,所以我把它從真實照片裡換掉了。兩個主要引擎都判它是真的,這也說得過去,但這說明了一件事:對很多手機照片來說,「是真的還是 AI」漸漸變成一個問錯的問題。好用的檢查工具需要第三種答案。

不管查到什麼,都不要只憑偵測工具的一個答案就指控一個真實的人。如果那張圖是要你匯款或加入投資群組,與其自己糾結真假,直接打 165 反詐騙諮詢專線問最快。

我把這套「先讀內容憑證」的流程做成了一個免費小工具: AI 圖片檢測 。完整的方法、每個生成器的數字和測試限制,都寫在 準確度說明頁(英文) 。如果你有它判錯的圖,很歡迎丟給我看看。

本文的英文原版發表在 dev.to: I tested 4 AI image detectors on 100 images

這篇文章有請 AI 助手協助起草和編輯。測試用的圖、實際執行和所有數字都是我自己的。

Quelle: dev.to (dev.to). Original öffnen