fb湧現大批繪畫神童的秘密

【明報文章】「我個仔畫咗幅自畫像，大家評吓分啦！」一名媽媽在facebook（fb）群組，上載一幅年約8歲的兒子手持自畫像的圖片。該自畫像幾可亂真，網民熱烈回應，紛紛給出滿分。愈來愈多父母在社交平台上載天才子女的驚世傑作，難道新一代真的如此出眾？

美國史丹福大學網絡觀測站和喬治城大學安全與新興科技中心的研究團隊，調查了100多個發布大量人工智能（AI）生成內容的facebook專頁，發現很多人利用AI生成垃圾內容，騙取「讚好」和點擊，以增加追蹤人數或賣廣告賺錢。

除了神童繪畫之外，熱門的AI內容包括附上老人圖片，呼籲網民祝福百歲長者生日快樂；生成大量貓貓狗狗和嬰兒圖片；及發布一些稀奇古怪的內容，例如半人半蝦的耶穌圖片，上載者聲稱作品由自己親筆繪畫。

對比較熟悉AI內容的網民來說，那些圖片一看就知是假，但對大眾來說卻仍然真假難辨。團隊指出，垃圾內容發布者利用假內容來推廣「內容農場」，再透過賣廣告賺錢的策略，已經出現了很多年，不過AI技術令他們的成本大幅降低，內容像真度也更高。騙徒順應facebook演算法，每天持之以恒地發布大量內容，令內容廣傳。

團隊亦發現，即使他們避免「讚好」、留言和分享任何AI內容，但在數天之後，他們帳戶的新聞源也充斥大量AI內容。由此推算，跟AI內容有實際互動的人，被facebook派送的AI內容將更多，令他們在「迴音室」裏不斷被假資訊欺騙。

fb推「AI製造」標籤

辨識準確度料成挑戰

有些好心網民自製告示，張貼在假帖文的留言區，大字標題呼籲網民不要上當，應立即向facebook舉報垃圾內容：「這些帖文是否要求你祝他們生日快樂，或者說沒有人會喜歡這張照片，來操縱你的情緒？它們要不是由AI生成，就是盜來的圖片。你正陷入『讚好農業』的騙局。」

facebook也並非完全坐以待斃，其計劃今個月會推出一個新標籤，將系統識別為AI內容的圖片附上「AI製造」。然而，該系統有多準確，又會否將真內容識別為AI內容，相信是另一個挑戰。

作者是新聞工作者、文化評論人

（本網發表的時事文章若提出批評，旨在指出相關制度、政策或措施存在錯誤或缺點，目的是促使矯正或消除這些錯誤或缺點，循合法途徑予以改善，絕無意圖煽動他人對政府或其他社群產生憎恨、不滿或敵意）

[陳帆川]