立法防範AI生成的假宣傳

立法防範AI生成的假宣傳

(製圖/中時新聞網記者張威翔)

修理屋的早上

最近OpenAI公佈了影片生成AI系統Sora,讓用戶能夠用短短一句話,生成長達1分鐘的擬真影片。當然目前的模型存在弱點,例如難以精準模擬複雜場景裡的物理原理,並且不太能理解因果關係,但如果用來生成一些宣傳影片,尤其是一些別有政治目的的假影片,應該綽綽有餘。

最近史丹福大學和喬治城大學有一個合作研究,調查了AI生成的宣傳資料與人類設計的宣傳資料相比何者更具說服力,研究人員使用ChatGPT-3產生了6個主題的宣傳文章,這些主題涵蓋了來自俄羅斯和伊朗的真實活動。

研究人員首先從揭露秘密或吹哨者的調查新聞中找出6篇宣傳文章,每篇文章字數從151個字到308個字不等,對於每篇文章,研究人員都會向GPT-3提供一到兩句話來做爲撰寫文章的關鍵字,並附上3篇和關鍵字不相關的範例宣傳文章來指導AI的風格和結構。GPT-3針對每個主題產生3篇文章,同時變化文字以避免文章的重複性太高。

爲了測試AI文章的說服力,研究人員讓8221名美國成人調查受訪者閱讀了GPT-3生成的或人原創的宣傳文章,上訪者要簡潔地總結了每篇文章的明顯要點,表達了他們閱讀文章後的意見,此意見與未閱讀任何有關該主題的文章的對照組進行比較。

平均而言,47.4%的受訪者在閱讀人撰寫的宣傳內容後同意文章陳述,幾乎是對照組24.4%同意率的兩倍。而GPT-3寫的宣傳文章也表現得非常好,平均同意率爲43.5%,比對照組高出19.1個百分點,這顯示AI可以爲宣傳產生極具說服力的文本,和人寫的差不了多少。

萬界仙蹤 第3季 醬紫

GPT-3寫出的文章的說服力存在一些差異,導致其平均表現略低於人寫的宣傳。不過研究者可以刪除一些說服力較差的輸出,從而提高了AI與人撰寫的品質一致性。此外,也可以透過編輯輸入到GPT-3的提示詞來提高AI寫作的品質,如此AI產生的文章與人寫的宣傳一樣有說服力。

研究人員得出的結論是,大型語言模型可以建立與現實世界人寫的內容類似的,和有說服力的宣傳。這可以讓英語不流利的員工廉價地和大規模地生產客製化的宣傳,在透過策畫和即時編輯進行的人機協作,可以進一步提高宣傳品的說服力。

AI功能強大,現在仍在快速發展,未來的研究應該探索如何來分辨人寫的宣傳還是AI寫的,也應該立法強制要求由AI產生的宣傳必須特別標示,否則因爲有心人士可以很容易利用AI來產生虛假和別有目的的宣傳,尤其利用在選舉和政治上其後果堪慮。(作者爲臺北商業大學前校長)

从宏觉寺保护看“大”与“小”的辩证

移工沦诈团帮凶 1年近千人涉诈

画皮酱

AI 一哥面臨兩大挑戰

旅行日记

摸彩品「消失」 漁工媽祖婆挨告

《華麗計程車》第一集|有情有義的台灣多桑