据《彭博社》1日报导,新闻评级组织「NewsGuard」发现由 AI 聊天机器人生成的新闻网站,已经激增数十个,成长速度非常惊人。而彭博社在检查其中 49 个网站后,发现内容也包罗万象。
这些网站,有的假扮成名称普通的新闻网站,例如「News Live 79」、「Daily Business Post」,有的则提供生活资讯、名人新闻……等。但相同的地方是,他们都没有告知网友是采用聊天机器人。
在 NewsGuard 的记录中,也列出了不少例子。例如四月时,有个网站「 CelebritiesDeaths.com」就发表一篇名为《拜登死了。哈里斯代理总统,上午 9 点致辞》的假新闻。
而这些运营的网站质量通常也不高,且位于世界各地,语种也非常多样化,主要目地还是希望靠大量发文,然后通过运行程序化来引入广告赚钱。这对掌握大量广告资源的谷歌(Google)来说,也是很大的挑战。
曾是《华尔街日报》负责人,现任 NewsGuard 的首席执行官-高登·克罗维茨(Gordon Crovitz)表示,从他们的报告可明显发现,像 OpenAI 和谷歌这样的公司,应该更加强训练他们的模型,不要捏造新闻。因为「使用以编造事实著称的 AI 模型,制作看起来像新闻网站的内容,是伪装成新闻业的欺诈行为」。
目前 OpenAI 对此没有回应,但 OpenAI 之前曾提到有使用「人工审查员」和「自动化系统」的组合,并会适时发出警告或在严重情况下禁止用户,做为识别和打击对该模型的滥用。
谷歌发言人-迈克尔·艾西曼(Michael Aciman)也表示,公司不允许广告与有害或垃圾内容或从其他网站复制的内容一起运行。如果发现违规行为,会阻止或删除广告投放。
本特利大学数据科学和数学副教授-诺亚·詹西拉库萨(Noah Giansiracusa)表示,该方式很常见,但现在它变得更容易、快速、便宜。这也让诈欺集团会持续推动、试验,以找到有效的方法。
诺亚提醒,这种诈欺方式以前虽然是属于低成本的计划,至少不是免费的,但现在「买那个游戏的彩票是免费的」。