財聯(lián)社10月10日訊（編輯 劉蕊）隨著人工智能技術(shù)的持續(xù)火熱，OpenAI旗下的ChatGPT也被一些不法分子盯上，成為了試圖用于影響全球各國選舉的重要工具。

OpenAI已破壞20多個欺騙網(wǎng)絡(luò)

美東時間周三，OpenAI發(fā)布了一份長達(dá)54頁的報告，聲稱自今年年初以來，OpenAI已經(jīng)破壞了來自世界各地的20多個試圖使用我們模型的不法行動和欺騙性傳播。

他們指出，這些危害行為包括利用人工智能技術(shù)生成網(wǎng)站文章，以及利用虛假賬戶在社交媒體上發(fā)布虛假信息帖子等等。

OpenAI的這份報告發(fā)布之際，距離美國總統(tǒng)大選正好還剩一個月的時間。而除了美國之外，今年對全世界來說都是重要的選舉年：今年全球有超過40個國家舉行選舉，影響人數(shù)超過40多億人。

事實上，選舉中利用虛假信息來干擾選舉，并不是一個新現(xiàn)象。但根據(jù)機(jī)器學(xué)習(xí)公司Clarity的數(shù)據(jù)，隨著人工智能生成內(nèi)容的興起，今年網(wǎng)絡(luò)上與選舉相關(guān)的錯誤信息激增，并因此引發(fā)了普遍的擔(dān)憂。

隨著ChatGPT的推出，生成式人工智能于2022年底起飛，現(xiàn)在已被各種規(guī)模的公司采用。而與此同時，今年網(wǎng)絡(luò)上深度偽造（DeepFakes）內(nèi)容的數(shù)量已經(jīng)同比增長900%。

虛假內(nèi)容影響力暫時有限

OpenAI在報告中寫道，與選舉相關(guān)的人工智能應(yīng)用“從簡單的內(nèi)容生成請求到復(fù)雜、多階段的分析和回復(fù)社交媒體帖子的工作，復(fù)雜性各不相同。”

而從社交媒體內(nèi)容來看，有害的AI內(nèi)容主要與美國和盧旺達(dá)的選舉有關(guān)，也有部分有害內(nèi)容與印度和歐盟的選舉相關(guān)。

今年6月，OpenAI識別并挫敗了一項試圖影響歐洲選舉的秘密行動：有不法分子利用ChatGPT生成帖子，在社交媒體上對歐洲議會選舉以及美國、德國、意大利和波蘭的政治發(fā)表評論。

OpenAI表示，雖然上述這些利用AI生成的社交媒體帖子大部分幾乎沒有得到點贊或分享，但也有部分帖子的確得到了真人用戶的回復(fù)。

OpenAI還寫道，雖然已經(jīng)出現(xiàn)了不少與選舉相關(guān)的虛假內(nèi)容，但截至目前這些威脅舉措的影響力還有限：目前沒有一項與選舉相關(guān)的操作，能夠通過使用ChatGPT和OpenAI的其他工具吸引民眾的“病毒式參與”或吸引“持續(xù)受眾”。