Open AI 於2月25日剛出爐最新的《惡意使用人工智能報告》揭露一些詐騙集團與國家代理，以不同的 AI 工具操作大量的賬戶，於社交平台和聊天室發動大規模的釣魚式欺詐、輿論水軍和網絡攻擊。報告以案例的方式深入解釋 Open AI 的 ChatGPT 如何被惡意使用，並解釋公司封鎖這些用戶的原因。這些案例包括柬甫寨詐騙集團利用 AI 的「殺豬盤」網戀騙局、俄羅斯水軍，以及與中國執法部門有聯繫的「網絡特戰」行動；亦有一個案例，是以一間聲稱位處香港的顧問公司 （Nimbus Hub）之名，向美國政府人員進行大規模行動。
「殺豬盤」網戀騙局
Open AI 過去兩年一直觀察到柬甫寨詐騙園區，使用 ChatGPT 去自動生成主題相關留言，以吸引用戶回覆，再進一步進行網戀騙局。譬如說，去年 Open AI 發現，有詐騙集團針對40歲以下醫療專業的人群，當他們於社交媒體談論高爾夫球時，就透過 AI 自動生成回覆，稱讚他們的外觀或活動和舉止，以搏取該用戶的互動，這手法被稱為「敲」（ping）。這些訊息大規模投放於社交媒體、聊天室、網上廣告、電郵、電話甚至傳統書信。透過 ChatGPT 生成的內容，一般會引發一些情緒反應，如感覺有人認同自己為自己沉悶的生活添上色彩，又或邀請該用戶做某些投資工具的 VIP，以便增加對方回覆和答應的機會，這手法被稱為「激發」（zing）。當雙方開始建立信任關係，便會發出一些請求，如建議受騙對像去投資，一開始是小額投資，令該用戶相信自己能很快回本或掌握自己的戶口，這手法被稱為「刺」（sting）。
另一宗被 Open AI 揭發的網戀騙案是針對印尼年輕而富裕的社群，透過一些載有「高爾夫球」、「遊輪」、「精緻料理」的廣告吸引用戶，當這些用戶進入這些網站，就會被引進由 ChatGPT 支援的聊天室進行具有性暗示的對話，再引誘他們進入一個約會平台，點選他們喜歡的女孩。在該平台上，用戶要完成多個類似網遊中的任務，再付費成為會員，或競投喜歡的女孩、或支付酒店和大額的會面保險費。
詐騙集團除了利用 ChatGPT 作性感聊天外，還會利用 AI 工作製作網站、透過受害人的「任務」計算可以向他們索取的金額。此外，由於詐騙集團大都是華人，他們會利用 ChatGPT 翻譯對話內容，以監察進度。
除了網戀騙局外，詐騙集團亦使用 ChatGPT 去進行法律相關的騙案，生成的 ping 訊息，一般假扮律師行，聲稱可代表那些曾經受騙者討回相關款項，然後引導他們到一個虛假 FBI 投訴平台，輸入相關資料，再誘使對方支付相關的手續費或服務費，再獲取代碼，調走其資金。
香港顧問公司的「銀線劇本」
Open AI 的報告內有一個被稱為「銀線劇本」（Silver linning playbook）的個案，涉及一間聲稱位處香港的顧問公司 Nimbus Hub Consulting。報告指該團伙以簡體中文輸入 ChatGPT，要求生成一些電郵給美國州級或以上官員及一些以金融和經濟政策制訂者，要求他們成為其受薪顧問，他們發出給 ChatGPT 的提示是內文要清楚簡潔和專業，主體要有迫切情，並包含心理暗示。
除了發出電郵，他們亦利用 ChatGPT 查閱美國州級或以上官員的公開資料，一些具有影響力的人，如媒體工作者的觀點和立場。還有一個指令是讓 ChatGPT 協助他們完成 Facefunsion 的安裝和設置，這個工具可在即時視像時換上其他人的臉。根據生成出來的電郵內容，Open AI 認為這個銀線劇本不像正常的招聘行動，反而與外國情報機構操作相似 --- 為對方度身訂做的高帽，強調工作輕鬆，報籌豐厚，按時出糧，但工作內容含糊，且聘任關係保密。一旦對方回覆，就會轉移到其他平台進行對話。
目前 Nimbus Hub Consulting 的網站仍舊在線，網站展示的地址是灣仔莊士敦道181號。
俄羅斯水軍
報告亦有多個涉及俄羅斯水軍的行動個案。其中一個輿論行動主要在 Facebook 進行，水軍透過建立多個 Facebook 頁面，發佈撒哈拉以南非洲各國的區域政治新聞，這些新聞包括內容、圖片與作者均是由 AI 生成，內容主要讚揚俄羅斯，批評烏克蘭、美國和英國等，例如製作假新聞指責澤連斯基不願遵從停火協議令區內局勢升溫、又指控英國非政府組織於南非策動示威等。根據 Facebook 的透明報告，這些頁面的管理人位處俄羅斯或烏克蘭，而 Open AI 則指出，給予 ChatGPT 的長文生成提示，主要用英文，但亦有用俄文操作。
另一個於 X 上操作的俄羅斯網絡，被 Open AI 稱為「魚糧行動」，該團伙以俄文提示，讓 ChatGPT 生成多國語言的評論，於 X 和 Telegram 上發佈，除了製造親俄和反西方言論外，他們也利用 ChatGPT修訂針對剛果民主共和國和馬達加斯加等國的輿論和競選活動計劃。
來自中國的網絡特戰
Open AI 指稱，ChatGPT 其中一名用戶與中國的執法部門有關聯，該用戶利用這工具去策劃一項針對日本首相高市早苗的網絡輿論，並修訂一個針對異見者的「網絡特戰」行動。
該賬戶於去年十月中要求 ChatGPT 策劃一場抹黑高市的輿論專案，他提供給 ChatGPT 的提示包括放大她的負面新聞和評論，批評她的移民政策，扮作外國居民以虛假電郵裝把相關投訴投送給日本政治人物，又以虛假社交媒體賬號放在物價上揚的問題。此外，又要求該輿論專案包含高市極右親美的立場，並放大民眾對美國關稅政策的憤怒，散播內蒙正面的形象。ChatGPT 拒絕生成專案，但到了十月底，該用戶自行完成了計劃書，並要求 ChatGPT 助他修改。計劃書中提出會以多個井號標記，包括「右翼共生者」與社交媒體散播相關言論。由於相關言論發佈的網絡和 Meta 於2023年「垃圾偽裝」（Spamouflage）的報告中揭露與中國執法部門有關聯的政治宣傳網絡有重疊之處，Open AI 也認為這用戶與中國執法部間有聯系。
除了針對高市，該用戶提供給 ChatGPT 的文件更透露了100種「網絡特戰」的策略，當中包括操控話語框架、放大或壓抑某些內容、攻擊和抵毀異見者和批評者、製造社群心理壓力、利用平台特性等等。具體的例子如於反共對話串中，大量散播親中或垃圾內容、利用假賬號去放大某些內容和觀點、散播虛假資訊、於異見社群中製造矛盾、欺凌異見者、針對其心理狀況製造壓力、於境外經營網站和論壇等言論基地，甚至滲透到境外和西方的平台。「網絡特戰」中提及的《漢奸精日展覧館》(revealscrum.com)，便與 Spamouflage 所揭發的網絡重疊。 此外，特戰文件也提到專推送中國大陸人權和草根訊息的X用戶「李老師不是李老師」和人權團體「保護衛士 Safeguard Defenders」是重點打擊對像。
整個「網絡特戰」的規模非常龐大，由該用戶提供給 ChatGPT 的資料顯示，行動於國內容300多個社交媒體平台運作，涉及的賬號數以千計，於中文平台發佈的訊息數以百萬計，而海外平台則數以萬計。就在該用戶所處的省份，已有300名人員參與該「網絡特戰」，而其他省份也有相關的隊伍。
（本網歡迎各界投稿，文章內容為作者個人意見，並不代表本網立場。）