Anthropic 和 Open AI 前研究員 Jacob Coxon 於9月9日於 X 上宣佈離任,並指責兩間 AI 巨頭不負責任,為了贏得 AI 競賽,放任 AI 自我演進,視人類生命為籌碼,又指業界相信到2030年,AI 將毀滅人類。9月10日,Anthropic 發表150多頁《偵測與應對人工智慧的濫用》的報告,列出種種威脅人類安全的濫用 AI 行為,當中最令人擔憂的是利用 AI 製造武器,甚至乎潛在研發生物武器的情況。
報告承認,由於 AI 算力強大,越來越多本來不具備科研能力的小團隊和個人,利用 AI 進行各種各樣有害行為,令威脅人類安全的風險日增,希望各國政府和公民社會與科技企業能一起及早防預威脅。





