|
美AI公司：中共利用人工智慧發動網路攻擊
【人民報消息】美國的人工智慧公司Anthropic透露，他們阻斷了一起利用人工智慧(AI)系統發起的網路攻擊行動，而他們高度確信，這次黑客行動是一個中共政府支持的組織發起的。該公司認為，這起攻擊行動表明，網路安全進入了一個拐點。
據美國之音報導，Anthropic11月13日發表報告說，他們在今年9月中旬檢測到可疑活動，後經調查確定這是一場高度複雜的間諜活動。攻擊者以前所未有的程度利用了人工智慧的「代理」能力--不僅把人工智慧用作顧問，而且還利用人工智慧來實施網路攻擊。
「此次攻擊行為者--我們有高度的信心評估是中國的一個由國家支持的組織--利用我們的Claude Code工具，試圖滲透到全球約30個攻擊目標的系統中，並在少數案例中取得成功，」該公司在題為《阻斷首起披露的由人工智慧主導的網路間諜行動》的報告中說。
總部位於舊金山的科技初創公司Anthropic是由擔任過開放人工智慧公司(OpenAI)首席行政官達里奧．阿莫代(Dario Amodei)等成員在2021年創辦的。它開發了一系列名為Claude的大型語言模型(LLM)。
該公司說，此次行動針對的目標包括大型科技公司、金融機構、化工製造企業和政府機構。
「我們認為這是首次有記錄的在無重大人工干預情況下實施大規模網路攻擊的案例，」報告說。
該公司的研究人員認為，這是一個令人不安的事態發展，可能使得到人工智慧助力的黑客極大擴展入侵範圍。
中共外交部發言人林劍11月14日在北京舉行的例行記者會上被問到Anthropic的有關說法時一方面稱不瞭解具體情況。
Anthropic認為，在人工智慧「代理」時代，這次攻擊行動對網路安全具有深遠影響。人工智慧「代理」指的是能夠長時間自主運行並基本無需人工干預即可完成複雜任務的系統。這些代理對日常工作和生產力都有價值，但一旦被不當利用，它們可顯著提高大規模網路攻擊的可行性。
在該公司看來，這個案例說明，網路安全正處在一個拐點，即AI模型已經真正能夠在網路安全行動中發揮作用--既可助益人類，亦可危害人類。
Anthropic說，公開分享這個案例是為了在幫助業界、政府部門以及更廣泛的研究界加強自身的網路防禦能力。
△
|
