網絡犯罪分子也喜歡用人工智能，部門機構挑戰升級
一直以來，金融機構都和網絡犯罪處于長期拉鋸中，而人工智能技術可能讓戰事升級。
人工智能技術正在幫助銀行的網絡安全團隊洞察并處理違規行為。不過，人工智能也會創造出新的系統漏洞，這是由于機器被賦予控制權的同時也為發生錯誤和偽造行為提供了機會。從另一個角度來看，庫卡機器人何服電機維修，人工智能還可以提升攻擊者的工作效率。例如，在去年發生的那起黑客攻擊事件中，Petya惡意軟件就利用人工智能來識別漏洞，可以每秒掃描數百萬個端口來發現攻擊的突破口。
「人工智能是一把錘子，可以用來行善，也可用來作惡，」普華永道合伙人、負責人兼網絡安全和隱私部門負責人JimFox說道，「如果你的對手有一把錘子，你最好也有一把。」
人工智能軟件能夠監視所有的網絡活動，并快速辨別出可能出現違規的行為模式。隨著時間的推移，人工智能系統可以辨別出常規模式中真正的可疑行為，哪怕這種模式在之前從未被標記過。
去年的Petya惡意軟件攻擊是「以機器的速度」在做決策，一位網絡安全專家說道，庫卡機器人，「沒有人指導這個惡意軟件。他們編寫了一個智能程序來完成所有的工作。」
紐約投資銀行Greenhill&Co.的首席信息官JohnShaffer找到了一個更好的方式來應對零日漏洞攻擊（zero-dayattack）。
「我們現在處理的大多數攻擊事件都不是通過傳統工具解決的，比如基于簽名的防病毒軟件，或者其它與簽名有關的東西。」Shaffer說道，「真正的攻擊程序知道如何對付這些工具。真正有趣的是嘗試找出那些聰明的程序在做什么。這就是機器學習和人工智能發揮作用的地方。」
Shaffer安裝了Vectra公司基于人工智能的系統，該系統可以監管Greenhill公司所有的網絡流量。它能夠發現那些標準入侵檢測軟件看不到的異常，他解釋說。基于人工智能或增強型網絡安全產品的供應商還包括IBM、Darktrace、FireEye和McAfee。
在Shaffer部署這個軟件時，系統立即發現了銀行網絡中一些奇怪的流量模式，而在這之前，這些工作是由公司自己的漏洞掃描器負責。
「對很多系統來說，這就像是有人在掃描你的網絡，」Shaffer說道。
Vectra的軟件并不像絕大多數的安全系統那樣會發出大量警告，一天的發送量在10條左右。同時無需人工編寫規則，而是系統自己去學習正常行為和違規行為之間的差異，這為網絡安全人員節省了大量的時間和精力。
人工智能的黑暗面
美國情報界對人工智能的使用憂心忡忡：人工智能不僅會增加網絡攻擊漏洞、增加事故發生的風險，還能催生外國組織利用技術升級武器和情報系統，同時加重了私營部門和金融機構擔負的責任。
「美國政府已經表示，如果一切都由機器運作而不再有人為干預，那么人工智能就是我們的全部執法力量、一切人類事務的總把關人，」多倫多公司DuhaimeLaw一位律師Christine說道，「所以，我們的互聯性越強，使用系統判定安全性、良性或惡性的比例就越高，系統就會越容易受到攻擊，因為我們竟然指望系統能夠比想要傷害我們的外國黑客更聰明且更優秀。」
她還指出，政府擔心人工智能可能會增加事故發生的風險，并大幅增加私營部門和金融機構肩負的責任。換句話說，系統的自行決策程度越高，就越有可能犯下一個難以挽回的大錯誤。
「例如，系統搞錯了付款對象，而那個人已經走了，或者是顛倒了一群交易對象，或是將100萬美元付給了1000個人，」Duhaime說道，「如果系統遭到大規模曝光，那么很多人的個人信息將被不法分子利用，可能面臨被勒索的威脅。具有超強計算能力的流氓軟件會解碼我們的系統，而且能夠對我們的關鍵金融基礎設施實施各種破壞性行為。從歷史的角度看，私營部門從未在網絡安全方面投入足夠多的資金。可是只有這么做，才能發現漏洞。」
鑒于網絡犯罪分子使用人工智能的現實，私營部門更有理由以其之道防患于未然，普華永道的Fox在援引Petya的例子時說到。「這些決策是以機器的水準和速度制定的，」他說，「沒有人指導這個惡意軟件。他們編寫了一個智能程序來完成所有的工作。」
有一家銀行配備了強大的網絡安全系統和人工智能工具，卻在兩分鐘內被Petya感染了14000臺機器。Fox說：「人工智能系統在五分鐘內便通知到網絡安全團隊，庫卡機器人何服電機維修，報告了一些可能帶有惡意的異常事件，并做了鎖定和關閉所有機器的決策。」
罪犯如何使用人工智能
McAfee公司首席技術官SteveGrobman也指出，新技術的出現會引來守法者，也會招致網絡罪犯。
「金融領域有如此多網絡犯罪的原因在于，這是一個非常有效且低風險的偷錢方法，罪犯只會遭到逮捕和起訴。」Grobman說，McAfee正在學習「對抗性機器學習技術」。
「我們正在研究惡意軟件究竟是如何對模型產生不良影響。」他解釋道，騙子們可能會把經過專門制作的數據引入到數據集中，這樣模型在未來查看數據時就更難發現它的問題。
或者，他們可能會向輸入數據集中添加噪聲或虛假信號，從而使提取真實信號的過程變得更加困難。
「如果你成功令防衛系統頻繁誤報，網絡安全人員將不得不重新調整其模型，」Grobman說。他做了一個比喻：如果一個小偷想闖入一個有警報系統的房子，他可能會在每晚11點鐘騎車經過房子，故意激活警報。幾周后，房主會對這個警報系統厭倦，不是校準警報系統的敏感度，就是把這個系統系統關掉。這時，小偷就有了可乘之機。
惡意軟件也開始使用人工智能來自動化先前人類的工作，Grobman說。例如，利用電郵或社交媒體搜索的歷史記錄，人工智能可以生成千人千面的魚叉式網絡釣魚郵件，即黑客會偽裝成接收者認識的人并向其發送電子郵件來套取密碼等信息。
他補充道：「人類無需為每個人量身定制內容，軟件可以自動創造出適合每一個人的內容，從而可以提高受害者的轉化率。」
Grobman對政府面向人工智能的警告感慨萬千。