現在仍是人工智能革命的早期，該技術應用在從無人車到癌癥治療的各個領域，但我們現在只領悟到了皮毛。當它變得更先進、更通俗易懂的時候，它的副作用也會凸顯。
試想一下，在你與客戶見面前，他們給了你一份確認函以及見面地的地圖，并且在地圖上標注了方位。這一切似乎看起來很正常，但事實是，整條信息都由一個惡意軟件模仿客戶的語言習慣寫成，而且在地圖上附著了病毒。
這樣的事聽起來似乎離我們很遠，但其實它就發生在眼下。作為Darktrace網絡安全公司的技術總監，Dave Palmer認為黑客和網絡安全公司的技術能力競爭正越來越激烈。
今年九月份，在倫敦舉行的《金融時報》網絡安全峰會上，Dave Palmer提出：隨著人工智能變得越來越精密，它難免會變成惡意軟件，對企業和個人造成潛在的巨大威脅，而這一點恰恰是黑客所看中的價值。
我們必須牢記，Dave Palmer不僅是一位網絡安全維護者，同時也是一個商人。他的工作就是大肆宣揚和夸大所出現的威脅(不論是現在已經出現的，還是未來可能出現的)，并宣稱只有Darktrace才能解決這一問題，以此來安撫用戶。
Darktrace是一家市值5億美元(4.01億英鎊)的英國公司，主要采用人工智能方式來保障網絡安全。該公司為用戶建立了一個“免疫系統”，以監督潛在的非法商業操作。從這一點來看，Dave Palmer作為一家年輕的人工智能領域公司的技術總監，對網絡安全的未來發展提出了新見解。
智能病毒將“綁架”工業設備
目前，勒索軟件非常普遍。這款惡意軟件會對受害者的電腦或者網絡進行編碼，只有提供一個比特幣才能解碼。如果沒有在規定時間內上交比特幣，那么數據將會永久丟失。
如果惡意軟件擁有人工智能特性，則將具有自我組織性，其殺傷力將會更大。而且它具有不斷生成性，這對于制造者來說將更有利可圖。
Dave Palmer說：“我們對惡意軟件產生的連鎖反應有一定預見。在突然大規模爆發前，它們一定會事先潛伏在網絡的許多區域，以便形成連續效應。我確信，一定會出現對資產和數據的網絡敲詐。第一，在工廠的設備，醫院的核磁共振掃描儀和自動販賣機損壞時，為了不影響到日常工作，你需要及時修復它們，以避免網絡敲詐。第二，你需要備份數據，以便在機器損壞時，也不必把錢浪費在數據恢復上。
惡意軟件將模仿熟悉的人
不論是充滿噱頭的關于病毒的小道消息，還是英國衛報的社論專版，都提到過人工智能軟件將根據用戶經常使用的神經網絡來學習并模仿寫作模式。DavePalmer提到：在不久的將來，惡意軟件將會從用戶的通信中學習并模仿與他人的交流方式，以達到其他目的。
他舉例道：“有一個叫納迪亞的女孩，她在手提電腦里安裝了一個軟件，該軟件可以閱讀她所有的信件、信息和日程，而且能模仿她的語氣進行回復。所以，僅從信件判斷，你會覺得她是一個很粗魯、不時開玩笑的人。但實際上，她非常有禮貌。此外，該軟件也可發送病毒。根據她的日程表，她會發給你一封郵件，可能內含有地圖，上面標注著你們見面的地點。但當你打開郵件時，也會激活附著在地圖上的病毒。”
還有一種更復雜騙人手段，被稱作“CFO郵件”騙局或者“信任攻擊”。這些騙子的目標是公司職員，通過發送郵件要求他們轉移資金。在過去三年里，FBI查處了23億美元(18.4億英鎊)的被騙資金。
最好的黑客是最受矚目的
2015年12月，烏克蘭一家發電站遭受到了史無前例的黑客攻擊，造成8萬戶家庭斷電，人們認為那些受國家支持的黑客應對此負責。這件事很好地證明了當今世界易受黑客攻擊，但DavePalmer從長遠角度出發，認為那些技藝高超且破壞性極強的黑客將隱藏得更深。
Dave Palmer表示：“如果你想損壞一個石油鉆塔，很容易就會被人們發現，而且每個人都會想辦法修復它。但你真的想搞垮一個石油或者天然氣開采公司，則不如開發一個擁有自主尋找、定位和攻擊的惡意軟件，使其入侵到對方的系統里，更改他們想獲得開采權地區的地理數據。一段時間以后，你可以根據油井儲量并不不如預想的豐富這一點，確認他們開采的地點是錯誤的。而此時該公司的利益已受到了嚴重損害，但他們并不會有所懷疑和注意，而且無法應對。”
他補充道：“你可能會想‘這確實是個好主意，我們應該看看我們的數據看，找找是否存在有趣的軟件。’但在未來，惡意軟件的攻擊可能存在于物聯網傳感器中，它們的深層危害和掃描設備都將在第一時間爆發，預祝你能成功避開攻擊。”
人工智能改革的陰暗面
那么，它發展的時間表到底是什么樣的呢?Dave Palmer說：“我認為，你可以在接下來的一年時間里創建自己的神經網絡，使其形成基礎的智能應對策略(實現信任攻擊)。而在接下來的幾年里，你將會看到人工智能使用更自然的語言，比如谷歌的Deep Mind。”
這項技術正在持續進步，缺點也在不斷暴露。
