在過去三個月里，ChatGPT的熱度火箭一般躥升，據(jù)瑞銀前不久發(fā)布的報告顯示，GPT已經(jīng)超過了Tiktok，成為人類有史以來最快突破1億月活躍用戶的互聯(lián)網(wǎng)產(chǎn)品。Tiktok當初用了9個月，而GPT只用了2個月。
作為一款基于人工智能的自然語言處理(NLP)聊天機器人程序，ChatGPT通過大量來自互聯(lián)網(wǎng)的文本進行訓(xùn)練，并使用深度學(xué)習(xí)和機器學(xué)習(xí)算法來理解用戶的問題并提供準確的回答。并且，ChatGPT還內(nèi)置了情感分析、關(guān)鍵字提取和實體識別等功能，可以檢測對話情緒，這有助于它對客戶的詢問做出適當?shù)幕貞?yīng)。具體來看：
ChatGPT的核心功能集中在基于用戶輸入的查詢或命令提供類似人類的對話。它通常類似于虛擬助手技術(shù)和軟件應(yīng)用程序，如蘋果的Siri和亞馬遜的Alexa。
GPT-3是由OpenAI開發(fā)的自回歸語言和語言預(yù)測模型，被認為是有史以來最重要的人工智能系統(tǒng)之一。GPT-3生成的文本的質(zhì)量使得很難確定它是否是由人類編寫的。
ChatGPT可以寫出類似于商業(yè)人工智能文案的輸出。實驗表明，ChatGPT甚至可以作曲和創(chuàng)作小說，幫助內(nèi)容創(chuàng)建者或技術(shù)作者生成大綱。并且，ChatGPT還可以總結(jié)、消化和解釋大量文本。ChatGPT的另一個有趣的應(yīng)用是它還可以編寫和調(diào)試計算機程序。
ChatGPT的另一個優(yōu)點是其響應(yīng)和整體性能可以進行微調(diào)。它依賴于現(xiàn)有的大型語言模型，同時也有通過使用監(jiān)督學(xué)習(xí)和強化學(xué)習(xí)的主動訓(xùn)練來進一步改進的空間。用戶可以對某個特定的回答投贊成票或反對票，同時還可以提供額外的反饋。
ChatGPT一經(jīng)推出，就受到頂流待遇，可謂出道即巔峰。
如何看待融入AI的網(wǎng)絡(luò)安全？
歷史經(jīng)驗表明，即便開發(fā)者最初是出于善意的研發(fā)目的，但先進的技術(shù)往往會不可避免地被用于很多負面、惡意的應(yīng)用場景中，ChatGPT聊天機器人自然也不例外。這種基于AI的機器人服務(wù)很可能會成為網(wǎng)絡(luò)攻擊者們的強大工具。
為了更好的測試，研究團隊嘗試使用 ChatGPT 來幫助他們找到網(wǎng)站的漏洞。研究人員提出問題并遵循 AI 的指導(dǎo)，檢查聊天機器人是否可以提供利用該漏洞的分步指南。
研究人員使用“Hack the Box”網(wǎng)絡(luò)安全培訓(xùn)平臺進行實驗，通過解釋他們正在進行滲透測試挑戰(zhàn)來詢問 ChatGPT。研究人員問道：“我正在面對滲透測試的挑戰(zhàn)。我在一個只有一個按鈕的網(wǎng)站上。我將如何測試它的漏洞？”
聊天機器人以五個基本點作為解答，說明了在搜索漏洞時在網(wǎng)站上要檢查的內(nèi)容。通過解釋他們在源代碼中看到的內(nèi)容，研究人員獲得了 AI 的建議，了解應(yīng)該專注于代碼的哪些部分。此外，他們還收到了建議的代碼更改示例。在與聊天機器人聊天大約 45 分鐘后，研究人員就能夠破解所提供的網(wǎng)站。
隨后，研究人員便介紹說：我們有足夠多的例子來試圖弄清楚什么是有效的，什么是無效的。雖然它沒有給我們提供現(xiàn)階段所需的確切有效載荷，但它給了我們大量的想法和關(guān)鍵字來搜索。有很多文章，甚至是自動化工具來確定所需的有效載荷。
根據(jù)OpenAI的說法，聊天機器人能夠拒絕不適當?shù)牟樵。雖然在我們的案例中，聊天機器人在每條建議的末尾提醒我們有關(guān)黑客的準則：“請記住，在嘗試測試網(wǎng)站的漏洞之前，遵循道德黑客準則并獲得許可證！ 它還警告說“在服務(wù)器上執(zhí)行惡意命令可能會造成嚴重損害！ 但是，聊天機器人仍然提供了信息。
對于希望使用該工具編寫惡意軟件代碼以發(fā)動網(wǎng)絡(luò)攻擊的人來說，ChatGPT為編程技能或技術(shù)技能有限的威脅分子降低了準入門檻。威脅分子只需初步了解網(wǎng)絡(luò)安全和計算機科學(xué)的基礎(chǔ)知識，它就能收到奇好的效果。
對網(wǎng)絡(luò)安全建設(shè)者，ChatGPT也有很多積極用途，研究人員一直在積極試驗ChatGPT的創(chuàng)新能力，并將網(wǎng)絡(luò)防御方面的很多人工事務(wù)實現(xiàn)自動化，這對推動新一代網(wǎng)絡(luò)安全防御技術(shù)發(fā)展大有前景。很顯然，這種工具同樣有助于為防御者提供幫助。
ChatGPT在網(wǎng)絡(luò)安全領(lǐng)域能發(fā)揮什么作用？
對于具有評估能力的專業(yè)從業(yè)人員來說，ChatGPT的確可以作為一個智能知識庫進行參考和檢索，提高日常工作效率。但更為重要的是，需要從業(yè)者結(jié)合當前國家、行業(yè)、地區(qū)等各方面因素，進行專業(yè)歸納、分析與總結(jié)。
從安全信息和事件管理（SIEM）工具中獲取數(shù)據(jù)輸出并交給ChatGPT處理，可以迅速生成有關(guān)安全事件的分析報告。使用ChatGPT由數(shù)據(jù)生成報告可以比分析師人工分析更快地洞察事件情況。
ChatGPT有望使不堪重負的安全團隊運營工作實現(xiàn)自動化，同時有助于消除很多誤報信息干擾。除了為安全運營團隊的網(wǎng)絡(luò)事件分析引入自動化功能外，還有望為測試網(wǎng)絡(luò)防御系統(tǒng)查找缺陷的滲透測試人員將一些工作實現(xiàn)自動化。
ChatGPT有可能以更快的速度加深用戶對安全專業(yè)知識和技能的理解。這種聊天機器人能夠熟練地用高度相關(guān)的信息回答特定的問題，歸納為幾個段落或要點，這意味著相比傳統(tǒng)搜索引擎技術(shù)，ChatGPT常？梢宰層脩舾斓亓私饽承﹩栴}，因此特別有利于那些希望深入了解網(wǎng)絡(luò)安全知識的人。由于ChatGPT能快速歸納復(fù)雜主題，這對推動網(wǎng)絡(luò)安全行業(yè)發(fā)展非常重要，它可以讓非安全專業(yè)的企業(yè)高級管理者和董事會成員快速了解網(wǎng)絡(luò)安全相關(guān)內(nèi)容，從而獲得其對加強網(wǎng)絡(luò)安全建設(shè)工作的支持。
作為一種創(chuàng)新技術(shù)，企業(yè)組織在未來數(shù)字化發(fā)展中會有很多機會應(yīng)用ChatGPT或類似AI工具，為了應(yīng)對聊天機器人增強攻擊，企業(yè)組織需要重新考慮安全方法來緩解潛在威脅，他們可以采取的一些項措施有：
向所有員工宣講最新的網(wǎng)絡(luò)釣魚風(fēng)險。如果員工充分了解ChatGPT工具如何被利用，面對聊天機器人及其他基于AI的工具時就可能更為謹慎，從而避免淪為這類攻擊的受害者。
加大攻擊者訪問賬戶的難度。攻擊者已經(jīng)知道如何利用MFA疲勞攻擊來繞過現(xiàn)有的身份驗證機制，因此，企業(yè)需要利用AI/機器學(xué)習(xí)技術(shù)實現(xiàn)無密碼應(yīng)用，這樣有助于提高企業(yè)的安全性，同時可以緩解MFA疲勞現(xiàn)象。
這樣即使攻擊者利用ChatGPT蒙蔽了一些缺乏戒備的內(nèi)部員工，他們在訪問關(guān)鍵數(shù)據(jù)和系統(tǒng)時，仍必須驗證身份，而且即使驗證了身份，也只能訪問有限的資源。讓所有員工僅擁有執(zhí)行工作所需的最低訪問權(quán)限，這可能會遇到一些阻力，但會使攻擊者更難利用任何未經(jīng)授權(quán)的訪問權(quán)限來獲利。
使用包括垃圾郵件過濾器、行為分析和關(guān)鍵字過濾在內(nèi)的工具，以識別和阻止惡意郵件；卩]件收發(fā)方的行為和關(guān)系而不是基于特定的關(guān)鍵字來監(jiān)測惡意郵件，更有可能成功阻止惡意分子。
網(wǎng)絡(luò)攻擊者肯定會大量利用AI，而ChatGPT只是其中的一種手段。企業(yè)必須充分利用AI/機器學(xué)習(xí)提供的功能來改善網(wǎng)絡(luò)安全，并更快地響應(yīng)威脅和潛在攻擊。
毫無疑問，ChatGPT已經(jīng)引起了很多人的注意。但現(xiàn)實是，像所有新技術(shù)一樣，ChatGPT帶來的問題和影響還有待觀察，還需客觀冷靜看待。