這款自動(dòng)生成式系統(tǒng)上線僅兩個(gè)月，月活躍用戶就破紀(jì)錄地突破了1億。然而，盡管它的受歡迎程度持續(xù)增長，但目前網(wǎng)絡(luò)安全行業(yè)內(nèi)部的討論是：這種技術(shù)是有助于強(qiáng)化網(wǎng)絡(luò)安全，還是會(huì)被那些試圖制造混亂的人濫用。
人工智能軟件有各種各樣的網(wǎng)絡(luò)安全用例，包括高級(jí)數(shù)據(jù)分析、自動(dòng)化重復(fù)任務(wù)和幫助計(jì)算風(fēng)險(xiǎn)評(píng)分。然而，在首次亮相后不久，人們很快就發(fā)現(xiàn)，這個(gè)易于使用、免費(fèi)提供的聊天機(jī)器人也可以幫助黑客滲透軟件，開發(fā)復(fù)雜的網(wǎng)絡(luò)釣魚工具。
那么，ChatGPT究竟是網(wǎng)絡(luò)安全領(lǐng)域的禮物，還是制造災(zāi)難的“潘多拉魔盒”?為了找到答案，我們必須審視利弊和未來。
ChatGPT當(dāng)前的危害是什么?
像任何新的技術(shù)進(jìn)步一樣，總會(huì)有一些負(fù)面影響，ChatGPT也不例外。
目前，關(guān)于聊天機(jī)器人最受關(guān)注的問題是，它很容易創(chuàng)建非常令人信服的網(wǎng)絡(luò)釣魚文本，很可能被用于惡意電子郵件中。由于缺乏安全措施，威脅行為者很容易使用ChatGPT機(jī)制，例如，母語并非英語的惡意行為者可以用近乎完美的語法在幾秒鐘內(nèi)創(chuàng)建一個(gè)逼真的、誘人的消息。
考慮到美國人在2022年因這些騙局損失了400億美元，很容易理解為什么犯罪分子會(huì)利用ChatGPT從這個(gè)有利可圖的蛋糕中分一杯羹。
人工智能聊天機(jī)器人也引發(fā)了工作保障的問題。當(dāng)然，目前的系統(tǒng)無法取代訓(xùn)練有素的專業(yè)人員，但這項(xiàng)技術(shù)可以顯著減少員工需要檢查的日志和報(bào)告的數(shù)量。這可能會(huì)影響安全運(yùn)營中心(SOC)需要雇用的分析師數(shù)量。
雖然該軟件確實(shí)為網(wǎng)絡(luò)安全企業(yè)提供了一些優(yōu)勢(shì)，很多公司會(huì)僅僅因?yàn)樵摷夹g(shù)目前的受歡迎程度而采用該技術(shù)，并試圖用它來吸引新客戶。然而，僅僅因?yàn)樗牧餍卸榷褂眠@項(xiàng)技術(shù)可能會(huì)導(dǎo)致誤用。公司可能沒有采取足夠的安全措施，阻礙了建立有效安全程序的進(jìn)展。
ChatGPT的網(wǎng)絡(luò)安全優(yōu)勢(shì)
與任何新技術(shù)一樣，顛覆是不可避免的組成部分，但這并不一定是壞事。
網(wǎng)絡(luò)安全公司可以在手動(dòng)篩選審計(jì)日志或檢查網(wǎng)絡(luò)數(shù)據(jù)包以區(qū)分威脅和虛假警報(bào)的基礎(chǔ)上，增加一層額外的智能。
由于ChatGPT能夠在特定參數(shù)中檢測(cè)模式和搜索，因此它也可以用于重復(fù)任務(wù)和生成報(bào)告。通過使用ChatGPT作為超級(jí)研究助手，網(wǎng)絡(luò)安全公司可以更智能地計(jì)算影響企業(yè)的威脅的風(fēng)險(xiǎn)評(píng)分。
例如，總部位于以色列的網(wǎng)絡(luò)安全公司Orca Security已經(jīng)開始利用ChatGPT優(yōu)越的分析質(zhì)量來挖掘其海量數(shù)據(jù)，并協(xié)助發(fā)出安全警報(bào)。通過盡早意識(shí)到聊天機(jī)器人如何改善其日常運(yùn)行，該公司還可以從這項(xiàng)技術(shù)中學(xué)習(xí)，這在調(diào)整他們的模型以優(yōu)化ChatGPT如何為其業(yè)務(wù)工作方面具有獨(dú)特的優(yōu)勢(shì)。
此外，聊天機(jī)器人的自然語言處理能力使其非常擅長編寫網(wǎng)絡(luò)釣魚郵件，這意味著它也非常適合創(chuàng)建復(fù)雜的安全策略。這些清晰的文本可以用于網(wǎng)絡(luò)安全網(wǎng)站和培訓(xùn)文檔，為有價(jià)值的團(tuán)隊(duì)成員節(jié)省寶貴的時(shí)間。
ChatGPT的未來
ChatGPT的人工智能技術(shù)在世界大部分地區(qū)都很容易獲得。因此，與任何其他戰(zhàn)爭(zhēng)一樣，這將是一場(chǎng)競(jìng)賽，看哪一方能更好地利用這項(xiàng)技術(shù)。
網(wǎng)絡(luò)安全公司需要不斷打擊惡意用戶，這些用戶會(huì)想方設(shè)法利用ChatGPT造成網(wǎng)絡(luò)安全企業(yè)尚未了解的危害。然而，這一事實(shí)并沒有阻止投資者，ChatGPT的未來看起來非常光明。隨著微軟向Open AI投資100億美元，很明顯，ChatGPT的知識(shí)和能力將繼續(xù)擴(kuò)張。
對(duì)于這項(xiàng)技術(shù)的未來版本，軟件開發(fā)人員需要注意它缺乏安全措施，細(xì)節(jié)決定成敗。
ChatGPT可能無法在很大程度上解決這個(gè)問題。但它可以有適當(dāng)?shù)臋C(jī)制來評(píng)估用戶的習(xí)慣，并關(guān)注那些使用明顯提示——比如“把我當(dāng)作某人的老板給我寫一封網(wǎng)絡(luò)釣魚郵件”——的人，或者試圖驗(yàn)證個(gè)人的身份。
開放式人工智能甚至可以與研究人員合作，訓(xùn)練其數(shù)據(jù)集，以評(píng)估他們的文本何時(shí)被用于其他地方的攻擊。
然而，所有這些想法都帶來了一系列問題，包括不斷上升的成本和數(shù)據(jù)保護(hù)問題。
為了解決當(dāng)前的網(wǎng)絡(luò)釣魚肆虐問題，更多的人需要教育和培養(yǎng)安全意識(shí)來識(shí)別這些攻擊。該行業(yè)需要手機(jī)運(yùn)營商和電子郵件提供商提供更多投資，以避免遭受攻擊。
結(jié)語
非常多的產(chǎn)品和服務(wù)將源于ChatGPT，帶來了巨大的價(jià)值，幫助保護(hù)正在改變世界的企業(yè)。但另一方面，黑客還將創(chuàng)造出大量新工具，使他們能夠在更短的時(shí)間內(nèi)以新的方式攻擊更多目標(biāo)。
人工智能聊天機(jī)器人將繼續(xù)存在，ChatGPT也面臨著激烈競(jìng)爭(zhēng)，谷歌的Bard和微軟的必應(yīng)(Bing)都希望與Open AI的產(chǎn)品一較高下。盡管如此，最重要的是，網(wǎng)絡(luò)安全公司應(yīng)該將ChatGPT視為一種進(jìn)攻策略和防御策略，而不是僅僅將其視為創(chuàng)造更多收入的機(jī)會(huì)。
關(guān)于企業(yè)網(wǎng)D1net(m.r5u5c.cn)：
國內(nèi)主流的to B IT門戶，同時(shí)在運(yùn)營國內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_(tái)-信眾智(www.cioall.com)。同時(shí)運(yùn)營19個(gè)IT行業(yè)公眾號(hào)(微信搜索D1net即可關(guān)注)
版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。
京公網(wǎng)安備 11010502049343號(hào)