五月婷婷丁香性爱|j久久一级免费片|久久美女福利视频|中文观看在线观看|加勒比四区三区二|亚洲裸女视频网站|超碰97AV在线69网站免费观看|有码在线免费视频|久久青青日本视频|亚洲国产AAAA

WAF網(wǎng)站反爬蟲(chóng)_防BOT

WAF是什么

Web應(yīng)用防火墻(Web Application Firewall,WAF),通過(guò)對(duì)HTTP(S)請(qǐng)求進(jìn)行檢測(cè),識(shí)別并阻斷SQL注入、跨站腳本攻擊、網(wǎng)頁(yè)木馬上傳、命令/代碼注入、文件包含、敏感文件訪問(wèn)、第三方應(yīng)用漏洞攻擊、CC攻擊、惡意爬蟲(chóng)掃描、跨站請(qǐng)求偽造等攻擊,保護(hù)Web服務(wù)安全穩(wěn)定。


WAF怎么防爬蟲(chóng)

華為云WAF支持動(dòng)態(tài)分析網(wǎng)站業(yè)務(wù)模型,結(jié)合人機(jī)識(shí)別技術(shù)和數(shù)據(jù)風(fēng)控手段,精準(zhǔn)識(shí)別700+種爬蟲(chóng)行為。

特征反爬蟲(chóng)

自定義掃描器與爬蟲(chóng)規(guī)則,用于阻斷網(wǎng)頁(yè)爬取行為,添加定制的惡意爬蟲(chóng)、掃描器特征,使爬蟲(chóng)防護(hù)更精準(zhǔn)。

JS腳本反爬蟲(chóng)

通過(guò)自定義規(guī)則識(shí)別并阻斷JS腳本爬蟲(chóng)行為。

通過(guò)配置WAF反爬蟲(chóng)防護(hù)策略輕松阻止爬蟲(chóng)攻擊

您可以通過(guò)配置網(wǎng)站反爬蟲(chóng)防護(hù)規(guī)則,防護(hù)搜索引擎、掃描器、腳本工具、其它爬蟲(chóng)等爬蟲(chóng),以及自定義JS腳本反爬蟲(chóng)防護(hù)規(guī)則。

網(wǎng)絡(luò)爬蟲(chóng)為網(wǎng)絡(luò)信息收集與查詢(xún)提供了極大的便利,但同時(shí)也對(duì)網(wǎng)絡(luò)安全產(chǎn)生以下負(fù)面影響:

● 網(wǎng)絡(luò)爬蟲(chóng)會(huì)根據(jù)特定策略盡可能多的“爬過(guò)”網(wǎng)站中的高價(jià)值信息,占用服務(wù)器帶寬,增加服務(wù)器的負(fù)載

● 惡意用戶(hù)利用網(wǎng)絡(luò)爬蟲(chóng)對(duì)Web服務(wù)發(fā)動(dòng)DoS攻擊,可能使Web服務(wù)資源耗盡而不能提供正常服務(wù)

● 惡意用戶(hù)利用網(wǎng)絡(luò)爬蟲(chóng)抓取各種敏感信息,造成網(wǎng)站的核心數(shù)據(jù)被竊取,損害企業(yè)經(jīng)濟(jì)利益

Web應(yīng)用防火墻可以通過(guò)Robot檢測(cè)(識(shí)別User-Agent)、網(wǎng)站反爬蟲(chóng)(檢查瀏覽器合法性)CC攻擊防護(hù)(限制訪問(wèn)頻率)三個(gè)反爬蟲(chóng)策略,全方位幫您解決業(yè)務(wù)網(wǎng)站遭受的爬蟲(chóng)問(wèn)題。

前提條件

域名已成功接入WAF。

開(kāi)啟Robot檢測(cè)(識(shí)別User-Agent)

開(kāi)啟Robot檢測(cè)后,WAF可以檢測(cè)和攔截惡意爬蟲(chóng)、掃描器、網(wǎng)馬等威脅。

1.登錄管理控制臺(tái)。

2.單擊管理控制臺(tái)左上角的,選擇區(qū)域或項(xiàng)目。

3.單擊頁(yè)面左上方的,選擇“安全與合規(guī) > Web應(yīng)用防火墻 WAF”。

4.在左側(cè)導(dǎo)航樹(shù)中,選擇“網(wǎng)站設(shè)置”,進(jìn)入“網(wǎng)站設(shè)置”頁(yè)面。

5.在目標(biāo)域名所在行的“防護(hù)策略”欄中,單擊“已開(kāi)啟N項(xiàng)防護(hù)”,進(jìn)入“防護(hù)策略”頁(yè)面。

6.確認(rèn)“Web基礎(chǔ)防護(hù)”“狀態(tài)”。

7.單擊“高級(jí)設(shè)置”,在“防護(hù)配置”頁(yè)面,開(kāi)啟“常規(guī)檢測(cè)”“Webshell檢測(cè)”開(kāi)關(guān)。

8.在“網(wǎng)站反爬蟲(chóng)”配置框中,用戶(hù)可根據(jù)自己的需要參照?qǐng)D2更改網(wǎng)站反爬蟲(chóng)的“狀態(tài)”,單擊“BOT設(shè)置”,進(jìn)入網(wǎng)站反爬蟲(chóng)規(guī)則配置頁(yè)面。

9.在“特征反爬蟲(chóng)”頁(yè)面,根據(jù)您的業(yè)務(wù)場(chǎng)景,開(kāi)啟合適的防護(hù)功能。

圖3 特征反爬蟲(chóng)防護(hù)

當(dāng)WAF檢測(cè)到惡意爬蟲(chóng)、掃描器等對(duì)網(wǎng)站進(jìn)行爬取時(shí),將立即攔截并記錄該事件,您可以在“防護(hù)事件”頁(yè)面查看爬蟲(chóng)防護(hù)日志。

開(kāi)啟網(wǎng)站反爬蟲(chóng)(檢查瀏覽器合法性)

開(kāi)啟網(wǎng)站反爬蟲(chóng),WAF可以動(dòng)態(tài)分析網(wǎng)站業(yè)務(wù)模型,結(jié)合人機(jī)識(shí)別技術(shù)和數(shù)據(jù)風(fēng)控手段,精準(zhǔn)識(shí)別爬蟲(chóng)行為。

1.登錄管理控制臺(tái)

2.單擊管理控制臺(tái)左上角的,選擇區(qū)域或項(xiàng)目。

3.單擊頁(yè)面左上方的,選擇“安全與合規(guī) > Web應(yīng)用防火墻 WAF”。

4.在左側(cè)導(dǎo)航樹(shù)中,選擇“網(wǎng)站設(shè)置”,進(jìn)入“網(wǎng)站設(shè)置”頁(yè)面。

5.在目標(biāo)域名所在行的“防護(hù)策略”欄中,單擊“已開(kāi)啟N項(xiàng)防護(hù)”,進(jìn)入“防護(hù)策略”頁(yè)面。

6.在“網(wǎng)站反爬蟲(chóng)”配置框中,用戶(hù)可根據(jù)自己的需要參照?qǐng)D4更改網(wǎng)站反爬蟲(chóng)的“狀態(tài)”,單擊“BOT設(shè)置”,進(jìn)入網(wǎng)站反爬蟲(chóng)規(guī)則配置頁(yè)面。

7.選擇“JS腳本反爬蟲(chóng)”頁(yè)簽,用戶(hù)可根據(jù)業(yè)務(wù)需求更改JS腳本反爬蟲(chóng)的“狀態(tài)”“防護(hù)模式”

默認(rèn)關(guān)閉JS腳本反爬蟲(chóng),單擊,在彈出的“警告”提示框中,單擊“確定”,開(kāi)啟JS腳本反爬蟲(chóng)。

須知:

● JS腳本反爬蟲(chóng)依賴(lài)瀏覽器的Cookie機(jī)制、JavaScript解析能力,如果客戶(hù)端瀏覽器不支持Cookie,此功能無(wú)法使用。

如果您的業(yè)務(wù)接入了CDN服務(wù),請(qǐng)謹(jǐn)慎使用JS腳本反爬蟲(chóng)。

● 由于CDN緩存機(jī)制的影響,JS腳本反爬蟲(chóng)特性將無(wú)法達(dá)到預(yù)期效果,并且有可能造成頁(yè)面訪問(wèn)異常。

8.根據(jù)業(yè)務(wù)配置JS腳本反爬蟲(chóng)規(guī)則,相關(guān)參數(shù)說(shuō)明如表1所示。

JS腳本反爬蟲(chóng)規(guī)則提供了“防護(hù)所有請(qǐng)求”“防護(hù)指定請(qǐng)求”兩種防護(hù)動(dòng)作。

● 除了指定請(qǐng)求規(guī)則以外,防護(hù)其他所有請(qǐng)求

“防護(hù)模式”選擇“防護(hù)所有請(qǐng)求”,單擊“添加排除請(qǐng)求規(guī)則”,配置排除請(qǐng)求規(guī)則后,單擊“確認(rèn)”。

● 只防護(hù)指定請(qǐng)求時(shí)

“防護(hù)模式”選擇“防護(hù)指定請(qǐng)求”,單擊“添加請(qǐng)求規(guī)則”,配置請(qǐng)求規(guī)則后,單擊“確認(rèn)”。

表1 JS腳本反爬蟲(chóng)參數(shù)說(shuō)明

參數(shù)
參數(shù)說(shuō)明
示例

規(guī)則名稱(chēng)

自定義規(guī)則名稱(chēng)。

waf

規(guī)則描述

可選參數(shù),設(shè)置該規(guī)則的備注信息。

-

生效時(shí)間

立即生效

立即生效

條件列表

條件設(shè)置參數(shù)說(shuō)明如下:

? 字段:在下拉列表中選擇需要防護(hù)的字段,當(dāng)前僅支持“路徑”、“User Agent”。

? 子字段

? 邏輯:在“邏輯”下拉列表中選擇需要的邏輯關(guān)系。

說(shuō)明:

選擇“包含任意一個(gè)”、“不包含所有”、“等于任意一個(gè)”、“不等于所有”、“前綴為任意一個(gè)”、“前綴不為所有”、“后綴為任意一個(gè)”或者“后綴不為所有”時(shí),“內(nèi)容”需要選擇引用表名稱(chēng),創(chuàng)建引用表的詳細(xì)操作請(qǐng)參見(jiàn)創(chuàng)建引用表。

? 內(nèi)容:輸入或者選擇條件匹配的內(nèi)容。

“路徑”包含“/admin/”

優(yōu)先級(jí)

設(shè)置該條件規(guī)則檢測(cè)的順序值。如果您設(shè)置了多條規(guī)則,則多條規(guī)則間有先后匹配順序,即訪問(wèn)請(qǐng)求將根據(jù)您設(shè)定的優(yōu)先級(jí)依次進(jìn)行匹配,優(yōu)先級(jí)較小的規(guī)則優(yōu)先匹配。

5

配置CC攻擊防護(hù)(限制訪問(wèn)頻率)

開(kāi)啟CC攻擊防護(hù),限制單個(gè)IP/Cookie/Referer訪問(wèn)者對(duì)您的網(wǎng)站上特定路徑(URL)的訪問(wèn)頻率,緩解CC攻擊對(duì)業(yè)務(wù)的影響。

1.登錄管理控制臺(tái)

2.單擊管理控制臺(tái)左上角的,選擇區(qū)域或項(xiàng)目。

3.單擊頁(yè)面左上方的,選擇“安全與合規(guī) > Web應(yīng)用防火墻 WAF”。

4.在左側(cè)導(dǎo)航樹(shù)中,選擇“網(wǎng)站設(shè)置”,進(jìn)入“網(wǎng)站設(shè)置”頁(yè)面。

5.在目標(biāo)域名所在行的“防護(hù)策略”欄中,單擊“已開(kāi)啟N項(xiàng)防護(hù)”,進(jìn)入“防護(hù)策略”頁(yè)面,確認(rèn)“CC攻擊防護(hù)”的“狀態(tài)”為“開(kāi)啟”

6.在“CC防護(hù)”規(guī)則配置頁(yè)面左上角,單擊“添加規(guī)則”。以IP限速和人機(jī)驗(yàn)證為例,添加IP限速規(guī)則,如圖8所示。

圖8 IP限速

設(shè)置成功后,當(dāng)用戶(hù)訪問(wèn)超過(guò)限制后需要輸入驗(yàn)證碼才能繼續(xù)訪問(wèn)。

開(kāi)啟該防護(hù)后,非瀏覽器的訪問(wèn)將不能獲取業(yè)務(wù)頁(yè)面。

WAF-網(wǎng)站反爬蟲(chóng)常見(jiàn)問(wèn)題解答

CDN怎么用常見(jiàn)問(wèn)題解答

  • 開(kāi)啟JS腳本反爬蟲(chóng)后,為什么客戶(hù)端請(qǐng)求獲取頁(yè)面失???

    開(kāi)啟JS腳本反爬蟲(chóng)后,當(dāng)客戶(hù)端發(fā)送請(qǐng)求時(shí),WAF會(huì)返回一段JavaScript代碼到客戶(hù)端。如果客戶(hù)端是正常瀏覽器訪問(wèn),就可以觸發(fā)這段JavaScript代碼再發(fā)送一次請(qǐng)求到WAF,即WAF完成JS驗(yàn)證,并將該請(qǐng)求轉(zhuǎn)發(fā)給源站,如圖1所示。

    圖1 JS腳本反爬蟲(chóng)正常檢測(cè)流程

    ? 如果客戶(hù)端是爬蟲(chóng)訪問(wèn),就無(wú)法觸發(fā)這段JavaScript代碼再發(fā)送一次請(qǐng)求到WAF,即WAF無(wú)法完成js驗(yàn)證。

    ? 如果客戶(hù)端爬蟲(chóng)偽造了WAF的認(rèn)證請(qǐng)求,發(fā)送到WAF時(shí),WAF將攔截該請(qǐng)求,js驗(yàn)證失敗

    須知:

    ? 開(kāi)啟JS腳本反爬蟲(chóng),要求客戶(hù)端瀏覽器具有JavaScript的解析能力,并開(kāi)啟了Cookie。

    ? 如果客戶(hù)端不滿(mǎn)足以上要求,則只能完成①和②,此時(shí)客戶(hù)端請(qǐng)求將不能成功獲取到頁(yè)面。

    請(qǐng)您排查業(yè)務(wù)側(cè)是否存在這種場(chǎng)景。如果您的網(wǎng)站有非瀏覽器訪問(wèn)的場(chǎng)景,建議您關(guān)閉JS腳本反爬蟲(chóng)功能。

  • 開(kāi)啟網(wǎng)站反爬蟲(chóng)中的“其他爬蟲(chóng)”會(huì)影響網(wǎng)頁(yè)的瀏覽速度嗎?

    在配置網(wǎng)站反爬蟲(chóng)的“特征反爬蟲(chóng)”時(shí),如果開(kāi)啟了“其他爬蟲(chóng)”,WAF將對(duì)各類(lèi)用途的爬蟲(chóng)程序(例如,站點(diǎn)監(jiān)控、訪問(wèn)代理、網(wǎng)頁(yè)分析)進(jìn)行檢測(cè)。開(kāi)啟該防護(hù),不影響用戶(hù)正常訪問(wèn)網(wǎng)頁(yè),也不影響用戶(hù)訪問(wèn)網(wǎng)頁(yè)的瀏覽速度。

    圖1 開(kāi)啟“其他爬蟲(chóng)”

    有關(guān)配置網(wǎng)站反爬蟲(chóng)的詳細(xì)操作,請(qǐng)參見(jiàn)配置網(wǎng)站反爬蟲(chóng)規(guī)則

  • JS腳本反爬蟲(chóng)的檢測(cè)機(jī)制是怎么樣的?

    JS腳本檢測(cè)流程如圖1所示,其中,①和②稱(chēng)為“js挑戰(zhàn)”,③稱(chēng)為“js驗(yàn)證”。

    圖1 JS腳本檢測(cè)流程說(shuō)明

    開(kāi)啟JS腳本反爬蟲(chóng)后,當(dāng)客戶(hù)端發(fā)送請(qǐng)求時(shí),WAF會(huì)返回一段JavaScript代碼到客戶(hù)端。

    ? 如果客戶(hù)端是正常瀏覽器訪問(wèn),就可以觸發(fā)這段JavaScript代碼再發(fā)送一次請(qǐng)求到WAF,即WAF完成js驗(yàn)證,并將該請(qǐng)求轉(zhuǎn)發(fā)給源站。

    ? 如果客戶(hù)端是爬蟲(chóng)訪問(wèn),就無(wú)法觸發(fā)這段JavaScript代碼再發(fā)送一次請(qǐng)求到WAF,即WAF無(wú)法完成js驗(yàn)證。

    ? 如果客戶(hù)端爬蟲(chóng)偽造了WAF的認(rèn)證請(qǐng)求,發(fā)送到WAF時(shí),WAF將攔截該請(qǐng)求,js驗(yàn)證失敗。

    通過(guò)統(tǒng)計(jì)“js挑戰(zhàn)”和“js驗(yàn)證”,就可以匯總出JS腳本反爬蟲(chóng)防御的請(qǐng)求次數(shù)。例如,圖2中JS腳本反爬蟲(chóng)共記錄了18次事件,其中,“js挑戰(zhàn)”(WAF返回JS代碼)為16次,“js驗(yàn)證”(WAF完成JS驗(yàn)證)為2次,“其他”(即爬蟲(chóng)偽造WAF認(rèn)證請(qǐng)求)為0次。

    圖2 JS腳本反爬蟲(chóng)防護(hù)數(shù)據(jù)

    須知:“js挑戰(zhàn)”和“js驗(yàn)證”的防護(hù)動(dòng)作為僅記錄,WAF不支持配置“js挑戰(zhàn)”和“js驗(yàn)證”的防護(hù)動(dòng)作。