八爪魚采集器

八爪魚采集器是任何一個(gè)需要從網(wǎng)頁獲取信息的孩紙必備的一款神器，這個(gè)是一款可以讓你的信息采集可以變得很簡(jiǎn)單的工具。八爪魚轉(zhuǎn)變了傳統(tǒng)對(duì)于網(wǎng)絡(luò)上的數(shù)據(jù)思維方法，它讓用戶在網(wǎng)上抓取資料編的更加簡(jiǎn)單和容易了

八爪魚采集器特色

滿足多種業(yè)務(wù)場(chǎng)景

適合產(chǎn)品、運(yùn)營(yíng)、銷售、數(shù)據(jù)分析、政府機(jī)關(guān)、電商從業(yè)者、學(xué)術(shù)研究等多種身份職業(yè)

輿情監(jiān)控

全方位監(jiān)測(cè)公開信息，搶先獲取輿論趨勢(shì)

市場(chǎng)分析

獲取用戶真實(shí)行為數(shù)據(jù)，全面把握顧客真實(shí)需求

產(chǎn)品研發(fā)

強(qiáng)力支撐用戶調(diào)研，準(zhǔn)確獲取用戶反饋和偏好

風(fēng)險(xiǎn)預(yù)測(cè)

高效信息采集和數(shù)據(jù)清洗，及時(shí)應(yīng)對(duì)系統(tǒng)風(fēng)險(xiǎn)

八爪魚采集器功能介紹

簡(jiǎn)易采集

簡(jiǎn)易采集模式內(nèi)置上百種主流網(wǎng)站數(shù)據(jù)源，如京東、天貓、大眾點(diǎn)評(píng)等熱門采集網(wǎng)站，只需參照模板簡(jiǎn)單設(shè)置參數(shù)，就可以快速獲取網(wǎng)站公開數(shù)據(jù)。

智能采集

八爪魚采集可根據(jù)不同網(wǎng)站，提供多種網(wǎng)頁采集策略與配套資源，可自定義配置，組合運(yùn)用，自動(dòng)化處理。從而幫助整個(gè)采集過程實(shí)現(xiàn)數(shù)據(jù)的完整性與穩(wěn)定性。

云采集

由5000多臺(tái)云服務(wù)器支撐的云采集，7*24小時(shí)不間斷運(yùn)行，可實(shí)現(xiàn)定時(shí)采集，無需人員值守，靈活契合業(yè)務(wù)場(chǎng)景，幫你提升采集效率，保障數(shù)據(jù)時(shí)效性。

API接口

通過八爪魚API，可以輕松獲取八爪魚任務(wù)信息和采集到的數(shù)據(jù)，靈活調(diào)度任務(wù)，比如遠(yuǎn)程控制任務(wù)啟動(dòng)與停止，高效實(shí)現(xiàn)數(shù)據(jù)采集與歸檔?；趶?qiáng)大的API體系，還可以無縫對(duì)接公司內(nèi)部各類管理平臺(tái)，實(shí)現(xiàn)各類業(yè)務(wù)自動(dòng)化。

自定義采集

針對(duì)不同用戶的采集需求，八爪魚可提供自動(dòng)生成爬蟲的自定義模式，可準(zhǔn)確批量識(shí)別各種網(wǎng)頁元素，還有翻頁、下拉、ajax、頁面滾動(dòng)、條件判斷等多種功能，支持不同網(wǎng)頁結(jié)構(gòu)的復(fù)雜網(wǎng)站采集，滿足多種采集應(yīng)用場(chǎng)景。

便捷定時(shí)功能

簡(jiǎn)單幾步點(diǎn)擊設(shè)置，即可實(shí)現(xiàn)采集任務(wù)的定時(shí)控制，不論是單次采集的定時(shí)設(shè)置，還是預(yù)設(shè)某一天或是每周每月的定時(shí)采集，都可以同時(shí)對(duì)多個(gè)任務(wù)自由進(jìn)行設(shè)置，根據(jù)需要對(duì)選擇時(shí)間進(jìn)行多重組合，靈活調(diào)配自己的采集任務(wù)。

全自動(dòng)數(shù)據(jù)格式化

八爪魚內(nèi)置了強(qiáng)大的數(shù)據(jù)格式化引擎，支持字符串替換、正則表達(dá)式替換或匹配、去除空格、添加前綴或后綴、日期時(shí)間格式化、HTML轉(zhuǎn)碼等多項(xiàng)功能，采集過程中全自動(dòng)處理，無需人工干預(yù)，即可得到所需格式數(shù)據(jù)。

多層級(jí)采集

很多主流新聞、電商類的網(wǎng)站，里面包含一級(jí)商品列表頁，也包含二級(jí)商品詳情頁，還有三級(jí)評(píng)論詳情頁面；不論網(wǎng)站有多少層級(jí)，八爪魚都可以不限制層級(jí)的采集數(shù)據(jù)，滿足各類業(yè)務(wù)采集需求。

支持網(wǎng)站登錄后采集

八爪魚內(nèi)置了采集登錄模塊，只需配置目標(biāo)網(wǎng)站的賬號(hào)密碼，即可用該模塊采集到登錄后的數(shù)據(jù)；同時(shí)八爪魚還具備采集Cookie自定義功能，首次登錄以后，可以自動(dòng)記住cookie，免去多次輸入密碼的繁瑣，支持更多網(wǎng)站的采集。

八爪魚采集器使用方法

先我們新建一個(gè)任務(wù)-->進(jìn)入流程設(shè)計(jì)頁面-->添加一個(gè)循環(huán)步驟到流程中-->選中循環(huán)步驟-->勾選上軟件右方的URL 列表勾選框-->打開URL列表文本框-->將準(zhǔn)備好的URL列表填寫到文本框中

接下來往循環(huán)中拖入一個(gè)打開網(wǎng)頁的步驟-->選中打開網(wǎng)頁步驟-->勾選上使用當(dāng)前循環(huán)里的URL作為導(dǎo)航地址-->點(diǎn)擊保存。系統(tǒng)會(huì)在界面下方的瀏覽器中打開循環(huán)中選中的URL對(duì)應(yīng)的網(wǎng)頁

到這里，循環(huán)打開網(wǎng)頁的流程就配置完成了，運(yùn)行流程的時(shí)候，系統(tǒng)會(huì)逐個(gè)的打開循環(huán)中設(shè)置的URL。最后我們不需要配置一個(gè)采集數(shù)據(jù)的步驟，這里就不在多講，大家可以參考從入門到精通系列1：采集單個(gè)網(wǎng)頁 這篇文章。下圖就是最終和流程

下面是流程最終的運(yùn)行結(jié)果

八爪魚采集器更新日志

頁面無內(nèi)容更新時(shí)，可提前結(jié)束滾動(dòng)。

自動(dòng)跳過無效的翻頁操作。

支持瀑布流網(wǎng)頁的邊滾動(dòng)邊采集。

支持網(wǎng)頁的邊點(diǎn)擊加載更多內(nèi)容，邊采集。

自動(dòng)識(shí)別支持在列表項(xiàng)、詳情信息等結(jié)果之間切換。