1、頁面抓取需要快而全面
我們知道，互聯(lián)網(wǎng)是一個動態(tài)的內(nèi)容更新，每天都會有很多人在互聯(lián)網(wǎng)上發(fā)布新內(nèi)容，或者更新老內(nèi)容，搜索引擎就是要從這些海量的信息中抓取符合用戶搜索意圖的網(wǎng)頁，面對已經(jīng)存在的海量信息而且每秒鐘還在幾何級增長的信息量，搜索引擎的工作量是非常大的，搜索引擎程序每更新一次程序要花許多時(shí)間的，特別是在剛誕生的時(shí)候，更新的周期有時(shí)候竟然能達(dá)到幾個月更新一次，試想一下，在幾月內(nèi)又會有多少網(wǎng)頁更新和新產(chǎn)生了呢?這樣的搜索結(jié)果往往是滯后的。
要想返回最好的搜索結(jié)果，搜索蜘蛛必須抓取盡量比較全面的網(wǎng)頁，這就需要搜索引擎解決許多技術(shù)上的問題。也是它面臨的主要挑戰(zhàn)。
2、海量存儲數(shù)據(jù)
互聯(lián)網(wǎng)上的信息是巨大的，大的幾乎你不能想像，而且每天還會有許多新的信息產(chǎn)生，搜索引擎再抓取了這些頁面后，還必須以一定的數(shù)據(jù)格式存儲起來，數(shù)據(jù)結(jié)構(gòu)要求合理，而且要具備非常高的擴(kuò)展性。數(shù)據(jù)寫入速度要很快，訪問的速度也經(jīng)足夠快。
搜索引擎除了要存儲大量的頁面本身信息外，為了更好的進(jìn)行索引及排序，還必須要存儲頁面與頁面之間的鏈接關(guān)系，頁面的歷史數(shù)據(jù)，以及許多索引信息。這些數(shù)據(jù)量都是非常巨大的。這樣大規(guī)模的數(shù)據(jù)存儲和讀取肯定存在很多技術(shù)方面的挑戰(zhàn)。
3、索引處理快速有效，而且要有可擴(kuò)展性
搜索引擎將頁面數(shù)據(jù)抓取和存儲后，還要進(jìn)行許多頁面的索引處理。例如頁面之間鏈接關(guān)系的計(jì)算，正向索引、反向索引等。例如還有谷歌的PR計(jì)算等，搜索引擎必須進(jìn)行大量的索引工作才能快速的返回搜索結(jié)果，而且進(jìn)行索引的過程中，還有大量的新頁面在產(chǎn)生，搜索引擎的索引處理程序還要有比較好的擴(kuò)展性。
4、查詢處理快速準(zhǔn)確
前邊那幾步都是在搜索引擎的后臺程序運(yùn)行的，而查詢階段是用戶能夠看到結(jié)果的一個步驟。我們在搜索引擎的搜索框中輸入關(guān)鍵詞點(diǎn)擊搜索后，往往不到一秒鐘時(shí)間搜索引擎就能夠返回結(jié)果給我們，雖然表面看起來簡單，可是對于搜索引擎來說，卻是一個非常復(fù)雜的過程。里邊牽涉很多算法。它需要在不到一秒的時(shí)間內(nèi)快速從符合基本條件的網(wǎng)頁中找到合理的頁面，排名在搜索引擎的前邊。
本信息由重慶網(wǎng)站建設(shè)公司提供。http://www.xinkangbao.net/index.asp |
