搜索引擎的发展
1994-1997:雅虎诞生与SEO的诞生[ ]
1994年7月,Lucos推出了基于搜索机器人的数据发现技术,并支持搜索结果相关性排序额,它还第一次让搜索引擎能够使用网页自动摘要.
1995年底,Alta Vista推出,由于它具备大量的新的搜索功能,深受大众好评,Alta Vista是第一个支持自然语言搜索,具备了基于网页内容分析、智能处理的能力,第一个实现高级搜索语法的搜索引擎(如AND,OR,NOR等),同时还能搜索新闻群组中的内容,还能搜索图片。
这一阶段也是yahoo发展的初期阶段,大多数人在这个时候对搜索并不熟悉,也不太知道有搜索引擎这回事,但是对于yahoo,大多数人则有所了解,寻找网站就上Yahoo。所以,将你的网站送到Yahoo是很必要的,在此阶段,只要你的网站基本有个模样,有一定的可看性,一般只要向Yahoo提交地址,72小时内就能出现在Yahoo目录上。Yahoo对所有的网站进行人工归类,一般是按照字母顺序排列网站,自然开头为“A”的网站排到开头为“B”的前面,而有两个A的网站,排在有A和B的网站前面,比如,American Airlines的网站不仅排在Bank of America的前面,而且也排在American Basketball Association前面。所以,大批网站就以追求A字来命名。这是搜索引擎优化的雏形。这个逻辑和黄页电话号码的排名逻辑一样。
在这一阶段,Yahoo的栏目编辑们也在网上积极搜索新的网站,丰富他们的数据库,而他们的搜索都是人工的,最典型的方法就是从一个网站的链接去访问另外一个网站。遇到一个好的网站,他们就给站主发电子邮件,欢迎站主登录,而且都是免费的。
这些Yahoo都编辑访问网站的行为和我们今天看到的搜索引擎蜘蛛和机器人的形式是一样的孜孜不倦。有个Yahoo编辑这么关心你的网站,比你还着急登录你的网站,而且一文不收,这个在今天是无法想象的。你的网站登录后,你还可以随时更改登录的信息,一般72小时就得到了更新。
值得一提的是,虽然在这个时期中文网站很少,而且大多数是美国的中文网和在台湾的网站,但是Yahoo显然注意到中文网站的未来,而且迅速有个中文译名“雅虎”,而这个不仅仅是因为它的创始人是杨致远。
这一阶段也是SEO对雏形时期。网上网下出现了一些论文,讨论文字对应、数据挖掘和对搜索引擎程序员的访谈。人们初步有了让网页内容符合搜索引擎数据库原理的模糊意识。同样,将网站收录到搜索引擎也是很容易的,你的网页只要关键词的使用达到一定密度就轻而易举地排列在搜索引擎上了。
值得一提的是,搜索引擎InfoSeek首次做到每日更新。早晨八点你提交网站,下午就被收录,第二天就能出现在搜索之中。正是因为这么快的更新和折磨容易的提交到收录,大量的站主开始变着法子频繁登录不同的网址,英文出现Spam这个词来形容站住不负责地制造泛滥的垃圾,很快使这些搜索引擎吃不消。
所以,SEO从一开始就是黑白两道开始的。白的,英文里是white-hat,就是按照能够悟出的搜索引擎原理来合理地调整自己的网站,使搜索引擎能收录并得到好的曝光。黑道,英文叫black-hat,这类优化者仿佛是黑客,寻找搜索引擎的弱点,力图将混淆的信息强塞给搜索引擎,从而为真实的网站提高曝光机会。
这个时期,因为强大的利润诱惑,成人网站可以说是带头去“黑”搜索引擎。所以SEO和搜索引擎从一开始就是爱和恨的关系,这个时期,收费的网站优化服务也开始在美国出现。
在中文搜索引擎领域,中国的起步其实并不晚。1996年8月成立的搜狐公司是最早参与做类似Yahoo的我那管理信息分类导航的网站,曾一度有“出门找地图,上网找搜狐”的美誉。
这个时候,没有人注意在斯坦福大学的一个宿舍里,两个聪明的学生正在慢慢孕育一个令世界瞩目的新型搜索引擎。他们发明了一个新的叫PageRank的理论,来重新塑造搜索引擎。这个新型搜索引擎就是现在的Google。
1998-1999年:Google出现和SEO理论的浮现[ ]
这一阶段,美国的互联网大会开始有一些关于网站优化的文章发表。这些文章开始关注到链接流行度(Link Popularity)、名录网站链接(Directory Listing)的意义。这段时间,搜索引擎也知道了需要限制人们的网站提交来防止垃圾网站的泛滥,于是开始组织反击。
Alta Vista开始大规模剔除含有“我们来优化”或者“我们来推广”这类文字的网页。SEO的实践者开始意识到,要破解搜索引擎的原理越来越难。在1999年将一个网站提升到前十名要比在1998年难上十倍。搜索引擎开始更多关注链接流行度的意义。
Google也在1998年收到了第一张十万美元的风险投资,搬出了斯坦福校园,正式命名为Google公司,域名也从google.stanford.edu变成google.com。这个新的搜索引擎衡量网站的重要性首次将链接流行度作为排名的标准之一。
1999年5月,英国的FAST公司推出ALLTheWeb搜索引擎。它的网页搜索可利用 ODP自动分类,支持Flash和PDF文件搜索,支持多语言搜索,还提供新闻搜索、图像搜索、视频、MP3和FTP搜索,拥有极其强大的高级搜索功能。这么强大的功能使它成为最流行的搜索引擎之一。
这一阶段的初期,搜索引擎也开始了多元化的进程,开始设立多语种的网站,比如Alta Vista就率先开始了拉丁语的版本。台湾中正大学吴升教授所领导的GAIS实验室于1998年1月创立了OpenFind中文搜索引擎。它是最早开发的中文智能搜索引擎,号称能抓取全球最多的网页并开始进入英文搜索引擎。
1999年Google获得了两千五百万的资金,开始全力发展,并且已经在媒体处理50万次搜索,这个投资也使Google再次搬家到旧金山——硅谷地区较Palo Alto的城市。Google也开始结识合作伙伴,从AOL到Netscape不久,Google再次搬家到目前的全球总部依然是旧金山——硅谷叫 Mountain View的城市。这时候的搜索一千年开始设法控制市场,广告广泛地出现在搜索引擎上。这引起了许多搜索者的反感,因为大家还是在用56KB modem上网,大量的广告使网站页面出现太慢。
Google发现了这个影响搜索步伐的致命的问题。简洁的网页设计使众人耳目一新,飞快地搜索速度更使得各个站主奔走相告,每个站主论坛都充满了对Google的极好评价,杂志的采访也是接连不断地对Google进行推荐,Google的全面演出就正式登台了。
2000-2001年:百度的出现和搜索引擎的革新[ ]
从2000年开始,登录一个网站到搜索引擎花的时间是越来越长。搜索引擎热衷于收费服务,从一个新的搜索引擎Inktomi到Alta Vista都染上了金线。与此同时,搜索者希望有一个搜索引擎能真正地给他们带来有用的信息。Google没有辜负人民的期望,它的精确搜索开始巩固它在搜索引擎中的地位。
首先出局的是InfoSeek,这个InfoSeek在1998被迪士尼公司买下,变成 Go.com。从那以后,InfoSeek被抛弃,而Go.com也适用Yahoo搜索来代替。在1999年,InfoSeek的一位华人工程师离开了这个搜索引擎而驶向北京,他力图要创立一个“中国人自己”搜索引擎,并且受一句中国古词“众里寻她千百度,蓦然回首,那人却在灯火阑珊处”的启发,将中国人的搜索引擎起名叫“百度”。这个工程师就是百度的创始人之一—李彦宏。
李彦宏自己就是新一代的搜索技术专家,他早在1996年就解决了如何将基于网页质量的排序与基于相关性排序完美结合的问题,并获得美国专利。百度公司结合硅谷搜索引擎人才精英,依托北京最优秀的软件人才,开发了大型商业化的中文搜索引擎,中文搜索从此与英文搜索站在了同一起跑线上,同时,百度搜索巧妙地解决了数据更新的瓶颈,整个中文网页的数据库可以最快每天更新一次。
2000年也是Flash动画、ppJavaScript]]特技Rollover和动态图片的流行之年。这些动态的形式让人喜爱,但是很少有人知道,可惜搜索引擎却不能认识这些,搜索引擎只能阅读文字,而非这些感官的创意,因为它们一直是在模拟人的阅读方式,但是却无法模拟人的感知,直到今天,搜索引擎也没有解决这个问题。
从这一年开始,实际上,向搜索引擎呈交新的网站不需要按照以前那样在搜索引擎的页面上填写 “ADD URL”,搜索引擎已经能从一个存在的网站上发现新网站的链接来访问并收录。在这个时候,SEO实践者也开始知道,如果网站能被目录导航站(Directory),特别是开放目录ODP(Open Directory Project)收录,将非常有助于搜索排名的提升。最知名的ODP是DMOZ(www.dmoz.org),由尼克•斯冠塔河鲍勃•图尔两位Sun公司的工程师在1998年创办,它是一个人工来收录网站进行分类的目录网站。在这点上,它的组成和Yahoo市一样的。
不同的是,它是由全球的站主自己做编辑来维护的,而Yahoo是由专业编辑来维护的。关于DMOZ,搜索引擎青睐DMOZ,是因为经过人工分析的网站的可信度自然要高于搜索引擎蜘蛛和机器人来获取的网站信息可靠。
2001年的收费登录大为红火。搜索引擎市场经历大清洗,人们开始抛弃搜索引擎 Hotbot,Alta Vista和Excite。Alta Vista试图仿效Google方式来重新回到缩小版的搜索引擎,但是这个垂死挣扎非常痛苦的失败了,并在2003年被Yahoo收购。Inktomi也失去了好几个应用伙伴,急剧走下坡路,2004年同样被Yahoo收购,而且成为了今天Yahoo搜索的主要核心技术。
2002-2007年:Google Dance和SEO的不眠之夜[ ]
其实在2001年,敏感的占住和SEO实践者感觉到了一个从未有过的现象。有些人对网站在Google上帝排名一夜之间消失,而有的网站则名列首位。这个现象几乎是每月一次。后来,人们知道,这就是Google定期地更新它的索引(Index)的距离活动,给人的感觉就像跳舞一样,因此被SEO实践者称为Google Dance。
正是因为有Google Dance,每个SEO实践者都在Google更新的那个晚上熬夜地看自己的SEO成果能否在Google上实现。每次更新有赢家和输家,网上SEO论坛总有成千上万的讨论,期望知道下次更新能有什么可以预料的,或者猜测更新的具体日期。
搜索引擎在这个阶段中遇到更严重的泛滥问题。SEO实践者大量采用门户网页(Doorway Page)、镜像网页、隐藏链接(Hidden Links)等来试图欺骗Google。另外,DMOZ被Google作为一个重要的收录新网站的渠道,DMOZ也被注入许多垃圾网站。
2002年是大量SEO被滥用的一年。但是,搜索引擎从这些与SEO非法实践的斗争中不断丰富自己辨别的技术,对抓住的网站拒绝收录,已经收录的则给予剔除。但是这个封锁也冤枉路不少诚实的SEO网站。
在中国,百度于2001年9月开始提供公共搜索服务,并成功地使搜狐和新浪开始使用它的搜索技术。同时,它还提供新闻搜索服务,迅速扩大用户群。
2003年,越来越多的网站设计对Flash的应用有了谨慎的态度。这一年也是搜索引擎继续反击垃圾泛滥的一年。许多SEO实践者明白黑帽技术(black-hat)已经行不通,而是要扎扎实实地真正提高网站的素质。
Google在2003年更是挤掉了Alta Vista 和Inktomi,成为独大。Google诞生于一个搜索引擎纷杂的时代,在那个时代,像Alta Vista等搜索引擎对自己的市场份额太具信心而懒得变化。Google由各个站主和SEO实践者宣扬,从而一举后来居上。而现在,Google开始反击垃圾泛滥,矛头直接对向曾经支持它的这些站主和SEO实践者。这些人成了Google成功的牺牲品。
2003年的Google的“佛罗里达更新”(Florida Update)真是让全世界的站主领教了Google的厉害。倘若强烈飓风一般,Florida Update一夜之间让千万个网站从搜索中消失或者从前十名刮到100页以后。这个发生在11月16日的更新,尤其对寄希望在即将来临的圣诞节狠赚一笔的电子商务网站损失惨重。从现在来看,Google的这个更新是反击垃圾网站和不法SEO行为的一次重要战役。
然而,由于使用的过滤器(filter)不完美,冲击了很多无辜网站。之所以叫“佛罗里达更新”,是因为这个更新由Google在佛罗里达的数据中心开始的。
之后,2004年1月叫做“Austin Update”的余波同样也对相当多的网站造成冲击。霎时间,所以SEO实践者都突然摇身变成了Google Adwords的专家,大家不能不依靠Google广告来维持这段节日期间的销售。
关于这两个历史性的Google更新,给了许多SEO实践者相当大的教训。规规矩矩地从改善网站本身的素质而不是投机取巧,成为了SEO唯一可行的方法。PPC也稳定的成为营销策略中的重要手段,而SEO也成为搜索引擎营销(SEM)的一部分。