|
Facebook的數(shù)據(jù)規(guī)模使得很多傳統(tǒng)的解決方案根本不適用，或者無法分解來處理。保持一個擁有5億用戶的系統(tǒng)一直穩(wěn)定可靠的運行，并不是一件很容易的事情。這篇文章介紹了一下Facebook使用的軟件。 Facebook的擴展性挑戰(zhàn) 在我們討論細節(jié)之前，這里有一些Facebook已經(jīng)做的軟件規(guī)模： > Facebook有570000000000每月頁面瀏覽量 （據(jù)Google Ad Planner）。 > Facebook的照片量比其他所有圖片網(wǎng)站加起來還多（包括Flickr等網(wǎng)站）。 > 每個月超過30億張照片被上傳。 > Facebook的系統(tǒng)服務(wù)每秒處理120萬張照片 。 這不包括CDN服務(wù)中處理的照片。 > 每月超過25億條的內(nèi)容 （狀態(tài)更新，評論等）被共享。 > Facebook有超過30,000服務(wù)器 （這個數(shù)字是去年的?。?/p> Facebook擴展所依賴的軟件 Facebook是在某些程度上說仍然是LAMP的站點，但它比普通的LAMP大得多，以納入其他元素和很多服務(wù)，并修改現(xiàn)行的做法。 例如： > Facebook也使用PHP，但它已經(jīng)為它建立一個編譯器，以便它可以分為本地代碼打開了Web服務(wù)器，從而提高性能。 > Facebook也使用Linux，但它特別為網(wǎng)絡(luò)吞吐量做了優(yōu)化。 > Facebook也使用MySQL，但主要是作為一個Key-value的持久性存儲，Jions和服務(wù)器邏輯操作在Web服務(wù)器上操作。因為在那里更容易執(zhí)行。 > 還有是自編寫的系統(tǒng)，如Haystack，一個高度可擴展的對象存儲，用來存儲Facebook的照片。還有Scribe，一個日志系統(tǒng)，可以運行在Facebook的巨大規(guī)模上的日志系統(tǒng)。 OK?，F(xiàn)在 我們介紹一下全球最大的社會網(wǎng)絡(luò)網(wǎng)站的所使用的軟件吧。 Memcached memcached的是現(xiàn)在互聯(lián)網(wǎng)最有名的軟件之一了。 這是一個分布式內(nèi)存緩存系統(tǒng)，用來作為Web服務(wù)器和MySQL服務(wù)器之間的緩存層（因為數(shù)據(jù)庫訪問比較慢）。 多年以來，F(xiàn)acebook已經(jīng)提出了一些優(yōu)化Memcached和一些周邊軟件的辦法。如壓縮network stack。 Facebook的每時每刻都有數(shù)10TB的數(shù)據(jù)緩存在Memcached的數(shù)千臺服務(wù)器上。 它可能是世界上最大的Memcached的集群了。 HipHop for PHP PHP作為一種腳本語言，和本地程序相比是運行緩慢的。 HipHop可以將PHP轉(zhuǎn)換成C++代碼，然后再進行編譯，可以獲得更好的性能。 因為Facebook嚴重依賴PHP，這使得其可以讓Web服務(wù)器運行的更有效率。 一個工程師小團隊在Facebook（一開始只有三人）花了18個月時間開發(fā)HipHop，現(xiàn)在已經(jīng)是可用狀態(tài)。 Haystack Haystack是Facebook的高性能照片存儲/檢索系統(tǒng)（嚴格來說，是一個對象存儲，因此它并不一定要存儲照片）。 它有許多工作要做;有超過20億張上傳的照片，并且每一個被保存在四個不同的分辨率，因此有超過800億張照片。 它不僅是對能夠處理的上億的照片，運行表現(xiàn)也是至關(guān)重要的。 正如我們前面提到的，F(xiàn)acebook的服務(wù)約120萬張照片每秒 ，這個數(shù)字不包括CDN上的。 這是一個驚人的數(shù)字。 BigPipe BigPipe是Facebook開發(fā)的一個動態(tài)的網(wǎng)頁服務(wù)系統(tǒng)。 Facebook使用它來按section(稱為“pagelets”)處理每個網(wǎng)頁，以獲取最佳性能。 例如，在聊天窗口是分開的，新聞Feed也是分開的，等等。 這些pagelets可以在一個頁面表現(xiàn)的時候同時使用，這是該頁面表現(xiàn)的時候獲取進來的。即使某些工程的一部分關(guān)閉或中端，用戶也可以獲得一部分網(wǎng)頁。 Cassandra Cassandra是一個不會單點失敗的分布式存儲系統(tǒng)。 這是為NoSQL運動的一個重要組成部分，并已公開的源代碼（它甚至成為一個Apache項目）。Facebook在搜索功能中使用它。 除了Facebook，還有一些人也用它，例如Digg的。 不過最近Twitter放棄了cassandra。 Scribe Scribe是一個靈活的日志系統(tǒng)，F(xiàn)acebook在他的內(nèi)部大量使用。 它的能夠處理在Facebook的大規(guī)模日志記錄，并自動處理新的日志記錄類別,Facebook有數(shù)百個日志類別(categories)。 Hadoop and Hive Hadoop的是一個開源的map-reduce實現(xiàn)，使得它可以在進行大數(shù)據(jù)上進行運算。 Facebook的使用這個進行數(shù)據(jù)分析（而我們都知道，F(xiàn)acebook已經(jīng)大量的數(shù)據(jù)）。 Hive就是發(fā)源于Facebook，使得對于Hadoop使用的SQL查詢成為可能，從而是其更容易對非程序員使用。 Hadoop和Hive是開源的（Apache項目），有為數(shù)眾多的追隨者，例如雅虎和Twitter。 Thrift Facebook使用的幾種不同的語言和不同的services。 PHP是最終用于前端，Erlang是用于聊天，Java和C ++也使用于多種場所，也許還有其他語言。Thrift是一個內(nèi)部開發(fā)的跨語言的框架，聯(lián)系語言，使他們可以在一起合作，從而使他們之間可以交互。 這使得Facebook可以更容易為繼續(xù)保持其跨語言的發(fā)展。 Facebook已經(jīng)讓Thrift開源。更多的語言支持已被添加到Thrift。 Varnish Varnish是一個HTTP加速器，可以作為一個負載平衡器，并緩存的內(nèi)容，然后可以以閃電般的速度送達。 Facebook使用的arnish來處理照片和個人資料圖片，處理每天數(shù)十億的要求。 和其他的東西一樣，Varnish是開源的。 保持Facebook 順暢運行的其他東西。 我們已經(jīng)提到的軟件，組成了Facebook的系統(tǒng)，并幫助運行在大規(guī)模上。 但是，處理這么大的系統(tǒng)是一個復雜的任務(wù)，因此我們將列出一些其他的東西，他們保持了Facebook的平穩(wěn)運行。 漸進發(fā)布和暗啟動 Facebook有一個他們所謂的守門人制度（Gatekeeper），允許他們可以給不同的用戶運行兩套不同的系統(tǒng)。 這讓Facebook漸進的發(fā)布新的功能，A / B測試，只為Facebook雇員發(fā)布等的某些特性。 Profiling的直播系統(tǒng) Facebook的仔細監(jiān)控其系統(tǒng)，有趣的是它也負責監(jiān)察每一個PHP函數(shù)在生產(chǎn)環(huán)境的性能。 檢測各個PHP的環(huán)境的配置運行情況。使用開源工具，XHProf 。 漸進的利用關(guān)閉功能來提升性能 如果Facebook運行時出現(xiàn)性能問題，有一個辦法，就是逐步禁用不太重要的功能，以增強Facebook的大量核心功能表現(xiàn)。 我們沒有提及的事情 我們沒有提到硬件相關(guān)的事情，但這也是提高可伸縮性的重要一環(huán)。例如，就像其他大型站點，F(xiàn)acebook利用CDN來處理靜態(tài)內(nèi)容。Facebook還有一個the huge data center，可以幫助他擴展更多的服務(wù)。 Facebook的開源情節(jié) 不僅是Facebook使用（和幫助），如Linux，Memcached的，MySQL和Hadoop的開源軟件，以及許多其他情況下，也貢獻許多了其內(nèi)部開發(fā)的軟件。 Facebook亦開源了Tornado，一個高性能的網(wǎng)絡(luò)服務(wù)器框架，由FriendFeed團隊開發(fā)。 關(guān)于開放源碼軟件清單，可以在Facebook’s Open Source page找到。 本文來自：顏開的博客——我自然 原文標題：Facebook背后的軟件 譯文鏈接：http://www./ |
|
|
