一,開頭分析
所謂緩衝區Buffer,就是 "臨時存貯區" 的意思,是暫時存放輸入輸出資料的一段記憶體。
JS語言本身只有字串資料類型,沒有二進位資料類型,因此NodeJS提供了一個與String對等的全域建構子Buffer來提供對二進位資料的運算。除了可以讀取檔案得到Buffer的實例外,還能夠直接構造,例如:
Buffer與字串類似,除了可以用.length屬性得到位元組長度外,還可以用[index]方式讀取指定位置的位元組,例如:
Buffer與字串能夠互相轉化,例如可以使用指定編碼將二進位資料轉化為字串:
將字串轉換為指定編碼下的二進位資料:
一點兒區別:
Buffer與字串有一個重要差異。字串是唯讀的,並且對字串的任何修改得到的都是一個新字串,原始字串保持不變。
至於Buffer,更像是可以做指標操作的C語言陣列。例如,可以用[index]方式直接修改某個位置的位元組。
----------------------------------------------- -------------------------------------------------- -------------------------------------------------- -------------------------------------------------- --------------------------------
slice方法也不是傳回一個新的Buffer,而更像是傳回了指向原Buffer中間的某個位置的指針,如下所示。
[ 0x68, 0x65, 0x6c, 0x6c, 0x6f ]
^ ^
| |
bin bin.slice(2)
因此slice方法回傳的Buffer的修改會作用於原Buffer,例如:
如果想要拷貝一份Buffer,得先建立一個新的Buffer,並透過.copy方法把原Buffer中的資料複製過去。
這個類似於申請一塊新的內存,並把已有內存中的資料複製過去。以下是一個例子。
總之,Buffer將JS的資料處理能力從字串擴展到了任意二進位資料。
以上簡單讓大家了解什麼是Buffer,以下具體說如何使用和具體使用場景。
二,聊聊Buffer
JavaScript對字串處理十分友好,無論是寬位元組還是單字節字串,都被認為是一個字串。 Node需要處理網路協定、操作資料庫、處理圖片、檔案上傳等,還需要處理大量二進位數據,自帶的字串遠遠不能滿足這些要求,因此Buffer應運而生。
Buffer結構
Buffer是一個典型的Javascript和C 結合的模組,性能相關部分用C 實現,非性能相關部分用javascript實現。
Node在進程啟動時Buffer就已經加裝進入內存,並將其放入全域對象,因此無需require
Buffer物件:類似數組,其元素是16進制的兩位數。
Buffer記憶體分配
Buffer物件的記憶體分配不是在V8的堆記憶體中,在Node的C 層級實現記憶體的申請。
為了高效的使用申請來得內存,Node中採用slab分配機制,slab是一種動態內存管理機制,應用各種*nix作業系統。 slab有三種狀態:
(1) full:完全分配狀態
(2) partial:部分分配狀態
(3) empty:沒有被分配狀態
Buffer的轉換
Buffer物件可以和字串相互轉換,支援的編碼類型如下:
ASCII、UTF-8、UTF-16LE/UCS-2、Base64、Binary、Hex
字串轉Buffer
new Buffer(str, [encoding]),預設UTF-8
buf.write(string, [offset], [length], [encoding])
Buffer轉字串
buf.toString([encoding], [start], [end])
Buffer不支援的編碼類型
透過Buffer.isEncoding(encoding)判斷是否支持
iconv-lite:純JavaScript實現,更輕,性能更好無需C 到javascript的轉換
iconv:呼叫C 的libiconv函式庫完成
Buffer的拼接
注意"res.on('data', function(chunk) {})",其中的參數chunk是Buffer對象,直接用拼接會自動轉換為字串,對於寬字節字元可能會導致亂碼產生,
解決方法:
(1) 透過可讀流中的setEncoding()方法,此方法可以讓data事件傳遞不再是Buffer對象,而是編碼後的字串,其內部使用了StringEncoder模組。
(2) 將Buffer物件暫存到陣列中,最後在組裝成一個大Buffer讓後編碼轉換為字串輸出。
Buffer在檔案I/O和網路I/O中廣泛應用,其效能舉足輕重,比普通字串效能高出很多。
Buffer的使用除了與字串的轉換有效能損耗外,在檔案讀取時候,有一個highWaterMark設定對效能影響至關重要。
a,highWaterMark設定對Buffer記憶體的分配與使用有一定影響。
b, highWaterMark設定太小,可能導致系統呼叫次數過多。
什麼時候該用buffer,什麼時候不該用 ------ 純粹的javascript支持unicode碼而對二進位不是很支持,當解決TCP流或文件流的時候,處理流是有必要的,我們保存非utf-8字串,2進位等等其他格式的時候,我們就必須得使用」Buffer“ 。
三,實例引入
以下是運行結果:
讀取速度肯定string更快,buffer還需要toString()的操作。 所以我們在保存字串的時候,該用string還是要用string,就算大字串拼接string的速度也不會比buffer慢。
那什麼時候我們又需要用buffer呢?沒辦法的時候,當我們保存非utf-8字串,2進位等等其他格式的時候,我們就必須得使用了。
四,總結一下
(1),JavaScript適合處理Unicode編碼數據,但對二進位數據的處理並不友善。
(2),所以處理TCP流或檔案系統時,對八位元組流的處理很有必要。
(3),Node有幾個用於處理,創建和消耗八位元組流的方法。
(4),原始資料存放在一個Buffer實例中,一個Buffer類似一個整數數組,但是它的內存,分配在V8堆疊外。一個Buffer的大小是不能更改的。
(5),處理的編碼類型有:ascii,utf8,utf16le,ucs2(utf16le的別名),base64,binary,hex。
(6),Buffer為全域元素,直接new Buffer()就得到一個Buffer實例。