首頁 > web前端 > js教程 > 使用Node.js處理前端程式碼檔案的編碼問題_node.js

使用Node.js處理前端程式碼檔案的編碼問題_node.js

WBOY
發布: 2016-05-16 15:15:14
原創
1653 人瀏覽過

使用 NodeJS 編寫前端工具時,操作得最多的是文字文件,因此也就涉及了文件編碼的處理問題。我們常用的文字編碼有 UTF8 和 GBK 兩種,而 UTF8 檔案也可能帶有 BOM。在讀取不同編碼的文字檔案時,需要將檔案內容轉換為 JS 使用的 UTF8 編碼字串後才能正常處理。

BOM 的移除
BOM 用於標記一個文字檔案使用 Unicode 編碼,其本身是一個 Unicode 字元("uFEFF"),位於文字檔案頭部。在不同的 Unicode 編碼下,BOM 字元對應的二進位位元組如下:

  Bytes   Encoding
----------------------------
  FE FF    UTF16BE
  FF FE    UTF16LE
  EF BB BF  UTF8
登入後複製

因此,我們可以根據文字檔案頭幾個位元組等於啥來判斷檔案是否包含 BOM,以及使用哪種 Unicode 編碼。但是,BOM 字元雖然起到了標記檔案編碼的作用,其本身卻不屬於檔案內容的一部分,如果讀取文字檔案時不去掉 BOM,在某些使用場景下就會有問題。例如我們把幾個 JS 檔案合併成一個檔案後,如果檔案中間含有 BOM 字符,就會導致瀏覽器 JS 語法錯誤。因此,使用 NodeJS 讀取文字檔時,一般需要去掉 BOM。例如,以下程式碼實現了識別和去除 UTF8 BOM 的功能。

function readText(pathname) {
  var bin = fs.readFileSync(pathname);

  if (bin[0] === 0xEF && bin[1] === 0xBB && bin[2] === 0xBF) {
    bin = bin.slice(3);
  }

  return bin.toString('utf-8');
}

登入後複製

GBK 轉 UTF8
NodeJS 支援在讀取文字檔案時,或在 Buffer 轉換為字串時指定文字編碼,但遺憾的是,GBK 編碼不在NodeJS自身支援範圍內。因此,一般我們會用 iconv-lite 這個三方套件來轉換編碼。使用 NPM 下載套件後,我們可以按邊方式編寫一個讀取 GBK 文字檔案的函數。

var iconv = require('iconv-lite');

function readGBKText(pathname) {
  var bin = fs.readFileSync(pathname);

  return iconv.decode(bin, 'gbk');
}

登入後複製

單字節編碼
有時候,我們無法預知需要讀取的檔案採用哪一種編碼,因此也就無法指定正確的編碼。例如我們要處理的某些 CSS 檔案中,有的用 GBK 編碼,有的用 UTF8 編碼。雖然可以一定程度可以根據文件的位元組內容猜測出文字編碼,但這裡要介紹的是有些局限,但是要簡單得多的一種技術。

首先我們知道,如果一個文字檔案只包含英文字符,例如 Hello World,那麼無論用 GBK 編碼或是 UTF8 編碼讀取這個檔案都是沒問題的。這是因為在這些編碼下,ASCII0~128 範圍內字元都使用相同的單字節編碼。

反過來講,即使一個文本文件中有中文等字符,如果我們需要處理的字符僅在ASCII0~128 範圍內,比如除了註釋和字符串以外的JS代碼,我們就可以統一使用單字節編碼來讀取文件,不用關心文件的實際編碼是GBK 還是UTF8。以下範例說明了這種方法。

1. GBK編碼原始檔內容:

  var foo = '中文';

登入後複製

2. 對應位元組:

  76 61 72 20 66 6F 6F 20 3D 20 27 D6 D0 CE C4 27 3B

登入後複製

3. 使用單字節編碼讀取後得到的內容:

  var foo = '{乱码}{乱码}{乱码}{乱码}';

登入後複製

4. 替換內容:

  var bar = '{乱码}{乱码}{乱码}{乱码}';

登入後複製

5. 使用單字節編碼儲存後對應位元組:

  76 61 72 20 62 61 72 20 3D 20 27 D6 D0 CE C4 27 3B

登入後複製

6. 使用 GBK 編碼讀取後得到內容:

  var bar = '中文';
登入後複製

這裡的訣竅在於,不管大於 0xEF 的單個字節在單字節編碼下被解析成什麼亂碼字符,使用同樣的單字節編碼保存這些亂碼字符時,背後對應的字節保持不變。

NodeJS 中自帶了一種 binary 編碼可以用來實現這個方法,因此在下例中,我們使用這種編碼來演示上例對應的程式碼該怎麼寫。

function replace(pathname) {
  var str = fs.readFileSync(pathname, 'binary');
  str = str.replace('foo', 'bar');
  fs.writeFileSync(pathname, str, 'binary');
}
登入後複製

相關標籤:
來源:php.cn
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
最新問題
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板