Maison > interface Web > js tutoriel > le corps du texte

Explication détaillée de certaines utilisations négligées de Buffer dans Node.js

黄舟
Libérer: 2017-03-28 14:23:53
original
1575 Les gens l'ont consulté

Articles en ligne sur l'utilisation de Buffer dans Node.js Il y en a beaucoup, mais je pense qu'ils ne sont pas encore assez détaillés, donc cet article présente principalement quelques utilisations de Buffer dans Node.js que vous ne connaissez peut-être pas. L'article le présente en détail. Les amis qui en ont besoin peuvent s'y référer. .Jetons un coup d'œil ensemble.

Préface

Dans la plupart des articles présentant Buffer, ils se concentrent principalement sur les deux aspects de l'épissage des données et. allocation de mémoire. Lors de l'utilisation du module fs pour lire le contenu du fichier , un Buffer est renvoyé :

fs.readFile('filename', function (err, buf) {
 // <Buffer 2f 2a 2a 0a 20 2a 20 53 75 ... >
});
Copier après la connexion

Lors de l'utilisation du module net ou http pour recevoir des données réseau, les données event< Le paramètre de 🎜> est également un Buffer À ce stade, nous devons également utiliser pour l'épissage des données : Buffer.concat()

var bufs = [];
conn.on(&#39;data&#39;, function (buf) {
 bufs.push(buf);
});
conn.on(&#39;end&#39;, function () {
 // 接收数据结束后,拼接所有收到的 Buffer 对象
 var buf = Buffer.concat(bufs);
});
Copier après la connexion
Vous pouvez également utiliser

pour convertir en base64. ou des caractères hexadécimaux. Par exemple : Buffer.toString()

console.log(new Buffer(&#39;hello, world!&#39;).toString(&#39;base64&#39;));
// 转换成 base64 字符串:aGVsbG8sIHdvcmxkIQ==

console.log(new Buffer(&#39;aGVsbG8sIHdvcmxkIQ==&#39;, &#39;base64&#39;).toString());
// 还原 base64 字符串:hello, world!

console.log(new Buffer(&#39;hello, world!&#39;).toString(&#39;hex&#39;));
// 转换成十六进制字符串:68656c6c6f2c20776f726c6421

console.log(new Buffer(&#39;68656c6c6f2c20776f726c6421&#39;, &#39;hex&#39;).toString());
// 还原十六进制字符串:hello, world!
Copier après la connexion
Généralement, un seul processus Node.js a une limite de mémoire maximale. Voici une explication tirée de la documentation officielle :

Quelle est la mémoire. limite sur un processus de nœud ?

Actuellement, par défaut, la v8 a une limite de mémoire de 512 Mo sur les systèmes 32 bits et de 1,4 Go sur les systèmes 64 bits. La limite peut être augmentée en définissant --max_old_space_size sur un. maximum de ~1024 (~1 Go) (32 bits) et ~4096 (~4 Go) (64 bits), mais il est recommandé de diviser votre processus unique en plusieurs nœuds de calcul si vous atteignez les limites de mémoire.

En raison de L'espace mémoire occupé par l'objet Buffer n'est pas pris en compte dans la limite d'espace mémoire du processus Node.js. Par conséquent, nous utilisons souvent Buffer pour stocker des données qui nécessitent une grande quantité de mémoire :

<. 🎜>Ce qui précède est Buffer. Cependant, en lisant la documentation de l'API de Buffer, nous trouverons plus d'API commençant par
// 分配一个 2G-1 字节的数据
// 单次分配内存超过此值会抛出异常 RangeError: Invalid typed array length
var buf = new Buffer(1024 * 1024 * 1024 - 1);
Copier après la connexion
et

, comme suit : readXXX()writeXXX()

    readUIntLE(. offset, byteLength[, noAssert])
  • buf.readUIntBE(offset, byteLength[, noAssert])
  • buf.readIntLE(offset, byteLength[, noAssert])
  • buf.readIntBE(offset, byteLength[, noAssert])
  • buf.readUInt8(offset[ , noAssert ])
  • buf.readUInt16LE(offset[, noAssert])
  • buf.readUInt16BE(offset[, noAssert])
  • buf.readUInt32LE(offset[, noAssert])
  • buf.readUInt32BE(offset[, noAssert])
  • buf.readInt8(offset[, noAssert])
  • buf.readInt16LE(offset[, noAssert])
  • readInt16BE( offset[, noAssert])
  • buf.readInt32LE(offset[, noAssert])
  • buf.readInt32BE(offset[, noAssert] ] )
  • buf.readFloatLE(offset[, noAssert])
  • buf.readFloatBE(offset[, noAssert])
  • buf.readDoubleLE(offset[, noAssert])
  • buf.readDoubleBE(offset[, noAssert])
  • buf.write(string[, offset][, length][, encoding])
  • buf.writeUIntLE(value, offset, byteLength[, noAssert])
  • buf.writeUIntBE(value, offset, byteLength[, noAssert])
  • buf.writeIntLE(value, offset, byteLength[, noAssert])
  • buf.writeIntBE(value, offset, byteLength[, noAssert])
  • buf.writeUInt8(value, offset[, noAssert])
  • buf.writeUInt16LE(value, offset[, noAssert])
  • buf.writeUInt16BE(value, offset[, noAssert])
  • buf.writeUInt32LE(value, offset[, noAssert])
  • buf.writeUInt32BE(value, offset[, noAssert])
  • buf.writeInt8(value, offset[, noAssert])
  • buf.writeInt16LE(value, offset[, noAssert])
  • buf.writeInt16BE(value, offset[, noAssert])
  • buf.writeInt32LE(value, offset[, noAssert])
  • buf.writeInt32BE(value, offset[, noAssert])
  • buf.writeFloatLE(value, offset[, noAssert])
  • buf .writeFloatBE(value, offset[, noAssert])
  • buf.writeDoubleLE(value, offset[, noAssert])
  • writeDoubleBE. (value, offset[, noAssert])

  • Ces API offrent une grande commodité pour exploiter les données dans Node.js. Supposons que nous souhaitions stocker une valeur entière dans un fichier. Par exemple, l'horodatage
actuel

est 1447656645380. Si nous le stockons sous forme de chaîne, il occupera 11 octets d'espace et le convertira en binaire. Seuls 6 octets d'espace sont nécessaires pour le stockage :

Lorsque vous utilisez Node.js pour écrire certaines fonctions de bas niveau, comme un module de communication réseau, un module client d'une base de données, ou que vous devez lisez-le à partir d'un fichier Lors de l'exploitation de grandes quantités de données structurées, les API fournies par les objets Buffer ci-dessus sont essentielles.
var buf = new Buffer(6);

buf.writeUIntBE(1447656645380, 0, 6);
// <Buffer 01 51 0f 0f 63 04>

buf.readUIntBE(0, 6);
// 1447656645380
Copier après la connexion

Ce qui suit montre un exemple d'utilisation de l'objet Buffer pour manipuler des données structurées.

操作结构化数据

假设有一个学生考试成绩数据库,每条记录结构如下:

学号课程代码分数
XXXXXXXXXXXX

其中学号是一个 6 位的数字,课程代码是一个 4 位数字,分数最高分为 100 分。

在使用文本来存储这些数据时,比如使用 CSV 格式存储可能是这样的:

100001,1001,99
100002,1001,67
100003,1001,88
Copier après la connexion

其中每条记录占用 15 字节的空间,而使用二进制存储时其结构将会是这样:

学号课程代码分数
3 字节2 字节1 字节

每一条记录仅需要 6 字节的空间即可,仅仅是使用文本存储的 40%!下面是用来操作这些记录的程序:

// 读取一条记录
// buf Buffer 对象
// offset 本条记录在 Buffer 对象的开始位置
// data {number, lesson, score}
function writeRecord (buf, offset, data) {
 buf.writeUIntBE(data.number, offset, 3);
 buf.writeUInt16BE(data.lesson, offset + 3);
 buf.writeInt8(data.score, offset + 5);
}

// 写入一条记录
// buf Buffer 对象
// offset 本条记录在 Buffer 对象的开始位置
function readRecord (buf, offset) {
 return {
 number: buf.readUIntBE(offset, 3),
 lesson: buf.readUInt16BE(offset + 3),
 score: buf.readInt8(offset + 5)
 };
}

// 写入记录列表
// list 记录列表,每一条包含 {number, lesson, score}
function writeList (list) {
 var buf = new Buffer(list.length * 6);
 var offset = 0;
 for (var i = 0; i < list.length; i++) {
 writeRecord(buf, offset, list[i]);
 offset += 6;
 }
 return buf;
}

// 读取记录列表
// buf Buffer 对象
function readList (buf) {
 var offset = 0;
 var list = [];
 while (offset < buf.length) {
 list.push(readRecord(buf, offset));
 offset += 6;
 }
 return list;
}
Copier après la connexion

我们可以再编写一段程序来看看效果:

var list = [
 {number: 100001, lesson: 1001, score: 99},
 {number: 100002, lesson: 1001, score: 88},
 {number: 100003, lesson: 1001, score: 77},
 {number: 100004, lesson: 1001, score: 66},
 {number: 100005, lesson: 1001, score: 55},
];
console.log(list);

var buf = writeList(list);
console.log(buf);
// 输出 <Buffer 01 86 a1 03 e9 63 01 86 a2 03 e9 58 01 86 a3 03 e9 4d 01 86 a4 03 e9 42 01 86 a5 03 e9 37>

var ret = readList(buf);
console.log(ret);
/* 输出
[ { number: 100001, lesson: 1001, score: 99 },
 { number: 100002, lesson: 1001, score: 88 },
 { number: 100003, lesson: 1001, score: 77 },
 { number: 100004, lesson: 1001, score: 66 },
 { number: 100005, lesson: 1001, score: 55 } ]
*/
Copier après la connexion

lei-proto 模块介绍

上面的例子中,当每一条记录的结构有变化时,我们需要修改readRecord()writeRecord() ,重新计算每一个字段在 Buffer 中的偏移量,当记录的字段比较复杂时很容易出错。为此我编写了lei-proto模块,它允许你通过简单定义每条记录的结构即可生成对应的readRecord()`writeRecord()函数。

首先执行以下命令安装此模块:

$ npm install lei-proto --save
Copier après la connexion

使用lei-proto模块后,前文的例子可以改为这样:

var parsePorto = require(&#39;lei-proto&#39;);

// 生成指定记录结构的数据编码/解码器
var record = parsePorto([
 [&#39;number&#39;, &#39;uint&#39;, 3],
 [&#39;lesson&#39;, &#39;uint&#39;, 2],
 [&#39;score&#39;, &#39;uint&#39;, 1]
]);

function readList (buf) {
 var list = [];
 var offset = 0;
 while (offset < buf.length) {
 list.push(record.decode(buf.slice(offset, offset + 6)));
 offset += 6;
 }
 return list;
}

function writeList (list) {
 return Buffer.concat(list.map(record.encodeEx));
}
Copier après la connexion

运行与上文同样的测试程序,可看到其结果是一样的:

<Buffer 01 86 a1 03 e9 63 01 86 a2 03 e9 58 01 86 a3 03 e9 4d 01 86 a4 03 e9 42 01 86 a5 03 e9 37>
[ { number: 100001, lesson: 1001, score: 99 },
 { number: 100002, lesson: 1001, score: 88 },
 { number: 100003, lesson: 1001, score: 77 },
 { number: 100004, lesson: 1001, score: 66 },
 { number: 100005, lesson: 1001, score: 55 } ]
Copier après la connexion

总结

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Étiquettes associées:
source:php.cn
Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn
Tutoriels populaires
Plus>
Derniers téléchargements
Plus>
effets Web
Code source du site Web
Matériel du site Web
Modèle frontal
À propos de nous Clause de non-responsabilité Sitemap
Site Web PHP chinois:Formation PHP en ligne sur le bien-être public,Aidez les apprenants PHP à grandir rapidement!