首页 > 后端开发 > php教程 > php中文分词源码遇到的小疑点

php中文分词源码遇到的小疑点

WBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWB
发布: 2016-06-13 11:52:03
原创
776 人浏览过

php中文分词源码遇到的小问题

本帖最后由 zhuzhaodan 于 2014-03-20 22:26:08 编辑
define('_SP_', chr(0xFF).chr(0xFE)); <br />define('UCS2', 'ucs-2be');
登录后复制

这2个常量定义的作用是什么?_SP_定义成chr(0xFF).chr(0xFE)是什么意思,我在ascii对照表内根本找不到FF,FE这2个对应的编码啊?
后面的代码如下
        //载入副词典<br />        $hw = '';<br />        $ds = file($dicAddon);//17行的txt格式字典文件<br />        foreach($ds as $d)<br />        {<br />            $d = trim($d);<br />            if($d=='') continue;<br />            $estr = substr($d, 1, 1);<br />            if( $estr==':' ) {<br />                $hw = substr($d, 0, 1);<br />            }<br />            else<br />            {<br />                $spstr = _SP_;<br />                $spstr = iconv(UCS2, 'utf-8', $spstr);//怎么会出现ucs2编码?咋回事<br />                $ws = explode(',', $d);//每一行的汉字,用中间的逗号分成数组<br />                $wall = iconv('utf-8', UCS2, join($spstr, $ws));//用_SP_又组合成了字符串??,然后又转换成了ucs2?<br />                $ws = explode(_SP_, $wall);//又接着分割成数组?啥意思啊!!!<br />                foreach($ws as $estr)<br />                {<br />                    $this->addonDic[$hw][$estr] = strlen($estr);<br />                }<br />            }<br />        }
登录后复制


这段代码,就是载入字典文件,可是我没明白ELSE代码的逻辑?谁能简单说说
------解决方案--------------------
BOM 是编码类型声明,把 _SP_ 解释为 BOM 是为了帮助理解
你不是”在ascii对照表内根本找不到FF,FE这2个对应的编码“
再看
define('_SP_', chr(0xFF).chr(0xFE)); <br />define('UCS2', 'ucs-2be');
$spstr = _SP_;
$spstr = iconv(UCS2, 'utf-8', $spstr);
echo bin2hex($spstr);
登录后复制
得到 efbfbe
这是 utf-8 的 BOM

至于他为什么要这样做,你看看字典文件就知道是怎么回事了
相关标签:
来源:php.cn
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板