GPT2に基づいて訓練された愚かな犬ロボット

まず最初に、プログラミング開発の分野では、学ぶ必要があるのは学び方だということをお伝えしたいと思います。正しい方向に進めば、半分の労力で2倍の結果が得られます。そして、技術的なスキルを学ぶための最も早くて効果的な方法は練習することだと思います。あまり理論にとらわれすぎないでください。購入した自転車をただ解体することはできません。まず、それに乗る方法を見つけなければなりません。

つまり、これがフー兄弟がやっていることであり、物事を学んでいることなのです。目標に基づいて、テストを実行できる最小のユニット バージョンを構築します。コンウェイの法則によれば、問題が小さいほど、理解して対処するのが簡単になるからです。そのため、ChatGPT に出会ってから、たとえテスト用のトレーニング データが少量であっても、そのようなチャット対話モデルを自分でトレーニングしてデプロイする方法をよく考えました。そこで、人々を荒らすことができる愚かな犬ロボットが登場しました!

1. Silly Dog Machine Chat

Brother Fu による以前の記事「Build a ChatGPT Algorithm Model」に基づく学習に基づいて、OpenAI オープン ソース GPT-2 および関連する GPT2 チャットモデル トレーニング コードは、人々を荒らすことができるこの愚かな犬ロボットをデプロイします。しかし、学習データの問題により、このチャットボットは話しかけると常に異常を感じます。 ——しかし、アルゴリズムモデルのトレーニングの学習には影響しません。

#このページは、Brother Fu がプログラムしたチャット ダイアログ ウィンドウの WEB バージョンです。

アクセス アドレス: http: / /120.48.169.252/ - サーバー構成は制限されており、過剰な同時アクセスを処理できません。
• ビデオデモ: https://www.bilibili.com/video/BV1LG4y1P7bo - Bilibili ビデオを通じて GPT2 モデル展開のデモを見ることもできます。

2. 基本的な構成環境

OpenAI GPT2 モデルのトレーニングとサービスの使用には、Python、TensorFlow 機械学習、その他の関連構成の使用が必要であり、これらの環境間にはバージョンの依存関係がいくつかあります。 。したがって、デバッグをスムーズに行うために、私と同じバージョンを維持するようにしてください。環境のインストールが難しい場合は、Fu 兄弟にクラウド サーバーの購入を手伝ってもらうこともできます。そうすれば、私の環境をあなたのサーバーにミラーリングして、直接使用することができます。以下に、必要な基本的な環境、コード、データを示します。

システム構成: Centos 7.9 - 2 コア 4GB メモリ 200G ディスク 4Mbps 帯域幅クラウド サーバー
• 導入環境: Python3.7、Transformers==4.2.0、pytorch==1.7 .0
• モデル コード: https://github.com/fuzhengwei/GPT2-chitchat - このコードはオープン ソースであり、WebSocket 通信ページが含まれています
• モデル データ: https://pan. baidu .com/s/1iEu_-Avy-JTRsO4aJNiRiA - ju6m

1. 環境の依存関係

yum -y install zlib-devel bzip2-devel openssl-devel ncurses-devel sqlite-devel readline-devel tk-devel gdbm-devel db4-devel libpcap-devel xz-devel

yum install gcc -y

yum -y install libffi-devel

make

make altinstall

2. Python 3.7

cd ~

# 1.下载Python安装包
wget https://www.python.org/ftp/python/3.7.4/Python-3.7.4.tgz

# 2.将安装包移动到/usr/local文件夹下
mv Python-3.7.4.tgz /usr/local/

# 3.在local目录下创建Python3目录
mkdir /usr/local/python3

# 4.进入的Python安装包压缩包所在的目录
cd /usr/local/

# 5.解压安装包
tar -xvf Python-3.7.4.tgz

# 6.进入解压后的目录
cd /usr/local/Python-3.7.4/

# 7.配置安装目录
./configure --prefix=/usr/local/python3

# 8.编译源码
make

# 9.执行源码安装
make install

# 10.创建软连接
ln -s /usr/local/python3/bin/python3/usr/bin/python3

# 11. 测试
python3 -V

3. pip3##のインストール#

cd ~

# 1.下载
wget https://bootstrap.pypa.io/get-pip.py

# 2.安装；注意咱们安装了 python3 所以是 pyhton3 get-pip.py
python3 get-pip.py

# 3.查找pip安装路径
find / -name pip

# 4.将pip添加到系统命令
ln -s/usr/local/python/bin/pip /usr/bin/pip

# 5.测试
pip -V

# 6.更换源，如果不更换那么使用 pip 下载软件会很慢
pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
pip config set install.trusted-host mirrors.aliyun.com
pip config list

# pip国内镜像源：

# 阿里云 http://mirrors.aliyun.com/pypi/simple/
# 中国科技大学https://pypi.mirrors.ustc.edu.cn/simple/
# 豆瓣 http://pypi.douban.com/simple
# Python官方 https://pypi.python.org/simple/
# v2ex http://pypi.v2ex.com/simple/
# 中国科学院http://pypi.mirrors.opencas.cn/simple/
# 清华大学 https://pypi.tuna.tsinghua.edu.cn/simple/

4. git

cd ~

# 1.安装前首先得安装依赖环境
yum install -y perl-devel

# 2.下载源码包到 CentOS 服务器后进行解压
tar -zxf git-2.9.5.tar.gz

cd git-2.9.5

# 3.执行如下命令进行编译安装 

./configure --prefix=/usr/local/git

make && make install

# 4.添加到系统环境变量
vim ~/.bashrc

export PATH="/usr/local/git/bin:$PATH"

# 5.使配置生效
source ~/.bashrc

# 6.测试
git version

5. Pagoda のインストール

yum install -y wget && wget -O install.sh https://download.bt.cn/install/install_6.0.sh && sh install.sh 12f2c1d72

インストール後、Pagoda によって要求されたアドレスにログインします。デフォルトでは、ポート 8888 が使用されます。したがって、サーバー上でポート 8888 へのアクセスを有効にする必要があります。

1. Pagoda のインストールでは、Nginx サービスを使用して、サーバー側にチャット インターフェイスの Web バージョンをデプロイします。ここにパゴダがあると操作が簡単です。
3. モデル実行環境

モデル トレーニングには、Transformers 機械学習サービス、pytorch、sklearn、その他のコンポーネントが必要です。次のコンテンツは別途インストールする必要があります。

transformers==4.4.2
pytorch==1.7.0
sklearn
tqdm
numpy
scipy==1.2.1

1. トランスフォーマー

pip install transformers==4.4.2

2. pytorch

pip install torch==1.7.0+cpu torchvision==0.8.1+cpu torchaudio===0.7.0 -f https://download.pytorch.org/whl/torch_stable.html

このトーチのバージョンの CPU とトーチビジョンは一致する必要があります。

3. その他のインストール

残りの部分は、pip インストール手順に従ってください。また、GTP2-chitchat の実行中に、一部のコンポーネントが欠落しているというメッセージが表示された場合は、次を使用してください。直接 pip して指示に従ってください。

4. チャット ページの構成

ここでは、まず Fu 兄弟が用意した WebSocket ページのコードを配置し、Pagoda を通じてサイトを作成した後にそれをデプロイします。コード: https://github.com/fuzhengwei/GPT2-chitchat/tree/master/web

その後、パゴダのアドレスを開きます。サイトを作成し、Web コードをアップロードします。

注: このコードで WebSocket にアクセスするための現在の構成は、index.js にあるため、サーバー アドレスに変更する必要があります。

if(!window.WebSocket){
 alert("您的浏览器不支持WebSocket协议！推荐使用谷歌浏览器进行测试。");
 return;
}
socket = new WebSocket("ws://120.48.169.252:7397");

5. モデル トレーニングのデプロイメント

1. ダウンロード コード

cd /home

git clone https://github.com/fuzhengwei/GPT2-chitchat.git

ここで、interact.py コードを変更し、WebSocket の IP とポートの構成を変更する必要があります。

async def start_server():
try:
async with websockets.serve(server, "192.168.0.4", 7397):
print("Starting server at ws://localhost:7397")
await asyncio.Future()# run forever
except OSError as e:
print(f"Error starting server: {e}")
except Exception as e:
print(f"Unexpected error: {e}")

2. モデルのアップロード

モデルのダウンロード: https://pan.baidu.com/s/1iEu_-Avy-JTRsO4aJNiRiA#list/path=/ - パスワード: ju6m

モデルのアップロード: ここでは、ローカル マシンに SFTP ツールをインストールするか、IntelliJ IDEA が提供するツールを使用してリンクする必要があります。リンク後、解凍したモデルを /home/GPT2-chitchat/model にアップロードできます。

async def start_server():
try:
async with websockets.serve(server, "192.168.0.4", 7397):
print("Starting server at ws://localhost:7397")
await asyncio.Future()# run forever
except OSError as e:
print(f"Error starting server: {e}")
except Exception as e:
print(f"Unexpected error: {e}")

修改这部分代码的IP和端口，以及在云服务上开启 7397 的访问权限。另外为了安全起见，可以在云服务的防火墙IP来源中授权，只有你当前的台机器才可以链接到 websocket 上。

3. 启动服务

这里小傅哥通过 mac nuoshell 连接工具，进行模型启动；模型路径：/home/GPT2-chitchat/model/model_epoch40_50w

python3 interact.py --no_cuda --model_path /home/GPT2-chitchat/model/model_epoch40_50w

• 启动后就可以把你的 websocket 页面打开了，它会自动的链接到这个 websocket 服务上。
• 如果你还需要 Socket 或者命令行的服务，也可以修改 interact.py 代码进行处理。

以上就是整个 GPT2-chitchat 一个闲聊模型的部署，你也可以尝试使用 Docker 部署。如果在部署过程中实在很难部署成功，也可以找小傅哥买云服务，这样我可以直接把镜像部署到你的云服务上，就可以直接使用了。

以上がGPT2に基づいて訓練された愚かな犬ロボットの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。