問題:
使用 subprocess.Popen 的腳本讀取輸出時和readline() 以串流方式, readline() 無限期地掛起並且永遠不會返回。
背景:
目標是逐行流式傳輸 ruby 檔案的輸出,在不緩衝整個輸出的情況下列印它。
from subprocess import Popen, PIPE, STDOUT import pty import os file_path = '/Users/luciano/Desktop/ruby_sleep.rb' command = ' '.join(["ruby", file_path]) master, slave = pty.openpty() proc = Popen(command, bufsize=0, shell=True, stdout=slave, stderr=slave, close_fds=True) stdout = os.fdopen(master, 'r', 0) while proc.poll() is None: data = stdout.readline() if data != "": print(data) else: break print("This is never reached!")
ruby_sleep.rb 腳本輸出一條2 秒的簡單訊息延遲:
puts "hello" sleep 2 puts "goodbye!"
根本原因:
readline() 仍然原因掛起,因為ruby 腳本輸出資料而沒有終止行(即沒有換行符)。這會導致 readline() 無限期地等待換行符號來完成該行。
解決方案:
根據平台可用性,存在多種解決方案:
對於Linux:
使用標準庫中的pty 開啟偽終端(tty)並在 ruby 端啟用行緩衝,確保每行以換行符號終止。
import os import pty from subprocess import Popen, STDOUT master_fd, slave_fd = pty.openpty() # provide tty to enable # line-buffering on ruby's side proc = Popen(['ruby', 'ruby_sleep.rb'], stdin=slave_fd, stdout=slave_fd, stderr=STDOUT, close_fds=True) os.close(slave_fd) try: while 1: try: data = os.read(master_fd, 512) except OSError as e: if e.errno != errno.EIO: raise break # EIO means EOF on some systems else: if not data: # EOF break print('got ' + repr(data)) finally: os.close(master_fd) if proc.poll() is None: proc.kill() proc.wait() print("This is reached!")
對於基於Linux 的平台:
使用標準庫中的pty 並選擇監視主文件描述符的活動,確保以非阻塞方式讀取資料。
import os import pty import select from subprocess import Popen, STDOUT master_fd, slave_fd = pty.openpty() # provide tty to enable # line-buffering on ruby's side proc = Popen(['ruby', 'ruby_sleep.rb'], stdout=slave_fd, stderr=STDOUT, close_fds=True) timeout = .04 # seconds while 1: ready, _, _ = select.select([master_fd], [], [], timeout) if ready: data = os.read(master_fd, 512) if not data: break print("got " + repr(data)) elif proc.poll() is not None: # select timeout assert not select.select([master_fd], [], [], 0)[0] # detect race condition break # proc exited os.close(slave_fd) # can't do it sooner: it leads to errno.EIO error os.close(master_fd) proc.wait() print("This is reached!")
跨平台選項:
使用 stdbuf 啟用非互動模式下的行緩衝。
from subprocess import Popen, PIPE, STDOUT proc = Popen(['stdbuf', '-oL', 'ruby', 'ruby_sleep.rb'], bufsize=1, stdout=PIPE, stderr=STDOUT, close_fds=True) for line in iter(proc.stdout.readline, b''): print line, proc.stdout.close() proc.wait()
這些解決方案都在 ruby 端啟用行緩衝,確保每行以換行符終止,從而允許 readline() 運行正確。
以上是為什麼從 Ruby 腳本讀取時,帶有 readline() 的 subprocess.Popen 會掛起,如何解決這個問題?的詳細內容。更多資訊請關注PHP中文網其他相關文章!