Python 메모리를 수동으로 해제하는 방법
위 최적화에서는 사용자 500명마다 일부 계산이 수행되고 결과가 디스크 파일에 기록됩니다. 나는 원래 이렇게 하면 이러한 결과가 디스크 파일에 저장되고 메모리를 계속 차지하지 않을 것이라고 생각했습니다. 그러나 실제로 Python의 가장 큰 함정은 Python이 이러한 메모리를 자동으로 정리하지 않는다는 것입니다. 이는 자체 구현에 의해 결정됩니다. 구체적인 이유를 설명하는 글은 인터넷에 많이 있으므로 여기에는 복사하지 않겠습니다.
이 기사에서는 Python에 메모리를 해제하지 않는 현상이 있음을 설명하기 위해 저자가 작성한 실험 스크립트를 게시합니다. 또한 해결책도 제안됩니다. 즉, 먼저 del을 사용한 다음 명시적으로 gc.collect(를 호출합니다. ).스크립트 구체적인 효과는 아래를 참조하세요.
실험환경 1 : Win 7, Python 2.7
from time import sleep, time import gc def mem(way=1): print time() for i in range(10000000): if way == 1: pass else: # way 2, 3 del i print time() if way == 1 or way == 2: pass else: # way 3 gc.collect() print time() if __name__ == "__main__": print "Test way 1: just pass" mem(way=1) sleep(20) print "Test way 2: just del" mem(way=2) sleep(20) print "Test way 3: del, and then gc.collect()" mem(way=3) sleep(20)
실행 결과는 다음과 같습니다.
Test way 1: just pass 1426688589.47 1426688590.25 1426688590.25 Test way 2: just del 1426688610.25 1426688611.05 1426688611.05 Test way 3: del, and then gc.collect() 1426688631.05 1426688631.85 1426688631.95
way 1과 way의 경우 2, 결과는 똑같습니다. 프로그램의 최대 메모리 소모량은 326772KB입니다. 20초 동안 잠자기 상태일 때의 실시간 메모리 소모량은 244820KB입니다.
방법 3의 경우 프로그램의 최대 메모리 소모량은 입니다. 위와 동일하지만 절전 중 실시간 메모리 소비는 6336KB에 불과합니다.
실험 환경 2: Ubuntu 14.10, Python 2.7.3
실행 결과:
Test way 1: just pass 1426689577.46 1426689579.41 1426689579.41 Test way 2: just del 1426689599.43 1426689601.1 1426689601.1 Test way 3: del, and then gc.collect() 1426689621.12 1426689622.8 1426689623.11
결론:
위는 del이 호출될 때, 실제로 Python은 실제로 메모리를 해제하지 않지만 계속해서 메모리 풀에 메모리를 배치합니다. 메모리는 gc.collect()가 명시적으로 호출될 때만 해제됩니다.
추가:
사실 이전 블로그의 스크립트로 돌아가서 gc.collect()를 도입하도록 한 다음 메모리 소비를 모니터링하는 모니터링 스크립트를 작성하세요.
ubuntu@my_machine:~$ ps -aux | grep test_mem Warning: bad ps syntax, perhaps a bogus '-'? See http://procps.sf.net/faq.html ubuntu 9122 10.0 6.0 270916 245564 pts/1 S+ 14:39 0:03 python test_mem.py ubuntu 9134 0.0 0.0 8104 924 pts/2 S+ 14:40 0:00 grep --color=auto test_mem ubuntu@my_machine:~$ ps -aux | grep test_mem Warning: bad ps syntax, perhaps a bogus '-'? See http://procps.sf.net/faq.html ubuntu 9122 10.0 6.0 270916 245564 pts/1 S+ 14:39 0:03 python test_mem.py ubuntu 9134 0.0 0.0 8104 924 pts/2 S+ 14:40 0:00 grep --color=auto test_mem ubuntu@my_machine:~$ ps -aux | grep test_mem Warning: bad ps syntax, perhaps a bogus '-'? See http://procps.sf.net/faq.html ubuntu 9122 11.6 0.1 30956 5608 pts/1 S+ 14:39 0:05 python test_mem.py
결과 각 500명의 사용자 그룹이 실행된 후 메모리가 복원되지 않고 약 70MB 정도 남을 때까지 계속 소모되는 것으로 확인되었으며 gc가 작동하는 것으로 보입니다. 이 환경에서 머신은 클라우드 인스턴스를 사용하고 총 메모리는 2G이며 사용 가능한 메모리는 약 1G입니다. 이 스크립트의 일반적인 메모리 소비는 900M - 1G입니다. 즉, 이 스크립트의 경우 gc가 즉시 적용되지 않지만 시스템의 사용 가능한 메모리가 1~1.2G에서 약 70M로 떨어지면 gc가 적용되기 시작합니다. 이것은 정말 이상합니다. 스크립트가 Thread에서 gc.collect()를 사용한다는 사실과 관련이 있는지, 아니면 애초에 gc의 기능을 제어할 수 없는 것인지는 모르겠습니다. 저자는 아직 관련 실험을 해본 적이 없으며, 다음 블로그에서 계속해서 논의할 수도 있습니다.
그러나 gc.collect()를 사용하지 않으면 원본 스크립트가 시스템 메모리를 모두 소모하여 종료될 것은 확실합니다. 이는 syslog를 보면 알 수 있습니다.
위 내용은 Python 메모리를 수동으로 해제하는 방법의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

핫 AI 도구

Undresser.AI Undress
사실적인 누드 사진을 만들기 위한 AI 기반 앱

AI Clothes Remover
사진에서 옷을 제거하는 온라인 AI 도구입니다.

Undress AI Tool
무료로 이미지를 벗다

Clothoff.io
AI 옷 제거제

AI Hentai Generator
AI Hentai를 무료로 생성하십시오.

인기 기사

뜨거운 도구

메모장++7.3.1
사용하기 쉬운 무료 코드 편집기

SublimeText3 중국어 버전
중국어 버전, 사용하기 매우 쉽습니다.

스튜디오 13.0.1 보내기
강력한 PHP 통합 개발 환경

드림위버 CS6
시각적 웹 개발 도구

SublimeText3 Mac 버전
신 수준의 코드 편집 소프트웨어(SublimeText3)

뜨거운 주제











PHP와 Python은 고유 한 장점과 단점이 있으며 선택은 프로젝트 요구와 개인 선호도에 달려 있습니다. 1.PHP는 대규모 웹 애플리케이션의 빠른 개발 및 유지 보수에 적합합니다. 2. Python은 데이터 과학 및 기계 학습 분야를 지배합니다.

CentOS 시스템에서 Pytorch 모델을 효율적으로 교육하려면 단계가 필요 하며이 기사는 자세한 가이드를 제공합니다. 1. 환경 준비 : 파이썬 및 종속성 설치 : CentOS 시스템은 일반적으로 파이썬을 사전 설치하지만 버전은 더 오래 될 수 있습니다. YUM 또는 DNF를 사용하여 Python 3 및 Upgrade Pip : Sudoyumupdatepython3 (또는 SudodnfupdatePython3), PIP3INSTALL-UPGRADEPIP를 설치하는 것이 좋습니다. CUDA 및 CUDNN (GPU 가속도) : NVIDIAGPU를 사용하는 경우 Cudatool을 설치해야합니다.

Docker는 Linux 커널 기능을 사용하여 효율적이고 고립 된 응용 프로그램 실행 환경을 제공합니다. 작동 원리는 다음과 같습니다. 1. 거울은 읽기 전용 템플릿으로 사용되며, 여기에는 응용 프로그램을 실행하는 데 필요한 모든 것을 포함합니다. 2. Union 파일 시스템 (Unionfs)은 여러 파일 시스템을 스택하고 차이점 만 저장하고 공간을 절약하고 속도를 높입니다. 3. 데몬은 거울과 컨테이너를 관리하고 클라이언트는 상호 작용을 위해 사용합니다. 4. 네임 스페이스 및 CGroup은 컨테이너 격리 및 자원 제한을 구현합니다. 5. 다중 네트워크 모드는 컨테이너 상호 연결을 지원합니다. 이러한 핵심 개념을 이해 함으로써만 Docker를 더 잘 활용할 수 있습니다.

CentOS 시스템에서 Pytorch GPU 가속도를 활성화하려면 Cuda, Cudnn 및 GPU 버전의 Pytorch를 설치해야합니다. 다음 단계는 프로세스를 안내합니다. CUDA 및 CUDNN 설치 CUDA 버전 호환성 결정 : NVIDIA-SMI 명령을 사용하여 NVIDIA 그래픽 카드에서 지원하는 CUDA 버전을보십시오. 예를 들어, MX450 그래픽 카드는 CUDA11.1 이상을 지원할 수 있습니다. Cudatoolkit 다운로드 및 설치 : NVIDIACUDATOOLKIT의 공식 웹 사이트를 방문하여 그래픽 카드에서 지원하는 가장 높은 CUDA 버전에 따라 해당 버전을 다운로드하여 설치하십시오. CUDNN 라이브러리 설치 :

Python과 JavaScript는 커뮤니티, 라이브러리 및 리소스 측면에서 고유 한 장점과 단점이 있습니다. 1) Python 커뮤니티는 친절하고 초보자에게 적합하지만 프론트 엔드 개발 리소스는 JavaScript만큼 풍부하지 않습니다. 2) Python은 데이터 과학 및 기계 학습 라이브러리에서 강력하며 JavaScript는 프론트 엔드 개발 라이브러리 및 프레임 워크에서 더 좋습니다. 3) 둘 다 풍부한 학습 리소스를 가지고 있지만 Python은 공식 문서로 시작하는 데 적합하지만 JavaScript는 MDNWebDocs에서 더 좋습니다. 선택은 프로젝트 요구와 개인적인 이익을 기반으로해야합니다.

Centos에서 Pytorch 버전을 선택할 때 다음과 같은 주요 요소를 고려해야합니다. 1. Cuda 버전 호환성 GPU 지원 : NVIDIA GPU가 있고 GPU 가속도를 사용하려면 해당 CUDA 버전을 지원하는 Pytorch를 선택해야합니다. NVIDIA-SMI 명령을 실행하여 지원되는 CUDA 버전을 볼 수 있습니다. CPU 버전 : GPU가 없거나 GPU를 사용하지 않으려면 Pytorch의 CPU 버전을 선택할 수 있습니다. 2. 파이썬 버전 Pytorch

Centos Nginx를 설치하려면 다음 단계를 수행해야합니다. 개발 도구, PCRE-DEVEL 및 OPENSSL-DEVEL과 같은 종속성 설치. nginx 소스 코드 패키지를 다운로드하고 압축을 풀고 컴파일하고 설치하고 설치 경로를/usr/local/nginx로 지정하십시오. nginx 사용자 및 사용자 그룹을 만들고 권한을 설정하십시오. 구성 파일 nginx.conf를 수정하고 청취 포트 및 도메인 이름/IP 주소를 구성하십시오. Nginx 서비스를 시작하십시오. 종속성 문제, 포트 충돌 및 구성 파일 오류와 같은 일반적인 오류는주의를 기울여야합니다. 캐시를 켜고 작업자 프로세스 수 조정과 같은 특정 상황에 따라 성능 최적화를 조정해야합니다.

Centos 시스템에서 Pytorch 데이터를 효율적으로 처리하면 다음 단계가 필요합니다. 종속성 설치 : 먼저 시스템을 업데이트하고 Python3 및 PIP를 설치합니다. Sudoyumupdate-ysudoyuminstallpython3-ysudoyuminstallpython3-pip-y는 Centos 버전 및 GPU 모델에 따라 Nvidia 공식 웹 사이트에서 Cudatoolkit 및 Cudnn을 다운로드하고 설치합니다. 가상 환경 구성 (권장) : Conda를 사용하여 새로운 가상 환경을 생성하고 활성화합니다.
