Total Pageviews

Thursday 11 May 2017

使用pyenv来搭建python的虚拟环境

related post:  https://briteming.blogspot.com/2016/05/mac-pyenv-python.html

Using pyenv to manage your virtual environments makes working on multiple projects, each using a different version of python a breeze.
I do all my development on an Apple Macbook running Yosemite and my production environment is a VPS from Linode running CentOS 7.
Here some simple notes on how I setup and use pyenv :

Installing on Mac OS X

Install Using homebrew
$ brew install pyenv pyenv-virtualenv
Update your shell profile (.bashrc or .zshrc) adding the following to it (and restart your terminal)
if which pyenv > /dev/null; then eval "$(pyenv init -)"; fi
if which pyenv-virtualenv-init > /dev/null; then eval "$(pyenv virtualenv-init -)"; fi

Installing on Linux CentOS 7

Checkout from github
$ git clone https://github.com/yyuu/pyenv.git ~/.pyenv
$ git clone https://github.com/yyuu/pyenv-virtualenv.git ~/.pyenv/plugins/pyenv-virtualenv
$ git clone https://github.com/yyuu/pyenv-update ~/.pyenv/plugins/pyenv-update/

Update your shell profile (.bashrc or .zshrc) adding the following to it (and restart your terminal)
$ echo 'export PYENV_ROOT="$HOME/.pyenv"' >> ~/.profile
$ echo 'export PATH="$PYENV_ROOT/bin:$PATH"' >> ~/.profile
$ echo 'eval "$(pyenv init -)"' >> ~/.profile
$ echo 'eval "$(pyenv virtualenv-init -)"' >> ~/.profile
$ . ~/.profile 

Using pyenv

To install a new version of Python
$ pyenv install <version>
$ pyenv rehash
To get a list of Python versions available
$ pyenv install -l
To create a new virtual environment
$ pyenv virtualenv [pyenv-version] [virtualenv-name]
To use your new virtual environment within your project
  1. Change to your projects root directory
  2. Run: $ pyenv local [virtualenv-name] Note that this is done only the first time you go to your project directory. The wonderful thing about pyenv is in future when you change directory to your project directory, it will be automatically activated your virtualenv for you.

from http://www.softinio.com/post/using-pyenv-for-python-projects/

https://github.com/pyenv/pyenv
https://github.com/pyenv/pyenv-virtualenv
----------

以前用 virtualenv来搭建python的虚拟环境,现在又多了一个方法。
------------

Linux vps中,如何做到Python多个版本共存



安装 pyenv

建议使用: https://github.com/pyenv/pyenv-installer 来直接安装。
curl -L https://raw.githubusercontent.com/pyenv/pyenv-installer/master/bin/pyenv-installer | bash

安装完成后,根据提示将如下语句加入到 ~/.bashrc 中:
export PATH="/root/.pyenv/bin:$PATH"
eval "$(pyenv init -)"
eval "$(pyenv virtualenv-init -)"

  
安装 Python
查看可安装的版本

pyenv install --list


该命令会列出可以用 pyenv 安装的 Python 版本。列表很长,仅列举其中几个:
2.7.8   # Python 2 最新版本
3.6.1   # Python 3 最新版本
3.7-dev # Python 3 开发版本
anaconda2-4.1.0  # 支持 Python 2.6 和 2.7
anaconda3-4.1.0  # 支持 Python 3.3 和 3.4

 其中 2.7.8 和 3.6.1 这种只有版本号的是 Python 官方版本,其他的形如 anaconda2-4.1.0这种既有名称又有版本后的属于 “衍生版” 或发行版。


安装 Python 的依赖包

在编译 Python 过程中会依赖一些其他库文件,因而需要首先安装这些库文件,已知的一些需要预先安装的库如下。
yum install -y readline readline-devel readline-static
yum install -y openssl openssl-devel openssl-static
yum install -y sqlite-devel
yum install -y bzip2-devel bzip2-libs


在 Ubuntu下:
sudo apt-get update
sudo apt-get install make build-essential libssl-dev zlib1g-dev
sudo apt-get install libbz2-dev libreadline-dev libsqlite3-dev wget curl
sudo apt-get install llvm libncurses5-dev libncursesw5-dev

   
安装指定版本

用户可以使用 pyenv install 安装指定版本的 python。如果你不知道该用哪一个,推荐你安装 anaconda3 的最新版本,这是一个专为科学计算准备的发行版。

我们安装一个最新的python 试一试。
pyenv install 3.6.1
#-> Downloading Python-3.6.1.tar.xz...
#-> -> https://www.python.org/ftp/python/3.6.1/Python-3.6.1.tar.xz
#-> Installing Python-3.6.1...
#-> Installed Python-3.6.1 to /root/.pyenv/versions/3.6.1

  
安装过程中,若出现编译错误,通常是由于依赖包未满足,需要在安装依赖包后重新执行该命令。

更新数据库

在安装 Python 或者其他带有可执行文件的模块之后,需要对数据库进行更新:
pyenv rehash


查看当前已安装版本

pyenv versions
#-> * system (set by /root/.pyenv/version)
#->  3.6.1
其中的星号表示当前正在使用的是系统自带的 python。

设置全局的版本:
pyenv global 3.6.1

pyenv versions
#->  system
#-> * 3.6.1 (set by /root/.pyenv/version)

   
python -V
#-> Python 3.6.1

使用下面的命令即可切换回系统自带的版本
pyenv global system

也可以使用 pyenv local 或 pyenv shell 临时改变 python 版本。

  • 使用 pip 安装第三方模块时会自动按照到当前的python版本下,不会和系统模块发生冲突。
  • 使用 pip 安装模块后,可能需要执行 pyenv rehash 更新数据库;

pyenv 其他功能

    pyenv uninstall 卸载某个版本
   

参考

  1. https://github.com/yyuu/pyenv
---------------------------------

Setting up virtualenvwrapper with pyenv using pyenv-virtualenvwrapper

Typically on OS X, I’m prone to use pyenv to manage multiple Python versions, particularly 2.7 and 3.3. I always keep the 2.7.x Python (system version) that ships with OS X, and install extra versions using pyenv, and develop under virtualenvs. It seems virtualenv and virtualenvwrapper do not natively work well with pyenv’s shims when creating new virtualenvs, and it also seems the author of pyenv already gives the solution, pyenv-virtualenvwrapper.
As an essential record, install Python 3.4.1 using pyenv (for installation of pyenv itself, see its documentation) and enable it globally, along with the system version.
$ pyenv install 3.4.1
$ pyenv rehash
$ pyenv global system 3.4.1
You can verify current available versions using the following command:
$ pyenv versions
* system (set by /Users/shichao/.python-version)
* 3.4.1 (set by /Users/shichao/.python-version)
Make sure you have installed virtualenvwrapper and pyenv-virtualenvwrapper (using brew, of course):
$ pip install virtualenvwrapper
$ brew install pyenv-virtualenvwrapper
Then, put the following lines somewhere in your ~/.bash_profile:
# pyenv
eval "$(pyenv init -)"
# virtualenvwrapper
export WORKON_HOME=~/envs
Then you can enable virtualenvwrapper with pyenv virtualenvwrapper, and you may set an alias for that.
Now, you can normally create new virtualenvs.
Create a virtualenv from the system version:
$ mkvirtualenv env1 -p $(which python)
Similarly, create a virtualenv from 3.4:
$ mkvirtualenv env2 -p $(which python3.4)
-------------

树莓派通过Pyenv管理多版本的Python

pyenv是一个简单的python版本管理工具,前身为pythonbrewpyenv允许你改变全局的python版本,安装多种不同的python版本,设置应用指定的python版本以及创建/管理虚拟的python环境;
安装pyenv:

1
curl -L https://raw.githubusercontent.com/pyenv/pyenv-installer/master/bin/pyenv-installer | bash
配置环境变量,并添加 pyenv 初始化到你的shell

1
2
3
echo 'export PYENV_ROOT="$HOME/.pyenv"' >> ~/.bashrc
echo 'export PATH="$PYENV_ROOT/bin:$PATH"' >> ~/.bashrc
echo 'eval "$(pyenv init -)"' >> ~/.bashrc
常用命令
  1. 查看当前设置默认的 python 版本

1
pyenv version

  1. 查看当前已安装的所有python版本

1
pyenv versions

  1. 查看当前可安装的python版本列表

1
pyenv install -l | less

  1. 安装指定版本的python

1
pyenv install 3.6.4

  1. 设置全局python版本

1
pyenv global <python版本>

  1. 设置局部 Python 版本 设置之后可以在目录内外分别试下which pythonpython --version看看效果, 如果没变化的话可以pyenv rehash之后再试试

1
pyenv local <python版本>

  • 制定版本创建virtualenv 用于单独为efb使用环境

1
pyenv virtualenv 3.6.4 telegram(名字随便起)

  • 列出现有virtualenvs
pyenv virtualenvs显示现有virtualenv和conda环境的列表。

1
pyenv virtualenvs

  • 激活virtualenv

1
pyenv activate virtualenv的名称

  • 删除现有virtualenv
1
pyenv uninstall virtualenv的名称 .

-------------------------------------------------------------------

使用 pyenv 管理多个 Python 版本依赖环境


从接触Python以来,一直都是采用virtualenvvirtualenvwrapper来管理不同项目的依赖环境,通过workonmkvirtualenv等命令进行虚拟环境切换,很是愉快。

然而,最近想让项目能兼容更多的Python版本,例如至少同时兼容Python2.7Python3.3+,就发现采用之前的方式行不通了。

最大的问题在于,在本地计算机同时安装Python2.7Python3后,即使分别针对两个Python版本安装了virtualenvvirtualenvwrapper,也无法让两个Python版本的workonmkvirtualenv命令同时生效。另外一方面,要想在本地计算机安装多个Python版本,会发现安装的成本都比较高,实现方式也不够优雅。

幸运地是,针对该痛点,已经存在一个比较成熟的方案,那就是pyenv

如下是官方的介绍。

pyenv lets you easily switch between multiple versions of Python. It’s simple, unobtrusive, and follows the UNIX tradition of single-purpose tools that do one thing well.

This project was forked from rbenv and ruby-build, and modified for Python.

本文就针对pyenv最核心的功能进行介绍。

基本原理

如果要讲解pyenv的工作原理,基本上采用一句话就可以概括,那就是:修改系统环境变量PATH

对于系统环境变量PATH,相信大家都不陌生,里面包含了一串由冒号分隔的路径,例如/usr/local/bin:/usr/bin:/bin。每当在系统中执行一个命令时,例如pythonpip,操作系统就会在PATH的所有路径中从左至右依次寻找对应的命令。因为是依次寻找,因此排在左边的路径具有更高的优先级。

pyenv做的,就是在PATH最前面插入一个$(pyenv root)/shims目录。这样,pyenv就可以通过控制shims目录中的Python版本号,来灵活地切换至我们所需的Python版本。

如果还想了解更多细节,可以查看pyenv的文档介绍及其源码实现。

环境初始化

pyenv的安装方式包括多种,重点推荐采用pyenv-installer的方式,原因主要有两点:

  • 通过pyenv-installer可一键安装pyenv全家桶,后续也可以很方便地实现一键升级;
  • pyenv-installer的安装方式基于GitHub,可保证总是使用到最新版本的pyenv,并且Python版本库也是最新最全的。

install && config

通过如下命令安装pyenv全家桶。

1
$ curl -L https://raw.githubusercontent.com/pyenv/pyenv-installer/master/bin/pyenv-installer | bash

内容除了包含pyenv以外,还包含如下插件:

  • pyenv-doctor
  • pyenv-installer
  • pyenv-update
  • pyenv-virtualenv
  • pyenv-which-ext

安装完成后,pyenv命令还没有加进系统的环境变量,需要将如下内容加到~/.zshrc中,然后执行source ~/.zshrc

1
2
3
export PATH=$HOME/.pyenv/bin:$PATH
eval "$(pyenv init -)"
eval "$(pyenv virtualenv-init -)"

完成以上操作后,pyenv就安装完成了。

1
2
$ pyenv -v
pyenv 1.0.8

如果不确定pyenv的环境是否安装正常,可以通过pyenv doctor命令对环境进行检测。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
$ pyenv doctor
Cloning /Users/Leo/.pyenv/plugins/pyenv-doctor/bin/.....
Installing python-pyenv-doctor...

BUILD FAILED (OS X 10.12.3 using python-build 20160602)

Last 10 log lines:
checking for memory.h... yes
checking for strings.h... yes
checking for inttypes.h... yes
checking for stdint.h... yes
checking for unistd.h... yes
checking openssl/ssl.h usability... no
checking openssl/ssl.h presence... no
checking for openssl/ssl.h... no
configure: error: OpenSSL development header is not installed.
make: *** No targets specified and no makefile found.  Stop.
Problem(s) detected while checking system.

通过检测,可以发现本地环境可能存在的问题,例如,从以上输出可以看出,本地的OpenSSL development header还没有安装。根据提示的问题,逐一进行修复,直到检测不再出现问题为止。

update

通过pyenv update命令,可以更新pyenv全家桶的所有内容。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
$ pyenv update
Updating /Users/Leo/.pyenv...
From https://github.com/yyuu/pyenv
 * branch            master     -> FETCH_HEAD
Already up-to-date.
Updating /Users/Leo/.pyenv/plugins/pyenv-doctor...
From https://github.com/yyuu/pyenv-doctor
 * branch            master     -> FETCH_HEAD
Already up-to-date.
Updating /Users/Leo/.pyenv/plugins/pyenv-installer...
From https://github.com/yyuu/pyenv-installer
 * branch            master     -> FETCH_HEAD
Already up-to-date.
Updating /Users/Leo/.pyenv/plugins/pyenv-update...
From https://github.com/yyuu/pyenv-update
 * branch            master     -> FETCH_HEAD
Already up-to-date.
Updating /Users/Leo/.pyenv/plugins/pyenv-virtualenv...
From https://github.com/yyuu/pyenv-virtualenv
 * branch            master     -> FETCH_HEAD
Already up-to-date.
Updating /Users/Leo/.pyenv/plugins/pyenv-which-ext...
From https://github.com/yyuu/pyenv-which-ext
 * branch            master     -> FETCH_HEAD
Already up-to-date.

pyenv的核心使用方法

pyenv的主要功能如下:

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
$ pyenv -h
Usage: pyenv <command> [<args>]

Some useful pyenv commands are:
   commands    List all available pyenv commands
   local       Set or show the local application-specific Python version
   global      Set or show the global Python version
   shell       Set or show the shell-specific Python version
   install     Install a Python version using python-build
   uninstall   Uninstall a specific Python version
   rehash      Rehash pyenv shims (run this after installing executables)
   version     Show the current Python version and its origin
   versions    List all Python versions available to pyenv
   which       Display the full path to an executable
   whence      List all Python versions that contain the given executable

See `pyenv help <command>' for information on a specific command.
For full documentation, see: https://github.com/yyuu/pyenv#readme

查看所有可安装的Python版本

$ pyenv install --list
Available versions:
  2.1.3
  ...
  2.7.12
  2.7.13
  ...
  3.5.3
  3.6.0
  3.6-dev
  3.6.1
  3.7-dev

需要注意的是,如果是采用brew命令安装的pyenv,可能会发现Python版本库中没有最新的Python版本。所以建议还是通过GitHub源码方式安装pyenv

安装指定版本的Python环境

$ pyenv install 3.6.0
Downloading Python-3.6.0.tar.xz...
-> https://www.python.org/ftp/python/3.6.0/Python-3.6.0.tar.xz
Installing Python-3.6.0...
Installed Python-3.6.0 to /Users/Leo/.pyenv/versions/3.6.0

查看当前系统中所有可用的Python版本

$ pyenv versions
* system (set by /Users/Leo/.pyenv/version)
  2.7.13
  3.6.0

切换Python版本

pyenv可以从三个维度来管理Python环境,简称为:当前系统当前目录当前shell。这三个维度的优先级从左到右依次升高,即当前系统的优先级最低、当前shell的优先级最高。

如果想修改系统全局的Python环境,可以采用pyenv global PYTHON_VERSION命令。该命令执行后会在$(pyenv root)目录(默认为~/.pyenv)中创建一个名为version的文件(如果该文件已存在,则修改该文件的内容),里面记录着系统全局的Python版本号。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
$ pyenv global 2.7.13
$ cat ~/.pyenv/version
2.7.13
$ pyenv version
2.7.13 (set by /Users/Leo/.pyenv/version)

$ pyenv global 3.6.0
$ cat ~/.pyenv/version
3.6.0
$ pyenv version
3.6.0 (set by /Users/Leo/.pyenv/version)

通常情况下,对于特定的项目,我们可能需要切换不同的Python环境,这个时候就可以通过pyenv local PYTHON_VERSION命令来修改当前目录的Python环境。命令执行后,会在当前目录中生成一个.python-version文件(如果该文件已存在,则修改该文件的内容),里面记录着当前目录使用的Python版本号。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
$ cat ~/.pyenv/version
2.7.13
$ pyenv local 3.6.0
$ cat .python-version
3.6.0
$ cat ~/.pyenv/version
2.7.13
$ pyenv version
3.6.0 (set by /Users/Leo/MyProjects/.python-version)
$ pip -V
pip 9.0.1 from /Users/Leo/.pyenv/versions/3.6.0/lib/python3.6/site-packages (python 3.6)

可以看出,当前目录中的.python-version配置优先于系统全局的~/.pyenv/version配置。

另外一种情况,通过执行pyenv shell PYTHON_VERSION命令,可以修改当前shell的Python环境。执行该命令后,会在当前shell session(Terminal窗口)中创建一个名为PYENV_VERSION的环境变量,然后在当前shell的任意目录中都会采用该环境变量设定的Python版本。此时,当前系统当前目录中设定的Python版本均会被忽略。

1
2
3
4
5
6
7
8
9
$ echo $PYENV_VERSION

$ pyenv shell 3.6.0
$ echo $PYENV_VERSION
3.6.0
$ cat .python-version
2.7.13
$ pyenv version
3.6.0 (set by PYENV_VERSION environment variable)

顾名思义,当前shell的Python环境仅在当前shell中生效,重新打开一个新的shell后,该环境也就失效了。如果想在当前shell中取消shell级别的Python环境,采用unset命令重置PYENV_VERSION环境变量即可。

1
2
3
4
5
6
7
8
$ cat .python-version
2.7.13
$ pyenv version
3.6.0 (set by PYENV_VERSION environment variable)

$ unset PYENV_VERSION
$ pyenv version
2.7.13 (set by /Users/Leo/MyProjects/.python-version)

管理多个依赖库环境

经过以上操作,我们在本地计算机中就可以安装多个版本的Python运行环境,并可以按照实际需求进行灵活地切换。然而,很多时候在同一个Python版本下,我们仍然希望能根据项目进行环境分离,就跟之前我们使用virtualenv一样。

pyenv中,也包含这么一个插件,pyenv-virtualenv,可以实现同样的功能。

使用方式如下:

1
$ pyenv virtualenv PYTHON_VERSION PROJECT_NAME

其中,PYTHON_VERSION是具体的Python版本号,例如,3.6.0PROJECT_NAME是我们自定义的项目名称。比较好的实践方式是,在PROJECT_NAME也带上Python的版本号,以便于识别。

现假设我们有XDiff这么一个项目,想针对Python 2.7.13Python 3.6.0分别创建一个虚拟环境,那就可以依次执行如下命令。

1
2
$ pyenv virtualenv 3.6.0 py36_XDiff
$ pyenv virtualenv 2.7.13 py27_XDiff

创建完成后,通过执行pyenv virtualenvs命令,就可以看到本地所有的项目环境。

1
2
3
4
5
$ pyenv virtualenvs
  2.7.13/envs/py27_XDiff (created from /Users/Leo/.pyenv/versions/2.7.13)
* 3.6.0/envs/py36_XDiff (created from /Users/Leo/.pyenv/versions/3.6.0)
  py27_XDiff (created from /Users/Leo/.pyenv/versions/2.7.13)
  py36_XDiff (created from /Users/Leo/.pyenv/versions/3.6.0)

通过这种方式,在同一个Python版本下我们也可以创建多个虚拟环境,然后在各个虚拟环境中分别维护依赖库环境。

例如,py36_XDiff虚拟环境位于/Users/Leo/.pyenv/versions/3.6.0/envs目录下,而其依赖库位于/Users/Leo/.pyenv/versions/3.6.0/lib/python3.6/site-packages中。

1
2
$ pip -V
pip 9.0.1 from /Users/Leo/.pyenv/versions/3.6.0/lib/python3.6/site-packages (python 3.6)

后续在项目开发过程中,我们就可以通过pyenv local XXXpyenv activate PROJECT_NAME命令来切换项目的Python环境。

1
2
3
4
5
6
7
➜  MyProjects pyenv local py27_XDiff
(py27_XDiff) ➜  MyProjects pyenv version
py27_XDiff (set by /Users/Leo/MyProjects/.python-version)
(py27_XDiff) ➜  MyProjects python -V
Python 2.7.13
(py27_XDiff) ➜  MyProjects pip -V
pip 9.0.1 from /Users/Leo/.pyenv/versions/2.7.13/envs/py27_XDiff/lib/python2.7/site-packages (python 2.7)

可以看出,切换环境后,pip命令对应的目录也随之改变,即始终对应着当前的Python虚拟环境。

对应的,采用pyenv deactivate命令退出当前项目的Python虚拟环境。

如果想移除某个项目环境,可以通过如下命令实现。

1
$ pyenv uninstall PROJECT_NAME

以上便是日常开发工作中常用的pyenv命令,基本可以满足绝大多数依赖库环境管理方面的需求.

No comments:

Post a Comment