木鸟杂记

分布式系统，数据库，存储

Python 闭包

发表于 更新于 分类于 ，

python-learn.png

小引

以前学 js 的时候第一次见到闭包，当时不甚了了，还为了应付面试强行记住了一个模棱两可的“定义”：在函数中嵌套定义函数，并且在外层将内层函数返回，一同返回了外层函数的环境。当时从字面意思以及当时一个经典例子试图去理解闭包，加之”闭包”这个翻译也很不容易让人味出其中的道理，导致对其总感觉懵懵懂懂。最近工作需要，用起 python，又遇到闭包，这次看到了一些新奇有趣的资料，这才算大致把一些字面上的概念（first-class functions，bind，scope等等）贯通在一起，反过来对闭包有了更深的理解。

引用资料列在最后，十分推荐大家去读读。

作者：木鸟杂记 https://www.qtmuniao.com, 转载请注明出处

概要

计算机中有些英文专业词汇，字面直译，难免因缺少上下文而显得苍白拗口，须得多方铺垫，方能味得古怪下面的原理。闭包（closure）便是一个这样牵扯了许多上下文的概念，包括编程语言最基本的绑定（binding），环境（environments），变量作用域（scope）以及函数是第一等公民（function as the first-class）等等。

Binding（绑定）

在Python中，binding 是编程语言最基本的抽象手法，它将一个值绑定到一个变量上，并且稍后可以引用或者修改该变量。下面是几种不同层次的绑定，每组语句在运行时将一个名字与对应值绑定到其定义所在的环境中。

包括将名字绑定到一块内存，通过赋值语句实现，当然函数调用时，形参和实参结合也是绑定：

1
In [1]: square = 4

将名字绑定到一组复合运算，即函数定义，利用 def 关键字实现：

1
2
In [1]: def square(x):
        return x*x

将名字绑定到一个数据集合，即类定义，使用 class 实现：

1
2
3
4
5
6
In [1]: class square:
            def __init__(self, x):
                self.x = x

            def value(self):
                return self.x * self.x

依照执行顺序，多次同名绑定，后面会覆盖前面：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
In [1]: square = 3

In [2]: square
Out[2]: 3

In [3]: def square(x):
   ...:     return x * x
   ...:
   ...:

In [4]: square
Out[4]: <function __main__.square(x)>

In [5]: class square:
   ...:     def __init__(self, x):
   ...:         self.x = x
   ...:

In [6]: square
Out[6]: __main__.square

说这些都是抽象，是因为它们提供了对数据，复合操作或数据集合的封装手段，即将一个名称与复杂的数据或逻辑进行捆绑，使调用者不用关心其实现细节，并且以此来作为构建更复杂的工程的基本元素。可以说绑定是编程的基石。

回到本文的主题上来，闭包首先是函数，只不过是一种特殊的函数，至于这个特殊性在哪，等稍后引入更多概念后再进行阐述。

Scope （作用域）

scope（作用域），顾名思义，也就是某个binding 能罩多大的范围，或者说你可以在多大范围内访问一个变量。每个函数定义会构造一个局部定义域。

python，和大多数编程语言一样，使用的是静态作用域（static scoping，有时也称 lexical scoping）规则。在函数嵌套定义的时候，内层函数内可以访问外层函数的变量值。因此你可以把作用域想象成一个容器，即它是可以嵌套的，并且内层作用域会扩展外层作用域，而最外层作用域即全局作用域。

上一小节提到了，多次同名绑定，后面会覆盖前面，其实有隐含前提：在同一作用域内。如果是嵌套作用域，其实是隐藏的关系，内层函数的变量定义会遮蔽外层函数同一名字定义，但是在外层作用域中，该变量仍是原值：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
In [16]: a = 4

In [17]: def outer(): 
    ...:     a = 5
    ...:     print(a)
    ...:     def inner():
    ...:         a = 6
    ...:         print(a)
    ...:     inner()
    ...:     print(a)
    ...:

In [18]: outer()
5
6
5

In [19]: print(a)
4

可以看出，作用域其实也可以从另一个角度理解，即我们在某个环境（environment）中，在确定一个name binding 值的时候，会从最内层作用域顺着往外找，找到的第一个该名字 binding 的对应的值即为该 name 引用到的值。

需要强调的时候，函数的嵌套定义会引起定义域的嵌套，或者说环境扩展（内层扩展外层）关系。类的定义又稍有不同，class 定义会引入新的 namespace，namespace 和 scope 是常拿来对比的概念，但这里按下不表，感兴趣的可以自己去查查资料。

说到这里，要提一下，一个常被说起的例子：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
In [50]: a = 4

In [51]: def test():
    ...:     print(a) # 这里应该输出什么？
    ...:     a = 5
    ...:

In [52]: test()
---------------------------------------------------------------------------
UnboundLocalError                         
Traceback (most recent call last)
<ipython-input-52-fbd55f77ab7c> in <module>()
----> 1 test()

<ipython-input-51-200f78e91a1b> in test()
      1 def test():
----> 2     print(a)
      3     a = 5
      4

UnboundLocalError: local variable 'a' referenced before assignment

想象中，上面 print 处应该输出 4 或者 5 才对，为什么会报错呢？这是因为 test 函数在定义时候，分词器会扫一遍 test 函数定义中的所有 token，看到赋值语句 a=5 的存在，就会明确 a 是一个局部变量，因此不会输出4。 而在执行到 print(a) 的时候，在局部环境中，a 还未被binding，因此会报 UnboundLocalError。

稍微探究一下，虽然 python 是解释执行的，即输入一句，解释一句，执行一句。但是对于代码块（即头部语句，冒号与其关联的缩进块所构成的复合语句（compound sentences），常见的有函数定义，类定义，循环语句等等）来说，还是会整体先扫一遍的。

First-Class Function（函数是第一等公民）

一般来说，组成编程语言的元素，如变量，函数和类，会被设定不同的限制，而具有最少限制的元素，被我们成为该编程语言中的一等公民。而一等公民最常见的特权有：

  1. 可以被binding到名字上
  2. 可以作为参数在函数中传递
  3. 可以作为返回值被函数作为结果返回
  4. 可以被包含在其他数据结构中

套用到python中的函数来说来说，即一个函数可以被赋值给某个变量，可以被函数接收和返回，可以定义在其他函数中（即嵌套定义）：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
In [32]: def test():
    ...:     print('hello world')
    ...:

In [33]: t = test # 赋值给变量

In [34]: t()
hello world

In [35]: def wrapper(func):
    ...:     print('wrapper')
    ...:     func()
    ...:

In [36]: wrapper(t) # 作为参数传递
wrapper
hello world

In [37]: def add_num(a): 
    ...:     def add(b): # 嵌套定义
    ...:         return a + b
    ...:     return add # 作为函数的返回值
    ...:
    ...:

In [38]: add5 = add_num(5)

In [39]: add5(4)
Out[39]: 9

并不是在所有语言中，函数都是一等公民，比如 Java，上面四项权利 Java 中的函数全都没有。

在这里，能够操作其他函数的函数（即以其他函数作为参数或者返回值的函数），叫做高阶函数。高阶函数使得语言的表达能力大大增强，但同时，也不容易用好。

Stack Call（栈式调用）

每个函数调用，会在环境中产生一个栈帧（frame），并且在栈帧中会进行一些绑定，然后压入函数调用栈中。在函数调用结束时，栈帧会被弹出，其中所进行的绑定也被解除，即垃圾回收，局部作用域也随之消亡。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
In [47]: def test():
    ...:     x = 4
    ...:     print(x)
    ...:

In [48]: test()
4

In [49]: x
---------------------------------------------------------------------------
NameError                                 
Traceback (most recent call last)
<ipython-input-49-6fcf9dfbd479> in <module>()
----> 1 x

NameError: name 'x' is not defined

即在调用结束后，局部定义的变量 x 在外边是访问不到的。但是如之前例子 中，返回的 add 函数却引用了已经调用结束的 add_num 中的变量 a，怎么解释这种现象呢？可以记住一条，也是之前提到过的：

1
函数嵌套定义时，内部定义的函数所在的环境会自动扩展其定义所在环境

因此在外部函数返回后，返回的内部函数依然维持了其定义时的扩展环境，也可以理解为由于内部函数引用的存在，外部函数的环境中所有的 bindings 并没有被回收。

Closure（闭包）

千呼万唤始出来，以为高潮其实已结束。

闭包就是建立在前面的这些概念上的，上面提到的某个例子：

1
2
3
4
5
6
7
8
9
10
11
In [37]: def add_num(a): 
    ...:     def add(b): # 嵌套定义
    ...:         return a + b
    ...:     return add # 作为函数的返回值
    ...:
    ...:

In [38]: add5 = add_num(5)

In [39]: add5(4)
Out[39]: 9

其实就是闭包。捡起之前伏笔，给出我对闭包的一个理解：它是一种高阶函数，并且外层函数（例子中的*add_num）将其内部定义的函数（add）作为返回值返回，同时由于返回的内层函数扩展了外层函数的环境（environment），也就是对其产生了一个引用，那么在调用返回的内部函数（add5*）的时候，能够引用到其（add）定义时的外部环境（在例子中，即 a 的值）。

结语

说了这么多，其实只是在逻辑层面或者说抽象层面去解释闭包是什么，跟哪些概念纠缠在一起。但这些其实都不本质，或者说依然是空中楼阁，如果想要真正理解闭包，可以去详细了解下 python 的解释执行机制，当然，那就是编译原理范畴的东西了。

参考

  1. cs61a 课程资料： composing programs，也是 SICP 一书的配套课程，书是神书，课程是好课程，资料更是有趣，不妨一读。
  2. 谷歌到的不错的文章： A Python Tutorial To Understanding Scopes and Closures

我是青藤木鸟，一个喜欢摄影、专注大规模数据系统的程序员，欢迎关注我的公众号：“木鸟杂记”，有更多的分布式系统、存储和数据库相关的文章，欢迎关注。 关注公众号后，回复“资料”可以获取我总结一份分布式数据库学习资料。 回复“优惠券”可以获取我的大规模数据系统付费专栏《系统日知录》的八折优惠券。

我们还有相关的分布式系统和数据库的群，可以添加我的微信号：qtmuniao，我拉你入群。加我时记得备注：“分布式系统群”。 另外，如果你不想加群，还有一个分布式系统和数据库的论坛（点这里），欢迎来玩耍。

wx-distributed-system-s.jpg

不妨一读