人工智能飞速发展，一路辗压人文学界对它的种种质疑。说人工智能能做什么很容易，因为相对于人脑，它几乎无所不能；说人工智能不能做什么则风险甚高，持论者常因论据失真或前提不确导致结论无效。人脑不可度量处，恰是AI大显身手时

　　老高按：今年中秋节前夕，几位同窗难得在纽约城郊聚会。这些同窗，有的从中国闪访，有的在美国蛰居；有的投身媒体，有的经营企业；当天才到的，次日就走的……一别三十年，都有“人生不相见，动如参与商，今夕复何夕，共此灯烛光”（杜甫《赠卫八处士》）之慨，谈了美国谈中国，谈了过去谈未来，不知怎么一来，还谈到了人工智能（Artificial Intelligence, AI）对人类的挑战，给未来增添了越来越浓重的不确定气氛。
　　聊到深夜，酒醒大半，各奔东西。“明日隔山岳，世事两茫茫。”这是杜甫那个年代的感叹，如今不同了！人人有爱疯，个个有微信，大家共一群，天涯若比邻。这不，昨晚就收到了其中一位同窗的文章《计划不是那个计划，市场也不是那个市场——也说“AI计划经济是否可能”》。他说，是那天在纽约市郊聚会，“席间曾提到人工智能话题，现将本人最近心得呈众学兄，民科之见，见笑见笑！”“民科”，“民间科学家”之谓也，通常带贬义，他这里是自谦。
　　这位同窗原为南方某省一家报纸的负责人之一，现已退休，既然他用了“老残油记”的网名，未得其同意，我就不提真实姓名了。这篇文章他已经发表在一家网络媒体，料想我转载于此，他不会见怪。这篇文章说是与那夜席间有关，其实倒直接由许成钢和周为民的文章而来。许成钢是许良英的大公子，哈佛博士，国内头衔一大把，国际头衔更多，伦敦经济学院教授、哈佛大学国际发展研究所研究员、首尔国立大学讲座教授、世行及国际货币基金组织顾问等等；周为民这个名字甚为普通，名人中就有好几位，不知究竟是其中哪一位。他们都被人工智能这一话题所吸引，今后一段时间想必讨论更为深入和广泛。
　　也巧，昨天晚上读到英国《金融时报》中文网发表AlphaGo设计师黄士杰的演讲整理稿：《最强的学习技能在人类的脑袋里》，与我们这里谈到的话题有关，也索性转贴于此，供大家参考。

　　顺便提一句，昨天我转发了纽约时报中文网刊登的文章《中国正想要这样的特朗普》，在按语中我写道：“在万維上，左派博客谴责川普、同情中共；右派博客拥护川普、反对中共——这是大家每天看到的常态。但是现在出现了人们意想不到（其实，是早可料到）的情况，川普与中国竟然合流：中国支持川普，川普对中共、对习近平也好话说尽。”“这奇怪吗？一点也不奇怪，一点也不令人吃惊！”
　　随后有三位博友跟帖评论，有一位非常痛快地直斥我是“愚蠢之极”，说：即便在万维这个小世界里，至少一共有四部分人：反川亲中；亲川反中；亲川亲中；反川反中。如果加上中间派，则可细划为九个部分。他去年就写过文章《大选将万维博客分为九块》。
　　他去年的文章我拜读过，九分法，很有道理！我本人就既反对川普，也反对中共当权者的专制主义。但“九分法”虽有“九分法”的道理，何以与“两分法”不共戴天？这就像有人说：分红色、蓝色？愚蠢之极：应该分为“深红”“大红”“紫红”“绛紫”“蓝紫”“宝蓝”“普蓝”“深蓝”……七种、八种、九种才对！我认同他颜色可以分得更细的观点，但能说分开红蓝就“愚蠢之极”吗？
　　况且我转载纽约时报中文网这篇文章，恰恰正是要说明：简单化地只从意识形态、价值取向来划分“左派右派”，是多么别扭，不合时宜，一遇到现实问题，就解释不通了！
　　今天这位仁兄更撰写专文：《反川与亲共有必然联系吗》，让我不由得失笑——“反川与亲共有必然联系吗？”当然没有！我本人就是一例：批评川普，但我并不亲共。但这位仁兄难道不是自己树了一个大大的靶子，再来砰砰砰地一通射击吗？这里有谁主张了“反川与亲共有必然联系”吗？
　　这位仁兄还说：“有人一定要分左右派，想必便于搞运动斗批改。”不知这是根据什么逻辑？我想起鲁迅在《小杂感》中所说的一段名言：“一见短袖子，立刻想到白臂膊，立刻想到全裸体，立刻想到生殖器，立刻想到性交，立刻想到杂交，立刻想到私生子……”
　　还有一位博友，在满脑子浆糊上跟我有得一拼——我比他唯一强一点的是，我对自己满脑子浆糊这一点有自知之明，而此兄对此浑然不知。他跟着上面那第一位仁兄说：老高本人就是不断在演绎“文革”和“阶级斗争”的思维。呵呵呵，这就相当于从“一见短袖子”，中间什么联想环节都不需要，一步就直接跳到“想到私生子”！
　　这都是题外话，还是言归正传，谈谈“人工智能”吧。AI是绝不会犯这些逻辑错误的，人在AI面前还真不能不气馁。


　　计划不是那个计划，市场也不是那个市场

　　也说“AI计划经济是否可能”

　　老残油记，微博


　　一，人脑不可度量处，AI大显身手时

　　关于“AI（人工智能）计划经济是否可能”，国内人文学界几乎众口一词：不可能。然而，人工智能的飞速发展却一路辗压人文学界对人工智能的种种质疑。目前的情势是，说人工智能能做什么很容易，因为相对于人脑，它几乎无所不能；说人工智能不能做什么，则风险甚高，持论者常常因论据失真或前提不确，致结论无效。比如，近日网上热传的两篇文章《把市场消灭了，人工智能的基础也就没有了》（作者许成钢）、《计划经济不可行性早已证明 大数据也弥补不了》（作者周为民），即无一幸免。
　　许文和周文的标题旗帜鲜明，但也直接令人生疑添惑。因为市场只是数据采集的众多场景之一，断不至于如许文所说，成为大数据的基础。至于周文所说公有制计划经济之不可行，病根其实也在数据，即数据缺失致“经济”无从“计划”（对此，米塞斯在社会主义经济计算问题论战中曾有精彩论述）；大数据，也不是补漏之器，而是解决之道。除了标题，两文中的无效论据、论证，也所在多多。比如许文称，人脑无法感知、无法度量的东西，则人工智能无所施其技（大意）。实情是，人脑智能不可度量，绝不等于人工智能不可度量；而且，人脑不可度量处，恰是AI大显身手时。
　　或许， 人文学界在预测人工智能前景时，应当先尝试了解人工智能的逻辑理路和技术发展动态，才方便与外界就这一话题作有效率的交流。而学界的认知错位或缺席，极可能使人类对人工智能失控的局面提前到来。
　　何为人工智能逻辑理路？以笔者“民科之见”，其要义或可简化为三层意思：1）大千世界无处不在的“数学法则”，才是真正的宇宙之王；2）世间万象，都可以简化和还原为数据，人脑，则是一台功力强大的数据处理系统；3）人脑的反应和思维过程（包括直觉、创见、灵感），实质是数据采集、识别、整理的复杂计算过程。本乎此，AI界坚信，如果能解开人脑思维之谜，便极有可能研发出效率万千倍胜过人脑算力的人工智能系统。而人工智能狂飚突进的发展，也正加速将AI业界的信心、信念升华为信仰。
　　最新实例，是前科棋圣“阿法狗” （AlphaGo）的胞弟“阿法元”（AlphaGo Zero）。

　　二，天不生AI，万古如长夜

　　与从小熟读兵书、“打谱”无数，并与人类棋手反复对弈、切磋的“阿法狗”不同， “阿法元”小弟生性孤傲，对于集人类围棋实战之大成的“文献资料”（棋谱）不屑一顾，也不愿屈尊让出一席之地，邀人间棋王手谈。如此妙手空空，从零开始，自我对弈，自学成才，三天过后，“阿法元”便批量报捷，将不久前横扫地球九段人的“阿法狗”杀了个100：0。“阿法元”这一大开杀戒的弑兄战绩意味着，在人工智能面前，人类围棋领域过往的全部经验性事实和思考成果，价值归零。难怪弈坛少帅柯洁闻讯后，在微博上敲下了六个字：“人类太多余了”。
　　
　　棋坛少帅柯洁与“阿法狗”对阵落败后，泪洒沙场（网络图片）

　　“山外青山楼外楼”。继乃兄之后，“阿法元”再次提醒人类，围棋招式变化如恒河沙数（据说高达10的170次方，而宇宙已知部分的原子数不过10的80次方），人脑思维半径所及，不过沧海一粟。数千年来，人类历代棋手殚精竭虑参悟出来的各种定式、变招，一夜之间，沦为井底蜗壳的“局部最优”。围棋领域如此，其它领域又如何？初思甚喜，细思极恐。
　　综上所述，人工智能的出现，是名副其实的“划时代”事件。此前，人类社会只有一个智能系统，即人脑智能系统。由于人脑综合计算（数据采集、识别、整理）能力远高于其它动物脑，人类曾信心满满地自诩为“宇宙的精华、万物的灵长”。人工智能横空出世，将使人类拥有两个智能系统：人脑智能系统与人工智能系统。更令人类猝不及防的是，人工智能算力之强大，使千百年来困惑人脑的难题，纷纷于一夜之间迎刃而解，而人类千百年来引以为荣的智慧文明成果，也将纷纷于一夜之间沦为偏安一隅的“局部最优”。
　　关于人工智能的划时代意义，或可化用人脑智能名句形容：“天不生AI，万古如长夜”。

　　三，勿以人脑之心，度AI之腹

　　回到计划经济和市场经济话题。
　　先说公有制计划经济。如果我们依前述思路，把“计划”理解为“数据处理”，把“计划经济”理解为基于大数据处理的资源优化配置总体方案，那么，公有制计划经济不过是一种既定算力不足致不可计算、无法落地的“空中楼阁”。对于这一议题，奥地利学派主帅米塞斯曾有“盖棺”之论，其极简版表述大约为：公有制致生产资料无交易对手，无交易则无价格，无价格则无从计算。不幸的是，近百年来总有伟人一意孤行，在人类社会重复这种具有先天缺陷，注定失败的乌托邦实验。
　　需要指出的是，公有制计划经济悲惨的实验记录，或许可以作为人脑算力有限的“旁证”，但并不能据此推出人类经济活动不可“计划”、大数据和人工智能对经济领域无效的结论。强调这一点，是因为许多学者对人工智能计划经济的质疑乃至声讨，不过是将此前学界（尤其是奥派）对公有制计划经济理论的深刻批判，直接移作对未来AI计划经济的预判。这样的预判，相当于人间弈者持棋谱评点“阿法元”的落子，是一种“以人脑智能之心，度人工智能之腹”的莽撞之举。
　　附带一提。以“无法计算” 瓦解公有制计划经济理论的米塞斯，逻辑上其实为人工智能计划经济预留有边窗后门——果若算力足够，尔等不妨一试。
　　再说市场经济。依同一思路，市场经济不过是人类直面人脑算力有限的现实，经反复试错形成的一种次优解决方案。相比公有制计划经济，市场经济可操作性强，而且具有前者望尘莫及的高效率。但是，它仍然受制于既定算力不足的瓶颈，存在贫富不均、市场试错损耗等不尽如人意之处，仍然只是一种“局部最优”，甚至 “局部次优”。
　　随着人工智能的高速发展，人类有充分理由期待迎来一种非人脑算力可逮、趋于整体最优的资源配置方案，即“AI计划经济”。 “AI计划经济”决不是公有制计划经济的翻版，也不是简单地在市场经济中植入一套人工智能系统。说到底，它与公有制计划经济及自由市场经济的区别，不在生产资料公有或私有、一党专制或三权分立等顶层“构件”，而在最基础，也是最本质的纯技术因素——算法精妙，算力强大，强大到既可规避公有制计划经济之祸，又足以摸到市场经济的“无形之手”，并从容超越之。
　　囿于人脑算力，人们目前还难以想象和描述未来AI计划经济的种种细节，但可以肯定，届时，计划不是那个计划，市场也不是那个市场——或许，市场也“太多余了”。


　　AlphaGo设计师黄士杰：最强的学习技能在人类的脑袋里

　　英国《金融时报》中文网，2017年11月14日

　　AlphaGo的“人肉手臂”、担任Deepmind资深研究员的黄士杰，在近期公开演讲中，分享他身为一名科学家，如何旁观机器的进步。

　　没有人会否认，AlphaGo在过去一年炒热全球对人工智能的关注。
　　2016年3月，谷歌Deepmind旗下的围棋程序AlphaGo，以4比1的成绩战胜韩国职业棋手李世石。一年后，拿掉所有人类知识、完全靠自学的AlphaGo Zero，在今年10月又以100比0的战绩碾压“AI前辈”AlphaGo。从击败人类、到自学成材，AlphaGo的进展超乎预期，研发团队也自然成为关注焦点。这当中，被称为AlphaGo的“人肉手臂”，替AlphaGo向棋圣聂卫平说“谢谢聂老师”的黄士杰(Aja Huang)，就是AlphaGo发展的重要推手。
　　1978年出生、现任Deepmind资深研究员的黄士杰，私底下是围棋业余六段，在每一场人机对战中，都代表AlphaGo落子。但他不只是手脚，更贴近他身分的描述，其实是AlphaGo的设计者、是AlphaGo的大脑。让AlphaGo登上科学期刊《自然》(Nature)封面的那篇知名论文，黄士杰并列为第一作者。
　　上周五（11月10日）在台湾中研院举办的“2017年人工智慧年会”上，黄士杰首次把AlphaGo的研发过程公开说清楚，除了透露新一代AlphaGo Zero的能力还没达到极限，他更多的是去分享身为一名科学家，旁观机器的进步，以及一个科学团队对基础研究的使命和专注。
　　以下是编辑后的演讲摘录：

　　AlphaGo的研发过程，有四个时刻对我影响很大。
　　第一，是我们在韩国赢了李世石。当我们开始做AlphaGo时，没想到它会变得那么强。在韩国赢了李世石后，DeepMind首席执行官Demis Hassabis立刻发了一个推特，说“我们登上月球”(We landed it on the moon.)。我明白Demis那天的感觉，这是我们团队的一小步，但却是人类的一大步。
　　第二个时刻，是我在网络上操作AlphaGo升级版“Master”，下了60盘棋。我从小喜欢下棋，在台湾是业余六段。Master在网络上对弈的对象，都是我从小崇拜的人。虽然不是我真正在下棋，但却感到非常荣幸。
　　第三个时刻，是今年在乌镇进行的人机大战，由我操作AlphaGo和世界冠军柯洁九段下棋。柯洁还不满20岁，非常年轻，当天比赛氛围和李世石对弈时很不同。我记得在韩国比赛，能感受到李世石承受到很大的压力，感觉他是在为人类而战。我当时坐在他对面，也尽量保持谨慎的态度，不喝水、不去上洗手间。但到了第二次和柯洁对弈，比较像是人机合作的气氛，柯洁还走过来说：“黄博士，很荣幸跟AlphaGo下棋”，坦白说我有点惊讶。这也让我们知道，如果Master是无敌的，那机器存在价值到底在哪里？应该是要帮助棋手扩张思路、扩展围棋理论。
　　第四次对我意义重大的时刻，是AlphaGo Zero的出现。什么是AlphaGo Zero？我们拿掉所有人类对围棋的知识，只喂AlphaGo Zero围棋规则，让它自己学习下棋。我回想起读博士班的熬夜日子，就是不断写代码、找bug，每天做测试，让程序进步。但AlphaGo Zero把我过去的所有东西全部取代，它完全不需要我的帮助。有同事问我，Aja，AlphaGo Zero把你这十几年来对围棋计算机的研究，一点一点的拿掉，甚至还超越你，有什么感觉？我的确心情复杂，但后来跟同事说，这会是一个趋势，如果我阻碍了AlphaGo，我确实应该被拿掉（笑）。AlphaGo有99%的知识是我做的，AlphaGo能走到这一步，我已经很满足，找到了收尾。

　　AlphaGo是怎么开始的？

　　回到一开始，AlphaGo到底是怎么开始的？起点是有三组人马的聚集：Deepmind首席执行官Demis Hassabis与AlphaGo项目领导David Silver、我、还有两位谷歌大脑（Google brain）的同事Chris Maddison和Ilya Sutskever。
　　Demis和David原本是剑桥大学的同学，友情深厚。对西方人来说，当1997年IBM超级电脑“深蓝”赢了西洋棋棋王卡斯巴罗夫之后，就只剩下流传几千年的中国围棋，是人工智能发展的极大挑战。一开始，很多研究人员想把研究西洋棋的技术移到围棋上，但都失败了。在2006年蒙特卡洛树搜索出来后，研究才提升一阶，让机器棋手的水平能达到业余三段，但离职业棋士一段还有距离。Demis和David心中开始藏有一个梦，希望有一天要能做出一个很强的围棋程序。
　　但有梦的不只有他们，故事的另一条线还有我。
　　在就读台湾师范大学资讯工程博士班时，我每天埋头解bug、写代码，就是希望做一个很强的围棋程序。2010年，我研发出的围棋计算机程序Erica（事实上是用我妻子的名字来命名），在计算机奥林匹亚获得19路围棋的冠军。虽然Erica只是单机版，但它打败了用了6台PC的日本程序Zen跟其他参赛者，就像小虾米对抗大鲸鱼。当年还在英国当教授的David，在比赛后写信问我有没有兴趣加入Deepmind，隔年我也正式加入团队，成为第40号员工。
　　我还记得当年面试，老板问我，能做出Erica有什么感觉？我回答，满有成就的。Demis点头，他明白我的感觉。
　　2014年，Google收购Deepmind，AlphaGo项目也正式浮现。Demis起初还在教书、还不是全职员工，就常三不五时走过来跟我讨论围棋项目的想法。真的要开始时，我们其实都已经有些准备。
　　既然决定要做围棋项目，当时我和Demis有一个共识，就是绝对不要复制Erica。Erica其实有它的极限，最勉强的就是达到业余三段，继续复制的意义不大。我们想做不一样的事，希望能运用到深度学习的原理。过了几个月，团队又增加了两个人，包括深度学习之父以及带动深度学习革命的研究者。
　　我们怎么判断深度学习可能应用到围棋？如果人类可以一看棋盘就知道下哪一步会是好棋，那么神经网络也可能办得到这种“直觉”。但如果人类得想五分钟才能给出答案，神经网络可能办不到。一开始，我们训练AlphaGo从人类的棋谱去学习人类的直觉。我还记得第一次测试神经网络，没想到能表现得那么好，百分之百对战都不会输，是一种碾压式的胜利。
　　AlphaGo第二个突破的是价值网络（Value Network）。我记得当David跟我说他有这样一个点子时，我还质疑，这会成吗？当我们把策略网络（Policy Network）做出来后，最强的程式可以达到70%到80％的胜率，算得上是世界最强的。但老板的目标不只于此，我们又继续找人、继续扩充团队。
　　这过程其实很辛苦，尝试很多，譬如网络要多深、要用什么架构？数据库有没有问题？最终检验的，还是看AlphaGo有没有变强。过了一个月之后，我们找到了问题并且解决掉，我仍然记得，旧版AlphaGo配上价值网络产生的新版AlphaGo，第一次的实验结果是达到95%的胜率，棋力非常强。可以这么说，AlphaGo的成功就是深度学习与强化学习的胜利，因为两者结合在一起，建构判断形式的价值网络，后来也成为AlphaGo Zero的主要理论。
　　当价值网络出来后，Demis希望我们能与欧洲职业一段棋手进行比赛。当下，我除了要做价值网络，还要研究平行网络搜索技术，Demis走过来说要比赛，我只想着：真的那么有信心吗？
　　后来我们与欧洲围棋冠军樊麾进行比赛，最终以5比0获胜，这结果其实也很不可思议。我记得樊麾输了第二盘棋后，想出去走走，会说中文的我，原本想去陪他，他挥挥手，“不用，我自己出去透透气。”
　　难能可贵的是，樊麾是第一个被AI打败的职业棋士，但他的态度非常正面。樊麾在第五盘棋虽然认输了，但他对AI并没有感到害怕，后来甚至也加入了团队，帮忙测试AlphaGo。
　　当时要把AlphaGo研究投稿到科学期刊《自然》（Nature）也是另一段有趣的故事。我们那时刚弄出价值网络、刚打败樊麾，正准备要挑战韩国职业棋手李世石九段，Demis为什么又要我们另外花时间去写论文，而不是准备比赛？为什么现在就要我们把研究秘密全部公开？
　　Demis给了我一个很有意思的答案。他认为，我们是在做研究，科学的精神就是要互相分享，我们要推动整个领域的进步。也因为要写论文投稿，和《自然》编辑也事先谈好，在出版之前，我们不能和任何人说AlphaGo打败了樊麾。那几个月，所有人都憋著不讲，当论文刊登之后，才正式向李世石九段提出挑战。
　　至于后来AlphaGo和李世石的比赛，大家也都知道了。
　　这边要特别提到的是，TPU（Tensor Processing Unit，谷歌的高性能处理器）在研究过程中对我们有极大的帮助。自从Deepmind加入Google后，我认为Google给我们最大的帮助，就是提供了硬件设备。我还记得当时有一个GPU（图形处理器）版本，代码完全一样，但改用TPU之后，胜率变得强太多。
　　而AlphaGo的故事也还没结束。

　　就在我们打败李世石后，很多人认为AlphaGo项目是不是不动了。如果大家还记得，和李世石下棋时，第四盘棋我们输得很惨。当时我坐在李世石对面，要帮AlphaGo下那几步棋，明显知道那些下法是初学者的错误，要摆棋很痛苦，甚至会觉得我来下都比AlphaGo来得好。虽然我们最终赢了，但这一盘棋确实有很大的弱点，如果五盘棋内，有20％的错误率，这样的AI系统，你敢用吗？所以我们决定，一定要把这个弱点解决掉，不只是解决第四盘的问题，是要把AlphaGo项目全面解决。
　　后来过了三个月，我们就把弱点解掉了。怎么做到的？还是采用深度学习和强化学习的方法，并不是用人类知识的方法。第一，我们加强AlphaGo的学习能力，所谓学习能力就是把网络程度加深，从第一篇论文的13层加深到40层，而且是改成ResNet。第二个改变是，把策略网络和神经网络结合，让AlphaGo的直觉和判断一起训练，使两者更有一致性。这个解决后的版本，就是Master。
　　我那段时间一直说服团队，要带Master上线下棋测试棋力，不要等到Master完全无敌后才下棋。2016年年底，我回到台湾，当时特别低调，在线上中文围棋网站奕城和野狐申请了帐号，偷偷当职业棋士下棋。12月29号开始，我关在自己的房间里测试Master，一盘棋下一小时，一早下三盘棋，然后吃饭，下午继续，晚上吃完饭再继续，非常累，到晚上眼睛都张不开。
　　我还记得一开始在奕城下棋，没人要跟经验值为零的我对弈，直到第二天邀约才陆续上门，到了第三天，还愈来愈多人观看。那时压力很大，很怕自己点击错误或是网络连线断掉，AlphaGo不能因为我而输掉啊。
　　我到现在还是很感谢那些曾经和Master对弈的棋手。原本想低调比赛，但后来没办法，确实是每一盘都赢、每一盘赢的都是巨大的优势。这当中，柯洁算是唯一一位可以跟AlphaGo比赛坚持最久的。

　　AlphaGo Zero只用三天走过人类的千年历程

　　在Master之后，我们研究分出两条线，一条是让Master出去比赛，由我来测试，另一条线，则是把所有人类知识拿掉，从零开始学习，看AlphaGo Zero可以达到什么程度。
　　我们在初期预设AlphaGo Zero绝对不可能赢Master。围棋被研究了几千年，一个程序只知道棋盘和规则，一切从零开始，怎么可能会超越几千年的围棋历史？但我们错了，40天的训练后，AlphaGo Zero超越了Master，我们非常意外，深度学习和强化学习的威力太大了。
　　AlphaGo Zero是从乱下开始，找出围棋的下法，它只用了三天，走过了人类研究围棋的千年历程。这也是有趣的地方，人类几千年的累积，跟科学研究是一致的。
　　AlphaGo Zero前后训练了40天，但第40天还没有到达其极限，因为我们机器要做其他事情就先停下了。今年四月，我们也发表了AlphaGo Zero的论文，这篇论文的目的，没有想要跟人类知识比较、或是讨论人类知识有没有用等问题，而是想证明机器不需要人类知识也可以拥有很强的能力。
　　我认为，未来的人工智能，是要与人类合作，而非跟人类对抗。强人工智能距离我们仍是遥远，而现在最强的学习技能，其实仍在我们的脑袋里。

　　高看（每日一图，与文无关。十一月图片主题：集市）

　　德国巴伐利亚一小镇上，初秋一个周末跳蚤市场。