&p&文档本体已更新完毕
补充了链接，更新完毕
更新至设定篇、外围篇
补充了进阶篇（SCP-055，SCP-1000，SCP-1893，SCP-2006，SCP-2521）
更新至进阶篇、特别篇，补充了过渡篇中的相关外围&/p&&p&---------------------------------&/p&&p&了解基金会最好的方式是看文档，尤其是SCP条目。中文官网（wikidot）是目前中文翻译最齐全的地方，有能力的话也可以看英文官网。有一些条目可能需要wikidot账号才能获得较好的阅读体验&/p&&p&早期官网SCP（前999号）由于历史原因（起步阶段，评分机制不完善），多少存在一些问题，可能会造成误解。所以这里放一份SCP推荐清单吧：&/p&&p&入门篇：
这里收录的都是一些可读性强、冲击力强、极为经典的条目，适合对基金会世界观还不太了解的读者&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-173& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-173 - SCP基金会&/a&（雕像-原初之作）：无可争议的第一位，在语言、点子等各个方面几乎都不可超越，同时也是基金会世界观的奠基石&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-002& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-002 - SCP基金会&/a&（“生活”室）：猎奇风格的小品&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-087& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-087 - SCP基金会&/a&（楼梯间）：篇幅比较长，探索记录很能体现基金会风格，恐怖类佳作&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-096& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-096 - SCP基金会&/a&（羞涩的人）：极为典型的基金会风格，点子的冲击力很强，收容记录也有助于体会“基金会式的书面报告”&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-294& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-294 - SCP基金会&/a&（咖啡机）：趣味性很强，作死必备&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-426& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-426 - SCP基金会&/a&（我是烤面包机）：我真是模因类的经典之作啊&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-458& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-458 - SCP基金会&/a&（无限披萨盒）：这个有点私心的说，点子非常简单，放到现在也就是个异常物品。但是……真的好想要一个啊！&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-914& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-914 - SCP基金会&/a&（万能转换机）：同294，可读性很强，很好地发挥了基金会多人合作模式的优势&/p&&p&—————————————————————&/p&&p&过渡篇：
这里收录的是一些知名度很高、在基金会宇宙史中有重要地位的SCP，但请注意，它们大多不应被作为“模范”，因为它们的点子非常单薄，能保存到今天都是历史原因。请抱着审视的态度观看这些SCP，因为基金会收容的远不止这些物品&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-073& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-073 - SCP基金会&/a&（“该隐”）：圣经梗。和下面这位的同人很多&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-076& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-076 - SCP基金会&/a&（“亚伯”）：基金会有一个“能打的”人形SCP已经足够了&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-105& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-105 - SCP基金会&/a&（“鸢尾”）：放到现在大概会被当成玛丽苏，目前能看到的文档也是重写过的&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-239& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-239 - SCP基金会&/a&（巫魔幼女）：因果律武器。相关的外围很多&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-500& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-500 - SCP基金会&/a&（万能药）：用三个字就能概括的SCP，主要出没于各种外围文档中&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-682& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-682 - SCP基金会&/a&（不灭孽蜥）：基金会头号敌（沙）人（包），同076，基金会有一个682大爷就够了&/p&&p&这里顺便也说一下，虽然亚伯（076）和小巫女（239）文档本体有点摆不上台面，但相关外围都很有意思。尤其是076相关的Omega-7系列，虽然因为玛丽苏很快就被砍掉了，但这个素材在Clef笔下大放异彩，几乎成为了基金会故事中最著名的一篇。具体见外围篇&/p&&p&————————————————&/p&&p&进阶篇：
这里收录的是一些高分文档，它们可能不如076、682那么出名，一部分读起来也不如小品文那样轻松，但它们绝对是非常出色的作品&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-055& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-055 - SCP基金会&/a&（[未知]）：一个不是球的东西。&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-093& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-093 - SCP基金会&/a&（红海之物）：超长篇文档，真相逐步揭开，却似乎又始终隐藏在迷雾之后。异世界入口类SCP中最精彩的作品，世界观厚重宏大，读完非常震撼&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-321& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-321 - SCP基金会&/a&（人之子）：基金会的人文关怀（笑）&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-447& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-447 - SCP基金会&/a&（绿色粘液球）：论数据删除的正确用法&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-610& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-610 - SCP基金会&/a&（憎恨血肉）：点进去会有一张比较猎奇的图，这里预警一下，风格也跟配图差不多。又是一篇长篇报告体记录，不过结尾似乎坑了…？&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-701& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-701 - SCP基金会&/a&（缢王悲歌）：兼顾了写实与恐怖的长篇文档，虽然作者也承认了内容有借鉴《黄衣之王》，但仍然是戏剧类SCP中相当精彩的一篇&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-1000& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-1000 - SCP基金会&/a&（大脚怪）：将俗套的点子化腐朽为神奇，结尾的反转非常有趣&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-1171& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-1171 - SCP基金会&/a&（“人类滚粗！！”）：来轻松一下吧～内容又好笑又讽刺的一篇SCP&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-1173& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-1173 - SCP基金会&/a&（东萨莫色雷斯伊斯兰共和国）：似乎有所隐喻的政治类SCP&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-1230& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-1230 - SCP基金会&/a&（英雄的诞生）：温馨中带着一丝忧伤，基金会的一股清流&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-1281& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-1281 - SCP基金会&/a&（先驱）：文字非常动人，很好地表现了人类的渺小感与孤独感&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-1322& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-1322 - SCP基金会&/a&（欢愉之洞）：基金会玩脱系列&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-1733& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-1733 - SCP基金会&/a&（开季赛）：录像带式文档的代表作，看到最后有种深深的无力感&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-1812& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-1812 - SCP基金会&/a&（双月模因）：点子极有想象力&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-1893& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-1893 - SCP基金会&/a&（米诺陶的故事）：你点开知乎，更新了一个回答，你不知道那个额角有公牛刺青的男人对你的答案似乎很满意，按下了一个“赞”&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-1981& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-1981 - SCP基金会&/a&（割喉里根）：将不可名状的恐惧发挥到了极致&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-1983& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-1983 - SCP基金会&/a&（死境之门）：最强D级人员！&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-2000& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-2000 - SCP基金会&/a&（机械降神）：几乎是基金会宇宙通用的设定了，基金会的最后手段（当然，在大老鼠面前……&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-2003& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-2003 - SCP基金会&/a&（时间机器与首选未来）：时间穿梭类SCP，浓浓的绝望感&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-2006& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-2006 - SCP基金会&/a&（太吓人啦）：乍一看非常逗比，然而细思恐极&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-2317& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-2317 - SCP基金会&/a&（异界之门）：请一定要把六个迭代迭代顺次看下去，真相会逐步揭开，尽管那也许并不是你想要的&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-2521& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&●●|●●●●●|●●|● - SCP基金会&/a&（●●|●●●●●|●●|●）：2521 (*o??o?) ！&/p&&p&———————————————
这里收录的是一些质量极高，但因为各种原因，并不容易阅读的作品&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-231& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-231 - SCP基金会&/a&（特殊个人需求）：110-蒙托克程序是什么？&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-2718& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-2718 - SCP基金会&/a&（身后事）：请一定一定一定不要被前面的一堆乱码劝退！同2317，不同的是这篇更加细思恐极&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-2998& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-2998 - SCP基金会&/a&（异常信息，2485MHz）：与2317类似的迭代文档，更加晦涩一些&/p&&p&———————————————
基金会世界观是一个庞大而又碎片化的体系，在阅读文档时可能时常会发生看不懂设定的情况。当然，探索基金会世界观最好的办法还是自己看文档，慢慢来，自己将碎片串联在一起，也许你在看到某篇文档的某个内容时就会忽然想起以前看过的某个片段呢？&/p&&p&这里收录的是一些官方或半官方设定，由于多人创作的模式，部分文档间可能存在冲突，这个自己体会就好啦&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/groups-of-interest& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&相关组织 - SCP基金会&/a&：对异常感兴趣的不仅是基金会一家&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/groups-of-interest-cn& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&中国相关组织 - SCP基金会&/a&：CN文档的背景设定&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/security-clearance-levels& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&安保许可等级 - SCP基金会&/a&：一些详细的设定&/p&&p&———————————————
外围文档指的是围绕SCP条目展开的、与基金会世界观有关的文章，可以视作基金会世界观下的故事，文体从报告、小说到诗歌不等。需要注意的是，外围并非所谓“官设”，唯一的官设是SCP条目本身，因此你会经常看到在某篇外围中某博士死了/某SCP被毁了/基金会完了，在另一篇里他们却活得好好的。当作平行宇宙来看就好。&/p&&p&这里收录的是一些知名度较高的外围文档，其中很多已经被默认为基金会背景的一部分。当然，有一些因为历史原因，可能不适合用今天的标准评判。请抱着审视的态度观看。&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/black-white-black-white-black-white-black-white-black-white& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&黑白黑白黑白黑白黑白灰 - SCP基金会&/a&：官网得分最高的外围。几乎是对基金会最好的概括&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/log-of-agent-aa& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&特工AA的人事记录 - SCP基金会&/a&：076相关&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/scp-784-arc& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP-784-ARC - SCP基金会&/a&：依然是特工AA的故事&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/duke-till-dawn& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&公爵的末日 - SCP基金会&/a&：笑点很足的一篇外围，给所有玛丽苏/龙傲天条目的警告。尽管如此，文中对Kondraki博士滥用SCP、草率对待收容物行为的描写过于随意，与基金会世界观差别过大，因此已经不适用于现在的写作&/p&&p&事故239-B-Clef-Kondraki（&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/incident-239-b-clef-kondraki& class=& external& target=&_blank& rel=&nofollow noreferrer&&&span class=&invisible&&http://&/span&&span class=&visible&&scp-wiki-cn.wikidot.com&/span&&span class=&invisible&&/incident-239-b-clef-kondraki&/span&&span class=&ellipsis&&&/span&&/a&）：基金会内战，许多博士的经典形象皆出于此。从这里也诞生了许多阴谋论&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/clef101& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&Clef博士教研班的文字记录，“现实扭曲者与你：怎样在现实并不存在时生存下来。” - SCP基金会&/a&：Clef的外围都带着浓浓的阴谋论气息啊…&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/fear-alone& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&恐惧唯存 - SCP基金会&/a&：关于SCP-231，关于110-蒙托克程序的温馨小故事&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/unfinished-business& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&未竟的事业 - SCP基金会&/a&：239事件的后续，且不止如此&/p&&p&&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/d-class-orientation& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&D级人员指南 - SCP基金会&/a&：给D级人员的真诚实用贴心小提示&/p&&p&——————————&/p&&p&推荐大概就是这些，和开头说的一样，SCP基金会系列最大的乐趣之一就是探索，中文官网（&a href=&//link.zhihu.com/?target=http%3A//scp-wiki-cn.wikidot.com/& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&SCP基金会&/a&）有2000+本家SCP和近200篇中国分部原创SCP等待你的挖掘！新世界的大门已经向你敞开，欢迎，新来的D级人员&/p&
文档本体已更新完毕
补充了链接，更新完毕
更新至设定篇、外围篇
补充了进阶篇（SCP-055，SCP-1000，SCP-1893，SCP-2006，SCP-2521）
更新至进阶篇、特别篇，补充了过渡篇中的相关外围---------------------------…
&p&某次无意中看到了俄罗斯画家Ivan Aivazovsky的画，被震惊到了，然后逢人就推荐，已经成为脑残粉。他画的水是如此清透，可怜可爱。让人忍不住想身临其境去见识这样的美景。&/p&&p&随手放了几张图，网上还有更多，就不一一列举了。&/p&&p&提示：深海恐惧症患者请慎重观看。&/p&&p&勤劳的小蜜蜂又来啦！&/p&&p&喜讯！！&/p&&p&找到了谷歌艺术计划的网址，上面有很多Ivan的高清大图，大家的桌面都换起来吧！&/p&&p&网址：&a href=&//link.zhihu.com/?target=https%3A//commons.wikimedia.org/wiki/%25D0%%25B2%25D0%25B0%25D0%25BD_%25D0%259A%25D0%25BE%25D0%25BD%25D1%%%25B0%25D0%25BD%25D1%%25B8%25D0%25BD%25D0%25BE%25D0%25B2%25D0%25B8%25D1%%%25B9%25D0%25B2%25D0%25B0%25D0%25B7%25D0%25BE%25D0%25B2%25D1%%25BA%25D0%25B8%25D0%25B9& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&Иван Константинович Айвазовский&/a&&/p&&p&&br&&/p&&figure&&img data-rawheight=&1280& src=&https://pic1.zhimg.com/v2-b88e292e2cfee4ef14dd4a0_b.jpg& data-size=&normal& data-rawwidth=&1813& class=&origin_image zh-lightbox-thumb& width=&1813& data-original=&https://pic1.zhimg.com/v2-b88e292e2cfee4ef14dd4a0_r.jpg&&&/figure&&p&&br&&/p&&p&&br&&/p&&figure&&img data-rawheight=&634& src=&https://pic4.zhimg.com/v2-ac1ed4b5a87_b.jpg& data-size=&normal& data-rawwidth=&1000& class=&origin_image zh-lightbox-thumb& width=&1000& data-original=&https://pic4.zhimg.com/v2-ac1ed4b5a87_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&758& src=&https://pic4.zhimg.com/v2-60fd39b2d7f_b.jpg& data-size=&normal& data-rawwidth=&1000& class=&origin_image zh-lightbox-thumb& width=&1000& data-original=&https://pic4.zhimg.com/v2-60fd39b2d7f_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&670& src=&https://pic2.zhimg.com/v2-e1d1bcdd7ad_b.jpg& data-size=&normal& data-rawwidth=&1024& class=&origin_image zh-lightbox-thumb& width=&1024& data-original=&https://pic2.zhimg.com/v2-e1d1bcdd7ad_r.jpg&&&/figure&&p&&br&&/p&&p&&br&&/p&&p&哇，看来大家都很喜欢他的画，那我把珍藏的都放出来吧&/p&&figure&&img data-rawheight=&1000& src=&https://pic3.zhimg.com/v2-bebdd796e1c743c2e80332_b.jpg& data-size=&normal& data-rawwidth=&687& class=&origin_image zh-lightbox-thumb& width=&687& data-original=&https://pic3.zhimg.com/v2-bebdd796e1c743c2e80332_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&656& src=&https://pic4.zhimg.com/v2-23dc3c4ba2cfb3eb01a16f4cdcdc7f77_b.jpg& data-size=&normal& data-rawwidth=&1000& class=&origin_image zh-lightbox-thumb& width=&1000& data-original=&https://pic4.zhimg.com/v2-23dc3c4ba2cfb3eb01a16f4cdcdc7f77_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&615& src=&https://pic2.zhimg.com/v2-72bb08ca31_b.jpg& data-size=&normal& data-rawwidth=&1000& class=&origin_image zh-lightbox-thumb& width=&1000& data-original=&https://pic2.zhimg.com/v2-72bb08ca31_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&612& src=&https://pic2.zhimg.com/v2-ccffaa349dd89dd90bf89_b.jpg& data-size=&normal& data-rawwidth=&1000& class=&origin_image zh-lightbox-thumb& width=&1000& data-original=&https://pic2.zhimg.com/v2-ccffaa349dd89dd90bf89_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&745& src=&https://pic1.zhimg.com/v2-d11adcb7a82af308e75c64_b.jpg& data-size=&normal& data-rawwidth=&1000& class=&origin_image zh-lightbox-thumb& width=&1000& data-original=&https://pic1.zhimg.com/v2-d11adcb7a82af308e75c64_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&749& src=&https://pic1.zhimg.com/v2-1e70f4887400fbc0530cdc6eef75d7b4_b.jpg& data-size=&normal& data-rawwidth=&1000& class=&origin_image zh-lightbox-thumb& width=&1000& data-original=&https://pic1.zhimg.com/v2-1e70f4887400fbc0530cdc6eef75d7b4_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&730& src=&https://pic3.zhimg.com/v2-7adaaad0e365e_b.jpg& data-size=&normal& data-rawwidth=&1000& class=&origin_image zh-lightbox-thumb& width=&1000& data-original=&https://pic3.zhimg.com/v2-7adaaad0e365e_r.jpg&&&/figure&&p&&br&&/p&&p&&br&&/p&&p&我又来啦！&/p&&figure&&img data-rawheight=&1500& src=&https://pic1.zhimg.com/v2-347af54c3ad4f5b6c8450_b.jpg& data-size=&normal& data-rawwidth=&1407& class=&origin_image zh-lightbox-thumb& width=&1407& data-original=&https://pic1.zhimg.com/v2-347af54c3ad4f5b6c8450_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&644& src=&https://pic4.zhimg.com/v2-efaf7b0a641f5c_b.jpg& data-size=&normal& data-rawwidth=&1000& class=&origin_image zh-lightbox-thumb& width=&1000& data-original=&https://pic4.zhimg.com/v2-efaf7b0a641f5c_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&646& src=&https://pic3.zhimg.com/v2-afdf321e4affce6b6576e_b.jpg& data-size=&normal& data-rawwidth=&1000& class=&origin_image zh-lightbox-thumb& width=&1000& data-original=&https://pic3.zhimg.com/v2-afdf321e4affce6b6576e_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&1000& src=&https://pic2.zhimg.com/v2-56b26e3a329dc3ae3c14614d_b.jpg& data-size=&normal& data-rawwidth=&684& class=&origin_image zh-lightbox-thumb& width=&684& data-original=&https://pic2.zhimg.com/v2-56b26e3a329dc3ae3c14614d_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&662& src=&https://pic2.zhimg.com/v2-d3c95f3438e3efda2374f1_b.jpg& data-size=&normal& data-rawwidth=&1000& class=&origin_image zh-lightbox-thumb& width=&1000& data-original=&https://pic2.zhimg.com/v2-d3c95f3438e3efda2374f1_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&636& src=&https://pic1.zhimg.com/v2-051edb70c1_b.jpg& data-size=&normal& data-rawwidth=&1000& class=&origin_image zh-lightbox-thumb& width=&1000& data-original=&https://pic1.zhimg.com/v2-051edb70c1_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&701& src=&https://pic3.zhimg.com/v2-bc7f3cca_b.jpg& data-size=&normal& data-rawwidth=&1000& class=&origin_image zh-lightbox-thumb& width=&1000& data-original=&https://pic3.zhimg.com/v2-bc7f3cca_r.jpg&&&/figure&&p&&br&&/p&&p&&br&&/p&&p&答主回报大家的热情来了。。电脑桌面和手机壁纸就是这些画的轮播。&/p&&figure&&img data-rawheight=&744& src=&https://pic4.zhimg.com/v2-5fee24bdb97f1b57960cef_b.jpg& data-size=&normal& data-rawwidth=&1000& class=&origin_image zh-lightbox-thumb& width=&1000& data-original=&https://pic4.zhimg.com/v2-5fee24bdb97f1b57960cef_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&1000& src=&https://pic1.zhimg.com/v2-b0f851b23e83cbd04d4a5a8_b.jpg& data-size=&normal& data-rawwidth=&765& class=&origin_image zh-lightbox-thumb& width=&765& data-original=&https://pic1.zhimg.com/v2-b0f851b23e83cbd04d4a5a8_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&704& src=&https://pic2.zhimg.com/v2-cb54df33edd64fef605f93e_b.jpg& data-size=&normal& data-rawwidth=&1000& class=&origin_image zh-lightbox-thumb& width=&1000& data-original=&https://pic2.zhimg.com/v2-cb54df33edd64fef605f93e_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&581& src=&https://pic3.zhimg.com/v2-3eb49adfe8a_b.jpg& data-size=&normal& data-rawwidth=&1000& class=&origin_image zh-lightbox-thumb& width=&1000& data-original=&https://pic3.zhimg.com/v2-3eb49adfe8a_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&717& src=&https://pic1.zhimg.com/v2-8fa0ff5b183b47d31888f0fc_b.jpg& data-size=&normal& data-rawwidth=&1000& class=&origin_image zh-lightbox-thumb& width=&1000& data-original=&https://pic1.zhimg.com/v2-8fa0ff5b183b47d31888f0fc_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&925& src=&https://pic2.zhimg.com/v2-05d1cecd9f24f9b4fadba7d03fbff0dd_b.jpg& data-size=&normal& data-rawwidth=&1400& class=&origin_image zh-lightbox-thumb& width=&1400& data-original=&https://pic2.zhimg.com/v2-05d1cecd9f24f9b4fadba7d03fbff0dd_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&680& src=&https://pic4.zhimg.com/v2-23c1d6e4ed48c1dc2a397b_b.jpg& data-size=&normal& data-rawwidth=&1000& class=&origin_image zh-lightbox-thumb& width=&1000& data-original=&https://pic4.zhimg.com/v2-23c1d6e4ed48c1dc2a397b_r.jpg&&&/figure&&p&&br&&/p&&figure&&img data-rawheight=&1000& src=&https://pic3.zhimg.com/v2-3d72af7c232bec6a16ab6_b.jpg& data-size=&normal& data-rawwidth=&795& class=&origin_image zh-lightbox-thumb& width=&795& data-original=&https://pic3.zhimg.com/v2-3d72af7c232bec6a16ab6_r.jpg&&&/figure&&p&&br&&/p&&p&超积极的答主又来了。。。看到评论里很多人说透纳，于是找了一些他的作品，的确有相似之处。不过感觉透纳的风格更疏狂，不知道为什么看到他的画我老是想起苏东坡仰天大笑：“大江东去浪淘尽。”的气势？艺术小白。。请专业人士笔下留情。&/p&&p&这次透纳的画是在有画网和视觉中国上找到的，爱者请自取。&/p&&figure&&img data-rawheight=&645& src=&https://pic3.zhimg.com/v2-e_b.jpg& data-size=&normal& data-rawwidth=&900& class=&origin_image zh-lightbox-thumb& width=&900& data-original=&https://pic3.zhimg.com/v2-e_r.jpg&&&/figure&&figure&&img data-rawheight=&706& src=&https://pic3.zhimg.com/v2-635f21a95e69ed9acf8f1eebf5977542_b.jpg& data-size=&normal& data-rawwidth=&950& class=&origin_image zh-lightbox-thumb& width=&950& data-original=&https://pic3.zhimg.com/v2-635f21a95e69ed9acf8f1eebf5977542_r.jpg&&&/figure&&figure&&img data-rawheight=&513& src=&https://pic1.zhimg.com/v2-9ac9bafa33cfadb472b8b711ed155b6c_b.jpg& data-size=&normal& data-rawwidth=&750& class=&origin_image zh-lightbox-thumb& width=&750& data-original=&https://pic1.zhimg.com/v2-9ac9bafa33cfadb472b8b711ed155b6c_r.jpg&&&/figure&&figure&&img data-rawheight=&500& src=&https://pic4.zhimg.com/v2-c9a299cd165d03fed33cfbf_b.jpg& data-size=&normal& data-rawwidth=&1076& class=&origin_image zh-lightbox-thumb& width=&1076& data-original=&https://pic4.zhimg.com/v2-c9a299cd165d03fed33cfbf_r.jpg&&&/figure&&figure&&img data-rawheight=&916& src=&https://pic3.zhimg.com/v2-dca06fd4a26a_b.jpg& data-size=&normal& data-rawwidth=&1200& class=&origin_image zh-lightbox-thumb& width=&1200& data-original=&https://pic3.zhimg.com/v2-dca06fd4a26a_r.jpg&&&/figure&&figure&&img data-rawheight=&836& src=&https://pic3.zhimg.com/v2-9e2acabfc04b950ed2c2_b.jpg& data-size=&normal& data-rawwidth=&1200& class=&origin_image zh-lightbox-thumb& width=&1200& data-original=&https://pic3.zhimg.com/v2-9e2acabfc04b950ed2c2_r.jpg&&&/figure&
某次无意中看到了俄罗斯画家Ivan Aivazovsky的画，被震惊到了，然后逢人就推荐，已经成为脑残粉。他画的水是如此清透，可怜可爱。让人忍不住想身临其境去见识这样的美景。随手放了几张图，网上还有更多，就不一一列举了。提示：深海恐惧症患者请慎重观看。…
&p&1.拍卖会：富艺斯、佳士得、安迪古伦.....&/p&&p&2.手表销售网站：&a href=&//link.zhihu.com/?target=http%3A//acollectedman.com& class=& external& target=&_blank& rel=&nofollow noreferrer&&&span class=&invisible&&http://&/span&&span class=&visible&&acollectedman.com&/span&&span class=&invisible&&&/span&&/a&&/p&&p&3.专业手表论坛 &a href=&//link.zhihu.com/?target=http%3A//www.watchprosite.com/collectors-market& class=& external& target=&_blank& rel=&nofollow noreferrer&&&span class=&invisible&&http://www.&/span&&span class=&visible&&watchprosite.com/collec&/span&&span class=&invisible&&tors-market&/span&&span class=&ellipsis&&&/span&&/a& &b&历史出现率最高&/b&&/p&&p&4.砸钱........&/p&
1.拍卖会：富艺斯、佳士得、安迪古伦.....2.手表销售网站：3.专业手表论坛
历史出现率最高4.砸钱........
&figure&&img src=&https://pic3.zhimg.com/v2-da6e908fbff06e8e14c60d86d776d225_b.jpg& data-rawwidth=&768& data-rawheight=&576& class=&origin_image zh-lightbox-thumb& width=&768& data-original=&https://pic3.zhimg.com/v2-da6e908fbff06e8e14c60d86d776d225_r.jpg&&&/figure&&p&&/p&&figure&&img src=&https://pic1.zhimg.com/v2-abd42bbb61ee_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&558& data-rawheight=&315& class=&origin_image zh-lightbox-thumb& width=&558& data-original=&https://pic1.zhimg.com/v2-abd42bbb61ee_r.jpg&&&/figure&&p&作为一名久经片场的老司机，早就想写一些探讨驾驶技术的文章。这篇就介绍利用生成式对抗网络（GAN）的两个基本驾驶技能：&br&&/p&&p&1) 去除(爱情)动作片中的马赛克&/p&&p&2) 给(爱情)动作片中的女孩穿(tuo)衣服&/p&&p&&br&&/p&&h2&生成式模型&/h2&&p&上一篇《&a href=&https://zhuanlan.zhihu.com/p/& class=&internal&&用GAN生成二维样本的小例子&/a&》中已经简单介绍了GAN，这篇再简要回顾一下生成式模型，算是补全一个来龙去脉。&/p&&p&生成模型就是能够产生指定分布数据的模型，常见的生成式模型一般都会有一个用于产生样本的简单分布。例如一个均匀分布，根据要生成分布的概率密度函数，进行建模，让均匀分布中的样本经过变换得到指定分布的样本，这就可以算是最简单的生成式模型。比如下面例子：&/p&&figure&&img src=&https://pic1.zhimg.com/v2-d11b5fb26d3cc8e942f841bafe010cd8_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&1021& data-rawheight=&443& class=&origin_image zh-lightbox-thumb& width=&1021& data-original=&https://pic1.zhimg.com/v2-d11b5fb26d3cc8e942f841bafe010cd8_r.jpg&&&/figure&&p&图中左边是一个自定义的概率密度函数，右边是相应的1w个样本的直方图，自定义分布和生成这些样本的代码如下：&br&&/p&&div class=&highlight&&&pre&&code class=&language-python&&&span&&/span&&span class=&kn&&from&/span& &span class=&nn&&functools&/span& &span class=&kn&&import&/span& &span class=&n&&partial&/span&
&span class=&kn&&import&/span& &span class=&nn&&numpy&/span&
&span class=&kn&&from&/span& &span class=&nn&&matplotlib&/span& &span class=&kn&&import&/span& &span class=&n&&pyplot&/span&
&span class=&c1&&# Define a PDF&/span&
&span class=&n&&x_samples&/span& &span class=&o&&=&/span& &span class=&n&&numpy&/span&&span class=&o&&.&/span&&span class=&n&&arange&/span&&span class=&p&&(&/span&&span class=&o&&-&/span&&span class=&mi&&3&/span&&span class=&p&&,&/span& &span class=&mf&&3.01&/span&&span class=&p&&,&/span& &span class=&mf&&0.01&/span&&span class=&p&&)&/span&
&span class=&n&&PDF&/span& &span class=&o&&=&/span& &span class=&n&&numpy&/span&&span class=&o&&.&/span&&span class=&n&&empty&/span&&span class=&p&&(&/span&&span class=&n&&x_samples&/span&&span class=&o&&.&/span&&span class=&n&&shape&/span&&span class=&p&&)&/span&
&span class=&n&&PDF&/span&&span class=&p&&[&/span&&span class=&n&&x_samples&/span& &span class=&o&&&&/span& &span class=&mi&&0&/span&&span class=&p&&]&/span& &span class=&o&&=&/span& &span class=&n&&numpy&/span&&span class=&o&&.&/span&&span class=&n&&round&/span&&span class=&p&&(&/span&&span class=&n&&x_samples&/span&&span class=&p&&[&/span&&span class=&n&&x_samples&/span& &span class=&o&&&&/span& &span class=&mi&&0&/span&&span class=&p&&]&/span& &span class=&o&&+&/span& &span class=&mf&&3.5&/span&&span class=&p&&)&/span& &span class=&o&&/&/span& &span class=&mi&&3&/span&
&span class=&n&&PDF&/span&&span class=&p&&[&/span&&span class=&n&&x_samples&/span& &span class=&o&&&=&/span& &span class=&mi&&0&/span&&span class=&p&&]&/span& &span class=&o&&=&/span& &span class=&mf&&0.5&/span& &span class=&o&&*&/span& &span class=&n&&numpy&/span&&span class=&o&&.&/span&&span class=&n&&cos&/span&&span class=&p&&(&/span&&span class=&n&&numpy&/span&&span class=&o&&.&/span&&span class=&n&&pi&/span& &span class=&o&&*&/span& &span class=&n&&x_samples&/span&&span class=&p&&[&/span&&span class=&n&&x_samples&/span& &span class=&o&&&=&/span& &span class=&mi&&0&/span&&span class=&p&&])&/span& &span class=&o&&+&/span& &span class=&mf&&0.5&/span&
&span class=&n&&PDF&/span& &span class=&o&&/=&/span& &span class=&n&&numpy&/span&&span class=&o&&.&/span&&span class=&n&&sum&/span&&span class=&p&&(&/span&&span class=&n&&PDF&/span&&span class=&p&&)&/span&
&span class=&c1&&# Calculate approximated CDF&/span&
&span class=&n&&CDF&/span& &span class=&o&&=&/span& &span class=&n&&numpy&/span&&span class=&o&&.&/span&&span class=&n&&empty&/span&&span class=&p&&(&/span&&span class=&n&&PDF&/span&&span class=&o&&.&/span&&span class=&n&&shape&/span&&span class=&p&&)&/span&
&span class=&n&&cumulated&/span& &span class=&o&&=&/span& &span class=&mi&&0&/span&
&span class=&k&&for&/span& &span class=&n&&i&/span& &span class=&ow&&in&/span& &span class=&nb&&range&/span&&span class=&p&&(&/span&&span class=&n&&CDF&/span&&span class=&o&&.&/span&&span class=&n&&shape&/span&&span class=&p&&[&/span&&span class=&mi&&0&/span&&span class=&p&&]):&/span&
&span class=&n&&cumulated&/span& &span class=&o&&+=&/span& &span class=&n&&PDF&/span&&span class=&p&&[&/span&&span class=&n&&i&/span&&span class=&p&&]&/span&
&span class=&n&&CDF&/span&&span class=&p&&[&/span&&span class=&n&&i&/span&&span class=&p&&]&/span& &span class=&o&&=&/span& &span class=&n&&cumulated&/span&
&span class=&c1&&# Generate samples&/span&
&span class=&n&&generate&/span& &span class=&o&&=&/span& &span class=&n&&partial&/span&&span class=&p&&(&/span&&span class=&n&&numpy&/span&&span class=&o&&.&/span&&span class=&n&&interp&/span&&span class=&p&&,&/span& &span class=&n&&xp&/span&&span class=&o&&=&/span&&span class=&n&&CDF&/span&&span class=&p&&,&/span& &span class=&n&&fp&/span&&span class=&o&&=&/span&&span class=&n&&x_samples&/span&&span class=&p&&)&/span&
&span class=&n&&u_rv&/span& &span class=&o&&=&/span& &span class=&n&&numpy&/span&&span class=&o&&.&/span&&span class=&n&&random&/span&&span class=&o&&.&/span&&span class=&n&&random&/span&&span class=&p&&(&/span&&span class=&mi&&10000&/span&&span class=&p&&)&/span&
&span class=&n&&x&/span& &span class=&o&&=&/span& &span class=&n&&generate&/span&&span class=&p&&(&/span&&span class=&n&&u_rv&/span&&span class=&p&&)&/span&
&span class=&c1&&# Visualization&/span&
&span class=&n&&fig&/span&&span class=&p&&,&/span& &span class=&p&&(&/span&&span class=&n&&ax0&/span&&span class=&p&&,&/span& &span class=&n&&ax1&/span&&span class=&p&&)&/span& &span class=&o&&=&/span& &span class=&n&&pyplot&/span&&span class=&o&&.&/span&&span class=&n&&subplots&/span&&span class=&p&&(&/span&&span class=&n&&ncols&/span&&span class=&o&&=&/span&&span class=&mi&&2&/span&&span class=&p&&,&/span& &span class=&n&&figsize&/span&&span class=&o&&=&/span&&span class=&p&&(&/span&&span class=&mi&&9&/span&&span class=&p&&,&/span& &span class=&mi&&4&/span&&span class=&p&&))&/span&
&span class=&n&&ax0&/span&&span class=&o&&.&/span&&span class=&n&&plot&/span&&span class=&p&&(&/span&&span class=&n&&x_samples&/span&&span class=&p&&,&/span& &span class=&n&&PDF&/span&&span class=&p&&)&/span&
&span class=&n&&ax0&/span&&span class=&o&&.&/span&&span class=&n&&axis&/span&&span class=&p&&([&/span&&span class=&o&&-&/span&&span class=&mf&&3.5&/span&&span class=&p&&,&/span& &span class=&mf&&3.5&/span&&span class=&p&&,&/span& &span class=&mi&&0&/span&&span class=&p&&,&/span& &span class=&n&&numpy&/span&&span class=&o&&.&/span&&span class=&n&&max&/span&&span class=&p&&(&/span&&span class=&n&&PDF&/span&&span class=&p&&)&/span&&span class=&o&&*&/span&&span class=&mf&&1.1&/span&&span class=&p&&])&/span&
&span class=&n&&ax1&/span&&span class=&o&&.&/span&&span class=&n&&hist&/span&&span class=&p&&(&/span&&span class=&n&&x&/span&&span class=&p&&,&/span& &span class=&mi&&100&/span&&span class=&p&&)&/span&
&span class=&n&&pyplot&/span&&span class=&o&&.&/span&&span class=&n&&show&/span&&span class=&p&&()&/span&
&/code&&/pre&&/div&&p&对于一些简单的情况，我们会假设已知有模型可以很好的对分布进行建模，缺少的只是合适的参数。这时候很自然只要根据观测到的样本，学习参数让当前观测到的样本下的似然函数最大，这就是最大似然估计(&b&M&/b&aximum &b&L&/b&ikelihood &b&E&/b&stimation)：&br&&/p&&p&&img src=&https://www.zhihu.com/equation?tex=%5Chat%7B%5Ctheta%7D%3D%5Coperatorname%2A%7Bargmax%7D_%7B%5Ctheta%7D+P%28%5Cbm%7Bx%7D%7C%5Ctheta%29+%3D+%5Coperatorname%2A%7Bargmax%7D_%7B%5Ctheta%7D+%5Cprod_%7Bi%3D1%7D%5E%7Bn%7DP%28x_i%7C%5Ctheta%29+& alt=&\hat{\theta}=\operatorname*{argmax}_{\theta} P(\bm{x}|\theta) = \operatorname*{argmax}_{\theta} \prod_{i=1}^{n}P(x_i|\theta) & eeimg=&1&&&/p&&p&MLE是一个最基本的思路，实践中用得很多的还有KL散度(Kullback–Leibler divergence)，假设真实分布是P，采样分布是Q，则KL散度为：&/p&&p&&img src=&https://www.zhihu.com/equation?tex=D_%7BKL%7D%28P%7C%7CQ%29%3D%5Csum_%7Bx+%5Cin+%5COmega%7DP%28%7Bx%7D%29%5Clog%5Cfrac%7BP%28x%29%7D%7BQ%28x%29%7D+& alt=&D_{KL}(P||Q)=\sum_{x \in \Omega}P({x})\log\frac{P(x)}{Q(x)} & eeimg=&1&&&/p&&p&从公式也能看出来，KL散度描述的是两个分布的差异程度。换个角度来看，让产生的样本和原始分布接近，也就是要让这俩的差异减小，所以最小化KL散度就等同于MLE。从公式上来看的话，我们考虑把公式具体展开一下：&/p&&p&&br&&/p&&p&&img src=&https://www.zhihu.com/equation?tex=%5Cbegin%7Balign%7D+D_%7BKL%7D%28P%7C%7CQ%29+%26%3D%5Csum_%7Bx+%5Cin+%5COmega%7DP%28%7Bx%7D%29%5Clog%5Cfrac%7BP%28x%29%7D%7BQ%28x%29%7D+%5C%5C+%26+%3D-%5Csum_%7Bx%5Cin%5COmega%7DP%28%7Bx%7D%29%5Clog%7BQ%28x%29%7D+%2B%5Csum_%7Bx%5Cin%5COmega%7DP%28%7Bx%7D%29%5Clog%7BP%28x%29%7D+%5C%5C+%26+%3D-%5Csum_%7Bx%5Cin%5COmega%7DP%28%7Bx%7D%29%5Clog%7BQ%28x%29%7D+%2BH%28P%29+%5Cend%7Balign%7D& alt=&\begin{align} D_{KL}(P||Q) &=\sum_{x \in \Omega}P({x})\log\frac{P(x)}{Q(x)} \\ & =-\sum_{x\in\Omega}P({x})\log{Q(x)} +\sum_{x\in\Omega}P({x})\log{P(x)} \\ & =-\sum_{x\in\Omega}P({x})\log{Q(x)} +H(P) \end{align}& eeimg=&1&&&/p&&p&公式的第二项就是熵，先不管这项，用H(P)表示。接下来考虑一个小trick：从Q中抽样n个样本&img src=&https://www.zhihu.com/equation?tex=%7Bx_1%2Cx_2%2C...%2Cx_n%7D& alt=&{x_1,x_2,...,x_n}& eeimg=&1&&，来估算P(x)的经验值(empirical density function)：&br&&/p&&p&&img src=&https://www.zhihu.com/equation?tex=%5Chat%7BP%7D%28x%29%3D%5Cfrac+1+n+%5Csum_%7Bi%3D1%7D%5En+%5Cdelta%28x_i-x%29& alt=&\hat{P}(x)=\frac 1 n \sum_{i=1}^n \delta(x_i-x)& eeimg=&1&&&/p&&p&其中&img src=&https://www.zhihu.com/equation?tex=%5Cdelta%28%5Ccdot%29& alt=&\delta(\cdot)& eeimg=&1&&是狄拉克&img src=&https://www.zhihu.com/equation?tex=%5Cdelta& alt=&\delta& eeimg=&1&&函数，把这项替换到上面公式的P(x)：&/p&&p&&br&&/p&&p&&img src=&https://www.zhihu.com/equation?tex=%5Cbegin%7Balign%7D+D_%7BKL%7D%28P%7C%7CQ%29+%26%3D-%5Csum_%7Bx%5Cin%5COmega%7D%5Cfrac+1+n+%5Csum_%7Bi%3D1%7D%5En+%5Cdelta%28x_i-x%29%5Clog%7BQ%28x%29%7D+%2BH%28P%29+%5C%5C+%26+%3D-%5Cfrac+1+n+%5Csum_%7Bi%3D1%7D%5En+%5Csum_%7Bx%5Cin%5COmega%7D+%5Cdelta%28x_i-x%29%5Clog%7BQ%28x%29%7D+%2BH%28P%29+%5Cend%7Balign%7D& alt=&\begin{align} D_{KL}(P||Q) &=-\sum_{x\in\Omega}\frac 1 n \sum_{i=1}^n \delta(x_i-x)\log{Q(x)} +H(P) \\ & =-\frac 1 n \sum_{i=1}^n \sum_{x\in\Omega} \delta(x_i-x)\log{Q(x)} +H(P) \end{align}& eeimg=&1&&&/p&&p&因为是离散的采样值，所以&img src=&https://www.zhihu.com/equation?tex=%5Csum_%7Bx%5Cin%5COmega%7D+%5Cdelta%28x_i-x%29& alt=&\sum_{x\in\Omega} \delta(x_i-x)& eeimg=&1&&中只有&img src=&https://www.zhihu.com/equation?tex=x%3Dx_i& alt=&x=x_i& eeimg=&1&&的时候狄拉克&img src=&https://www.zhihu.com/equation?tex=%5Cdelta& alt=&\delta& eeimg=&1&&函数才为1，所以考虑&img src=&https://www.zhihu.com/equation?tex=x%3Dx_i& alt=&x=x_i& eeimg=&1&&时这项直接化为1：&/p&&p&&br&&/p&&p&&img src=&https://www.zhihu.com/equation?tex=D_%7BKL%7D%28P%7C%7CQ%29+%3D-%5Cfrac+1+n%5Csum_%7Bi%3D1%7D%5En+%5Clog%7BQ%28x_i%29%7D+%2BH%28P%29& alt=&D_{KL}(P||Q) =-\frac 1 n\sum_{i=1}^n \log{Q(x_i)} +H(P)& eeimg=&1&&&/p&&p&第一项正是似然的负对数形式。&/p&&p&说了些公式似乎跑得有点远了，其实要表达还是那个简单的意思：通过减小两个分布的差异可以让一个分布逼近另一个分布。仔细想想，这正是GAN里面adversarial loss的做法。&/p&&p&很多情况下我们面临的是更为复杂的分布，比如&a href=&https://zhuanlan.zhihu.com/p/& class=&internal&&上篇文章&/a&中的例子，又或是实际场景中更复杂的情况，比如生成不同人脸的图像。这时候，作为具有universal approximation性质的神经网络是一个看上去不错的选择[1]：&br&&/p&&figure&&img src=&https://pic4.zhimg.com/v2-6fee20494f50baae2c1dc5fc_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&1561& data-rawheight=&549& class=&origin_image zh-lightbox-thumb& width=&1561& data-original=&https://pic4.zhimg.com/v2-6fee20494f50baae2c1dc5fc_r.jpg&&&/figure&&p&所以虽然GAN里面同时包含了生成网络和判别网络，但本质来说GAN的目的还是生成模型。从生成式模型的角度，Ian Goodfellow总结过一个和神经网络相关生成式方法的“家谱”[1]：&/p&&figure&&img src=&https://pic1.zhimg.com/v2-8c6f1d8ee39dfbb4fcfb2_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&771& data-rawheight=&498& class=&origin_image zh-lightbox-thumb& width=&771& data-original=&https://pic1.zhimg.com/v2-8c6f1d8ee39dfbb4fcfb2_r.jpg&&&/figure&&p&在这其中，当下最流行的就是GAN和&b&V&/b&ariational &b&A&/b&uto&b&E&/b&ncoder(VAE)，两种方法的一个简明示意如下[3]：&/p&&figure&&img src=&https://pic1.zhimg.com/v2-380cde71a2f6ece28b4a97_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&568& data-rawheight=&274& class=&origin_image zh-lightbox-thumb& width=&568& data-original=&https://pic1.zhimg.com/v2-380cde71a2f6ece28b4a97_r.jpg&&&/figure&&p&本篇不打算展开讲什么是VAE，不过通过这个图，和名字中的autoencoder也大概能知道，VAE中生成的loss是基于重建误差的。而只基于重建误差的图像生成，都或多或少会有图像模糊的缺点，因为误差通常都是针对全局。比如基于MSE(Mean Squared Error)的方法用来生成超分辨率图像，容易出现下面的情况[4]：&/p&&p&&br&&/p&&p&&br&&/p&&figure&&img src=&https://pic1.zhimg.com/v2-78f53b142fab51b0c09a1_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&892& data-rawheight=&598& class=&origin_image zh-lightbox-thumb& width=&892& data-original=&https://pic1.zhimg.com/v2-78f53b142fab51b0c09a1_r.jpg&&&/figure&&p&在这个二维示意中，真实数据分布在一个U形的流形上，而MSE系的方法因为loss的形式往往会得到一个接近平均值所在的位置（蓝色框）。&/p&&p&GAN在这方面则完爆其他方法，因为目标分布在流形上。所以只要大概收敛了，就算生成的图像都看不出是个啥，清晰度常常是有保证的，而这正是去除女优身上马赛克的理想特性！&/p&&p&&br&&/p&&h2&马赛克-&清晰画面：超分辨率(Super Resolution)问题&/h2&&p&说了好些铺垫，终于要进入正题了。首先明确，去马赛克其实是个图像超分辨率问题，也就是如何在低分辨率图像基础上得到更高分辨率的图像：&/p&&figure&&img src=&https://pic2.zhimg.com/v2-31c84b42ad_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&784& data-rawheight=&324& class=&origin_image zh-lightbox-thumb& width=&784& data-original=&https://pic2.zhimg.com/v2-31c84b42ad_r.jpg&&&/figure&&p&视频中超分辨率实现的一个套路是通过不同帧的低分辨率画面猜测超分辨率的画面，有兴趣了解这个思想的朋友可以参考我之前的一个答案：&a href=&https://www.zhihu.com/question//answer/& class=&internal&&如何通过多帧影像进行超分辨率重构？ &/a& &/p&&p&不过基于多帧影像的方法对于女优身上的马赛克并不是很适用，所以这篇要讲的是基于单帧图像的超分辨率方法。&/p&&h2&SRGAN&/h2&&p&说到基于GAN的超分辨率的方法，就不能不提到SRGAN[4]：《Photo-Realistic Single Image &b&S&/b&uper-&b&R&/b&esolution Using a &b&G&/b&enerative &b&A&/b&dversarial&br&&b&N&/b&etwork》。这个工作的思路是：基于像素的MSE loss往往会得到大体正确，但是高频成分模糊的结果。所以只要重建低频成分的图像内容，然后靠GAN来补全高频的细节内容，就可以了：&/p&&figure&&img src=&https://pic3.zhimg.com/v2-128029dfc7c470b07a4a1_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&446& data-rawheight=&131& class=&origin_image zh-lightbox-thumb& width=&446& data-original=&https://pic3.zhimg.com/v2-128029dfc7c470b07a4a1_r.jpg&&&/figure&&p&这个思路其实和最早基于深度网络的风格迁移的思路很像（有兴趣的读者可以参考我之前文章&a href=&https://zhuanlan.zhihu.com/p/& class=&internal&&瞎谈CNN：通过优化求解输入图像&/a&的最后一部分），其中重建内容的content loss是原始图像和低分辨率图像在VGG网络中的各个ReLU层的激活值的差异：&/p&&p&&br&&/p&&figure&&img src=&https://pic3.zhimg.com/v2-331e02e394cfd04e7114a_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&529& data-rawheight=&150& class=&origin_image zh-lightbox-thumb& width=&529& data-original=&https://pic3.zhimg.com/v2-331e02e394cfd04e7114a_r.jpg&&&/figure&&p&生成细节adversarial loss就是GAN用来判别是原始图还是生成图的loss：&/p&&figure&&img src=&https://pic1.zhimg.com/v2-fa5af2a10fe9a4dadfb04_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&394& data-rawheight=&89& class=&content_image& width=&394&&&/figure&&p&把这两种loss放一起，取个名叫perceptual loss。训练的网络结构如下：&/p&&figure&&img src=&https://pic1.zhimg.com/v2-17861edeb4bcfae4e9f369_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&780& data-rawheight=&400& class=&origin_image zh-lightbox-thumb& width=&780& data-original=&https://pic1.zhimg.com/v2-17861edeb4bcfae4e9f369_r.jpg&&&/figure&&p&正是上篇文章中讲过的C-GAN，条件C就是低分辨率的图片。SRGAN生成的超分辨率图像虽然PSNR等和原图直接比较的传统量化指标并不是最好，但就视觉效果，尤其是细节上，胜过其他方法很多。比如下面是作者对比bicubic插值和基于ResNet特征重建的超分辨率的结果：&/p&&figure&&img src=&https://pic4.zhimg.com/v2-f3b4376938ffcbd23c42d_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&981& data-rawheight=&392& class=&origin_image zh-lightbox-thumb& width=&981& data-original=&https://pic4.zhimg.com/v2-f3b4376938ffcbd23c42d_r.jpg&&&/figure&&p&可以看到虽然很多细节都和原始图片不一样，不过看上去很和谐，并且细节的丰富程度远胜于SRResNet。这些栩栩如生的细节，可以看作是GAN根据学习到的分布信息“联想”出来的。&/p&&p&对于更看重“看上去好看”的超分辨率应用，SRGAN显然是很合适的。当然对于一些更看重重建指标的应用，比如超分辨率恢复嫌疑犯面部细节，SRGAN就不可以了。&/p&&h2&pix2pix&/h2&&p&虽然专门用了一节讲SRGAN，但本文用的方法其实是pix2pix[5]。这项工作刚在arxiv上发布就引起了不小的关注，它巧妙的利用GAN的框架解决了通用的Image-to-Image translation的问题。举例来说，在不改变分辨率的情况下：把照片变成油画风格；把白天的照片变成晚上；用色块对图片进行分割或者倒过来；为黑白照片上色；…每个任务都有专门针对性的方法和相关研究，但其实总体来看，都是像素到像素的一种映射啊，其实可以看作是一个问题。这篇文章的巧妙，就在于提出了pix2pix的方法，一个框架，解决所有这些问题。方法的示意图如下：&/p&&p&&br&&/p&&figure&&img src=&https://pic1.zhimg.com/v2-e2ea753b7b0d7f18abee3_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&485& data-rawheight=&437& class=&origin_image zh-lightbox-thumb& width=&485& data-original=&https://pic1.zhimg.com/v2-e2ea753b7b0d7f18abee3_r.jpg&&&/figure&&p&就是一个Conditional GAN，条件C是输入的图片。除了直接用C-GAN，这项工作还有两个改进：&/p&&p&1）&b&利用U-Net结构生成细节更好的图片&/b&[6]&/p&&figure&&img src=&https://pic4.zhimg.com/v2-beb074bebbfa0db_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&907& data-rawheight=&612& class=&origin_image zh-lightbox-thumb& width=&907& data-original=&https://pic4.zhimg.com/v2-beb074bebbfa0db_r.jpg&&&/figure&&p&U-Net是德国Freiburg大学模式识别和图像处理组提出的一种全卷积结构。和常见的先降采样到低维度，再升采样到原始分辨率的编解码(Encoder-Decoder)结构的网络相比，U-Net的区别是加入skip-connection，对应的feature maps和decode之后的同样大小的feature maps按通道拼(concatenate)一起，用来保留不同分辨率下像素级的细节信息。U-Net对提升细节的效果非常明显，下面是pix2pix文中给出的一个效果对比：&/p&&p&&br&&/p&&figure&&img src=&https://pic4.zhimg.com/v2-2fb4ddb2fdc24eea31eea_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&563& data-rawheight=&307& class=&origin_image zh-lightbox-thumb& width=&563& data-original=&https://pic4.zhimg.com/v2-2fb4ddb2fdc24eea31eea_r.jpg&&&/figure&&p&可以看到，各种不同尺度的信息都得到了很大程度的保留。&/p&&p&2）&b&利用马尔科夫性的判别器(PatchGAN)&br&&/b&&/p&&p&pix2pix和SRGAN的一个异曲同工的地方是都有用重建解决低频成分，用GAN解决高频成分的想法。在pix2pix中，这个思想主要体现在两个地方。一个是loss函数，加入了L1 loss用来让生成的图片和训练的目标图片尽量相似，而图像中高频的细节部分则交由GAN来处理：&/p&&figure&&img src=&https://pic4.zhimg.com/v2-cb180ad03d8a72e7883285b_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&447& data-rawheight=&51& class=&origin_image zh-lightbox-thumb& width=&447& data-original=&https://pic4.zhimg.com/v2-cb180ad03d8a72e7883285b_r.jpg&&&/figure&&p&还有一个就是&b&PatchGAN&/b&，也就是具体的GAN中用来判别是否生成图的方法。PatchGAN的思想是，既然GAN只负责处理低频成分，那么判别器就没必要以一整张图作为输入，只需要对NxN的一个图像patch去进行判别就可以了。这也是为什么叫Markovian discriminator，因为在patch以外的部分认为和本patch互相独立。&/p&&p&具体实现的时候，作者使用的是一个NxN输入的全卷积小网络，最后一层每个像素过sigmoid输出为真的概率，然后用BCEloss计算得到最终loss。这样做的好处是因为输入的维度大大降低，所以参数量少，运算速度也比直接输入一张快，并且可以计算任意大小的图。作者对比了不同大小patch的结果，对于256x256的输入，patch大小在70x70的时候，从视觉上看结果就和直接把整张图片作为判别器输入没什么区别了：&/p&&figure&&img src=&https://pic1.zhimg.com/v2-5172ca51efb4ee3e453b15_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&842& data-rawheight=&107& class=&origin_image zh-lightbox-thumb& width=&842& data-original=&https://pic1.zhimg.com/v2-5172ca51efb4ee3e453b15_r.jpg&&&/figure&&h2&生成带局部马赛克的训练数据&/h2&&p&利用pix2pix，只要准备好无码和相应的有码图片就可以训练去马赛克的模型了，就是这么简单。那么问题是，如何生成有马赛克的图片？&/p&&p&有毅力的话，可以手动加马赛克，这样最为精准。这节介绍一个不那么准，但是比随机强的方法：利用分类模型的激活区域进行自动马赛克标注。&/p&&p&基本思想是利用一个可以识别需要打码图像的分类模型，提取出这个模型中对应类的CAM（&b&C&/b&lass &b&A&/b&ctivation &b&M&/b&ap）[7]，然后用马赛克遮住响应最高的区域即可。这里简单说一下什么是CAM，对于最后一层是全局池化(平均或最大都可以)的CNN结构，池化后的feature map相当于是做了个加权相加来计算最终的每个类别进入softmax之前的激活值。CAM的思路是，把这个权重在池化前的feature map上按像素加权相加，最后得到的单张的激活图就可以携带激活当前类别的一些位置信息，这相当于一种弱监督（classification--&localization）：&/p&&p&&br&&/p&&figure&&img src=&https://pic4.zhimg.com/v2-fd28f0b871bd_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&660& data-rawheight=&314& class=&origin_image zh-lightbox-thumb& width=&660& data-original=&https://pic4.zhimg.com/v2-fd28f0b871bd_r.jpg&&&/figure&&p&上图是一个CAM的示意，用澳洲梗类别的CAM，放大到原图大小，可以看到小狗所在的区域大致是激活响应最高的区域。&/p&&p&那么就缺一个可以识别XXX图片的模型了，网上还恰好就有个现成的，yahoo于2016年发布的开源色情图片识别模型Open NSFW(&b&N&/b&ot &b&S&/b&afe &b&F&/b&or &b&W&/b&ork)：&/p&&p&&a href=&https://link.zhihu.com/?target=https%3A//github.com/yahoo/open_nsfw& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&yahoo/open_nsfw&/a&&/p&&p&CAM的实现并不难，结合Open NSFW自动打码的代码和使用放在了这里：&/p&&p&&a href=&https://link.zhihu.com/?target=https%3A//github.com/frombeijingwithlove/dlcv_for_beginners/tree/master/random_bonus/generate_mosaic_for_porno_images& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&给XX图片生成马赛克&/a&&/p&&p&&br&&/p&&p&(成功打码的)效果差不多是下面这样子：&/p&&figure&&img src=&https://pic4.zhimg.com/v2-cbefa39dc983f2645dd8_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&768& data-rawheight=&256& class=&origin_image zh-lightbox-thumb& width=&768& data-original=&https://pic4.zhimg.com/v2-cbefa39dc983f2645dd8_r.jpg&&&/figure&&h2&去除(爱情)动作片中的马赛克&/h2&&p&这没什么好说的了，一行代码都不用改，只需要按照前面的步骤把数据准备好，然后按照pix2pix官方的使用方法训练就可以了：&/p&&p&Torch版pix2pix：&a href=&https://link.zhihu.com/?target=https%3A//github.com/phillipi/pix2pix& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&phillipi/pix2pix&/a&&/p&&p&pyTorch版pix2pix(Cycle-GAN二合一版)：&a href=&https://link.zhihu.com/?target=https%3A//github.com/junyanz/pytorch-CycleGAN-and-pix2pix& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&junyanz/pytorch-CycleGAN-and-pix2pix&/a&&/p&&p&从D盘里随随便便找了几千张图片，用来执行了一下自动打码和pix2pix训练(默认参数)，效果是下面这样：&/p&&p&&br&&/p&&figure&&img src=&https://pic2.zhimg.com/v2-9f52b17c0e1296767cbfbfafc290a5bd_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&814& data-rawheight=&691& class=&origin_image zh-lightbox-thumb& width=&814& data-original=&https://pic2.zhimg.com/v2-9f52b17c0e1296767cbfbfafc290a5bd_r.jpg&&&/figure&&p&什么？你问说好给女优去马赛克呢？女优照片呢？&/p&&figure&&img src=&https://pic4.zhimg.com/v2-480fb8a4dcfc7a4f92ec_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&75& data-rawheight=&60& class=&content_image& width=&75&&&/figure&&p&还是要说一下，在真人照片上的效果比蘑菇和花强。&/p&&h2&对偶学习（Dual Learning）&/h2&&p&去马赛克已经讲完了，接下来就是给女孩穿(tuo)衣服了，动手之前，还是先讲一下铺垫：&b&对偶学习&/b&和&b&Cycle-GAN&/b&。&/p&&p&对偶学习是MSRA于2016年提出的一种用于机器翻译的增强学习方法[8]，目的是解决海量数据配对标注的难题，个人觉得算是一种弱监督方法（不过看到大多数文献算作无监督）。以机器翻译为例，对偶学习基本思想如下图[9]：&/p&&figure&&img src=&https://pic3.zhimg.com/v2-c4b1eeda364fb6c9bada02f3_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&866& data-rawheight=&399& class=&origin_image zh-lightbox-thumb& width=&866& data-original=&https://pic3.zhimg.com/v2-c4b1eeda364fb6c9bada02f3_r.jpg&&&/figure&&p&左边的灰衣男只懂英语，右边的黑衣女只懂中文，现在的任务就是，要学习如何翻译英语到中文。对偶学习解决这个问题的思路是：给定一个模型&img src=&https://www.zhihu.com/equation?tex=f%3Ax%5Crightarrow+y& alt=&f:x\rightarrow y& eeimg=&1&&一上来无法知道f翻译得是否正确，但是如果考虑上&img src=&https://www.zhihu.com/equation?tex=f& alt=&f& eeimg=&1&&的对偶问题&img src=&https://www.zhihu.com/equation?tex=g%3Ay%5Crightarrow+x& alt=&g:y\rightarrow x& eeimg=&1&&，那么我可以尝试翻译一个英文句子到中文，再翻译回来。这种转了一圈的结果&img src=&https://www.zhihu.com/equation?tex=x%27%3Dg%28f%28x%29%29& alt=&x'=g(f(x))& eeimg=&1&&，灰衣男是可以用一个标准（BLEU）判断x'和x是否一个意思，并且把结果的一致性反馈给这两个模型进行改进。同样的，从中文取个句子，这样循环翻译一遍，两个模型又能从黑衣女那里获取反馈并改进模型。其实这就是强化学习的过程，每次翻译就是一个action，每个action会从环境（灰衣男或黑衣女）中获取reward，对模型进行改进，直至收敛。&/p&&p&也许有的人看到这里会觉得和上世纪提出的Co-training很像，这个在知乎上也有讨论：&/p&&p&&a href=&https://www.zhihu.com/question/& class=&internal&&如何理解刘铁岩老师团队在NIPS 2016上提出的对偶学习（Dual Learning）？&/a&&/p&&p&个人觉得还是不一样的，Co-Training是一种multi-view方法，比如一个输入x，如果看作是两个拼一起的特征&img src=&https://www.zhihu.com/equation?tex=x%3D%28x_1%2Cx_2%29& alt=&x=(x_1,x_2)& eeimg=&1&&，并且假设&img src=&https://www.zhihu.com/equation?tex=x_1& alt=&x_1& eeimg=&1&&和&img src=&https://www.zhihu.com/equation?tex=x_2& alt=&x_2& eeimg=&1&&互相独立，那么这时候训练两个分类器&img src=&https://www.zhihu.com/equation?tex=f_1%28%5Ccdot%29& alt=&f_1(\cdot)& eeimg=&1&&和&img src=&https://www.zhihu.com/equation?tex=f_2%28%5Ccdot%29& alt=&f_2(\cdot)& eeimg=&1&&对于任意样本x应该有&img src=&https://www.zhihu.com/equation?tex=f_1%28x_1%29%3Df_2%28x_2%29& alt=&f_1(x_1)=f_2(x_2)& eeimg=&1&&。这对没有标注的样本是很有用的，相当于利用了同一个样本分类结果就应该一样的隐含约束。所以Co-Training的典型场景是少量标注+大量未标注的半监督场景。并且&img src=&https://www.zhihu.com/equation?tex=f_1& alt=&f_1& eeimg=&1&&和&img src=&https://www.zhihu.com/equation?tex=f_2& alt=&f_2& eeimg=&1&&其实是两个不同，但是domain指向相同的任务。而Dual Learning中&img src=&https://www.zhihu.com/equation?tex=f& alt=&f& eeimg=&1&&和&img src=&https://www.zhihu.com/equation?tex=g& alt=&g& eeimg=&1&&是对偶任务，利用的隐含约束是&img src=&https://www.zhihu.com/equation?tex=x%5Crightarrow+y%5Crightarrow+x& alt=&x\rightarrow y\rightarrow x& eeimg=&1&&的cycle consistency。对输入的特征也没有像Co-Training有那么明确的假设，学习方法上也不一样，Dual Learning算是强化学习。&/p&&h2&CycleGAN和未配对图像翻译(Unpaired Image-to-Image Translation)&/h2&&p&CycleGAN，翻译过来就是：轮着干，是结合了对偶学习和GAN一个很直接而巧妙的想法[10]，示意图如下：&/p&&figure&&img src=&https://pic4.zhimg.com/v2-9e7396ebccb7c42302fc97_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&838& data-rawheight=&216& class=&origin_image zh-lightbox-thumb& width=&838& data-original=&https://pic4.zhimg.com/v2-9e7396ebccb7c42302fc97_r.jpg&&&/figure&&p&X和Y分别是两种不同类型图的集合，比如穿衣服的女优和没穿衣服的女优。所以给定一张穿了衣服的女优，要变成没穿衣服的样子，就是个图片翻译问题。CycleGAN示意图中(b)和(c)就是Dual Learning：&/p&&figure&&img src=&https://pic2.zhimg.com/v2-de51cac58b_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&347& data-rawheight=&62& class=&content_image& width=&347&&&/figure&&p&在Dual Learning基础上，又加入了两个判别器&img src=&https://www.zhihu.com/equation?tex=D_X& alt=&D_X& eeimg=&1&&和&img src=&https://www.zhihu.com/equation?tex=D_Y& alt=&D_Y& eeimg=&1&&用来进行对抗训练，让翻译过来的图片尽量逼近当前集合中的图片：&/p&&p&&br&&/p&&figure&&img src=&https://pic3.zhimg.com/v2-e0ea7a6b38bf2a20cea4ea6f741a4c67_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&442& data-rawheight=&59& class=&origin_image zh-lightbox-thumb& width=&442& data-original=&https://pic3.zhimg.com/v2-e0ea7a6b38bf2a20cea4ea6f741a4c67_r.jpg&&&/figure&&p&全考虑一起，最终的loss是：&/p&&p&&br&&/p&&figure&&img src=&https://pic4.zhimg.com/v2-e6d99e7edea969da3dad_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&357& data-rawheight=&87& class=&content_image& width=&357&&&/figure&&p&也许有人会问，那不加cycle-consistency，直接用GAN学习一个&img src=&https://www.zhihu.com/equation?tex=X%5Crightarrow+Y& alt=&X\rightarrow Y& eeimg=&1&&的映射，让生成的Y的样本尽量毕竟Y里本身的样本可不可以呢？这个作者在文中也讨论了，会产生GAN训练中容易发生的mode collapse问题。mode collapse问题的一个简单示意如下[1]：&/p&&p&&br&&/p&&figure&&img src=&https://pic1.zhimg.com/v2-309fce6329592babb784ed_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&842& data-rawheight=&262& class=&origin_image zh-lightbox-thumb& width=&842& data-original=&https://pic1.zhimg.com/v2-309fce6329592babb784ed_r.jpg&&&/figure&&p&上边的是真实分布，下边的是学习到的分布，可以看到学习到的分布只是完整分布的一部分，这个叫做partial mode collapse，是训练不收敛情况中常见的一种。如果是完全的mode collapse，就是说生成模型得到的都是几乎一样的输出。而加入Cycle-consistency会让一个domain里不同的样本都尽量映射到另一个domain里不同的地方，理想情况就是双射（bijection）。直观来理解，如果通过&img src=&https://www.zhihu.com/equation?tex=X%5Crightarrow+Y& alt=&X\rightarrow Y& eeimg=&1&&都映射在Y中同一个点，那么这个点y通过&img src=&https://www.zhihu.com/equation?tex=Y%5Crightarrow+X& alt=&Y\rightarrow X& eeimg=&1&&映射回来显然不可能是多个不同的x，所以加入cycle-consistency就帮助避免了mode collapse。这个问题在另一篇和CycleGAN其实本质上没什么不同的方法DiscoGAN中有更详细的讨论[11]，有兴趣的话可以参考。&/p&&p&&br&&/p&&p&有一点值得注意的是，虽然名字叫CycleGAN，并且套路也和C-GAN很像，但是其实只有adversarial，并没有generative。因为严格来说只是学习了&img src=&https://www.zhihu.com/equation?tex=X%5Crightarrow+Y& alt=&X\rightarrow Y& eeimg=&1&&和&img src=&https://www.zhihu.com/equation?tex=Y%5Crightarrow+X& alt=&Y\rightarrow X& eeimg=&1&&的mapping，所谓的generative network里并没有随机性。有一个和CycleGAN以及DiscoGAN其实本质上也没什么不同的方法叫DualGAN[12]，倒是通过dropout把随机性加上了。不过所有加了随机性产生的样本和原始样本间的cycle-consistency用的还是l1 loss，总觉得这样不是很对劲。当然现在GAN这么热门，其实只要是用了adversarial loss的基本都会取个名字叫XXGAN，也许是可以增加投稿命中率。&/p&&p&另外上节中提到了Co-Training，感觉这里也应该提一下CoGAN[13]，因为名字有些相似，并且也可以用于未配对的图像翻译。CoGAN的大体思想是：如果两个Domain之间可以互相映射，那么一定有一些特征是共有的。比如男人和女人，虽然普遍可以从长相区分，但不变的是都有两个眼睛一个鼻子一张嘴等等。所以可以在生成的时候，把生成共有特征和各自特征的部分分开，示意图如下：&br&&/p&&p&&br&&/p&&figure&&img src=&https://pic4.zhimg.com/v2-57eaadc8cec5190bfd30_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&758& data-rawheight=&207& class=&origin_image zh-lightbox-thumb& width=&758& data-original=&https://pic4.zhimg.com/v2-57eaadc8cec5190bfd30_r.jpg&&&/figure&&p&其实就是两个GAN结构，其中生成网络和判别网络中比较高层的部分都采用了权值共享（虚线相连的部分），没有全职共享的部分分别处理不同的domain。这样每次就可以根据训练的domain生成一个样本在两个domain中不同的对应，比如戴眼镜和没戴眼镜：&/p&&p&&br&&/p&&figure&&img src=&https://pic2.zhimg.com/v2-356a6118ccf3e8e3bf1c7_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&791& data-rawheight=&267& class=&origin_image zh-lightbox-thumb& width=&791& data-original=&https://pic2.zhimg.com/v2-356a6118ccf3e8e3bf1c7_r.jpg&&&/figure&&p&分别有了共有特征和各自domain特征，那么做mapping的思路也就很直接了[14]：&/p&&p&&br&&/p&&figure&&img src=&https://pic7.zhimg.com/v2-8ac50600e40feaac345e09bd7e05a83d_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&771& data-rawheight=&210& class=&origin_image zh-lightbox-thumb& width=&771& data-original=&https://pic7.zhimg.com/v2-8ac50600e40feaac345e09bd7e05a83d_r.jpg&&&/figure&&p&在GAN前边加了个domain encoder，然后对每个domain能得到三种样本给判别器区分：直接采样，重建采样，从另一个domain中transfer后的重建采样。训练好之后，用一个domain的encoder+另一个domain的generator就很自然的实现了不同domain的转换。用在图像翻译上的效果如下：&/p&&p&&br&&/p&&figure&&img src=&https://pic2.zhimg.com/v2-612e9cf5e125fd626be7db_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&444& data-rawheight=&544& class=&origin_image zh-lightbox-thumb& width=&444& data-original=&https://pic2.zhimg.com/v2-612e9cf5e125fd626be7db_r.jpg&&&/figure&&p&还有个巧妙的思路，是把CoGAN拆开，不同domain作为C-GAN条件的更加显式的做法[15]：&/p&&p&&br&&/p&&p&&br&&/p&&figure&&img src=&https://pic1.zhimg.com/v2-ddec16d502c94f91ea35_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&883& data-rawheight=&398& class=&origin_image zh-lightbox-thumb& width=&883& data-original=&https://pic1.zhimg.com/v2-ddec16d502c94f91ea35_r.jpg&&&/figure&&p&第一步用噪声Z作为和domain无关的共享表征对应的latent noise，domain信息作为条件C训练一个C-GAN。第二步，训练一个encoder，利用和常见的encode-decode结构相反的decode(generate)-encode结构。学习好的encoder可以结合domain信息，把输入图像中和domain无关的共享特征提取出来。第三步，把前两步训练好的encoder和decoder(generator)连一起，就可以根据domain进行图像翻译了。&/p&&p&CoGAN一系的方法虽然结构看起来更复杂，但个人感觉理解起来要比dual系的方法更直接，并且有latent space，可解释性和属性对应也好一些。&/p&&p&又扯远了，还是回到正题：&/p&&p&&br&&/p&&h2&给女优穿上衣服&/h2&&p&其实同样没什么好说的，Cycle-GAN和pix2pix的作者是一拨人，文档都写得非常棒，准备好数据，分成穿衣服的和没穿衣服的两组，按照文档的步骤训练就可以：&/p&&p&Torch版Cycle-GAN：&a href=&https://link.zhihu.com/?target=https%3A//github.com/junyanz/CycleGAN& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&junyanz/CycleGAN&/a&&/p&&p&pyTorch版Cycle-GAN（pix2pix二合一版)：&a href=&https://link.zhihu.com/?target=https%3A//github.com/junyanz/pytorch-CycleGAN-and-pix2pix& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&junyanz/pytorch-CycleGAN-and-pix2pix&/a&&/p&&p&Cycle-GAN收敛不易，我用了128x128分辨率训练了穿衣服和没穿衣服的女优各一千多张，同样是默认参数训练了120个epoch，最后小部分成功“穿衣服”的结果如下：&/p&&figure&&img src=&https://pic4.zhimg.com/v2-fee34d66c386e0e01e5804_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&1117& data-rawheight=&192& class=&origin_image zh-lightbox-thumb& width=&1117& data-original=&https://pic4.zhimg.com/v2-fee34d66c386e0e01e5804_r.jpg&&&/figure&&figure&&img src=&https://pic4.zhimg.com/v2-de57c5ebefa4251ee3caa1_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&1117& data-rawheight=&192& class=&origin_image zh-lightbox-thumb& width=&1117& data-original=&https://pic4.zhimg.com/v2-de57c5ebefa4251ee3caa1_r.jpg&&&/figure&&p&虽然都有些突兀，但好歹是穿上衣服了。注意马赛克不是图片里就有的，是我后来加上去的。&/p&&p&那么，脱衣服的例子在哪里？&/p&&figure&&img src=&https://pic4.zhimg.com/v2-480fb8a4dcfc7a4f92ec_b.jpg& data-caption=&& data-size=&normal& data-rawwidth=&75& data-rawheight=&60& class=&content_image& width=&75&&&/figure&&h2&参考文献&/h2&&p&[1] I. Goodfellow. Nips 2016 tutorial: Generative adversarial networks. arXiv preprint arXiv:, 2016.&/p&&p&[2] A. B. L. Larsen, S. K. S?nderby, Generating Faces with Torch. &a href=&https://link.zhihu.com/?target=http%3A//torch.ch/blog//gan.html& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&Torch | Generating Faces with Torch&/a&&/p&&p&[3] A. B. L. Larsen, S. K. S?nderby, H. Larochelle, and O. Winther. Autoencoding beyond pixels using a&br&learned similarity metric. In ICML, pages , 2016.&br&&/p&&p&[4] C. Ledig, L. Theis, F. Huszar, J. Caballero, A. Aitken, A. Tejani, J. Totz, Z. Wang, and W. Shi. Photo-realistic single image super-resolution using a generative adversarial network. arXiv:, 2016.&/p&&p&[5] P. Isola, J.-Y. Zhu, T. Zhou, and A. A. Efros. Image-to-image translation with conditional adversarial networks. arxiv, 2016. &/p&&p&[6] O. Ronneberger, P. Fischer, and T. Brox. U-net: Convolutional networks for biomedical image segmentation. In MICCAI, pages 234–241. Springer, 2015.&/p&&p&[7] B. Zhou, A. Khosla, A. Lapedriza, A. Oliva, and A. Torralba. Learning deep features for discriminative localization. arXiv preprint arXiv:, 2015.&/p&&p&[8] He, D., Xia, Y., Qin, T., Wang, L., Yu, N., Liu, T.-Y., and Ma, W.-Y. (2016a). Dual learning for machine translation. In the Annual Conference on Neural Information Processing Systems (NIPS), 2016.&/p&&p&&br&&/p&&p&[9] &a href=&https://link.zhihu.com/?target=http%3A//www.dsrg.stuorg.iastate.edu/wp-content/uploads/2017/02/dual-learning_-pushing-the-new-frontier-of-artificial-intelligence-tieyan-liu.pdf& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&& Tie-Yan Liu, Dual Learning: Pushing the New Frontier of Artificial Intelligence, MIFS 2016&/a& &/p&&p&[10] J.-Y. Zhu, T. Park, P. Isola, and A. A. Efros. Unpaired image-to-image translation using cycle-consistent adversarial networkss. arXiv preprint arXiv:, 2017.&/p&&p&[11] T. Kim, M. Cha, H. Kim, J. Lee, and J. Kim. Learning to Discover Cross-Domain Relations with Generative Adversarial Networks. ArXiv e-prints, Mar. 2017.&/p&&p&&br&&/p&&p&[12] Z. Yi, H. Zhang, P. T. Gong, et al. DualGAN: Unsupervised dual learning for image-to-image translation. arXiv preprint arXiv:, 2017.&/p&&p&&br&&/p&&p&[13] M.-Y. Liu and O. Tuzel. Coupled generative adversarial networks. In Advances in Neural Information Processing Systems (NIPS), 2016.&/p&&p&[14] M.-Y. Liu, T. Breuel, and J. Kautz. Unsupervised image-to-image translation networks. arXiv preprint arXiv:, 2017.&/p&&p&[15] Dong, H., Neekhara, P., Wu, C., Guo, Y.: Unsupervised image-to-image translation with generative adversarial networks. arXiv preprint arXiv:, 2017.&/p&&p&=========== 分割线： ===========&/p&&p&上周日发的时候也想到了可能会有许多人对这个话题感兴趣，但没想到超过了1.5W赞这么多，大概看了看评论，做一些补充：&/p&&p&&b&1） &/b&马赛克训练数据：对于一般的机器学习问题，都是分布越简单越容易，遵循这个原则，我用的约束是单人照片，具体方法是：先找一个Pascal VOC训练好的SSD代码，然后SSD筛选了一批每张图里只能检测到一个人的。&/p&&p&最后在真人照片上的效果看上去还是不错的，我没有做过量化评估，大体来说看上去挺像的要超过一半，非常逼真的可能有5%~10%。两人以上战斗的动作画面我没有评估过。&/p&&p&&b&2）&/b&穿（tuo）衣训练数据：因为收敛很难，所以数据的加了更多约束：只用女性单人正面照片。同样通过SSD检测出单人照片，同时考虑person框的宽高比小于1的且框内能检测到人脸的（OpenCV的人脸检测）。这样尽量筛选出一批面向镜头，身体占画面比接近的照片。&/p&&p&最后的效果我在原文中也提到过，只有小部分能成功穿上（tuo）衣服，具体我也没有量化统计过，大