AI已经开始动摇“民主政治”
——一位政治学者对AI人工智慧革命的一些思考
作者 / 来源：朱云汉 / 观察者网 (中国)
[ 本文为台湾大学政治系教授、台湾“中央研究院”院士朱云汉，在台湾“中技社基金会”今年2月会议上的演讲。小标题为<观察者网>编者所加。
<观察者网>感谢朱云汉教授赐稿，并申明本文部分内容已按中国大陆读者语言习惯修订，修订部分未经作者审核。
主持人、陈校长、各位嘉宾各位先进，今天我站在这个台上，事实上是完全被逼上梁山，陈院士非常恳切地要我来做这样一个演讲，我只能说他大概觉得我春节没有更好的事情可以做，就丢一个很大的家庭作业给我。
当然，我过去也思考过AI相关的问题，不过从来没有准备要做这样一个比较系统性的论述，我可能也要感谢他逼着我有机会去整理一下这方面的文献，以及自己过去在这个问题上的一些思考。可能还不成熟，我今天也很高兴有机会来就教于各位。
今天的演讲，因为只有40分钟，我会尽量精简一点，前面会讲一些关于AI以及跟AI非常密切相关领域的科技的、未来的、巨大的、潜在的爆发力。先谈一些它已经在政治领域里面产生的、我们看得到的影响，这是一个具体的线索，一方面是对于民主政治运作的影响，而更广义来讲，对国家职能、政府机器，它的运作，整个影响绝不下于它对所谓商业模式或是企业组织的影响，应该说有一些地方是非常雷同的。
AI革命包括哪些方面？
但是我认为AI科技创新，带来了巨大的难题。我把它称为革命，因为我觉得它带来一种前所未有的颠覆性的、爆炸性的影响，改变我们人类将来整个社会运行的方式跟社会的价值观念。
人类社会将来怎么样能够有智慧地因应这几个大的难题，我觉得会对人类的历史，不仅是对台湾，对我们70亿人都会带来非常不同的结果。甚至我有一个比喻，我们可能正站在历史的十字路口，是通往更接近理想的乌托邦还是通往奴役之路，可能就在这个未来的几十年里面，可能我们就在这样的历史关头，这是严肃的挑战。
我先讲几个简单的例子。今天为止，当我谈这个问题要有一个范畴，并不能把所有科技发展纳入，或是仅限于所谓狭义的AI，这两个都不是很好的切入点。
我认为其实它具体表现在：生产、制造各方面来说，智慧机器人是未来的趋势；大数据我想也是，因为大数据将来随着下面会讲的万物联网（Internet of everything）所能创造的浩瀚，用天文数字都不足以描绘。它的数据复杂跟它的巨大已经超过我们所谓人的智慧跟分析能力，无法消化、整理，所以必然是要依赖AI，它的巨大的算法能够非常有效率地去处理大量数据。
另外，AI最值得关注的就是它的深度学习，说不定不久之后它就真的能去模仿人的很多一些重要的基本能力。到今天为止，机器还没完全替代，特别包括语言，它不仅是一种辨识，也包含沟通。
将来它的算法跟它计算的速度要求越来越高，所以量子运算（quantum computing）将来也是一个重要的突破，因为它会让AI的潜力可以发挥到更极致。
所以这几个我认为都是相关领域，就是说跟AI革命是不可分割的。
AI对“民主政治”的影响
在这个范畴里面，很清楚，对于所谓民主政治运作，它已经出现各种正面的，但也带来很多负面的作用。
首先呢，就技术上来讲，运用AI的技术在选举预测方面，相比传统的民意调查已经展现出其优越性。在很多次关键选举中，包括英国的脱欧公投，AI的预测都比专家和民意机构更加准确，也包括川普的当选。
Sanjiv Rai他就是一位在AI领域里面非常有创意的工程师，也是一位企业家。他从2004就开发MogIA，这也是会自我学习的一套算法（algorithm）。自从他架设以后，就让它自己去修正，根据事前跟事后的资料修正，用大数据，用facebook还有其他social media里面百万笔、百万笔的数据，去采集里面各种讯号，然后来看每个候选人在每一个选区得票的吻合程度，所以它成功预测了川普的当选，令所有专家跌破眼镜。
也可以说川普的当选里面也运用了AI的技术，事实上，在竞选上来说是一个巨大突破。他可以跟很多拥有个人信息的公司买信息，所以他对每一个家庭里的基本政治倾向，平常看什么杂志、听什么收音机，大概都可以掌握。然后就考虑他有这种心理特征、有这种心理倾向，我怎么刺激他？怕移民的就散播一些移民，有可能小偷、有可能强暴，让你很恐惧的信息，让你更反移民。这里面的操弄其实已经达到前所未有的高度，而且完全是量身订做。
他派出志愿工作者去挨家挨户拜访时，电脑上已经知道这一户从来都是投民主党，放弃，不要浪费时间，下一户是可以争取的，再下一户是你要跟他稍微随便谈什么问题，应该从什么问题切入，每一个挨家挨户拜访的都有这样一个personality profile（个性侧写）或psychological profile（心理侧写）。
拥有这种技术的公司，如Cambridge Analytica也发了大财，现在很多国家的竞选团队都找他们去运用这样的大数据跟AI所提供的技术，从某种程度来讲完全是操弄选民，选择性地给选民特定的刺激，而且通常是运作他们的情绪、恐惧或者说一种仇恨。
所以也有学者针对这样的趋势非常忧虑，像Harvard毕业的Cathy O'Neil就写了一本书叫《Weapon of math destruction》，用数学，也就是算法对民主政治带来极大的摧残，因为民主它原本是希望每一个选民，或多数选民，或中间选民能够做独立判断。今天很难做独立判断，因为你的信息来源太混淆了，而且真假莫辨，网络上的一段影片，让你看得义愤填膺，但后来发现是经过加工处理的。
所以虚拟跟事实间的界线在网络上可以说是非常模糊，而且大量的假新闻恶意中伤谣言，可以很快在社交媒体和网络上传播，等到已经传播出去了，传了千里之后你再来消毒是非常困难的。
很多一般人使用网络的习惯或是阅读习惯也改变了，主流媒体的重要性不断下降，以前主流媒体都会扮演gatekeeper（看门人），就是可以过滤，太偏激的、太离谱的不报导，但现在这样的功能已经被社交媒体取代了，结果很多人就变成跟自己属性、观念或偏见类似的人相互取暖，整个社会里面变成对立性更强，我们称之为社会的“数位部落主义”，也就是说，每一个对其他群体有偏见的人，彼此之间相互增强，而且跟他仇视的、疑惧的其他团体，基本上完全没有交集，也不往来，也没有共同分享的信息平台，这些问题都很严重。
当然AI的技术跟大数据也带来一些可能潜在的正面作用，可以把政治过程、政治人物的言行更透明化，而且让他一举一动、一言一行都留下记录，而且也可以及时查证。
像加州已经设立Digital Democracy网站，很多资料跟进，先从州这一级的政治人物的言行举止开始，然后另外再配一个有很好功能的网站叫做Politifact。这个Politifact，收集各式各样的基本信息跟数据，而且这些是正确的，政治人物讲任何话，里面有涉及到任何事实陈述的，马上就用这个网站主动去做查证，他讲的是对或是错，还是完全对、完全错。
比方说Hillary，他在竞选期间所有的言论都被AI功能的事实查证的网站公布，他的指标多少，他是完全正确的28%、基本上正确的23%，接下来，当然就是只有一半正确，或是基本上不正确或完全不正确。如果是Trump的话，记录比这个更差。
这的确增加透明度，增加我们纠错或查证的能力。不过问题是，很多中间选民或一般选民，他们不见得有那么多时间跟精力去追踪这个信息，就算举证出来了，是不是真的会影响到政治人物的言行？还不清楚。
AI对国家运行的影响
另外，我想要谈的就是，人工智能本身的来临，今天上午已经谈了很多，影响整个生产方式、商业模式、企业组织对不对？其实对国家也是这样，因为国家基本上是一个大的官僚机构，所以如果AI技术全面引入政府体系的话，一方面国家的管理能力可以跳跃式升级，另外一方面人力可以大幅精简。
还有一点，从某个角度来讲，假设没有隐私权保障的边界，国家可以对全社会进行数字化管理，都没有问题，所有人的身份识别是全覆盖的，所有的基本活动记录是可以全天候的，你什么时候出了大楼的门、什么时候上了什么车、坐什么公车从哪一站、几点钟下来，其实都可以留下记录和足迹，甚至你参与的经济交流、交易等等。也就是说，将来一个城市，如果要利用这些大数据、这些动态流量的数据去做管理，是非常超级的智慧管理能力，对不对？
但它也带来前所未有的挑战，很不幸它也有保家卫国的国防功能，将来战争形势会非常可怕，没有声音、没有烟硝的战争。支撑运算能力跟储存基本信息的服务器，它的安全性是一个巨大的考验。如果所有信息在这个东西里，今天可以把它完全摧毁或是瘫痪，整个社会就停摆了。假设，将来所有的地籍资料跟所有的房地产、所有权资料都只有digital没有hard copy的话，如果资料被“黑”，这个社会就天下大乱了。
我们当然很高兴将来可能有自动驾驶汽车，说不定所有的驾驶都是自动化的，但从安全角度来看，如果指挥这些驾驶的AI系统被侵入、被改造，每一部车都可以变成一个袭击者，变成攻击社会最有杀伤力、而且无所不在的武器。
总而言之，我们可以看出，这些都是AI革命带来国家职能里面各种不同、可能的巨大影响。
再举两个很直接的例子，也是我自己亲自做过考察的。过去2年，中国大陆海关机构已经完成全面智能化，现在基本上，就是线上报关、线上核准。以前所有的海关就跟我们一样，比如说我们基隆关、高雄关，对岸也是一样青岛关、上海关，然后下面还有分支，然后都是属地的，由人工来做抽检，其实照理说，全部都不需要。
而且机构的信息系统对一个正常或是经常有进出口记录、有报关记录的企业，它所有过去的记录几乎都一清二楚，如果过去每年这个时候大概会进多少钢料、进多少铝材都很清楚，而且今年的数据没有特别奇怪，一定自动审核过去。事后可以追踪你，可以从将来的出口记录里面看你进这么多，怎么会没有出，或进这么多，怎么会没有库存、没有销售额，这一定是有问题。何况这个货柜其实从长堤港出关时，两地的海关基本数据已经串联过来了，重量多少一清二楚，一进关，用电子磅秤一秤，重量有一点变化是可能的，有些东西蒸发掉或怎么样，只要偏离正常的，标准差的误差区间，马上可以抽查，所有东西都是电脑化的。
所以中国海关现在有个最大的困扰，要这么多公务员干吗？没事做了。第一个派你去甘肃扶贫，下乡当插队干部，或做辅导工作，转型为信息服务。既然我们有那么多数据，我们就是一个经济数据服务公司，我可以做很多宏观预测，提供给国务院做参考，也可以给厂商，你需要什么样的分析，我可以帮你分析，只要跟进出口有关的数据通通都有。
有人说我要预测川普当选，我根本也不需要用追踪social media，我只要去义乌收集一下，厂商接下的订单，川普的帽子跟Hillary的帽子哪一个比较多，要是有川普LOGO的帽子4倍于Hillary，你就知道川普大概会当选。
总而言之，这意味什么？意味着，我们政府过去用人工审核，基本上就跟银行或保险公司一样，其实都可以被替代，连申诉都可以由AI替代。
当然，这是一个巨大的改变，阻力之大你可以想象，问题是科技在那个地方，带来这样一种可能性，像有些地方有些机构已经在面对这样一个状况。比如说深圳海关的智能通关系统的中控中心，这是全世界负荷量最大的，为什么？因为蛇口本身就是全世界五大货柜码头，香港第三大，香港很多货运也是要经过这里转运到内地，所以深圳海关这边的货柜量是天文数字，但是现在完全可以用这样的智能化处理。
我刚刚提到，国家机构将来可以对社会做无死角全覆盖性的动态管理，举例而言，中国大陆公安部门已利用最先进的脸部辨识技术，加上二代身份证，收集所有脸部的特征，可以对13亿人在3秒钟内辨识身份，准确率已经超过90%，在过去这是不可想象的。
又如，某个小偷他离开现场，但有被看到，追踪之后，不到几秒钟，接到报案的公安就已经知道他是谁了，而且AI还可推算他最可能逃亡路线有三个，警方去这三个地方等，就可以等到他，所以十几分钟就可以归案。
美国FBI也在做同样的事情，例如破Boston爆炸案也都需要，所以联邦调查局现在也要为4亿多人建立脸部辨识系统，当然，这个系统也带来很多其他方面的顾虑。
AI带来的五大政治难题
今天为止，我们已经看到正在发生中的AI在政治领域的一些作用，但我今天真正要讲的是，下面这个大的重点。事实上，我觉得AI技术及其潜力带给我们人类社会一些难题，我归类成五个非常大的政治难题，也可以说是整个社会面对的不管叫制度也好、规范也好，或是根本价值选择的难题。
第一，将来政府有可能具有超级智慧能力，全面的社会数字管理能力，而且几乎已经可以说是不可挡，尤其万物联网之后，你的足迹就在那里，反过来说，就是整个社会是一个超透明社会，人类从来没有进入过这个社会。有时候想，也许天堂就是超透明社会。这个超透明社会就是，一个人已经不能做什么坏事情，而且也没有空间让你做坏事情，因为你所有做过的事情都会留下记录，而且很难去改变。
第二，未来是一个所谓数字的经济，在这个经济里面，原来我们讲传统最有价值的生产要素——以前是土地，再者是劳动，然后是有形的固定资产，后来有人加上管理或其他的，但将来所谓无形的，尤其是数字资产，会是整个社会生产里面最关键的因素，所以变成最重要的生产要素。
而这种生产要素有什么特性呢？他的复制成本是0，没有稀缺性，那就颠覆整个经济学，因为经济学是奠基在稀缺性上发展出来的学问，以这样的一个情况来讲，以后社会里面AI带来巨大的生产技术突破，经济果实怎么分配？这是一个最关键问题，等一下我会讲。
第三个问题，将来我们人类的命运，会逐渐进入零边际成本社会，可能走向分享经济、共享经济，有点像是社会主义乌托邦，但也有可能走到一个比我们现在看到更严重的贫富落差，两极化的数字资本主义，这两个可能性就在我们面前，我们要怎么选择，或是说我们今天做什么决定，会影响将来更有可能往哪个方向做社会制度变革的路线。
再往更全球的范围来看，像美国企业家马斯克，他已经做了各种难以想象的大胆实验，然后也会充分掌握AI带来的巨大潜力，可是大家可能知道，全世界70亿人里面还有一半连网都没得上，所以再讲所谓数字落差，会有另外一个新的面向，就是说，有些人会因为自己有AI的协助，而如虎添翼，其生产力可以天文数字般的倍增，这落差将来要怎么处理。
第五，是一种比较阴暗面的，但我们也不能不面对，就是如何确保AI的和平使用。因为AI对世界的和平或人类的生存来说，潜在的毁灭性会超过核武器，核能技术和平使用一直都是我们把这个妖魔从瓶子里放出来后一个巨大的难题。而AI的和平使用会比引导核能和平使用更难，为什么？因为监控核能有没有和平使用比较容易，譬如说核试爆，或是说核武、高浓度铀的囤积，这些基本上都能够追踪，但是AI驱动的无形中杀人的武器，可以小到像一只小蜜蜂，释放出几百万个小蜜蜂，每个甚至可以锁定特定的对象，并把他消灭，这都做得到。
我们能否适应透明化社会？
再来谈几个我已初步思考过的问题。首先，我想必须要接受这样的事实，就是超级透明社会已经到来了，而且将来会更透明、会巨细靡遗，从出生到死，一生下来就可以做DNA检测，并马上把DNA序列放入电脑，所有潜在的健康问题可能事先可知道，如，可能有多少几率得到癌症、正常情况下平均寿命在什么区间，所有的健康、言行、消费都可以被记录，但并不是说一定被记录。
当然好处是说，将来只有电子钱没有现金，现在很快丹麦、瑞典要走全电子货币，以后现金会完全禁止使用，就消失了，就不能腐败了，对不对？财富要藏匿也不容易，也许可以藏到国外，但如果，有一个全球性的合作就很难，企业很难逃税，黑社会也很难买卖毒品。所以为什么比特币其实很有用，不想要被透明化就可以用他匿名、加密。
你要这样想，一个超级透明化社会再搭配一个超级智慧政府，例如AI给他一个巨大的追踪分析监控能力，我们把他称作夜不闭户、讲信修睦的人间净土，但从另外一个角度来看，是个人自由就可能彻底消失的一个极权社会，这是两面性，我觉得我们避免不了。
另外，很多社会制度就必须要统一设计，或至少要作大幅的改变，以前选出100个、200个议员，帮我去监督政府，顶多再配上几个助理，再加上审计部门等等，这种监督方式跟超级透明社会、跟超级智慧政府相比是非常非常有限的，所以就必须要有不同的设计，才能制衡有那么强大数字管理能力的政府，以及中间可能出现的弊端。
有几种设计，一种是去中心化，就是不要把所有东西都集中在一个垂直管理的官僚机构。另外一种是以强制强，制衡机构本身必须也要有这个大数据资源，也要有等量的AI，靠算法跟深度学习能力，用AI检查另外一个，否则，很多AI将来会变成黑洞，因为根本不知道复杂算法里到底发生什么事情，它产生偏差化，源头在哪里？有时可能用人工也已处理不了。
还有就是从AI的设计规范开始着手。AI本身就应该要有一些基本规范，所有涉及到基本功能的，譬如健康、人身安全、教育等等，里面就要开始内建功能，自己会去作自动介入或自动纠偏。例如，在里面出现一些讯号是我们认为偏离合理的法律或道德规范的，就会自动去纠举。
另外，在一个高度透明社会，很多过去社会制度已经没有办法因应。
以前社会保险的观念是，“我不知道自己未来能承担多少可能的风险”，到底我会不会得癌症？还是我会很健康活到几岁？没关系，大家都一起以公平、等比的方式来分摊保险的支出。
可是以后不一样，若你父母亲给你的基因好得不得了，你得癌症基因很小，可以活到99岁，另外一个人的基因则所有的健康问题都出现了，若是民间保险公司，可能就说对不起，这些人我不要保，而拼命保基因好的人，因为所有东西都是透明的，所以显然这些风险分担的制度都必须要重新设计。
另外，既然每个人一言一行都会有记录，如果社会又不给多元的包容性，那问题就很严重，你将来去应征工作，人力主管也许会要求你签一个同意函，同意可以调出你所有资料。假设，我在高中时用非常粗鲁的言语骂我旁边的女生，这些记录都在。所以我们本身要去适应这样一个超级透明化的社会，或是用什么方法进行一种所谓“数字更生”，就像一个受刑人，给他一个新的身份证一样。这些问题都会出来，我觉得最大的挑战是这个地方。
人类正处于十字路口
我们面对社会变迁，或社会制度变革的选择难题，是因为今天的AI技术，基本上还是在资本主义内。当然，部分是国家主导，因为主要用在国防或是境内安全管理。如果我们完全只是放任眼前垄断性的数字资本继续往前走，不仅社会内部的贫富差距会变得极为可怕，富裕国家跟落后国家之间的差距也会成为比今天更大的鸿沟。
反过来说，AI也有积极面。如果能够有新的社会契约跟新的国际规范，让数字科技的生产力快速提升，以及我们讲的trickle-down（涓滴效应）或普惠性的效益能够全面释放，那真有可能透过AI革命把人类社会带向分享经济跟社会主义的大饼。这可能性是存在的，因为，经济学以前最大的问题是稀缺性，现在数字资本最大的特性就是复制成本非常低，或接近于0。
我举个例子，在过去30年的高速全球化中，已经出现这样一个现象，就是经济力量或是创造财富的能力已高度集中在非常少的企业手上，这个现象是人类历史上少有的，以前当然也不是说没有，比方Rockefeller等，但是像目前这样，在全球范围里经济力量如此集中的状况是前所未有的。
这对我们生活面向的影响是全面性的，如对就业、经济福利、社会安全、食品安全等等都是无远弗届。如果今天用国家的收入可以跟企业营收作等量齐观的指标，也就是，政府是一个经济实体，企业也是一个经济实体，政府有它的收入、企业有它的收入，这样来比的话，全世界100大经济体，只有30个是主权国家，70个都是企业。譬如，Walmart的营收全世界排名第10，其营收要超过西班牙、澳大利亚、荷兰政府等等的收入，所以这已经不是任何一个国家单一的管制措施，或是公平市场规范可以控制的事情，这只有美国、中国、欧盟还有可能，但是如果三边不合作也很难，不然就要更高层次的国际组织。
而且有人说AI会带来decentralization（去中心化），但是，如果AI因为智慧财产权（知识产权）的保障、因为独占性的平台垄断，那么去中心化不一定会发生，相反可能会再高度的中心化，这个可能性都存在。
Jeremy Rifkin的著作《零边际成本社会》已经出版好几年，这本书也有中文翻译，大家若关心AI的未来，我高度推荐这本书。
当最重要的生产要素如果是数字的，不管是数据或算法，会有什么情况？比方，AlphaGo或AlphaGo Zero可以打败世界排名第一的棋士，一旦被设计出来，那可以让它同时变成1,000个AlphaGo Zero，或是10,000个，只要有一个大电脑跟它配合就好。各位想想，若要产生10,000个像张栩这样的世界级天才棋士是多么不可能，但是对数位来说，只要一个按钮就可以复制。
在这个情况下，它可以让生产过程中的边际成本不断下降，而且接近于0，按理价格应是不断下降也会接近于0，很多商品会接近免费，而且可能在有如此的技术条件之下，剩余跟充裕会取代稀缺，所以整个过去资本主义的逻辑会被颠覆，除非掌握这些技术的人要排他性地垄断、独占，特别是运用所谓的产权或专利。
所以这本书里面特别描绘的一个现象就是，如果我们可以让普及所有人的经济福利释放出来，或许将来会进入一个完全和以前不一样的社会，一个零边际成本社会。这个社会就是大多数人，可以透过参与互助、交换跟分享，就可以满足基本需求，而且不需要再去依赖朝九晚五固定的工作，或是说必须花非常多的时间参与劳动市场，然而，这个可能性能不能出现？不知道，要看我们将来的制度跟法律怎么设计。
各位可以想象，如果从好的方向来想，未来可能不仅是跟数字有关的生产要素成本会越来越低，因为能源是大众日常生活消费占比很大的一个支出，将来自给自足的可能性也都存在，甚至可以在自己的社区、住家种植基本需要的蔬果，这些也可能都存在。现在有人工光合技术，而且照料收成的是机器人，在家也还可以3D打印，一些小物品可以自己制造。在这样的情况下，资本主义本身所谓靠刺激消费动能会减弱，很多人会退出商品市场的机制，尤其可透过分享跟交换就可以满足需求。
专业的服务也是一样，比如专业理发师，可在社区帮很多人理发，累积社会点数或社区数字货币，再用这些点数或是数字货币去换很多东西，如交换绘画学习、小孩上英文的课程等等。时间银行就是这个概念，而现在只运用在照顾老人范畴里面。所以这种可能性将来绝对没有问题，因为未来的运算能力、储存社会交易记录的能力，以区块链技术多大的量都没有问题，一目了然，而且不能篡改。
就社会学家、政治学家跟哲学家，最光明的时代也来了，有那么大的一种全新想象空间，或许可能一下子没那么快变，但是很值得探讨如何运用在这样一个新的技术条件跟社会条件之下。
另外，我认为还有一个很重要的课题，稍早有一些学者已经开始讨论，但我觉得都还不够系统化也不够深入，就是面对一个数字经济或数字社会，需要新的社会契约，甚至要改写有关基本人权的一些基本规范。
我举最典型的例子，每个人所生成的所有数字信息，包括DNA序列到所有的消费行为数据等等，各种不同的生活足迹，如果只是单笔来看，好像没什么价值，反正数据库里面1,000万人，少我一个算什么；但是反过来讲，我一旦能够收集1,000万人的时候，这个数据库就非常有价值，如果1,000万糖尿病病患的医疗历史都在这里，什么样的情况、什么样的体质、什么样的基因，用什么样的药可以产生什么效果，这里面再去撷取各种经验法则，全世界最好的医生都比不上，而且这种人工智慧的医疗诊断跟判断，边际成本是很低的，服务1万人跟100万人、1,000万人，其实成本增加很少。
所以，第一，如何使技术不只让收入最高的1万人享受，而是能够让1,000万人都能享受，这是一个难题对不对？
第二，既然我们每个人都对这个大数据资料的生成有贡献，可能包括很多方面，如我的消费行为、人生智慧、交友、政治参与及医疗历史等都在里面，我要知道它收集我什么东西，而且我要知道它存在哪里，我自己有权利随时去取得。
既然这个1千万人也好，1亿也好，大家共同贡献出非常多高附加价值的信息到大数据库，未来这个大数据所衍生的附加价值的净利应该归谁？应该有个制度，至少要有相当一部分，或是很大的一部分要平均归给每一个当初贡献的人。
但这是一个集体性资产，因为这个资产只有在大规模集体同时贡献时才有价值，如果只是个人数据，没有多少交易价值，也没有分析的价值。所以，如果我们一辈子所产生的所有数字信息，可以贡献于几万个不同属性的大数据集合，在每一个数据库里，我都应该有一笔小的股份，尽管那个股份是1,000万分之1，但因为生成出来的是有价值的信息，它所产生的各种经济交易的利润，如果有一套机制可以回馈给每个人，我认为这就是数字时代的基本人权保障，这是目前为止没有人讨论的问题。
当然，我们知道google、amazon不希望大家讨论，他们希望大家在注册帐号时就签一个同意声明，接下来就不用管了，这个信息他们拿去做什么、卖给谁，跟什么信息混合在一起跟你无关。所以我们来看，这些大企业，其实包括百度和阿里一样，他们现在变成政治说客，影响政府的很多法律，这些特殊利益集团，并不代表绝大多数人的利益，而这么重要的基本人权很少有系统性论述，这是非常大的理论缺失。
AI时代的人类典范
最后我要谈的一点就是，零边际成本可以造就共享社会，其实分享经济已经到来，只不过现在还在很小的范畴里面，而且我们已经受惠了。人类现在最大的知识储存库是什么？就是维基百科，所有人都可以贡献，也可以享用，这是一个最典型的数字时代共享经济，而且没有人宣称这是属于谁的知识产权，因为它不能作各种商业的、盈利的使用，也不能主张copyright（版权），我们把他叫做copyleft（版剩）；就是一种开放式、自由版权或开放版权。
所以我认为，将来在学校里面教育下一代，21世纪我们作为人生的奋斗目标或是典范，不应该是Bill Gates，对不对？他能累积千亿美金资产，因为他完全占用、利用了零边际成本的所有好处。如大家买一台电脑附加microsoft，而附加的边际成本只需几分美金，可是因为微软是独占，还有知识产权的保护，所以微软不跟大家分享获利，而变成他跟员工与股东的分红跟股利。我不是说不需要激励这类创业家，但其实不需要激励到这个程度，照样可以让很多人愿意去贡献、愿意去投入心血，而现在这个激励制度完全是彻底扭曲了这个社会的价值分配制度。
我们讲Khan学院创办人Salman Amin Khan，或是像维基的创办人，我认为这才是21世纪典范，他们可以很容易地变成一个亿万富翁，因为这个线上数学教学，后来扩充到物理等很多领域，是学习效果最好的线上学习互动软件，免费开放，现在连非洲的小孩只要能上网，都可以透过此网站学习各种微积分、几何、英文等。很多硅谷的人认为，Khan学院将来如果变成一个完全商业模式的，它的IPO可以价值几百亿美元甚至更高，但Salman Amin Khan拒绝诱惑坚持免费开放学习政策。所以，在数字经济的零边际成本条件下，我们面对人类社会的最可能的两种不同情境：是创造比Bill Gates有钱超过10倍、20倍的巨富，还是去鼓励更多像Salman Amin Khan这样的人。
结 语
总而言之，今天有很多大的议题，下午的圆桌论坛，我可以进一步跟各位对话。最后，我要谈一下民主体制本身也面对巨大的危机，这个危机可能现在很多人都想象不到。如果，我们把政治体制看做是一个数字或信息的转换过程，比如说，政府收集所有人的政策需求跟偏好，然后转换成公共政策，转换成预算分配，转换成法律，这就是信息的转换功能。
今天的代议制度是什么样的一种信息收集跟转换？我说那叫石器时代的制度，最原始的制度。每4年请你提供最多不到2个比特的二进制数据，也就是投给甲党、乙党还是不投票，只要用2个比特就可以记载下来，收集起来，凭这点信息，就赋予执政者未来4年制定所有法律的权力，通过条例、编预算的权力，在信息时代我们可以问：凭什么？明明在任何时候都可以利用大数据全面掌握社会多数人在这个问题上的需求或想法，为什么不依据大数据来制定政策呢？而是让那113人在“立法院”内每天吵架、拍桌子，有什么代表性呢？怎么知道他们后面不是财团、不是金主？
所以代议制的逻辑会被大数据、AI整个颠覆掉，这是一个非常大而严峻的挑战，为什么柯文哲市长到市议会可以理直气壮说，你们后面是什么我都搞清楚了，就是因为大数据。另外，这也是柯市长透过大数据，了解市民希望交通这样或希望卫生那样，所以科技变化已经带给代议民主巨大的合法性危机。
也有人说，有一天是可以选一个AI做总统，为什么不行？这个总统多好呢，可以跟各位说，当你要把它理想化时，它可以是没有自我，可以把它设计成没有自我，无私、无欲，也不能贿赂它，可以把它设计成要听很多人的建议，博采众议，可以让它读所有过去的治国经典与哲学，从资治通鉴、孔子、亚里斯多德、柏拉图，都学起来，把所有伟人面对艰巨的困难，他们是怎么决定的，都可以学习，然后赋予它的任务很简单，就是maximize（最大化）绝大多数人的基本福祉，而且还可以不断有更新版，还可以演进。
当然，这是一个科幻想象，但它一方面凸显了这个技术可能带来完全不同的强大制度，另一方面，就是对照我们所面对的各种挑战与难题，不得不严肃地去思考这样的一种可能性。谢谢大家。#
