流氓算法，会是病毒吗？2016年10月21日，一个叫做Mirai的病毒软件横空出世。受它影响，大部分的互联网服务遭侵蚀长达数小时。当研究人员深入了解Mirai时，他们发现，这一病毒软件主要针对那些安全性能较差的联网设备（比如安防摄像头，或是电子录像机），并把他们变成一群机器人。仅仅数周，Mirai就感染了50万台设备。
此外，还有2010年的Stuxnet，这是在工业控制系统内发现的另一种病毒。事实上，这个病毒已经达到了军用武器的级别。研究人员分析后发现，Stuxnet专门针对的是西门子离心机。
直到今天，人们仍然没有弄清楚Stuxnet和Mirai的确切来源，以及开发者。但是，它们可能现在就在你办公室的摄像机里，或是你厨房的智能水壶中偷偷繁殖着。
或者说，流氓算法是众人真实的梦魇？2015年夏天，雅典的债务危机繁重，举国动荡。在那儿的一家医院里，医生和护士要比平日里更加繁忙。因为，当时住在里面的人，都是顶尖的政治家和公务员，他们正遭遇着严重的睡眠问题。然而，陪伴这些政要每日入睡的，都是身边的那些医疗机器。这些机器记载着他们的呼吸、行动状况，夜半低语，然后把这些信息一同发送回北欧制造商的数据库里。当然，一同被发送过去的，还有政要们的详细医疗记录。那么，谁又知道会不会有人从中做手脚呢？
如今的时代，我们有各式各样的可穿戴设备。我们天真地认为，自己的身体能够像这些设备一样，被升级、被优化。这些设备记录着我们的位置、心跳，甚至是脑电波。厂商不停地劝说，让我们在睡觉的时候也戴着这些手表、手环，以便记录睡眠数据。那么，这些数据都去哪儿了，它们到底属于谁，什么时候才会被公布？我们清晨的梦境、午夜的恐惧、奔跑时的汗水…那个没有防备下的自我本质，如今变成了系统升级的佐料；而我们自己，却对此一无所知。
或者说，流氓算法无处不在。贫富差距加剧、国家解体、边境军事化、个人自由被削弱、极右翼团队的崛起、自然环境的退化……这些也许不是新技术带来的直接影响；但是，正是因为我们无法正确认识技术增强的复杂性，加速了个人和公司行为的广泛性和网络性，于是才导致了这些后果。
1997年的纽约，世界象棋冠军Garry Kasparov与IBM设计的深蓝（Deep Blue）第二次对弈。当Kasparov落败时，他表示，深蓝的一些动作聪明且充满创意，必定是人为干预的结果。然而，事实并非如此。深蓝的一举一动，靠的是那块拥有1．4万超并行结构的芯片，能够每秒分析出2亿个棋盘落子点。即使Kasparov深谋远虑，然而一柄长枪难敌一营火炮。
时间线来到了2016年，谷歌的AlphaGo迎战韩国专业选手李世石。在第二场比赛时，AlphaGo做了一个让对手颇为吃惊的举动，其将子落在了距离棋盘中心相对较远的位置。评论员说道：“这个举动太奇怪了。”曾败在AlphaGo手上的Fan Hui表示：“我还以为是系统出错了，一般人类不会这么下。”
后来，AlphaGo赢得了这场比赛，以及后来的系列赛事。AlphaGo内嵌一个神经网络，里面拥有数百万个专业棋手的落子数据。此外，工程师还让Alphago自我练习数百万次。因此，其生成的落子策略会优于人类棋手。但是，Alphago自己是很难分辨清楚这些策略的：我们知道它落子的位置，却不知道它落子的原因。
谷歌翻译是在2006年推出的，其采用的是一种名为统计语言推理（statistical language inference）的技术。该系统并没有尝试去理解语言的构造原理，而是直接吸收运用大量现有的译文。简单来说，谷歌翻译并没有用人类的思维来理解语言，而是靠数据驱动，直接处理映射单词。
正因如此，谷歌翻译造成的错误比比皆是，让人啼笑皆非。但在2016年，系统开始采用谷歌大脑（Google Brain）开发的神经网络，翻译能力呈指数级提高。其不再交叉引用文本，而是建立了一个自己的模型。
同年，谷歌大脑的其他研究员开发了另外三个网络，分别称为Alice、Bob，以及Eve，专门用来学习如何加密信息。过程如下：Alice和Bob手上有一个加密数字要是，但是Eve不知道；接着，Alice会执行文本操作，然后发送给Bob和Eve。如果Bob破解信息，那么Alice就加一分；如果Eve破解信息，那么Alice就扣一分。
经过数千次的测试和迭代，Alice和Bob最终能够在Eve无法破解信息的情况下沟通；这有点儿像我们今天用的私密邮件一般。但关键的是，我们并不了解这种加密工作，具体的操作被网络层层阻隔。Eve不知道的东西，我们也不知道；机器正在学会保守秘密。
我们如何理解自己在世界上的位置、我们与他人以及机器的关系，最终将决定技术的发展方向。我们不能忽视网络，我们只能在网络中思考。现如今，影响着我们的技术不会凭空消失；在许多情况下，我们也不希望它消失。毕竟，还有一个70亿人口的星球在依赖着它。对于现在所处的恶劣环境，我们并非无能为力；我们要做的，就是思考、思考、再思考。
科技是我们自我的延伸，存在于机器设施编码，以及知识行为框架中。计算机并没有给我们所有的答案，而是让我们向这个世界用新的方式提出了新的问题。
