如何用真相制止怪物
But beyond technologies in particular, Forester portends a world where human management is replaced by programmed intermediaries — algorithms — who steer the world with millions of invisible commands. This is a world we can all recognize because we live in it.
E.M. 福斯特在 1909 年的经典 《机器停止运转》 描述了一个人类生活在地下的未来，与自然世界隔绝，消除所有对“机器”成长和最终霸权的障碍。每个人都生活在私密的房间里，身体接触因为机器提供的视频电话而变得过时。所有的身体需求——食物、衣物、医疗帮助——都由你猜到的机器来满足。
机器是一个隐喻——一个象征——一个复杂到没有人能够理解，更遑论控制的系统。虽然有一个人类政府，一个中央委员会，名义上负责管理机器，但中央委员会不过是一个木偶，其线索被全能的机器操控。
人类沉迷于“思想”，这些模糊的概念不再为人类的繁荣服务；而当下的知识分子将机器的进步与人类的进步等同在一起。简而言之，人类被“他们编织的衣物所窒息”。
当机器的修理装置破裂，地下世界崩裂，一股空气的洪流窒息了一个已经进化到不再从自然空气中的氧气中获得力量的人口。
福斯特的故事充满了惊人的预见，尤其是其在 Skype 之前的 90 年就设想的视讯通话系统。但是，超越具体技术，福斯特预示了一个人类管理被编程中介——算法所取代的世界，这些算法用数百万个无形的指令引导着这个世界。这是一个我们都能认出的世界，因为我们生活在其中。
Tim Maughan 在 OneZero 的故事：“现代世界最终变得我们谁都无法理解” 描述了压倒我们所有人的复杂性。“我在这里告诉你，世界上如此多的事物似乎难以理解的原因是它确实是难以理解的，” Maughan 说道。
Maughan 详细介绍了一个全球供应链，在任何时刻都有五至六百万个算法管理的集装箱穿越海洋。供应链和其他所有商业行为背后是一个无法渗透的复杂全球金融系统。
面对一生都在处理海量信息中一小滴的前景，我们都感到焦虑。原始数据巨兽更是可怕，根据 Domo 的数据，每人每秒生成的平均数据为 1.7 MB。
我们不可理解的系统失控是虚构作品中的一个流行主题，部分原因是这确实是一个真实的威胁。任何记得 2008 年金融危机的人都知道，由人类设计的系统发生故障可能会给其创造者带来多大的痛苦。
不要误解，我们并不是在说现代世界的复杂性对人类是有害的。供应链和全球金融系统与财富和舒适的辉煌繁荣同义。相反，我们呼吁在我们的机器中建立透明和负责任的系统 在 它变成怪物之前。
可穿戴设备逐渐进入我们的身体和社交生活，预示着一个算法经理引导我们每一个举动的未来。你的 Google Fitbit 告诉你站起来是一个有用的健康提示。你的 Amazon Halo 告诉你改变语气 是侵扰的，但可能是深刻的沟通建议。
当你的设备提供建议时，如果它们是无害的，你可能不会担心它们达到建议所用的手段，但当 Google 告诉你该嫁给谁，或者该投票给谁时呢？这些不再是科幻作家的问题，而是科技公司每天做出的实际设计决策。
Twitter 和 Square 的 CEO Jack Dorsey，一个比几乎任何人都更了解技术状态的人，在与 Andrew Yang 的 采访 中这样说道：“Google 对我们所偏好的东西的理解比我们自己更好……这些算法将开始做出越来越多这样的决定……我手表为什么突然告诉我站立？我们基本上是在完全放弃我们的自主权。”
解决方案之一是监管：迫使科技公司告诉我们它们的算法是如何做出决策的，以及它们对我们的数据了解多少。加利福尼亚州和欧洲赋予消费者了解并选择退出私人公司持有的数据的权利。纽约州提议的立法 称为 NYPA 更进一步——将数据分类为个人财产，并赋予用户选择 选择加入 分享数据的权力。
但创造透明且以人为本的技术 设计为主 是将新技术与人类福祉进步紧密结合的最佳方式。我们需要采取至少两个主要步骤来实现这一目标：首先，确保数据的安全和可信；第二，确保处理本身——算法——是透明和可信的。
配备所谓“受信执行环境 (TEE)”的物联网设备，如今在你的手机中安全存储你的指纹，可以安全地收集和签名数据，然后将其广播到数据库或算法进行即时处理。这种签名，可以视为数字水印，是一种信任根基，是我们第一个步骤的关键。
TEE 与区块链等其他技术结合，(修正链接) 保密计算 可以形成一条数据来源链，直至最终用户，使其能在选择的情况下验证信息的来源并检查算法建议。保密计算确保代码执行发生在一个防篡改、隔离的 CPU 区域内，该区域将总是严格按照其所说的方式进行操作。
这些是刚刚开始被广泛采用的新技术，未来因保密计算、安全硬件和区块链的结合而光明。这些技术共同提供了一个既透明又负责的端到端解决方案；确保永远不会有任何关于谁在控制的疑问：人类优于机器。
关于 IoTeX
作为一个在 2017 年成立的开源平台，IoTeX 正在构建受信之物互联网，这是一个开放生态系统，所有“事物”——人类、机器、企业和 DApp——都可以相互信任并保护隐私。得到 30 多位顶尖研究科学家和工程师的全球团队支持，IoTeX 将区块链、安全硬件和保密计算结合在一起，以支持下一代物联网设备、网络和经济体。 IoTeX 将通过“逐块连接物理世界”来赋能未来的去中心化经济。