真実でモンスターを止める方法
But beyond technologies in particular, Forester portends a world where human management is replaced by programmed intermediaries — algorithms — who steer the world with millions of invisible commands. This is a world we can all recognize because we live in it.
E.M.フォースターの1909年の名作機械が止まるは、人間が地下に住み、自然界と隔離され、「機械」の成長と最終的な覇権に対するすべての障害を排除した未来を描いています。誰もが個室に住み、身体的な交流は機械のおかげでビデオ通話によって時代遅れになっています。すべての身体的なニーズ — 食物、衣服、医療支援 — は、あなたの推測通り、機械によって提供されます。
機械は寓話 — シンボル — です。これほど複雑になってしまったシステムは、単独の人間が理解できるものではなく、ましてや制御できるものでもありません。人間の政府が存在し、中央委員会は機械の管理を担当しているように見えます。しかし、中央委員会は全能の機械によって指揮されているマリオネットに過ぎません。
人類は「アイデア」に取り憑かれ、もはや人間の繁栄に役立つものではなく、知識人たちは機械の進歩を人間の進歩と同一視しています。要するに、人類は「自らが紡いだ衣をまとって窒息している」のです。
機械の修理装置が故障し、地下の世界が割れ、空気の洪水が自然界の酸素から強さを引き出さなくなった人々を窒息させます。
フォースターの物語は驚くべき先見の明に満ちており、その一つは90年も前にスカイプの登場を予見したビデオ通話システムです。しかし、特定の技術を超えて、フォースターは人間の管理がプログラムされた仲介者 — アルゴリズム — に置き換えられ、何百万もの見えない命令で世界を操る未来を予言しています。これは私たちが生きている世界だということができます。
ティム・モーハンのOneZeroでの物語「現代の世界はついに私たち誰にも理解できないほど複雑になった」は、私たち全員を圧倒する複雑さを描写しています。「世界の多くが理解できないように見える理由は、それが理解できないからだと言いたい」とモーハンは言います。
モーハンは、数百万から六百万のアルゴリズム管理されたコンテナが常に海を越えて移動しているグローバルなサプライチェーンの詳細を説明しています。サプライチェーンの背後には、他のすべての商業行為と同様に、 penetrable 側面があり、非常に複雑なグローバルな金融システムがあるのです。
私たちは皆、一生をかけて情報の広大な海の中の一滴を処理することに対して不安を感じています。生データの巨大化はさらにモンスター的であり、平均で1秒ごとに1.7MBが生成されています。人あたり Domoによると。
私たちの理解できないシステムの暴走は、フィクションの中で人気のテーマであり、部分的にはそれが非常に現実的な脅威だからです。2008年の金融危機を覚えているどの年齢の人も、設計された人間のシステムの機能不全が、どれほどその創造者に多くの苦しみを引き起こすかを知っています。
間違いなく、私たちは現代の世界の複雑さが人類にとって悪いものであるとは主張していません。サプライチェーンとグローバルな金融システムは、富と快適さの栄光ある繁栄に同義です。むしろ、私たちは、機械がモンスターになる前に、透明性と説明責任のあるシステムを構築することにコミットすることを求めています。
ウェアラブルデバイスが私たちの身体や社会生活に侵入することは、アルゴリズム管理者が私たちのすべての動きを導く未来を予感させます。あなたのGoogle Fitbitが立ち上がるように言うのは役に立つ健康アドバイスです。あなたのAmazon Haloがあなたの口調を変えろと言うのは、侵入的ですが、潜在的に深いコミュニケーションのアドバイスです。
デバイスが推奨を出すために使用する手段が無害であるときは気にしないかもしれませんが、Googleがあなたに誰と結婚するか、誰に投票するかを教えるときはどうでしょうか？これらはもはやサイエンスフィクション作家のための質問ではなく、テクノロジー企業が毎日行う実際のデザイン決定です。
TwitterとSquareのCEOジャック・ドーシーは、ほとんど誰よりも技術の状態を理解している男であり、彼は3月のアンドリュー・ヤンとのインタビューでこう述べました:「Googleは私たちが何を好むかを私たちよりもよく理解しています…これらのアルゴリズムは、より多くの決定を下し始めるでしょう…なぜ私の時計は立つように言ったのか？私たちは基本的に自分たちの代理権を完全に放棄しているのです。」
一つの解決策は規制です: テクノロジー企業に、彼らのアルゴリズムがどのように決定を下し、私たちについてどのデータを持っているかを知らせることを強制することです。カリフォルニアやヨーロッパでは、消費者はプライベート企業が持つデータについて知る権利とオプトアウトの権利を与えられています。ニューヨーク州で提案されている法律NYPAと呼ばれるものは一歩進んでおり — データを個人の財産として分類し、ユーザーにデータ共有のオプトインの権限を付与します。
しかし、透明で人間中心の技術をデザインから作成することが、新しい革新を人間の幸福の向上と結びつける最良の方法です。それを実現するために必要な主要なステップは少なくとも二つあります: 第一にデータが安全で信頼できることを確保すること、第二に、その処理自体 — アルゴリズム — が透明で信頼できるものであることを保証することです。
いわゆる「トラステッド・エグゼキューション・環境（TEE）」を備えたIoTデバイスは、現在あなたの電話で指紋を安全に保存するために使用されており、データを安全に収集して署名し、データベースやアルゴリズムに即時処理のために送信することができます。この署名は、デジタル透かしのように考えることができ、私たちを第一段階の先へと進めます。
TEEは、ブロックチェーンや機密計算のような他の技術と組み合わせることで、エンドユーザーまで広がるデータの出所の連鎖を形成できます。ユーザーは情報の出所を検証し、必要に応じてアルゴリズムの推奨を検査することができます。機密計算は、コードの実行がCPU内の改ざん不可能なエリアで行われ、常に指定されている通りのことを行うことを保証します。
これらはまったく新しい技術で、ようやく主流の採用が始まろうとしていますが、機密計算、安全なハードウェア、そしてブロックチェーンの組み合わせは明るい未来をもたらします。これらの技術は、透明で説明責任のあるエンドツーエンドのソリューションを提供し、誰が支配しているかは決して疑問視されることはありません: 人間が機械に勝る。
IoTeXについて
2017年にオープンソースプラットフォームとして設立されたIoTeXは、信頼できるモノのインターネットを構築しています。このオープンエコシステムではすべての「モノ」 — 人間、機械、ビジネス、DApps — が信頼とプライバシーを持って相互作用できるようになります。30人以上のトップ研究者とエンジニアからなるグローバルなチームに支えられ、IoTeXはブロックチェーン、安全なハードウェア、機密計算を組み合わせ、次世代のIoTデバイス、ネットワーク、経済を可能にします。IoTeXは、物理的な世界をブロックごとに接続することで、未来の分散型経済を強化します。