Le classique de E.M. Forster de 1909 The Machine Stops, décrit un avenir où l'humanité vit sous terre, séparée du monde naturel, éliminant tous les obstacles à la croissance et à l'hégémonie finale de « La Machine. » Tout le monde vit dans des chambres privées, et l'interaction physique devient obsolète grâce à des appels vidéo offerts par La Machine. Tous les besoins corporels — nourriture, vêtements, assistance médicale — sont pris en charge par, vous l'avez deviné, La Machine.

La Machine est une allégorie — un symbole — d'un système devenu si complexe qu'aucune personne ne peut le comprendre, encore moins le contrôler. Il existe un gouvernement humain, un Comité Central, apparemment responsable de la gestion de La Machine. Mais le Comité Central n'est rien de plus qu'une marionnette dont les fils sont tirés par la Machine toute-puissante.

L'humanité est obsédée par « des idées », des concepts vagues qui ne sont plus au service de l'épanouissement humain ; plutôt, les intellectuels de l'époque assimilent le progrès de La Machine au progrès humain. En résumé, l'humanité est « étouffée dans les vêtements qu'elle a tissés. »

Le mécanisme de réparation de La Machine tombe en panne, le monde souterrain se fissure, et un flot d'air étouffe une population qui a évolué pour ne plus puiser de force dans l'oxygène de l'air naturel.

L'histoire de Forster est pleine de prescience remarquable, dont l'une des plus notables est un système d'appel vidéo 90 ans avant Skype. Mais au-delà des technologies en particulier, Forster prédit un monde où la gestion humaine est remplacée par des intermédiaires programmés — des algorithmes — qui dirigent le monde avec des millions de commandes invisibles. C'est un monde que nous pouvons tous reconnaître parce que nous y vivons.

L'histoire de Tim Maughan dans OneZero : “Le monde moderne est enfin devenu trop complexe pour que l'un d'entre nous puisse le comprendre,” décrit la complexité qui nous submerge tous. “Je suis ici pour vous dire que la raison pour laquelle tant de choses dans le monde semblent incompréhensibles est qu'elles sont incompréhensibles,” dit Maughan.

Maughan détaille une chaîne d'approvisionnement mondiale où cinq à six millions de conteneurs gérés par algorithmes traversent les océans à tout moment. Derrière la chaîne d'approvisionnement et chaque acte commercial se cache un système financier mondial d'une complexité impénétrable.

Et nous ressentons tous de l'anxiété à la perspective de passer une vie entière à traiter une seule goutte dans l'immense mer d'informations. Le monstre de données brutes est encore plus monstrueux, en moyenne 1,7 Mo sont générés par seconde par personne selon Domo.

Notre système insondable qui devient fou est un thème populaire dans la fiction, en partie parce que c'est une menace si réelle. Quiconque assez vieux pour se souvenir de la crise financière de 2008 sait comment le dysfonctionnement d'un système conçu par des humains peut causer tant de souffrances à ses créateurs.

Ne vous méprenez pas, nous ne prétendons pas que la complexité du monde moderne est mauvaise pour l'humanité. La chaîne d'approvisionnement et le système financier mondial sont synonymes d'une prospérité glorieuse de richesse et de confort. Au contraire, nous appelons à un engagement à construire des systèmes de transparence et de responsabilité dans notre Machine avant qu'elle ne devienne un monstre.

L'intrusion des appareils portables sur nos corps et dans nos vies sociales préfigure un avenir où des gestionnaires algorithmiques guident chacun de nos mouvements. Votre Google Fitbit vous disant de vous lever est un conseil utile pour la santé. Votre Amazon Halo vous disant de changer votre ton est intrusif, mais potentiellement un conseil de communication profond.

Vous ne vous inquiétez peut-être pas des moyens par lesquels vos dispositifs arrivent à leurs recommandations lorsqu'elles sont bénignes, mais que se passe-t-il lorsque Google vous dit qui épouser, ou pour qui voter ? Ce ne sont plus des questions pour les écrivains de science-fiction, mais de réelles décisions de conception prises par des entreprises technologiques chaque jour.

Le PDG de Twitter et Square, Jack Dorsey, un homme qui comprend mieux que presque quiconque l'état de la technologie, a déclaré lors d'une interview avec Andrew Yang en mars : “Google a une meilleure idée de ce que nous préférons que nous-mêmes… ces algorithmes vont commencer à prendre de plus en plus de décisions comme celles-ci… Pourquoi ma montre m'a-t-elle dit de me lever ? Nous abandonons essentiellement notre agence complètement.”

Une solution est la réglementation : obliger les entreprises technologiques à nous dire comment leurs algorithmes prennent des décisions et quelles données elles ont sur nous. La Californie et l'Europe donnent aux consommateurs le droit de connaître et de se retirer des données détenues par des entreprises privées. La législation proposée dans l'État de New York, appelée le NYPA, va encore plus loin — classifiant les données comme propriété personnelle et accordant aux utilisateurs le pouvoir de opter-in pour le partage de leurs données.

Mais créer une technologie qui soit transparente et centrée sur l'humain par conception est le meilleur moyen d'attacher les nouvelles innovations à l'avancement du bien-être humain. Il y a au moins deux grandes étapes que nous devons suivre pour y parvenir : La première est de garantir que les données soient sécurisées et fiables, la seconde est de s'assurer que le traitement lui-même — l'algorithme — soit transparent et digne de confiance.

Les dispositifs IoT équipés de ce que l'on appelle des « Environnements d'Exécution Fiables (TEE), » utilisés aujourd'hui sur votre téléphone pour stocker en toute sécurité vos empreintes digitales, peuvent collecter et signer des données en toute sécurité avant de les diffuser dans une base de données, ou à un algorithme pour un traitement immédiat. Cette signature, que vous pouvez considérer comme un filigrane numérique, est une racine de confiance qui nous fait passer la première étape.

Les TEE combinés avec d'autres technologies comme la blockchain et (lien à corriger) le computing confidentiel peuvent former une chaîne de provenance des données qui s'étend jusqu'à l'utilisateur final, qui peut ensuite vérifier la provenance de l'information et inspecter les recommandations algorithmiques s'il le souhaite. Le computing confidentiel garantit que l'exécution de code se déroule dans une zone protégée et étanche à la falsification au sein du CPU qui fera toujours exactement ce qu'il dit qu'il va faire,

Ce sont des technologies tout juste nouvelles qui commencent à être adoptées par le grand public, mais l'avenir est prometteur avec la combinaison de computing confidentiel, de matériel sécurisé et de blockchain. Ensemble, ces technologies offrent une solution de bout en bout qui est à la fois transparente et responsable ; garantissant qu'il n'y a jamais de question sur qui est en charge : L'Homme sur La Machine.

À propos de IoTeX

Fondée comme une plateforme open-source en 2017, IoTeX construit le Internet des Objets Fiables, un écosystème ouvert où tous les « objets » — humains, machines, entreprises, et DApps — peuvent interagir avec confiance et confidentialité. Soutenue par une équipe mondiale de plus de 30 chercheurs et ingénieurs de premier plan, IoTeX combine blockchain, matériel sécurisé et computing confidentiel pour permettre des dispositifs IoT, des réseaux et des économies de nouvelle génération. IoTeX va redonner du pouvoir à l'économie décentralisée future en « connectant le monde physique, brique par brique ».

En savoir plus : Site web | Twitter | Telegram | Medium | Reddit