Le classique de 1909 d'E.M. Forster The Machine Stops, décrit un futur où l'humanité vit sous terre, séparée du monde naturel, éliminant tous les obstacles à la croissance et à l'hégémonie finale de « La Machine. » Tout le monde vit dans des chambres privées, et l'interaction physique est rendue obsolète par les appels vidéo grâce à La Machine. Tous les besoins corporels — nourriture, vêtements, assistance médicale — sont pris en charge par, vous l'avez deviné, La Machine.

La Machine est une allégorie — un symbole — d'un système devenu si complexe qu'aucune personne seule ne peut le comprendre, encore moins le contrôler. Il existe un gouvernement humain, un Comité Central, censément responsable de la gestion de La Machine. Mais le Comité Central n'est rien d'autre qu'une marionnette dont les fils sont tirés par la Machine toute-puissante.

L'humanité est obsédée par les "idées," des concepts vagues qui ne servent plus à l'épanouissement humain; au contraire, les intellectuels de l'époque assimilent le progrès de La Machine à celui de l'humanité. En bref, l'humanité est "étranglée dans les habits qu'elle a tissés."

Le système de réparation de La Machine se casse, le monde souterrain se fissure, et une inondation d'air étouffe une population qui a évolué pour ne plus puiser sa force dans l'oxygène de l'air naturel.

L'histoire de Forster est pleine de prescience remarquable, dont la plus notable est un système de visioconférence 90 ans avant Skype. Mais au-delà des technologies en particulier, Forster annonce un monde où la gestion humaine est remplacée par des intermédiaires programmés — des algorithmes — qui dirigent le monde avec des millions de commandes invisibles. C'est un monde que nous pouvons tous reconnaître parce que nous y vivons.

L'article de Tim Maughan dans OneZero : “Le monde moderne est enfin devenu trop complexe pour que l'un d'entre nous puisse le comprendre,” décrit la complexité qui nous submerge tous. “Je suis ici pour vous dire que la raison pour laquelle une si grande partie du monde semble incompréhensible est qu'elle est incompréhensible,” dit Maughan.

Maughan détaille une chaîne d'approvisionnement globale où cinq à six millions de conteneurs gérés par algorithmes traversent les océans à tout moment. Derrière la chaîne d'approvisionnement et chaque autre acte commercial se cache un système financier mondial d'une complexité impénétrable.

Et nous ressentons tous de l'anxiété à la perspective d'une vie entière passée à traiter une seule goutte dans la vaste mer d'informations. Le monstre des données brutes est encore plus monstrueux, une moyenne de 1,7 Mo est générée par seconde par personne selon Domo.

Notre système insondable se rebelle est un thème populaire dans la fiction, en partie parce qu'il représente une menace si réelle. Quiconque assez âgé pour se souvenir de la crise financière de 2008 est conscient de la façon dont le dysfonctionnement d'un système conçu par des humains peut causer tant de souffrances à ses créateurs.

Ne vous y trompez pas, nous ne prétendons pas que la complexité du monde moderne soit mauvaise pour l'humanité. La chaîne d'approvisionnement et le système financier mondial sont synonymes d'un épanouissement glorieux de la richesse et du confort. Au contraire, nous appelons à un engagement à construire des systèmes de transparence et de responsabilité dans notre Machine avant qu'elle ne devienne un monstre.

L'intrusion des dispositifs portables sur nos corps et dans nos vies sociales préfigure un avenir où des gestionnaires algorithmiques guident chacun de nos mouvements. Votre Fitbit Google vous disant de vous lever est un conseil de santé utile. Votre Amazon Halo vous disant de changer de ton est intrusif, mais pourrait constituer un conseil de communication profond.

Vous ne vous inquiétez peut-être pas des moyens que vos appareils utilisent pour arriver à leurs recommandations lorsqu'ils sont bénins, mais qu'en est-il lorsque Google vous dit qui épouser, ou pour qui voter ? Ce ne sont plus des questions pour les écrivains de science-fiction, mais des décisions de design réelles prises par les entreprises technologiques chaque jour.

Le PDG de Twitter et Square, Jack Dorsey, un homme qui comprend l'état de la technologie mieux que presque quiconque, a déclaré lors d'une interview avec Andrew Yang en mars : “Google a une meilleure idée de ce que nous préférons que nous-mêmes… ces algorithmes vont commencer à prendre de plus en plus de ces décisions… Pourquoi ma montre vient-elle de me dire de me lever ? Nous abandonnons essentiellement notre liberté complètement.”

Une solution est la régulation : forcer les entreprises technologiques à nous dire comment leurs algorithmes prennent des décisions et quelles données elles ont sur nous. La Californie et l'Europe donnent aux consommateurs le droit de connaître et de refuser les données détenues par des entreprises privées. La législation proposée dans l'État de New York, appelée NYPA, va encore plus loin — classant les données comme propriété personnelle et accordant aux utilisateurs le pouvoir d'opter-in pour le partage de leurs données.

Mais créer une technologie qui est transparente et centrée sur l'humain par conception est le meilleur moyen d’attacher les nouvelles innovations à l'avancement du bien-être humain. Il y a au moins deux étapes majeures à franchir pour y parvenir : La première est de s'assurer que les données sont sécurisées et dignes de confiance, la deuxième est de s'assurer que le traitement lui-même — l'algorithme — est transparent et digne de confiance.

Les dispositifs IoT équipés de ce que l'on appelle des « Environnements d'Exécution de Confiance (TEE), » utilisés aujourd'hui dans votre téléphone pour stocker en toute sécurité vos empreintes digitales, peuvent collecter et signer des données de manière sécurisée avant de les diffuser à une base de données, ou à un algorithme pour un traitement immédiat. Cette signature, que vous pouvez considérer comme une watermark numérique, est un point de confiance qui nous permet de passer l'étape un.

Les TEE combinés avec d'autres technologies comme la blockchain et (lien à corriger) le calcul confidentiel peuvent former une chaîne de provenance de données qui s'étend jusqu'à l'utilisateur final, qui peut alors vérifier la provenance des informations et inspecter les recommandations algorithmiques s'il le souhaite. Le calcul confidentiel garantit que l'exécution du code se produit à l'intérieur d'une zone protégée et inviolable au sein du CPU qui fera toujours exactement ce qu'elle dit qu'elle va faire,

Ce sont des technologies tout juste nouvelles qui commencent à être adoptées par le grand public, mais l'avenir est prometteur avec la combinaison du calcul confidentiel, du matériel sécurisé et de la blockchain. Ensemble, ces technologies offrent une solution de bout en bout qui est à la fois transparente et responsable; garantissant qu'il n'y a jamais de doute sur qui est aux commandes : L'homme sur La Machine.

À propos de IoTeX

Fondé en tant que plateforme open source en 2017, IoTeX construit l' Internet des choses de confiance, un écosystème ouvert où toutes les "choses" — humains, machines, entreprises et DApps — peuvent interagir avec confiance et confidentialité. Soutenu par une équipe mondiale de plus de 30 scientifiques et ingénieurs de recherche de premier plan, IoTeX combine blockchain, matériel sécurisé et calcul confidentiel pour permettre les dispositifs, réseaux et économies IoT de nouvelle génération. IoTeX va renforcer la future économie décentralisée en "connectant le monde physique, bloc par bloc".

En savoir plus : Site web | Twitter | Telegram | Medium | Reddit