Klasik E.M. Forster tahun 1909 The Machine Stops, menggambarkan masa depan di mana umat manusia hidup di bawah tanah, terpisah dari dunia alami, menghilangkan semua hambatan terhadap pertumbuhan dan hegemoni akhir “The Machine.” Semua orang hidup di kamar pribadi, dan interaksi fisik menjadi usang berkat video-call yang dimungkinkan oleh The Machine. Semua kebutuhan tubuh — makanan, pakaian, bantuan medis — diurus oleh, Anda dapat menebaknya, The Machine.

The Machine adalah alegori — simbol — dari sebuah sistem yang tumbuh begitu kompleks sehingga tidak ada satu orang pun yang dapat memahaminya, apalagi mengendalikannya. Ada pemerintah manusia, sebuah Komite Pusat, yang ostensibly bertanggung jawab untuk mengelola The Machine. Namun Komite Pusat hanyalah boneka yang senarnya ditarik oleh Mesin yang sangat kuat.

Umat manusia terobsesi dengan “ide,” konsep kabur yang tidak lagi melayani kemakmuran manusia; sebaliknya, para intelektual zaman itu menyamakan kemajuan The Machine dengan kemajuan manusia. Singkatnya, umat manusia “tercekik dalam pakaian yang mereka tenun.”

Perangkat perbaikan The Machine rusak, dunia bawah tanah retak terbuka, dan banjir udara mencekik populasi yang telah berevolusi untuk tidak lagi mengambil kekuatan dari oksigen udara alami.

Kisah Forester dipenuhi dengan ketepatan luar biasa, di mana salah satunya adalah sistem video call 90 tahun sebelum Skype. Tetapi di luar teknologi secara khusus, Forester meramalkan dunia di mana manajemen manusia digantikan oleh perantara yang diprogram — algoritma — yang mengarahkan dunia dengan jutaan perintah tak terlihat. Ini adalah dunia yang dapat kita semua kenali karena kita hidup di dalamnya.

Kisah Tim Maughan di OneZero: “Dunia Modern Akhirnya Terlalu Kompleks untuk Dipahami oleh Kita Semua,” menggambarkan kompleksitas yang membebani kita semua. “Saya di sini untuk memberi tahu Anda bahwa alasan begitu banyak dari dunia tampaknya tidak dapat dipahami adalah karena itu memang tidak dapat dipahami,” kata Maughan.

Maughan menjelaskan rantai pasokan global di mana lima hingga enam juta kontainer yang dikelola secara algoritmik melintasi lautan pada waktu tertentu. Di balik rantai pasokan dan setiap tindakan komersial lainnya adalah sistem keuangan global yang sangat kompleks dan tidak dapat ditembus.

Dan kita semua merasa cemas dengan prospek seumur hidup yang dihabiskan untuk memproses satu tetes di lautan informasi yang luas. Raksasa data mentah bahkan lebih mengerikan, rata-rata 1,7 MB dihasilkan per detik per orang menurut Domo.

Sistem kita yang tidak dapat dipahami beraksi liar adalah tema populer dalam fiksi, sebagian karena ini adalah ancaman yang sangat nyata. Siapa pun yang cukup tua untuk mengingat krisis keuangan 2008 menyadari bagaimana malfungsi dari sebuah sistem yang dirancang oleh manusia dapat menyebabkan penciptanya menderita begitu banyak.

Jangan salah, kami tidak mengklaim bahwa kompleksitas dunia modern buruk bagi umat manusia. Rantai pasokan dan sistem keuangan global adalah identik dengan kemakmuran yang megah dan kenyamanan. Sebaliknya, kami menyerukan komitmen untuk membangun sistem transparansi dan akuntabilitas ke dalam Mesin kami sebelum itu menjadi monster.

Penetrasi perangkat yang bisa dipakai ke tubuh kita dan ke dalam kehidupan sosial kita menjelang masa depan di mana manajer algoritmis membimbing setiap gerakan kita. Google Fitbit Anda yang memberi tahu Anda untuk berdiri adalah tip kesehatan yang bermanfaat. Amazon Halo Anda yang memberitahu Anda untuk mengubah nada adalah intrusif, tetapi bisa jadi nasihat komunikasi yang mendalam.

Anda mungkin tidak khawatir tentang cara perangkat Anda sampai pada rekomendasinya ketika itu bersifat jinak, tetapi bagaimana jika Google memberi tahu Anda siapa yang harus dinikahi, atau siapa yang harus Anda pilih? Ini bukan lagi pertanyaan untuk penulis fiksi ilmiah, tetapi keputusan desain nyata yang dibuat oleh perusahaan teknologi setiap hari.

CEO Twitter dan Square Jack Dorsey, seorang pria yang memahami keadaan teknologi lebih baik daripada hampir siapa pun, mengatakan ini dalam sebuah wawancara dengan Andrew Yang di bulan Maret: “Google memiliki pemahaman yang lebih baik tentang preferensi kami daripada kami sendiri… algoritma ini akan mulai mengambil lebih banyak keputusan ini… Kenapa jam tangan saya baru saja memberi tahu saya untuk berdiri? Kami pada dasarnya menyerahkan agen kami sepenuhnya.”

Salah satu solusinya adalah regulasi: memaksa perusahaan teknologi untuk memberi tahu kami bagaimana algoritma mereka sampai pada keputusan dan data apa yang mereka miliki tentang kami. California dan Eropa memberikan hak kepada konsumen untuk mengetahui tentang, dan memilih keluar dari, data yang dimiliki oleh perusahaan swasta. Legislasi yang diusulkan di negara bagian New York, disebut NYPA, melangkah lebih jauh — mengklasifikasikan data sebagai properti pribadi dan memberikan kekuatan kepada pengguna untuk opsi masuk untuk berbagi data mereka.

Namun, menciptakan teknologi yang transparan dan berorientasi manusia secara desain adalah cara terbaik untuk mengaitkan inovasi baru dengan peningkatan kesejahteraan manusia. Ada setidaknya dua langkah besar yang perlu kita ambil untuk mencapainya: Yang pertama adalah memastikan data aman dan dapat dipercaya, yang kedua adalah memastikan pemrosesannya sendiri — algoritma — transparan dan dapat dipercaya.

Perangkat IoT yang dilengkapi dengan apa yang disebut “Lingkungan Eksekusi Terpercaya (TEE),” yang digunakan hari ini di ponsel Anda untuk menyimpan sidik jari Anda dengan aman, dapat mengumpulkan dan menandatangani data dengan aman sebelum disiarkan ke database, atau ke algoritma untuk pemrosesan segera. Penandatanganan ini, yang dapat Anda anggap seperti tanda air digital, adalah dasar dari kepercayaan yang membawa kita melewati langkah pertama.

TEE yang digabungkan dengan teknologi lain seperti blockchain dan (perbaiki tautan) komputasi rahasia dapat membentuk rangkaian asal data yang meluas hingga pengguna akhir, yang kemudian dapat memverifikasi asal informasi dan memeriksa rekomendasi algoritmik jika mereka mau. Komputasi rahasia memastikan bahwa eksekusi kode terjadi di dalam area yang tidak dapat diubah, terpisah dalam CPU yang akan selalu melakukan persis apa yang dikatakannya akan dilakukan.

Ini adalah teknologi baru yang baru mulai diadopsi secara mainstream, tetapi masa depan terlihat cerah dengan kombinasi komputasi rahasia, perangkat keras yang aman, dan blockchain. Bersama-sama, teknologi ini menawarkan solusi end-to-end yang transparan dan akuntabel; memastikan tidak ada pertanyaan tentang siapa yang memegang kendali: Manusia atas Mesin.

Tentang IoTeX

Didirikan sebagai platform sumber terbuka pada tahun 2017, IoTeX sedang membangun Internet dari Hal-Hal Terpercaya, ekosistem terbuka di mana semua “hal” — manusia, mesin, bisnis, dan DApps — dapat berinteraksi dengan kepercayaan dan privasi. Didukung oleh tim global yang terdiri dari lebih dari 30 ilmuwan riset dan insinyur terkemuka, IoTeX menggabungkan blockchain, perangkat keras yang aman, dan komputasi rahasia untuk memungkinkan perangkat, jaringan, dan ekonomi IoT generasi berikutnya. IoTeX akan memberdayakan ekonomi terdesentralisasi di masa depan dengan “menghubungkan dunia fisik, blok demi blok”.

Pelajari lebih lanjut: Website | Twitter | Telegram | Medium | Reddit