Kiệt tác năm 1909 của E.M. Forster Máy Ngừng Hoạt Động, mô tả một tương lai mà nhân loại sống dưới lòng đất, tách biệt khỏi thế giới tự nhiên, loại bỏ mọi cản trở cho sự phát triển và cuối cùng là sự thống trị của "Máy". Mọi người sống trong các phòng riêng tư, và sự tương tác vật lý trở nên lỗi thời nhờ vào video-call do Máy cung cấp. Tất cả các nhu cầu thể xác — thực phẩm, quần áo, trợ giúp y tế — đều được chăm sóc bởi, bạn đoán đúng, Máy.

Máy là một hình ảnh ẩn dụ — một biểu tượng — của một hệ thống trở nên quá phức tạp đến nỗi không một cá nhân nào có thể hiểu, nói chi đến việc kiểm soát. Có một chính phủ con người, một Ủy ban Trung ương, về nguyên tắc là có trách nhiệm quản lý Máy. Nhưng Ủy ban Trung ương chỉ là một con rối mà các dây điều khiển được kéo bởi Máy toàn quyền.

Nhân loại đang ám ảnh với "ý tưởng", những khái niệm mơ hồ không còn phục vụ cho sự phát triển của con người; thay vào đó, các trí thức thời nay đồng nhất sự tiến bộ của Máy với sự tiến bộ của nhân loại. Nói ngắn gọn, nhân loại đang "bị siết chặt trong những bộ trang phục mà họ đã dệt nên."

Cơ chế sửa chữa của Máy hỏng, thế giới dưới lòng đất nứt ra, và một cơn lũ không khí làm ngạt thở một dân số đã tiến hóa đến mức không còn rút sức mạnh từ oxy của không khí tự nhiên.

Câu chuyện của Forester đầy những dấu hiệu tiên tri đáng chú ý, trong đó có một hệ thống gọi video 90 năm trước khi Skype ra đời. Nhưng ngoài những công nghệ cụ thể, Forester dự đoán một thế giới mà quản lý con người bị thay thế bởi những trung gian lập trình — các thuật toán — điều khiển thế giới bằng hàng triệu lệnh vô hình. Đây là một thế giới mà tất cả chúng ta đều có thể nhận ra vì chúng ta sống trong đó.

Câu chuyện của Tim Maughan trên OneZero: "Thế Giới Hiện Đại Cuối Cùng Đã Trở Nên Quá Phức Tạp Đối Với Bất Kỳ Ai Chúng Ta Để Hiểu," mô tả sự phức tạp mà chúng ta đều bị áp đảo. "Tôi ở đây để nói với bạn rằng lý do mà nhiều phần của thế giới dường như không thể hiểu được là vì nó thật sự không thể hiểu được," Maughan nói.

Maughan chi tiết một chuỗi cung ứng toàn cầu nơi năm đến sáu triệu container được quản lý bởi các thuật toán chéo đại dương vào bất kỳ thời điểm nào. Phía sau chuỗi cung ứng và mọi hành động thương mại khác là một hệ thống tài chính toàn cầu phức tạp không thể thâm nhập.

Và tất cả chúng ta đều cảm thấy lo lắng khi tưởng tượng một cuộc đời trôi qua chỉ để xử lý một giọt nước trong đại dương thông tin rộng lớn. Quái vật dữ liệu thô thậm chí còn khủng khiếp hơn, trung bình 1.7 MB được tạo ra mỗi giây cho mỗi người theo Domo.

Hệ thống khó hiểu của chúng ta đi lệch hướng là một chủ đề phổ biến trong tiểu thuyết, phần nào vì đó là một mối đe dọa rất thực. Bất kỳ ai đủ tuổi để nhớ cuộc khủng hoảng tài chính năm 2008 đều nhận thức được cách mà sự cố của một hệ thống do con người thiết kế có thể gây ra rất nhiều đau khổ cho những người tạo ra nó.

Đừng nhầm lẫn, chúng tôi không tuyên bố rằng sự phức tạp của thế giới hiện đại là xấu cho nhân loại. Chuỗi cung ứng và hệ thống tài chính toàn cầu đồng nghĩa với sự thịnh vượng vinh quang của sự giàu có và sự thoải mái. Thay vào đó, chúng tôi kêu gọi việc cam kết xây dựng các hệ thống minh bạch và trách nhiệm trong Máy của chúng tôi trước khi nó trở thành một con quái vật.

Sự xâm nhập của thiết bị đeo vào cơ thể và cuộc sống xã hội của chúng ta báo trước một tương lai mà các quản lý thuật toán dẫn dắt từng bước đi của chúng ta. Google Fitbit của bạn cảnh báo bạn đứng dậy là một lời khuyên sức khỏe hữu ích. Amazon Halo của bạn cảnh báo bạn thay đổi giọng điệu là sự can thiệp nhưng có thể là lời khuyên giao tiếp sâu sắc.

Bạn có thể không lo lắng về những phương tiện mà thiết bị của bạn sử dụng để đưa ra khuyến nghị khi chúng vô hại, nhưng điều gì xảy ra khi Google cho bạn biết ai nên lấy làm vợ, hoặc ai nên bầu? Đây không còn là những câu hỏi cho các nhà văn khoa học viễn tưởng, mà là những quyết định thiết kế thực tế mà các công ty công nghệ thực hiện mỗi ngày.

Giám đốc điều hành Twitter và Square, Jack Dorsey, một người hiểu rõ tình trạng công nghệ hơn hầu hết mọi người, đã nói như thế này trong một cuộc phỏng vấn với Andrew Yang vào tháng Ba: "Google hiểu rõ hơn chúng ta về sở thích của chúng ta... những thuật toán này sẽ bắt đầu đưa ra ngày càng nhiều quyết định như vậy... Tại sao đồng hồ của tôi lại bảo tôi đứng dậy? Chúng ta cơ bản đang từ bỏ hoàn toàn quyền tự chủ của mình."

Một giải pháp là quy định: buộc các công ty công nghệ phải cho chúng ta biết cách mà các thuật toán của họ đưa ra quyết định và dữ liệu mà họ có về chúng ta. California và Châu Âu cung cấp cho người tiêu dùng quyền biết về, và từ chối, dữ liệu mà các công ty tư nhân nắm giữ. Luật pháp được đề xuất tại tiểu bang New York, được gọi là NYPA, đi xa hơn một bước — phân loại dữ liệu là tài sản cá nhân và cho phép người dùng quyền chọn tham gia chia sẻ dữ liệu của họ.

Nhưng việc tạo ra công nghệ minh bạch và tập trung vào con người theo thiết kế là cách tốt nhất để nối kết những đổi mới mới với sự tiến bộ của phúc lợi con người. Có ít nhất hai bước quan trọng mà chúng tôi cần thực hiện để đạt được điều đó: Bước đầu tiên là đảm bảo dữ liệu được bảo mật và đáng tin cậy, bước thứ hai là đảm bảo việc xử lý — thuật toán — là minh bạch và đáng tin cậy.

Các thiết bị IoT được trang bị các "Môi trường Thực thi Được Tin Cậy (TEE)," được sử dụng ngày nay trong điện thoại của bạn để lưu trữ dấu vân tay một cách an toàn, có thể thu thập và ký dữ liệu một cách an toàn trước khi truyền phát đến cơ sở dữ liệu, hoặc đến một thuật toán để xử lý ngay lập tức. Việc ký này, mà bạn có thể tưởng tượng như một dấu ấn kỹ thuật số, là một gốc tin cậy đưa chúng ta qua bước một.

TEE kết hợp với các công nghệ khác như blockchain và (sửa liên kết)tính toán bảo mật có thể tạo thành một chuỗi nguồn gốc dữ liệu kéo dài đến tận người sử dụng cuối cùng, người có thể xác minh nguồn gốc thông tin và kiểm tra các khuyến nghị thuật toán nếu họ muốn. Tính toán bảo mật đảm bảo rằng việc thực thi mã xảy ra bên trong một khu vực bảo mật, bị ngăn chặn bên trong CPU mà luôn thực hiện chính xác những gì nó hứa hẹn sẽ làm.

Đây là những công nghệ hoàn toàn mới chỉ mới bắt đầu thấy sự áp dụng phổ biến, nhưng tương lai sáng lạ với sự kết hợp giữa tính toán bảo mật, phần cứng an toàn, và blockchain. Cùng nhau, những công nghệ này cung cấp giải pháp end-to-end vừa minh bạch vừa có trách nhiệm; đảm bảo không bao giờ có câu hỏi về ai đang điều khiển: Con người trên Máy.

Về IoTeX

Được thành lập như một nền tảng mã nguồn mở vào năm 2017, IoTeX đang xây dựng Internet của Những Điều Đáng Tin Cậy, một hệ sinh thái mở nơi tất cả các "điều" — con người, máy móc, doanh nghiệp, và DApps — có thể tương tác với sự tin cậy và riêng tư. Được hỗ trợ bởi một đội ngũ toàn cầu gồm hơn 30 nhà nghiên cứu và kỹ sư hàng đầu, IoTeX kết hợp blockchain, phần cứng an toàn, và tính toán bảo mật để cho phép các thiết bị IoT thế hệ tiếp theo, mạng lưới và nền kinh tế. IoTeX sẽ thúc đẩy nền kinh tế phi tập trung trong tương lai bằng cách "kết nối thế giới vật lý, từng khối một".

Tìm hiểu thêm: Trang web | Twitter | Telegram | Medium | Reddit