진실로 괴물들을 멈추는 방법
But beyond technologies in particular, Forester portends a world where human management is replaced by programmed intermediaries — algorithms — who steer the world with millions of invisible commands. This is a world we can all recognize because we live in it.
E.M. 포스터의 1909년 클래식 기계가 멈출 때는 인류가 자연세계와 분리되어 지하에서 사는 미래를 묘사하며, "기계"의 성장과 궁극적인 헤게모니에 대한 모든 장애물을 제거합니다. 모든 사람은 개인 방에서 생활하며, 신체적 상호작용은 기계의 아낌 없는 비디오 통화 덕분에 쓸모없게 됩니다. 모든 신체적 필요 — 음식, 의복, 의료 지원 — 는 예상하셨겠지만, 기계에 의해 관리됩니다.
기계는 비유적인 표현입니다 — 이해할 수 없을 정도로 복잡해진 시스템의 상징입니다. 기계를 관리하는 책임이 있는 것처럼 보이는 인류 정부, 중앙 위원회가 있지만 중앙 위원회는 전능한 기계에 의해 끌려 다니는 인형에 불과합니다.
인류는 더 이상 인간의 성장에 기여하지 않는 막연한 개념인 "아이디어"에 집착하고 있습니다. 오히려 당시의 지식인들은 기계의 발전과 인류의 발전을 동일시합니다. 요컨대, 인류는 "자신이 짠 의복에 strangled"되어 있습니다.
기계의 수리 장치가 고장 나고, 지하 세계가 갈라지며, 자연 공기의 산소에서 더 이상 힘을 얻지 못하는 인구가 공기의 홍수에 질식하게 됩니다.
포스터의 이야기는 놀라운 예견으로 가득 차 있으며, 그 중 가장 두드러진 것은 스카이프보다 90년 전에 등장한 비디오 통화 시스템입니다. 그러나 특정 기술 그 이상으로, 포스터는 인간 관리가 프로그래밍된 중개자 - 알고리즘 - 에 의해 대체되는 세계를 예고합니다. 이들은 수백만 개의 보이지 않는 명령으로 세상을 이끌고 있습니다. 이는 우리가 살고 있는 세계이므로 모두가 인식할 수 있는 세계입니다.
Tim Maughan의 OneZero에서의 이야기는 “현대 세계는 마침내 우리가 이해하기에 너무 복잡해졌습니다”는 우리 모두를 압도하는 복잡성을 설명합니다. Maughan은 "세상의 많은 부분이 이해할 수 없게 보이는 이유는 정말로 이해할 수 없기 때문입니다"라고 말합니다.
Maughan은 500만에서 600만 개의 알고리즘으로 관리되는 컨테이너가 언제든지 바다를 건너는 글로벌 공급망을 자세히 설명합니다. 공급망과 모든 상업적 행위 이면에는 침투할 수 없는 복잡한 글로벌 금융 시스템이 있습니다.
그리고 우리는 방대한 정보의 바다에서 단 한 방울을 처리하는 데 평생을 보낼 가능성에 불안을 느낍니다. 원시 데이터 거대 생명체는 더욱 괴물 같으며, 평균적으로 1인당 매 초마다 1.7MB의 데이터가 생성됩니다 Domo에 따르면.
불가사의한 시스템이 망가지는 것은 픽션에서 인기 있는 주제이며, 이는 매우 현실적인 위협이기 때문입니다. 2008년 금융 위기를 기억할 만한 나이면, 인간이 설계한 시스템의 오작동이 창조자에게 얼마나 큰 고통을 가져올 수 있는지 잘 알고 있습니다.
오해하지 말아야 할 것은, 우리가 현대 세계의 복잡성이 인류에 나쁘다고 주장하는 것이 아니라는 것입니다. 공급망과 글로벌 금융 시스템은 부와 편안함의 영광스러운 번영과 동의어입니다. 오히려 우리는 우리의 기계가 괴물이 되기 전에 투명성과 책임성의 시스템을 구축하겠다는 약속을 촉구합니다.
착용 기기들이 우리의 몸과 사회 생활에 침투하는 것은 알고리즘 관리자가 우리의 모든 움직임을 안내하는 미래를 예고합니다. 구글 핏비트가 당신에게 일어날 것을 제안하는 것은 건강에 도움이 되는 팁입니다. 아마존 헤일로가 당신의 어조를 바꾸라고 말하는 것은 침해적이지만, 잠재적으로 깊은 의사소통 조언입니다.
장치가 추천을 내리기 위해 사용하는 수단이 무해할 때는 걱정하지 않을 수도 있지만, 구글이 당신에게 누구와 결혼할지 또는 누구에게 투표할지 말해준다면 어떨까요? 이것들은 더 이상 공상과학 작가들이 고민할 문제가 아니라, 매일 기술 회사들이 내리는 실제 설계 결정입니다.
트위터와 스퀘어의 CEO 잭 도시(왼쪽 기사를 잘 이해하고 있습니다)는 3월 앤드류 양과의 인터뷰에서 이렇게 말했습니다: “구글은 우리가 선호하는 것을 우리보다 더 잘 알고 있습니다... 이러한 알고리즘은 이런 결정들을 점점 더 많이 내리게 될 것입니다... 내 시계가 왜 나에게 일어나라고 했을까요? 우리는 사실상 우리의 주체성을 완전히 포기하고 있습니다.”
하나의 해결책은 규제입니다: 기술 회사들이 그들의 알고리즘이 결정을 내리는 방식과 우리에 대한 데이터가 무엇인지 알려주도록 강제하는 것입니다. 캘리포니아와 유럽은 소비자들에게 개인 기업이 보유한 데이터에 대해 알 권리와 이를 선택 해지할 수 있는 권리를 부여합니다. 뉴욕주에서 제안된 법률 NYPA 라고 불리는는 한 걸음 더 나아가 데이터를 개인 재산으로 분류하고, 사용자가 자신의 데이터를 선택적 공유할 수 있는 권한을 부여합니다.
하지만, 투명하고 인간 중심의 기술을 디자인으로 만드는 것이 인류의 복지를 위해 새로운 혁신을 묶는 가장 좋은 방법입니다. 그곳에 도달하기 위해 우리가 취해야 할 두 가지 주요 단계가 있습니다: 첫 번째는 데이터가 안전하고 신뢰할 수 있는지 확인하는 것이고, 두 번째는 처리 자체 — 알고리즘 — 가 투명하고 신뢰할 수 있는지 확인하는 것입니다.
소위 “신뢰할 수 있는 실행 환경(TEE)”을 갖춘 IoT 장치는 현재 당신의 전화에서 지문을 안전하게 저장하는 데 사용되며, 데이터베이스나 즉각적인 처리를 위해 알고리즘에 전송하기 전에 데이터를 안전하게 수집하고 서명할 수 있습니다. 이 서명은 디지털 워터마크처럼 생각할 수 있으며, 우리의 첫 번째 단계를 넘어서는 신뢰의 뿌리입니다.
TEE와 블록체인 및 (링크 수정) 기밀 컴퓨팅과 같은 다른 기술이 결합되면 최종 사용자까지 확장되는 데이터 출처 체인을 형성할 수 있으며, 사용자는 알고리즘의 추천을 검증하고 정보의 출처를 점검할 수 있습니다. 기밀 컴퓨팅은 코드 실행이 CPU 내의 변조 방지가 가능한 구역에서 수행되어 항상 의도한 대로 작동하도록 보장합니다.
이들은 이제 막 대중적으로 채택되기 시작한 신기술이지만, 기밀 컴퓨팅, 안전한 하드웨어 및 블록체인의 조합은 밝은 미래를 제공합니다. 이러한 기술들은 투명하고 책임감 있는 종단 간 솔루션을 제공하여 누가 책임자인지에 대한 의구심이 없도록 보장합니다: 기계보다 인간.
IoTeX에 대하여
2017년 오픈소스 플랫폼으로 설립된 IoTeX는 모든 "사물" — 인간, 기계, 기업, DApps — 이 신뢰와 프라이버시로 상호작용할 수 있는 열린 생태계를 구축하는 신뢰할 수 있는 사물의 인터넷을 개발하고 있습니다. 30명 이상의 최고의 연구 과학자 및 엔지니어로 구성된 글로벌 팀의 지원을 받으며, IoTeX는 블록체인, 안전한 하드웨어 및 기밀 컴퓨팅을 결합하여 차세대 IoT 장치, 네트워크 및 경제를 가능하게 합니다. IoTeX는 "물리적 세계를 블록 단위로 연결하여" 미래의 분산된 경제를 강력하게 지원할 것입니다.