12년 전 프랭크 레비 MIT 교수와 리처드 머네인 하버드대 교수는 공저 ‘노동의 새로운 분류(The New Division of Labor)’에서 자동차 주행 중 1초도 안 되는 짧은 순간에 복잡한 결정을 내리는 것을 컴퓨터는 절대로 할 수 없으며, 복잡하고 감성적이고 모호한 의미를 담은 사람의 말은 컴퓨터가 이해할 수 없을 것이라고 단언했습니다. Show
그러나 이 지레짐작은 10년도 안 되어 구글의 자율주행차와 IBM의 왓슨에 의해서 손쉽게 무너졌죠. 우리는 ‘4차 산업혁명’ 속에서 살고 있습니다. 당신이 이 글을 읽고 있는 지금 이 순간에도 4차 산업혁명을 경험하고 있습니다. 4차 산업혁명은 거대한 변화를 끊임없이 꾀하고 있죠. 인류는 역사시대 이후 상당한 변화를 겪어 왔습니다. 그리고 이러한 변화들의 주기는 점점 짧아지며 빠르게 인류의 삶을 바꿔놓고 있습니다. 우리는 급진적이며 근본적인 대변화를 ‘혁명’이라고 정의합니다. 기원전 7000년, 인류는 수렵채집 경제에서 곡류의 재배와 가축 사육을 시작하게 되는 농업혁명을 시작으로 경제, 정치, 문화, 사회 등에서의 수많은 혁명을 통해 발전하게 됩니다. 영국에서 시작된 ‘산업혁명’은 증기기관의 발명으로 산업계의 새로운 동력원 확보를 가능하게 했습니다. 인간의 노동력이 기계의 힘으로 옮겨 가는 엄청난 변화는 인류에게 생산성과 경제적 부를 증대시켜주었을 뿐만 아니라 인지력을 강화시켰습니다. 인간의 인지력 강화는 2차 산업혁명을 가져다주는 발판이 됐죠. 2차 산업혁명을 통해 우리는 생산 조립 기술 개발이 더해져 대량생산체제가 가능해졌습니다. 그리고 컴퓨터 및 정보통신기술(ICT)의 발전으로 인한 ‘3차 산업혁명’을 거쳐 정보통신기술과 제조업이 융합된 ‘4차 산업혁명’이 대두되고 있습니다. 4차 산업혁명을 통해 인류는 기계가 지능을 가지게 되는 세상, 빅데이터를 기반으로 다양한 현상을 분석하고 예측할 수 있고 공급자 중심의 대량생산 체제에서 소비자 중심의 맞춤 소량생산 체제로 변화할 수 있게 됐습니다. 특히 4차 산업혁명은 기존의 산업혁명과는 달리 변화의 ‘속도’(Velocity), ‘범위와 깊이’(Breadth and Depth) 그리고 ‘시스템 충격’(System Impact)에서 극명한 차이를 보입니다. 기존 산업혁명이 선형적 속도로 전개됐다면 4차 산업혁명은 기하급수적인 속도로 진행되고 있습니다. 무어의 법칙대로 컴퓨터의 능력은 40년 동안 100만 배 향상될 정도로 변화의 속도와 깊이의 추세는 가히 기하급수적으로 비선형적이죠. 과학기술의 융합으로 인한 4차 산업혁명은 생산체제의 변화뿐만이 아닌 정치, 경제, 사회, 문화의 전반에 걸친 유례없는 직접적인 패러다임 전환을 유도하고 있습니다. 인공지능과 인간의 미래를 예측한 책 ‘특이점이 온다’의 저자 레이 커즈와일 구글 이사는 2029년에 인간 수준의 지능을 갖춘 컴퓨터가 등장할 것이며, 2045년에 기계지능이 인간지능을 완벽하게 뛰어넘는 ‘특이점(Singularity)’이 도래한다고 했습니다. 티머시 퍼슨스 미국 회계감사원(Government Accountability Office) 과학기술공학센터장(사진)은 26일 서울 중구 플라자호텔에서 가진 동아일보와의 인터뷰에서 “급속하게 발전하는 과학기술로 윤리 문제 등이 발생할 수 있기 때문에 이를 사전에 파악하는 것이 필요하다”며 미래기술 예측의 중요성을 강조했다. 기술영향평가 전문가인 퍼슨스 센터장은 이날 열린 ‘제4회 한국과학기술기획평가원(KISTEP) 미래예측 국제 심포지엄’의 기조연설을 위해 방한했다. 퍼슨스 센터장은 8월 ‘기후공학’ 연구개발이 조심스럽게 이뤄져야 한다는 보고서를 내놨다. 기후공학은 지구의 온도를 낮추기 위해 기후를 인위적으로 바꾸는 기술로, 실효성이 명확히 밝혀지지 않아 찬반 논쟁이 뜨겁다. 그는 “일반인과 과학자를 대상으로 조사했더니 기후공학은 아직 초기단계라 연구개발과 국가 간 협력연구가 필요하다는 결론을 내렸다”고 말했다. 이달 말 발간되는 보고서에는 ‘헬륨-3’ 동위원소 부족이 세계에 미칠 파급력을 분석했다. 헬륨-3 동위원소는 무기를 만들거나 재료를 분석할 때 쓰인다. 그는 “한국과 일본처럼 중성자 연구를 많이 하는 국가는 헬륨-3 동위원소 부족으로 연구개발에 어려움을 겪을 수 있다”고 전망했다. 그는 “연구개발을 하면서 이를 활용한 시스템 구축을 동시에 하기에는 과학 발전 속도가 너무 빠르다”며 “그렇기 때문에 과학기술이 사회에 미칠 영향을 미리 파악해 준비해야 한다”고 말했다. 인간의 기술은 놀라운 속도로 발전해왔고 앞으로 기술 발전의 가능성도 무궁무진하다. 이처럼 기술 개발에 대한 사람들의 열정은 끊이지 않고 있다. 그러나 우리는 기술 개발에 조금 더 신중해야 할 필요가 있다. 필자는 헤일로 기술 도입을 중심으로 기술 발전에 대해 좀 더 폭넓게 말하고자 한다. 지난 2020.11.30 바레인 인터네셔널 서킷에서 열린 F1 챔피언십 15라운드 결승 레이스에서 큰 사고가 발생하였다. 한 레이싱카가 방호벽에 크게 충돌하여 폭발과 화염이 일어난 아찔한 사고였다. 사고를 당한 선수 로맹 그로장은 ‘헤일로’라는 기술 덕분에 목숨을 건질 수 있었다. 헤일로는 '헤일로(halo) 헤드-프로텍션 디바이스 (head-protection device)'로 드라이버 안전장치 기술을 말한다. 그러나 헤일로는 2018년 도입 당시 이 장치를 설치하면 레이싱카의 외관 미적 가치를 방해할 가능성이 있다고 반대의 목소리를 일으켰다.1 헤일로는 티타늄으로 제작된 약 9kg가량의 안전장치이다. 2009년 헝가리 GP 예선전 도중 차량에 코일이 안면으로 떨어져 심한 상처를 입은 사고를 바탕으로 차량 내 드라이버를 최대한 보호하기 위해 여러 안전 장치를 모색하였고, 지금의 헤일로와 같은 안전장치 연구가 이루어졌다. 그러나 그때 당시 안전장치는 비효율적이고 사고 시 충격을 예방할 수 있을지도 미지수였다. 마침내 HANS라는 목 보호 안전장치를 만들었는데 불편함을 이유로 착용하지 않은 드라이버들과 달리 이를 착용한 드라이버 마싸는 HANS 덕분에 목숨을 구할 수 있었다. 이로 인해 더욱더 많은 연구가 이루어져 마침내 2018년 도입 반대의 목소리에도 헤일로 장치를 의무 장착화를 시행하였다.2 그러나 이런 헤일로도 완벽하게 차량 내 드라이버를 보호할 수 있는 해결책은 아니다. 2009년 헝가리 사건처럼 트랙 주행 중 앞차에서 떨어져 나간 자그마한 파편이나 부품 등이 뒷차량 운전석으로 강타할 경우 현재 헤일로 기술로는 차량 내 드라이버를 보호하기는 힘들다. 이와 관련된 안전기술은 사람들의 소중한 생명을 보호하기 위해 더 연구되고 개발되어야 할 것이다. 현대 사회 과학 기술에 대한 인간의 애착은 지속되고 있다. 그에 대한 애착이 점점 지속할수록 기술의 연구는 발전할 것이며 인간의 생활 또한 점점 편리해질 것이다. 이렇게 편리해져 가는 삶에 맞추어가며 인간은 더욱더 질 높고 만족감 있는 문화를 원하고 그에 맞춰 기술의 활용도는 편리함을 바탕으로 사람들의 문화로도 나아가고 있다. 여기서 편리는 자신의 생명이 안정되면 자연스럽게 지니는 것으로 현재 인간의 기술은 ‘편리’라는 키워드를 중심으로 다양한 문화 발전에 나아가고 있다. 이러한 편리와 문화에 중심을 두어 기술이 발전되는 것이 과연 올바를까? 우리는 편리라는 것에 주목하여 더 소중한 것을 잃을 수 있다. 단순히 편리를 위한 개발이 아니라 사람들의 안전과 공공성을 위해 개발이 필요할 것이다. 우리는 더 많은 기술 변화를 보게 될 것입니다. 여러분 중 일부는 저보다 더 많이 알고 있습니다. 우리는 지난 50년 동안 보았던 것보다 향후 10년 동안 더 많은 기술 변화를 보게 될 것입니다. 그만큼 인공지능과 그 이상의 것들이 빠르게 변화하고 있습니다. — 미국 제46대 대통령 조 바이든, 2021년 4월 28일 미국 국회의사당 합동 회의 연설에서# 미래학, 기술사학의 개념 중 하나. 과학 기술의 항구한 가속적 발전으로 인해 인류 역사에 필연적으로 발생할 가능성이 높은 변곡점. 2. 정의[편집]일반적으로는 인공지능이 인간의 지능, 정확히는 전인류의 지능을 넘은 시점부터 매우 빠른 속도의 학습과 연쇄적 자체 개량을 통해 지능폭발을 일으키게 되고 결과적으로 기술의 항구한 가속적 발전으로 인해 인류 역사에 필연적으로 발생할 변곡점=초지능이 탄생하는 시점=비생물학적 지능의 총합이 생물학적 지능의 총합을 넘어서는 시점을 특이점이라고 부른다. 이것은 생물학적 진화 속도를 완벽하게 초월하는 것이며, 무어의 법칙을 깨는 속도의 기술발전이다. 아서 클라크의 과학 3법칙 중 세 번째인 "충분히 발달한 과학기술은 마법과 구분할 수 없다."라는 말은, 기술적 특이점에 이른 미래 사회에 대한 은유로 해석될 수 있다.[4] 기술적 특이점에 도달한 사회에서, 인간은 첨단 문물의 원리를 이해하기보다는 마법 지팡이 쓰듯 그 효과만을 누리게 될 것이기 때문이다. 이런 모습은 이미 현대의 일반인들이 어떤 버튼을 누르면 어떻게 작동한다는 식으로 기계를 작동시키는 것은 알지만 전자제품들의 정확한 작동 원리를 모르는 것과 같은 맥락이다. 3. 특이점 이후의 상황[편집]인간급의 지능으로 스스로 생각할 수 있는 인공지능 기술이 개발되지 않은 현재는 컴퓨터를 인간이 직접 설계하지만, 인공지능의 수준이 인간급으로 발전되면, 인공지능 스스로 컴퓨터를 설계하는 것이 가능하며 더 나아가 인공지능 자신이 그 자신보다 더더욱 뛰어난 인공지능을 개발하는 것이 가능해진다. 그러면 인공지능에 의해 발전된 인공지능이 더 우수한 지적 능력으로 더 우수한 시스템을 구성하고... 이 사이클이 반복되면 발전 속도는 기하급수로 상승할 것이다.
4. 특이점주의[편집]특이점 개념[9]을 굳게 믿는 자들은 자신을 특이점주의자(singularitarian)라고 부른다. 이들은 특이점이 멀지 않았으며 GNR 즉 유전공학, 나노기술, 인공지능 기술의 만개가 인류 문명을 특이점으로 이끌 것이라고 주장하고 있다.
4.1. 유전공학(G)[편집]뇌공학의 발전은 컴퓨터에 뒤처질 인간의 지능을 보조할 것이고, 유전공학의 발전은 인간의 육체를 기술의 발전에 맞춰 신체적 한계를 극복할 수 있을 것이다. 특히 뇌공학의 발전은 인간지능에 대한 이해를 위해 필요하므로 위에서 서술한 완벽한 인공지능을 구현하는 데도 필요하여, 인공지능과 상호보완적으로 발전할 것이다. 4.2. 나노기술(N)[편집]나노 단위의 조종은 인간지능만으로는 불가능하고 반드시 인공지능의 제어가 필요하다. 동시에 논리회로의 집적도를 높여 인공지능을 구현하는 데에도 필요하다. 또 유전공학의 발전도 나노 단위의 이해가 필요하기에 상호보완적으로 발전할 것이다. 4.3. 로봇공학·인공지능(R)[편집]인간 수준의 인공지능 개발이 곧 특이점을 의미 하지는 않는다. 특이점은 인공지능이 인류 지능의 총합마저도 넘어서는 시점을 말하기에 인공지능이 인간의 지능을 뛰어넘는다면 나머지는 인공지능이 알아서 개발할 수 있다. 하지만 튜링 테스트를 통과할 수 있는 지능을 만들려면 인간의 뇌와 동급의 연산 능력을 갖춘 하드웨어와 인간의 뇌에 대한 지식과 구조 모델에 대한 정보가 필수다.
5. 변화 예시[편집]레이 커즈와일은 자신의 저서 내용 대부분을 특이점이 머지않았다며 당시 개발되고 있었던 최신 기술을 소개하거나 컴퓨터의 속도가 무어의 법칙에 따라 빨라지고 이야기하고 있다는 것에 할애했지만, 조금은 구체적으로 미래에 어떤 변화가 있을 것인지 쓰기도 했다.
아래는 2013년 12월 26일에 CNN에서 낸 커즈와일 특집에서 참조했다.
2022년 기준으로 보면 알겠지만 그가 예시로 든 것중에 실현된 것은 생각보다 많이 적다. 기술의 발전은 등속으로 이루어지지 않고 긴 정체기를 거치다가 어떤 발견[24], 계기[25], 사건[26], 패러다임을 바꿀만한 천재의 등장으로 인해 한 번에 큰 폭으로 발전이 이루어져 왔기 때문이다. 6. 시사점[편집]6.1. 특이점 이전에 코 앞으로 다가온 기본소득제 논의[편집]공장과 화이트 칼라의 자동화물결 (2015년 이후 상황)을 보면, 공장같은 경우엔 이미 스마트 공장의 대두로, 기존 전통적인 공장에서는 사람이 직접 눈으로 확인하고, 팔로 옮기던 작업들을, 개선된 알고리즘을 통하여 기계들이 알아서 확인하고, 기계 팔로 옮겨가고 있다. 보수적으로 본다고 하더라도 추후 2020년대 중후반 정도가 인간이 필요한 마지노선일 것이다. 극단적인 자동화만을 따지면 대부분의 블루칼라들은 2019년부터도 필요가 없다. 정치권의 입김이 워낙 거세어 '의무적'으로 인간을 고용하는 것 뿐이다. 기계를 쓰는 것보다 노동자를 쓰는 인건비가 더 싸서 그렇다는 논리도 있다. 6.2. 인공지능이 다스리는 국가[편집]미래학자들은, 인간으로 이루어진 국회의원과 법조인들은 밥그릇 지키기 위해 법치와 법개정에 인공지능이 참여하지 못하게 막을 것이라고 주장한다. 하지만 사리사욕 없는 인공지능이 완벽하게 통치하는 국가와 온갖 비리로 점철된 상류층이 통치하는 국가 중 하나를 선택하라고 한다면, 대부분의 사람들은 바로 인공지능의 국가를 선택하려 할 것이라고 말한다. 6.3. 인공지능의 인격과 존엄성 문제[편집]가령 당신이 뇌를 전산화 시키고는, 10개로 복사해서 미국에 소포로 배송했다고 하자 6.4. 종족번식은 어떻게 될까?[편집]자손을 남기고 자신의 유전자를 후대에 남길 필요가 있는 것인가? 생물학적으로 새로운 아이들이 태어나게 하는 것보다는, 차라리 인격과 자아를 새롭게 "생성"하는 것이 경제적 면에서도 더 효율적이게 보이지 않을까?[27] 6.5. 잊힐 감각과 지식들[편집]좀 멀리 나가 생각해보자. 압력, 통증을 느끼는 통각, 배고픔과 포만감, 스트레스 등등은 감각기관과 뇌를 거친 감각기의 작용이다. 생체조작과 생명공학을 통해 이런 것들을 재구성할 수 있다고 치자. 그러면 인간은 배고픔도, 통증도, 스트레스도 느끼지 않게 할 수 있다. 이 경우 인류는 서로 싸우거나 갈등을 만들 필요가 있을까? 6.6. 모든 사람이 기술적 특이점의 혜택을 받을 수 있는가?[편집]특이점에 대해 회의적인 사람들은 그 기술을 개발한 기관, 이를테면 국가나 기업이 과연 그 기술을 만민에게 공평하게 제공하는지에 대해 회의적인 반응을 보인다. 이익을 위해 이런 기술의 산물을 값비싸게 팔아먹을 가능성이 크다고 주장한다. 가령 A 기업이 이미 대단한 성능의 인공지능을 개발했지만, 시장에다가는 제한된 기능에 제한된 수명을 가진 열화판 인공지능을 풀어버릴 가능성이 있지 않겠냐는 것. 6.7. 기술 발전이 인간에게 닥친 여러 문제를 해결해준다면[편집]현대 인류에게 닥친 갈등 원인 대부분을 찾으면 자원은 별로 없고 이를 다양한 세력들이 자신만 갖고 다른 이들을 배척하는, 공평하지 못한 자원/이익 분배와 그에 따른 빈부격차가 불만족스럽기 때문이다. 소수만 가치 있는 것들을 보유하고 나눠주지 않고 자신만 가지려고 욕심을 부리니 빈부격차가 발생하고, 이것 때문에 갈등이 발생한다. 인류 역사에서 일어난 전쟁 대부분도 이익 관계가 부딪친 결과 이런 문제를 강제로 해결하기 위해 일어난 것이 많다. 이스라엘을 보자. 그들 민족에게 국토는 `갖고 싶은 것`이다. 하지만 이미 다른 국가들이 차지하고 있어 들어갈 자리가 없다. 경제력으로 사 오는 방법도 현실적으로 불가능하다. 그렇다면 무슨 방법이 있겠는가? 6.8. 인공지능을 위한 새로운 패러다임 [편집]기술이 기술을 발전시키는 시대가 왔을 때, 기계와 인간과의 지식/문화 수준 격차는 꼭 짚어봐야 할 문제이다, 대표적인 게 언어를 통한 표현 문제인데, 꼭 인간의 언어, 이를테면 영어와 수학으로 인공지능이 스스로 연구한 기술을 표현해야 할까? 7. 특이점이 오면 인간은 어떻게 되는가?[편집]이 시기에는 눈부신 발전이 있을 것으로 예상된다. 하지만 기술적 발전이 특이점주의자들이 말하는 것처럼 유토피아적 사회의 도래로 이어질지에 대해서는 부정적인 시각 역시 적지 않다.실제로 싱가포르의 한 국제 학교는 기술의 단점을 연구하였는데 바로 만약 기술이 발전을 계속한다면 훨씬 사회가 퇴화할거라고 연구를 발표했다 7.1. 긍정적 견해[편집]기술의 혜택을 극한까지 누리면서 행복하게 살 수 있다. 건강이나 환경 문제 해결은 물론, 몇몇 SF 작품에서 묘사되는 것처럼 인류가 노동으로부터 해방되고 수명 또한 매우 길게 늘어나거나 아예 노화를 막아 영원히 질 높은 삶을 누릴 수 있게 될 것이다. 경제의 패러다임이 바뀔 것도 자명하다. 현재도 노화를 중지하는 기술은 다양한 노력이 이루어지고 있으며, 그중 몇몇은 실질적인 성과를 거둔지 오래다. 이게 단순한 문제가 아니라 그렇지. 7.1.1. 현재 인류는 유토피아에 가깝다?[편집]이상에 완벽하게 도달한 유토피아는 아니더라도, 대부분의 사람은 이전 세대들의 노력으로 이루어진 "더 나은 세상"에 살고 있다고 할 수 있다. 이전에 비해 전 세계적인 부의 증가나 장애인에 대한 인식개선, 인권의 존중 등이 보편화되는 방향성을 띄고 있다. 기근이나 자연재해 등으로 인한 사망도 급속도로 감소했으며, 특히 질병과 위생의 경우는 이전 시대에 비해 놀라울 정도로 개선되었다. 아직도 완전히 개선되지 않은 것이 사실이나, 이전에 비하면 계급과 신분의 문제 역시 확실히 개선되고 있다. 7.1.1.1. 반론[편집]인류는 과거에 비해 더 나은 세상에 사는 것은 맞는 사실이다. 하지만 기근으로 한 나라가 없어지거나, 자연재해로 인해 피해가 크지 않다고 해서 유토피아에 가깝다는 것은 무리가 있다. 오히려 이전에 비해 기근과 자연재해로 사망하는 인구는 줄었지만, 전쟁과 문화갈등으로 인해 사망하는 인구는 더욱 확증되었고 환경오염으로 인한 피해는 계속 확산중이다. 인간의 삶은 절대치로 계산할 수 없으며, 오히려 평균치로 따지자면 개선되었다고 보기 미미한 부분도 있다. 더욱이 아직도 인류의 다수는 가장 기초적 문제인 생존문제에서 자유롭지 못하다.
7.2. 부정적 견해[편집]기술적 특이점이 발생한 이후의 소득 재분배는 과연 평등할 것인가? 사회주의 진영이 계속해서 자본주의에 대해 비판해온 요소 중 하나는 기술 발전에 따른 소득 재분배의 불평등이었다. 이에 대한 돌파구로 여러 대안적인 자본주의 경제체제들이 개발되고 과학 기술도 발전하면서 자본주의는 동력을 잃지 않을 수 있었다. 그러나 그렇게 제시된 대안적인 자본주의도 결국 대침체를 맞고, 이 여파는 아직도 세계 곳곳의 경제와 사회에 남아 있으며 그 여파가 해결될 가망은 아직 보이지 않는다. 과학기술은 날이 갈수록 더 비약적으로 발전하는 중인데도 그렇다는 것이다. 그런데 그 기술이 인류는 더 이상 따라잡을 수 없는 속도로 발전한다면, 과연 국가 경제는 안정적으로 돌아갈 것인가? 8. 실현가능성에 대한 비판적 관점[편집]이러한 특이점, 나아가 '초 인공지능'에 대한 장밋빛 관점을 비판하는 논조의 시각도 존재한다.
8.1. 기술 지체[편집]사실 레이 커즈와일 등의 예측에 틀린 것도 있기도 하고#, 미래 사회가 어떤 사회가 될 것인지에 대한 것은 실제로 아무도 알 수가 없다. 2001년에 등장할 인류를 뛰어넘는 인공지능 HAL 9000이 없었던 것과 같다. AI란 책을 쓴 다니엘 크레비어 역시 학자들의 주장을 모아 이런 인공지능[31]이 머지않았다고 했으나 결과는 좋지 않았다. 이렇듯, 2022년 현재 향유하고 있는 기술 역시 그 한계가 명확하며, 이 기술들이 기반하고 있는 과거의 틀을 극복한 것도 아니다. 이러한 한계의 임박을 지지하는 학자들은 기술적 특이점은 고사하고 현재 인류가 향유하고 있는 현대 문명의 발전의 한계점이 기술내[40]ㆍ외[41]적으로 21세기 이내에 다가올 것이라 전망한다.
8.1.1. 지나친 과장적 묘사[편집]가장 대표적인 비판은 기술의 발전 속도는 한계 효용 체감의 법칙이 있을 수밖에 없기 때문에[42], 특이점이 오지 않을 수도 있다는 것이다. 인간에 의한 기술 발전이 현재 빠르게 이루어지고 있다고 해도 언젠가 인간의 지능, 경제나 사회, 기술력 등의 내/외적 문제 혹은 모순으로 한계에 부딪힐 수 있고, 그렇게 되면 기술적 정체가 오게 된다는 것. 신기술이라는 게 꼭 현재 경향대로 계속 발전하지는 않는다는 것이다. 우주 경쟁이 한창이던 1960년대 냉전 시기에는 현재 발전속도대로라면 인류가 달에도 가니까 곧 화성도 가고 21세기 초가 되면 태양계를 정복하고 우주 식민지쯤은 개척하겠지 하고 생각하는 경우도 많았다. 이런 류의 장밋빛 미래 예상은 이것이 미래세계다에서나 꿈의 70년대 미군처럼 과거에 수도 없이 많았지만 21세기 지금의 현실을 보면 알 수 있듯이 예상대로는 잘 되지 않는다. 최근만 해도 과거에 태양광이나 풍력 발전 등을 현재의 화석연료 발전이나 원자력 발전을 뛰어넘는 무한 에너지라는 식으로 과장했고 레이 커즈와일 등도 이를 믿었으나 결국 그런 미래는 오지 않았고 아직도 언제 그런 시대가 올 것인가는 알 수 없다. 8.2. 사회학적 관점[편집]기술적으로 강인공지능이 개발된다 해도, 특이점주의자들이 주장하는 것처럼 드라마틱한 사회적 변화가 없을 거라고 보는 관점도 존재한다. 인간이 적응할 수 있을 정도로 서서히 사회가 변해서 사람들이 놀라거나 적응하지 못할 정도는 아닐 것이라는 것이다. 또한 동시에 '인간성'에 긍정적인 측면도 부정적인 측면도 계속 존재한다면, 물질적으로는 풍요로워질지언정 사회적인 부분에서는 인간의 생애가 극적으로 변하지 못할 것이다. 8.2.1. 현세기의 문제가 이어질 가능성[편집]기술적 특이점을 맞이한다는 것이 정신적인 진보를 보장하지는 않는다. 또한 그 혜택이 모든 사람들에게 돌아가게 된다는 보장은 없다. 미래를 내다볼 것도 없이 당장 지금만 봐도 다양한 상업, 군사기술을 일반인이 향유할 수 있는가? 당장 지구상에 있는 모든 국가들의 식량생산량을 모으면 전 세계의 사람들이 먹고도 약 1/4이 남는 수준이다. 문제를 진행형으로 남겨둔 채 기술만 발전할 경우, 그 기술을 어디까지 감당할 수 있는지 장담할 수 없다. 9. 대중 매체에서[편집]
10. 관련 웹사이트[편집]
11. 같이보기[편집]
[영문] A hypothetical moment in time when artificial intelligence and other technologies have become so advanced that humanity undergoes a dramatic and irreversible change[2] 쉽게 표현하면 침팬지에게 미적분을 이해시키는 것과 비슷하다.[3] "돈이 돈을 번다"라는 개념과 유사하다. 둘 다 별도의 노력 없이 대량의 축적된 펀더멘털을 이용해 또 다른 유를 창조 내지는 생산한다는 점에서 공통분모가 있다. 다만 그 돈을 버는 매커니즘이 매우 복잡하므로 어떻게 돈이 벌리는지에 대한 과정이나 원리를 이해하고 규명하는 것은 불가능하고, 단지 돈이 벌리고 있다는 것을 일차원적으로 확인만 할 수 있다는 것이다.[4] 가끔 과학 3법칙이 법칙이란 말 때문에 과학적으로 증명된 절대 사실인 줄 아는 사람들이 많은데, 과학 3법칙은 어디까지나 아서 클라크의 소설에 나오는 설정이자 소재의 하나일 뿐이지 반드시 지켜야 할 절대 법칙이나 공식이 아니다.[5] 이해할 만큼 풀어놓는 데 시간이 너무 오래 걸린다거나, 방대한 사전지식이 필요하고, 계산기 보조로 때울 수 있지만, 머리 안에 다 채울 수는 없는 등.[6] 에드워드 텔러와 함께 현대 수소폭탄의 기본 메커니즘인 텔러-울람 설계를 개발한 사람이다.[원문] One conversation centered on the ever accelerating progress of technology and changes in the mode of human life, which gives the appearance of approaching some essential singularity in the history of the race beyond which human affairs, as we know them, could not continue.[8] 인류사에서 한 예를 들자면 독일 바이마르 공화국은 당대의 지혜를 짜내어 세계에서 가장 선진적이라고도 불린 바이마르 헌법을 완성했지만 민주주의를 위한 조항이 민주주의를 파괴하려는 세력에게 악용되어 결국 나치 독일이 탄생했다.[9] 정확히는 빠르고 안전하게 올 거라고 믿는[10] 이하의 내용은 대부분 레이 커즈와일의 '특이점이 온다(The Singularity Is Near)'를 참고했다.(2005년 미국 출간, 2007년 한국에 번역 출판. 진대제 前정보통신부 장관 감수, 빌 게이츠 추천사)[11] 신체 재생 비용은 기술이 개발되어 있지만, 아직도 일반인들에게는 그림의 떡이나 다름없다.# 신체 전부도 아니고 일부분만 재생시키는 데 대략 700~800억이 필요하다.[12] 사실 어떤 순간 기적이 일어나서 비용이 매우 감소하지 않는 이상은 대체로 불로불사 같은 게 가능하다 쳐도 지금 추세로는 극소수 상류층들에게도 아슬아슬 할 수 있다. 아직은 비용도 비싼 편에 의미도 별로 없어서 트랜스휴머니즘 같은 사상이 실질적인 맹위를 떨치지 못하는 상황이다.[13] 《특이점이 온다》 518~519쪽 참고.[14] 2008년도의 한국 사람 대부분은 스마트폰의 대중화를 짐작조차 하지 못했다. 어렴풋이 상상은 가능했지만, 폭발적인 스마트폰의 대중화로 인해 진짜 유비쿼터스가 도래하는 것은 예상하지 못했던 것.[15] 근데 유사하기는 하지만 실제로는 조금 틀린 부분이 있다. 스마트폰이 유비쿼터스의 포석인 건 맞지만 모든 사물에 다 들어가지는 않았기 때문에 진정한 유비쿼터스 시대가 완벽히 왔다고는 할 수도 없다 스마트폰이 보급된 건 맞지만 증강 현실이 딱히 상용화가 이루어졌다기에는 반박받을 부분이 많다. 이런 몇몇 서술 때문에 이 양반이 기술에 대한 비용은 미처 생각하지 않고 글을 휘갈긴단 비판을 받기도 한다.[16] 코로나바이러스감염증-19 사태로 인해 재택근무 자체는 2020년대 초에 활성화되고 있지만, 가상현실은 아직 재택근무에 적용되지 않았다.[17] 고지능들의 눈치 게임 때문에 뒤통수를 맞는 일이 반복되게 되면 서로를 신뢰할 수 없어서 거의 모든 객체가 남들을 짓밟고 얻는 안전을 우선시할 것이니 저서 리바이어던이 이상적으로 실현되는 사례가 나오지 않는 한 조합체 바깥에서 무작정 동등성을 주장하는 자들은 걸핏하다간 많은 걸 잃고 불행할 것이다.[18] 정신적 충격을 없애는 가장 능률적인 방법일 것이기 때문에, 평생 보상금을 주는 것보단 배상 조금만 하고 기억 지우는 게 훨씬 더 쉽고, 경제적이고, 시간 대비 결과물만 봐도 효율적이며, 간편하다. 인공지능이 자의적으로 판단해서 조건을 까다롭게 만드는 등 시술을 금지하더라도 국가기관의 권력으로 그것을 우회하거나, 어느 정도 능력이 있는 부류가 도구만 떼어내서 쓸지도 모른다. 재화가 남아돌지는 않을 거라고 말하는 쪽에서는 이런 일이 일어나기가 훨씬 더 쉽다. 수명이 전체적으로 늘어날 것이기 때문에, 이로 인해 형벌이 세지든 약해지든 돈을 의미하는 수치에 따른 효율을 더욱 중시하게 된다. 너무 인간미가 없다고? 요즘에는 사랑조차 돈에 의하여 생존 가능성을 향상하려는 시도일 뿐이라고 말하거나, 가진 게 적으면 적은 대로, 많으면 많은 대로 나만 아니면 된다는 생각이 팽배하는데 시간이 조금 지난다고 해서 갑자기 확 하고 인류애가 마구 샘솟을 거라는 꿈과 희망이 가득 찬 전망은 보이지 않는다. 이런 현실을 인식하고 자란 아이들은 환경이 어떻든 지능과 권력만을 추구할 것이다.[19] 사실 이 방법에는 테세우스의 배 역설이라는 거대한 함정카드가 존재한다.[20] 특정 사항에 대한 무한한 선호와 충성심 빼고는 못 갖추도록 하려는 목적으로 세뇌하건, 언제든지 제공자에게 영 곤란한 생각을 없앨 수 있게 만들건 처음부터 대부분의 사람들을 가축 이하로 깔보거나 다른 것을 인류보다 중요하게 생각한다면 태연하게 일을 벌일 수 있을 것이다. 또한 오히려 몇몇 개선점을 제외하곤 기존의 인류보다 열등해질 수도 있으며, 자본을 다루는 자에게 더 유리한 상황이 갖춰진다면 남녀노소 구분 없이 서로를 헐뜯고 해치는 무한경쟁 먹이사슬 구조가 활성화될 것이다. 당연히 도움이 없다면 우월성이 아닌 평등을 기반에 둔 민주주의는 특별한 저항활동이 없다면 얼마 안 가 흔적도 없이 아작난다…… 물론 반군 세력이 형성되더라도 정말 나라의 절반 이상이 한꺼번에 들고 일어나지 않는 한 주된 힘을 쥔 자들에 의해 금세 거꾸로 이용당할 것이다.[21] 단순 계산으로, 인류 본성에 대한 침해를 최대한 억제하면서 문화를 뜯어고치는 형식으로 외부 환경을 개선한다면 초기 비용이 늘어난다. 규모가 크니까 그냥 사람들을 갈아치웠을 때 절약되는 비용은 무시하지 못할 것이고, 현실적으로 효과와 능률을 충족하는 자들에 의해 상대적으로 비주류인 인성을 현실에 보존하자는 의견은 싹 미신으로 몰려 취급이 나빠지고 경멸당할 수도 있다.[22] 어쩌면 인공 저승(…)을 만들어내 몇몇을 제외한 옛 인류를 그곳에 가둘지도 모른다. 유례없는 이상 시대에 다다른 인류는 필연적으로 옛시절을 그리워하고 안정을 갈구하며 평화를 되찾으려 들 것인데, 지금 같은 모순과 이상하리만치 부분부분 경직된 사고관 안에서 모든 문제가 해결될 리 없으므로 영 좋지 못한 일이 생길 수 있다.[23] 살아있는 세포로 신체 장기까지 3D 바이오프린터의 진화[24] 예를 들면 인공 질소 비료의 발견.[25] 예를 들면 종교 개혁.[26] 예를 들면 세계대전.[27] 혹은 인구 포화와 미래의 표준 지분 감소로 인해 번식이 금지되고 애완동물처럼 양육 시뮬레이션만 허용될지도 모르는 일이다. 하나의 강력한 인공지능이 그런 존재가 진짜인 것처럼 조종하고 흉내낸다면 극도로 '효율'적일 것이다.[28] 단, 본래 새로운 가치관과 관점은 전통적 견해를 가진 사람들에게는 비합리적이고 심지어 미친 것처럼 보일 수도 있다. 예를 들어서, 초기 산업시대에 농업주의자들이 많았던 이유도 자본가들 밑에서 일하면 오히려 평균 수명이 줄어들고 삶의 질이 폭락했기 때문이다. 그러니 누가 노동자로서 산업 발전에 이용당하고 싶었겠는가? 대영제국 노동자들은 비참한 신세였으며 급격히 힘을 확장한 프로이센 역시 그런 면에서 악명 높았다. 융커들부터가 비웃는 태도로 총을 손에 넣은 천한 것들이 왜 당장 반란을 일으키지 않는지 궁금히 여길 정도였다. 결국 생산량이나 자산 등에 악영향을 주는 폭동이나 반란 등에 의해 점차 변하기는 하였으나 당시 상류층들도 그러한 변화에 처음에는 대단히 비판적이었다. 좋았던 옛날 편향 참조.[29] 물론 당시 민중 세력이 귀족들의 조롱처럼 반란을 일으키지 않은 건 그들이 매우 멍청했기 때문은 아닐 수 있다. 현실에서 귀족들은 그들이 축적한 물질적, 정신적 자산으로 인하여 제거하기가 힘들었고 노벨상 같은 과학기술이나 부의 창출에 기여한 인도 귀족들처럼 그들은 심지어 있는 편이 없는 것보다 더 낫다고 여겨지기도 했다. 역사적으로 유목민 귀족들처럼 자신들에게 별로 쓸모가 없다고 여겨지는 귀족들은 민중이나 그 지도자들이나 딱히 망설이지 않고 제거했기에 귀족들도 민중의 잠재력을 깨닫는 순간부터 대비를 많이 했으며 마치 그들의 귀족들처럼 인도의 자본가 계층 역시 선진국들을 연구하면서 점점 자신들의 잠재력을 인식하게 되었다.[30] 심지어 이 일부 유토피아로 불리는 곳에서 조차 상위 20%가 자원의 80%가량을 독점하고 있다.[31] 심지어 당시에도 얼마 지나지 않아 체스 챔피언까지 패배시킴으로써 이 주장이 실현되는 것처럼 보였다. [32] World Food Surveys의 1974년판에서도 발전 덕분에 "10년 후가 되면 지구상의 어떤 사람도 굶주리지 않을 것이다."라고 예측했었다. 물론 현실은 그렇지 않았다. 기술이나 생산량에서는 문제없이 가능하지만, 인류의 이기심을 너무 얕본 모양이다.[33] 사실 에디슨만이 아니라 생체렌즈처럼 기적적, 사기적으로 보이는 과학기술은 생각보다 진짜 사기가 많다. 아니면 과장이거나. 까놓고 그게 다 진실이라면 그걸 다 할 수 있고 그런 정보에 대해 충분히 알고도 있는 소수의 상류층들이 왜 아직 초인류적이지 않겠는가?[34] # [35] 사실 사람이 자본 그 자체가 될 가능성도 있을 것이다.[36] 그들은 경쟁 기업보다 더 뛰어난 시스템, 하드웨어 및 소프트웨어 등을 가지고 자기들 나름대로 발전시키는 경우가 상당히 많다.[37] 반도체의 경우 공정이 미세화되면 집적 회로의 전자가 통제되지 않고 인근의 회로로 튀어 간섭되는 현상이 나타나는데, 현대 물리학의 동원에도 불구하고 아직까지 완전히 해결되지 않고 있다. 더 정확히 하자면, 현대 물리학이 맞았기 때문에 막을 수가 없다. 물리법칙을 능가하지 않는 이상 양자 터널링 효과를 막을 방도가 없기 때문.[38] 90년대 말까지만 해도 반도체 회사들이 거의 매해 제조 공정 미세화를 진행했으나 2000년대 들어 그 주기가 2~3년으로 길어졌고, 2010년대 들어서는 공정 미세화 주기가 더 길어졌고, 앞 주석이 전자 간섭 현상 탓에 양품률도 이전만큼 뽑아내지 못해서 판매단가가 상승하고 말았다. 2000년대 초반만해도 2010년대 이내에 한자리nm 공정에 돌입할 것이란 장밋빛 전망이 우세했으나, 2022년 현재 10nm대 공정도 제대로 안정화시키지 못한 상태다.[39] 현재 나온 양자컴퓨터라고 하는 것들은 고작해야 수 큐비트짜리 양자연산장치 좀 덤으로 달린 게 전부다.[40] 기술 발전 자체의 한계 등[41] 지구의 자연환경의 급변으로 인한 기술 발전 여건의 상실 등[42] 여러 요소에 의해 더뎌지고, 항상 최선의 절차를 밟는 것도 아니므로[43] 70년대 당시의 빠른 우주 개발 속도는 냉전시대 미소 양국의 체제 선전과 과학 기술 과시, 겸하여 군사 기술 축적을 위한 경쟁이기도 했기 때문이지만 이후로 우주 개발이 정체된 것은 로켓과 관련 기술의 한계 역시 크다. 가령 지구에서 우주로 물체를 올리는 데에는 기존의 화학 로켓을 이용해서는 어마어마한 비용이 들며, 화학 로켓 자체를 바꿀 만한 무언가가 없는 한 이 비용을 줄이기는 힘들다. 최근의 스페이스 X가 로켓 재사용으로 비용을 줄이려고 시도하고 있지만 근본적인 해결책은 아니다.[44] 공산주의 사회가 곧 도래하리라는 오판은 할 수 없지만 자본주의의 고도화에 대한 마르크스의 예상중에는 상당히 흥미로운 부분도 적지 않다. 예를 들어 '국경을 넘어 스스로 잉여가치를 재생산하는 금융자본의 발전'이라거나 (대형 마트와 같은) 규격화된 대량생산-대량소비가 각 개인의 삶에 밀착하여 생활의 형태 자체를 규정하리라는 예상은 19세기 인문사회학자의 미래 예상으로써는 상당히 의미심장한 면이 있다.[45] 예를 들어 건국 초기의 소련에서 권위주의적 관료제가 강하게 뿌리내리게 된 중요한 원인 중 하나가 사회 전체의 생산력이 부족한 상황에서 부족한 재화와 자원을 강제로라도 통제하는 기구가 필요했기 때문이라는 것은 대부분의 연구자들이 동의하는 바이다.[46] 물론 '생산력/생산성의 증가를 통한 물적 기반의 확보'가 공산주의적 이상론과 밀접한 관계가 있다는 주장이 꼭 특이점주의자나 소수 마르크스주의자만의 전유물은 아니다. 예를 들어 탈북자 출신 기자로 반공주의 성향이 상당히 강한 주성하 같은 인물도 한국 산업기술의 눈부신 발전을 소개하며 "지금까지는 공산주의가 대체 무슨 헛소리인가 생각했었는데 (3D 프린팅과 같은) 기술의 발전을 보니 이런 기반이 있어야 말이 되는 게 공산주의인 것 같다"고 주장한 적이 있을 정도. |