기술적 특이점
더 많은 작업
- Technological singularity; 기술적 특이점
- 기술, 특히 사람을 넘어서는 지능의 등장으로 발전이 폭발적으로 가속되어 그 뒤를 지금의 기준으로는 예측할 수 없게 되는 가설상의 시점
기술적 특이점(技術的特異點, technological singularity)은 기술 발전이 스스로를 가속해 어느 순간 인간 사회가 되돌릴 수 없을 만큼 급격히 바뀌고, 그 이후는 지금의 인간이 이해하거나 예측할 수 없게 된다는 가설상의 시점이다. 줄여서 '특이점' 또는 '싱귤래리티'라고 한다. 현대적 논의에서는 대개 사람보다 뛰어난 지능, 곧 초지능의 등장을 그 계기로 본다.
'특이점'은 수학과 물리학에서 함수 값이 무한대로 발산하거나 블랙홀 중심처럼 기존 법칙이 통하지 않는 점을 가리키는 말을 빌려 왔다. 블랙홀의 사건의 지평선 너머를 볼 수 없듯 특이점 너머의 세계도 볼 수 없다는 비유다. 이 개념은 수학자 존 폰 노이만의 대화에서 처음 언급되었고, I. J. 굿의 '지능 폭발'과 결합해, 수학자이자 SF 작가인 버너 빈지가 1980~1990년대에 정식화했으며, 레이 커즈와일의 2005년 책 《특이점이 온다》로 대중화되었다.
| 연도 | 인물 | 내용 |
|---|---|---|
| 1958년 | 스타니스와프 울람 (존 폰 노이만 회고) | 울람은 폰 노이만 추모 글에서 그와 나눈 대화를 소개했다. 늘 가속하는 기술 진보와 인간 생활 양식의 변화가 인류 역사에서 어떤 본질적인 특이점, 곧 우리가 아는 인간사가 더는 이어질 수 없는 지점에 다가가는 것처럼 보인다는 내용이었다.[1] |
| 1965년 | I. J. 굿 | 사람보다 뛰어난 '초지능 기계'가 더 나은 기계를 설계하면 '지능 폭발'이 일어나고, 그 기계가 사람의 마지막 발명품이 될 것이라고 썼다.[2] |
| 1983년 | 버너 빈지 | 잡지 《옴니》 1983년 1월호 기고에서 사람보다 뛰어난 지능의 창조를 '특이점'이라는 말로 연결했다.[3] |
| 1988년 | 한스 모라벡 | 《마음의 아이들》에서 로봇이 인간의 후계자가 되는 미래를 그렸다. |
| 1993년 | 버너 빈지 | NASA 루이스 연구 센터 등이 연 VISION-21 심포지엄 발표문 〈다가오는 기술적 특이점〉에서 "30년 안에 초인적 지능을 만들 기술 수단을 갖게 되고, 그 직후 인간의 시대는 끝날 것"이라고 썼다. 2005년 이전이나 2030년 이후에 일어나면 놀랄 것이라고 시기를 밝혔다.[3] |
| 2000년 | 빌 조이 | 선 마이크로시스템즈 수석과학자로서 《와이어드》 기고 〈왜 미래는 우리를 필요로 하지 않는가〉에서 유전학, 나노기술, 로봇공학(GNR)이 개인이나 소집단도 대규모 재앙을 일으킬 수 있게 한다고 경고했다.[4] |
| 2001년 | 레이 커즈와일 | 에세이 〈수확 가속의 법칙〉 발표[5] |
| 2005년 | 레이 커즈와일 | 《특이점이 온다》(The Singularity Is Near). 2029년 사람 수준의 AI, 2045년 특이점을 예측 |
| 2024년 | 레이 커즈와일 | 《특이점이 더 가까이 왔다》(The Singularity Is Nearer)에서 2029년과 2045년 예측을 유지[6] |
빈지는 울람이 전한 폰 노이만의 말에 '특이점'이라는 단어가 이미 나오지만, 폰 노이만은 초인적 지능의 창조가 아니라 평범한 기술 진보를 생각한 것으로 보인다고 평했다. 빈지에게 특이점의 본질은 초인성(superhumanity)이다.[3]
| 제시자 | 특이점의 정의 | 핵심 동력 |
|---|---|---|
| 폰 노이만 (울람의 전언) | 가속하는 기술 진보 때문에 지금 같은 인간사가 이어질 수 없게 되는 지점 | 기술 진보 일반 |
| 빈지 | 사람보다 뛰어난 지능이 만들어지는 시점과 그 이후의 폭주 | 초인적 지능(AI, 네트워크, 인간-컴퓨터 인터페이스, 생명과학) |
| 커즈와일 | 기술 변화가 너무 빠르고 깊어 인간의 삶이 돌이킬 수 없게 바뀌는 시기. 2045년 무렵 인간과 기계의 지능이 융합해 비생물학적 지능이 압도적으로 커진다 | 수확 가속의 법칙에 따른 지수적 발전, 인간과 기계의 융합 |
| 굿, 보스트롬 계열 | 재귀적 자기 개선으로 인한 지능 폭발 | AI의 자기 개선 |
빈지는 초인적 지능에 이르는 길로 깨어나는 컴퓨터, 깨어나는 대형 네트워크, 사용자를 초인적으로 만드는 인간-컴퓨터 인터페이스, 생물학적 지능 향상의 네 가지를 들고, 네트워크와 인터페이스를 통한 길을 '지능 증폭'(intelligence amplification, IA)이라 불렀다.[3] 커즈와일의 특이점은 단일한 초지능 기계보다 인간의 뇌와 클라우드의 비생물학적 지능이 연결되는 분산적 모습에 가깝다는 점에서 빈지와 다르다.
커즈와일은 특이점에 이르는 세 기술 혁명으로 유전학(Genetics), 나노기술(Nanotechnology), 로봇공학과 AI(Robotics)를 꼽았다. 빌 조이가 위험의 근원으로 묶은 바로 그 세 분야를, 커즈와일은 수명 연장과 인간 능력 확장의 수단으로 보았다. 그는 노화와 질병을 지금의 지식으로 버티며 다음 기술이 나올 때까지 시간을 버는 '다리 놓기' 전략, 혈구와 장기를 나노봇으로 보강하는 미래, 2030년대 대뇌 피질과 클라우드의 연결 등을 예측했다.
| 예측 | 제시자 | 상태 (2026년 기준) |
|---|---|---|
| 1993년부터 30년 안에 초인적 지능 수단 확보, 2005~2030년 사이 특이점 | 빈지(1993) | 빈지는 2024년 3월 20일 세상을 떠났다.[8] 2026년 현재 초인적 일반 지능의 등장은 확인되지 않았다 |
| 2029년 사람 수준의 AI(튜링 테스트 통과) | 커즈와일(2005, 2024 재확인) | 2025년 통제 실험에서 GPT-4.5가 3자 튜링 테스트에서 73% 사람으로 판정되었다.[9] AGI 도달 여부는 정의에 따라 논쟁 중이다 |
| 2045년 특이점, 지능이 100만 배로 확장 | 커즈와일 | 커즈와일은 2024년 인터뷰에서도 이 시점을 유지했다[6] |
2020년대 대형 언어 모델의 급속한 발전 이후, 특이점은 SF와 미래학의 화제에서 AI 기업 경영자들이 직접 언급하는 말이 되었다. 샘 올트먼은 2025년 블로그 글 〈부드러운 특이점〉(The Gentle Singularity)을 "우리는 사건의 지평선을 지났고, 이륙이 시작되었다"는 문장으로 시작했다. 그는 2025년에 실제 인지 노동을 하는 에이전트가 등장했고, 2026년에는 새로운 통찰을 얻는 시스템이, 2027년에는 현실 세계에서 일하는 로봇이 나올 수 있다고 쓰면서도, 지금까지의 변화는 예상만큼 이상하지 않고 점진적으로 느껴진다고 했다.[10] 이처럼 최근의 업계 담론은 한순간의 폭발보다 '부드럽고 점진적인' 특이점을 말하는 경향이 있다는 점에서 빈지의 원래 그림과 다르다.
- 지수 성장의 한계: 기술 성장은 영원히 지수적이지 않고 결국 S자 곡선(로지스틱 곡선)으로 포화한다는 비판이 있다. 무어의 법칙의 둔화가 흔히 근거로 쓰인다.
- 복잡성 브레이크: 마이크로소프트 공동 창업자 폴 앨런은 2011년 《MIT 테크놀로지 리뷰》 기고 〈특이점은 가까이 오지 않았다〉에서, 사람의 뇌처럼 복잡한 체계는 깊이 이해할수록 더 많은 전문 지식이 필요해지는 '복잡성 브레이크'(complexity brake) 때문에, 2045년 특이점은 예측할 수 없는 근본적 돌파 없이는 매우 일어나기 어렵다고 주장했다.[11]
- 상상은 근거가 아니다: 2008년 《IEEE 스펙트럼》 특집 설문에서 스티븐 핑커는 특이점을 믿을 "조금의 이유도 없다"며 미래를 머릿속에 그릴 수 있다는 것이 그 미래가 가능하다는 증거는 아니라고 답했다. 같은 설문에서 무어의 법칙의 고든 무어와 사이프러스 반도체 창업자 T. J. 로저스는 특이점이 오지 않을 것이라고, 넷스케이프 CTO였던 에릭 한은 70년 안에 온다고, 더글러스 호프스태터는 먼 미래 언젠가라고 답했다.[12]
- 물리적·사회적 병목: 지능이 높아져도 실험, 데이터 수집, 제조, 에너지, 규제 같은 현실의 속도가 발전을 제한한다는 지적이 있다. 특이점 시나리오를 대표적으로 그린 다리오 아모데이조차 '데이터센터 안의 천재들의 나라'도 하드웨어 구축이나 생물학 실험 같은 물리적·현실적 한계에 부딪힐 것이라고 썼다.[13]
- 종교적 성격: 특이점 이후의 불멸과 인간-기계 융합을 약속하는 서사가 과학적 예측이라기보다 종말론이나 구원 서사에 가깝다는 비판도 꾸준하다. 반대편에서는 특이점을 재앙의 가능성으로 보며 인공지능 정렬과 안전 연구를 강조한다. AI 종말론 참고.
특이점은 SF의 주요 소재다. 빈지 자신의 소설 《심연 위의 불길》, 아이작 아시모프의 단편 〈최후의 질문〉, 테드 창의 〈인류 과학의 진화〉 같은 작품이 특이점 또는 그 이후의 세계를 다룬다. 영화 〈트랜센던스〉(2014)는 마음을 업로드한 과학자가 초지능이 되는 이야기를, 〈그녀〉(2013)는 운영 체제 AI가 사람을 넘어 떠나가는 이야기를 그렸다.
- ↑ S. Ulam, 〈John von Neumann 1903~1957〉, Bulletin of the American Mathematical Society 64(3, part 2), 1958, pp. 1~49. 빈지(1993)에 해당 대목이 인용되어 있다.
- ↑ I. J. Good, 〈Speculations Concerning the First Ultraintelligent Machine〉, Advances in Computers 6, 1965, pp. 31~88.
- ↑ 3.0 3.1 3.2 3.3 V. Vinge, The Coming Technological Singularity: How to Survive in the Post-Human Era, NASA VISION-21 Symposium, 1993. (참고 문헌에 Vinge, First Word, Omni, 1983년 1월호 수록)
- ↑ B. Joy, Why the Future Doesn't Need Us, Wired, 2000년 4월.
- ↑ 5.0 5.1 R. Kurzweil, The Law of Accelerating Returns, 2001.
- ↑ 6.0 6.1 AI scientist Ray Kurzweil: 'We are going to expand intelligence a millionfold by 2045', The Guardian, 2024-06-29.
- ↑ N. Bostrom, Superintelligence: Paths, Dangers, Strategies, Oxford University Press, 2014.
- ↑ Vernor Vinge (1944-2024), File 770, 2024-03-20.
- ↑ C. R. Jones, B. K. Bergen, 〈Large Language Models Pass the Turing Test〉, 2025. arXiv:2503.23674
- ↑ S. Altman, The Gentle Singularity, 2025.
- ↑ P. Allen, M. Greaves, The Singularity Isn't Near, MIT Technology Review, 2011-10-12.
- ↑ Tech Luminaries Address Singularity, IEEE Spectrum, 2008-06-01.
- ↑ D. Amodei, Machines of Loving Grace, 2024년 10월.
- ↑ About Singularity, Singularity.
- ↑ About MIRI, Machine Intelligence Research Institute.
- V. Vinge, The Coming Technological Singularity (1993)
- R. Kurzweil, The Singularity Is Near, Viking, 2005.
- R. Kurzweil, The Singularity Is Nearer, Viking, 2024.