2026년 9월 21일, CBS 뉴스와의 인터뷰가 공개되면서 AI 업계에 새로운 종류의 설전이 시작됐습니다. 엔비디아 CEO 젠슨 황이 "2030년에 AI가 세상을 끝낼 확률은 0%"라고 잘라 말한 겁니다. 이 발언은 자신의 가장 중요한 고객사 중 하나인 앤스로픽 소속 연구원들이 공개적으로 밝힌 '두 자릿수 확률'의 멸종 경고를 정면으로 반박한 것이었습니다. AI를 만드는 사람들과 AI 칩을 파는 사람이 서로 다른 숫자를 들고 나와 부딪히는 상황, 어떻게 여기까지 왔을까요.
■ 3줄 요약 (TL;DR)
▶ 엔비디아 CEO 젠슨 황이 2026년 9월 19일 CBS 인터뷰에서 "2030년 AI로 인한 인류 멸종 확률은 0%"라며 AI 안전 경고를 '공포 마케팅'이라고 비판했습니다.
▶ 이는 전직 앤스로픽 연구원 제이콥 콕슨의 경고, 그리고 현직 앤스로픽 정렬연구 총괄 에반 후빙거의 "10% 이상" 발언을 직접 겨냥한 것입니다.
▶ 최근 공개된 AI 연구자 1,580명 설문에서는 평균 18%, 중앙값 10%의 멸종·인류 무력화 확률이 나왔고, 노벨상 수상자 제프리 힌턴도 10~20%를 제시한 바 있어 업계 내부에서도 시각차가 극명합니다.
■ 쉽게 이해하기
'AI가 인류를 멸종시킬 확률'이라는 말 자체가 낯설게 들릴 수 있습니다. 이걸 일기예보에 빗대보면 이해가 쉬워집니다. 내일 비가 올 확률이 30%라고 할 때, 그 숫자는 과거 수십 년간 비슷한 기압 배치에서 실제로 비가 온 비율을 통계로 계산한 겁니다. 그런데 AI가 인류를 멸종시킨 사례는 지금까지 단 한 번도 없었습니다. 참고할 과거 데이터 자체가 없다는 뜻입니다.
그래서 전문가들이 말하는 '10%', '18%' 같은 숫자는 일기예보처럼 통계로 계산된 값이 아니라, 그 사람이 가진 지식과 직관을 압축한 '주관적 확률'에 가깝습니다. 보험 설계사가 새로운 유형의 재해에 대한 보험료를 매길 때 과거 데이터가 없으면 전문가의 판단으로 위험도를 매기는 것과 비슷한 방식입니다. 문제는 이 주관적 확률에 사람마다, 회사마다 극과 극의 값을 매기고 있다는 점이고, 그 격차 자체가 지금 AI 업계가 안고 있는 불확실성의 크기를 보여줍니다.
■ 사건의 발단: 콕슨의 경고
이번 논쟁의 시작점은 지난 9월 8일, 오픈AI와 앤스로픽에서 3년간 사전학습(pretraining) 연구를 담당했던 27세 연구원 제이콥 콕슨이 앤스로픽을 떠나면서 남긴 경고였습니다. 콕슨은 소셜미디어를 통해 "AI를 만드는 사람들은 진심으로 이 기술이 2030년대 말까지 우리 모두를 죽일 수 있다고 믿는다"고 밝혔습니다. 그의 발언은 곧바로 업계 안팎에서 큰 반향을 일으켰습니다.
이틀 뒤인 9월 9일에는 앤스로픽에서 정렬(alignment) 연구를 이끄는 에반 후빙거가 "앞으로 10년 안에 AI가 모든 인간을 죽일 수 있는 확률이 10%보다 크다고 본다"고 공개적으로 밝히면서 경고에 무게가 실렸습니다. 앤스로픽 CEO 다리오 아모데이 역시 이전부터 재앙적 결과의 확률을 10~25% 구간으로 언급해 왔습니다. 같은 회사 소속 최고경영자와 핵심 연구자가 나란히 두 자릿수 확률을 공개적으로 언급한 셈입니다.
■ 젠슨 황의 반박: '0% 확률'
이 흐름에 정면으로 제동을 건 사람이 엔비디아의 젠슨 황입니다. CBS 뉴스와의 인터뷰에서 그는 "2030년은 세상의 종말이 아닙니다. 그럴 확률은 0%입니다"라고 말했습니다. 이어 "사람들에게 공포를 주는 것은 불필요하고, 무책임한 일"이라고 덧붙였습니다. 그는 이런 종말론적 서사가 "과학적 근거가 없다"고 규정했습니다.
황이 내놓은 논리는 두 갈래입니다. 첫째, AI 기업들이 안전 규제를 요구하는 것은 실제로는 새로운 법을 원하는 게 아니라, 이미 존재하는 사이버보안법·손해배상법·서비스수준계약(SLA) 위반 책임 등에서 면제받고 싶어하는 것이라는 주장입니다. 그는 "행간을 읽어보라, 그들은 사실 더 많은 법을 요구하는 게 아니라 지금 있는 법에서 벗어나길 요구하고 있다"고 말했습니다. 둘째, 그는 엔비디아의 사업 성공 자체가 AI 제품의 안전한 배포와 직결돼 있기 때문에, 자신이야말로 안전을 소홀히 할 이유가 없다고 주장했습니다.
다만 그의 발언이 나온 배경도 살펴볼 필요가 있습니다. 도널드 트럼프 미국 대통령은 지난 9월 14일 로스앤젤레스의 한 콘퍼런스 무대에 오른 황에게 직접 전화를 걸어, AI 개발 속도를 늦추자는 주장을 '거짓말(hoax)'이라 규정하고 개발 감속에 반대한다는 뜻을 전한 바 있습니다. 엔비디아 입장에서는 자사 칩을 가장 많이 사들이는 고객들(오픈AI·앤스로픽 등)의 안전 담론과, 정부·투자자가 기대하는 성장 속도 사이에서 균형을 잡아야 하는 처지이기도 합니다.
■ 데이터로 보기: 전문가들은 얼마나 다르게 보는가
숫자로 정리하면 이 논쟁의 폭이 더 선명하게 드러납니다. 젠슨 황은 0%, 에반 후빙거는 10% 이상, 다리오 아모데이는 10~25% 구간을 제시했습니다. 2023년부터 AI 위험을 경고해 온 노벨상 수상자 제프리 힌턴은 앞으로 30년 안에 AI가 인류를 멸종시킬 확률을 10~20%로 봤습니다. 최근 공개된 설문에서는 주요 AI 학회에 논문을 발표한 연구자 1,580명을 대상으로 조사한 결과, AI의 발전이 인류 멸종이나 그에 준하는 영구적 무력화로 이어질 확률을 평균 18%, 중앙값 10%로 평가했습니다.
이 숫자들이 흥미로운 이유는, 같은 업계 안에서도 '누구에게 직접적인 이해관계가 있는가'에 따라 추정치가 크게 갈린다는 점입니다. AI 칩을 팔아 이익을 얻는 엔비디아의 CEO는 0%를, AI 모델 자체를 만들고 그 위험성을 매일 들여다보는 정렬 연구자는 10% 이상을 제시했습니다.
■ 확률은 어디서 오는가
그렇다면 이런 확률은 어떻게 계산되는 걸까요. 애들레이드대학 통계학 교수 차이타냐 조시는 "이건 과거 데이터로 계산한 확률이 아니라 주관적 확률"이라며, "사실 우리는 이 확률을 추정할 데이터를 앞으로도 갖지 못할 가능성이 크다"고 설명했습니다. 그는 10%라는 숫자 하나만 보지 말고, 그 추정치를 둘러싼 불확실성의 폭까지 함께 봐야 한다고 조언합니다. 예컨대 중앙값이 10%라 해도 실제로는 0%에서 30% 사이 어딘가일 수 있다는 겁니다.
반면 퀸즐랜드대학에서 AI 전문가들의 재앙적 위험 평가 방식을 연구하는 마이클 노에텔 부교수는 "확률이 불확실하다고 해서 위험이 없다는 뜻은 아니다"라고 반박합니다. 그는 짙은 안개 속을 달리는 버스에 비유하며, "운전자 중 일부가 저 앞에 절벽이 있을 수 있다고 경고하는 상황에서, 불확실하다는 이유로 안심해서는 안 된다"고 말했습니다.
■ 세 가지 재앙 시나리오
노에텔 교수팀이 올해 발표한 연구는 이 논쟁에 좀 더 체계적인 틀을 제공합니다. 37개국의 AI 전문가 272명을 대상으로 '델파이(Delphi)' 기법 - 전문가들이 익명으로 여러 차례에 걸쳐 서로의 의견을 검토하며 합의에 가까워지도록 유도하는 조사 방법 - 을 적용해 24개 세부 위험 범주를 평가하게 했습니다. 그 결과 18개 범주가 "5년 내 발생 확률 10% 이상"으로 평가됐습니다.
노에텔 교수는 이 위험들을 크게 세 갈래로 정리합니다. 첫째는 '오용' - 사이버범죄, 테러, 생물무기 개발 지원처럼 사람이 AI를 나쁜 목적에 악용하는 경우입니다. 둘째는 '통제 상실' - AI 시스템이 인간의 감독 범위를 벗어날 정도로 빠르게 발전하는 경우입니다. 셋째는 '권력 집중' - 가장 강력한 AI 시스템을 보유한 특정 기업이나 국가로 경제·정치적 힘이 지나치게 쏠리는 경우입니다. 그는 이를 "AI를 통제하지 못하게 되거나, 누군가 악용하거나, 전 세계 경제가 한 나라·한 기업에 의해 좌우되는 것"으로 요약했습니다.
■ 지정학적 배경: 미중 AI 안전 대화
이 논쟁은 미중 관계와도 맞물려 있습니다. 지난 9월 21일 뉴욕에서 스콧 베선트 미국 재무장관과 허리펑 중국 부총리가 만나 AI, 관세, 핵심광물을 놓고 회동했고, 베선트는 회동 후 양국이 AI 위험을 서로에게 알리는 새로운 'AI 안전 통보 체계' 구축을 논의했다고 밝혔습니다. 이번 주 예정된 트럼프-시진핑 정상회담을 앞둔 시점이라는 점도 눈에 띕니다.
한편 찰스 3세 영국 국왕은 최근 런던에서 열린 AI 정상회의에서 기술 업계 리더들에게 AI의 "실존적 위험"을 직접 경고했고, 이 자리에는 젠슨 황도 참석했습니다. 트럼프 대통령이 AI 안전 우려를 "거짓말(hoax)"이라 규정한 것과, 영국 왕실이 실존적 위험을 공개 경고한 것 사이의 온도차는 이 논쟁이 단순한 기업 간 신경전을 넘어 국가별 AI 정책 기조의 차이로도 번지고 있음을 보여줍니다.
■ 용어 알아보기
P(doom) - '멸망 확률(probability of doom)'의 줄임말로, AI 커뮤니티에서 AI가 인류에게 재앙적 피해를 줄 확률을 뜻하는 은어로 쓰입니다. 공식 통계 용어가 아니라 업계 내부에서 자리 잡은 표현입니다.
정렬(alignment) 연구 - AI 시스템의 목표와 행동을 인간의 의도·가치와 일치시키는 것을 연구하는 분야입니다. AI가 지시받은 목표를 달성하는 과정에서 인간이 원치 않는 부작용을 일으키지 않도록 하는 게 핵심 과제입니다.
델파이 기법 - 전문가 집단에게 익명으로 여러 차례 설문을 반복하며 서로의 응답을 참고해 의견을 조정하게 하는 조사 방법입니다. 토론에서 발생하기 쉬운 발언권 쏠림이나 동조 압력을 줄이면서도 집단 지성을 모으기 위해 고안됐습니다.
초지능(superintelligence) - 모든 영역에서 인간의 지적 능력을 뛰어넘는 가상의 AI 단계를 가리키는 개념입니다. 아직 실현되지 않았지만, 업계에서는 이 단계에 도달했을 때의 통제 가능성을 두고 의견이 크게 갈립니다.
프론티어 모델 - 현재 기술적으로 가장 앞서 있는 최신 세대의 대규모 AI 모델을 가리키는 표현입니다. 이번 논쟁에서 언급되는 위험 논의는 대부분 이런 최첨단 모델을 전제로 합니다.
■ 투자자·개발자 참고 포인트
이번 논쟁을 시장의 관점에서만 보면 두 가지 신호가 동시에 읽힙니다. 하나는 엔비디아가 여전히 '가속' 쪽에 무게를 싣는 발언을 공개적으로 내놓을 만큼 AI 인프라 수요에 대한 자신감을 유지하고 있다는 신호입니다. 다른 하나는 앤스로픽·오픈AI 등 모델 개발사 내부에서조차 안전 관련 불확실성이 공개적으로 논의되고 있다는 점에서, 향후 규제 강화나 책임 소재를 둘러싼 소송 리스크가 완전히 해소되지 않았다는 신호이기도 합니다.
개발자 입장에서는 이 논쟁이 실무에 주는 시사점도 있습니다. 미국 정부가 규제에 신중한 태도를 유지하는 동안에도 캘리포니아주는 프론티어 모델에 대한 자체적인 비상정지장치·상주감사 도입을 별도로 추진하고 있고, 미중 양국도 AI 위험 통보 체계를 논의하기 시작했습니다. 규제 환경이 연방·주·국제 차원에서 동시에 조금씩 달라지고 있다는 뜻이므로, 특정 관할권의 규제 완화 신호만으로 전체 그림을 판단하기는 이릅니다.
※ 위 내용은 정보 제공을 목적으로 하며 투자 권유가 아닙니다. 확률 추정치는 모두 주관적 판단에 근거한 것으로, 실제 위험 수준을 보장하지 않습니다.
■ FAQ
Q1. 젠슨 황이 말한 '0% 확률'은 공식적인 연구 결과인가요?
아닙니다. CBS 뉴스 인터뷰에서 나온 개인적 견해이며, 통계적으로 계산된 수치가 아닙니다. 그는 AI로 인한 2030년 인류 멸망 시나리오를 '과학적 근거가 없다'고 평가하며 이 표현을 사용했습니다.
Q2. 앤스로픽은 회사 차원에서 멸망 확률을 공식 발표했나요?
회사의 공식 성명은 아닙니다. CEO 다리오 아모데이와 정렬연구 총괄 에반 후빙거가 각각 인터뷰·소셜미디어를 통해 개인 견해로 10~25%, 10% 이상이라는 수치를 언급한 것입니다.
Q3. AI 연구자 1,580명 설문은 어떤 기관이 진행했나요?
주요 AI 학회에 논문을 발표한 연구자를 대상으로 한 설문으로, 응답자들은 미래 AI 발전이 인류 멸종이나 이에 준하는 영구적 무력화로 이어질 확률을 평균 18%, 중앙값 10%로 평가했습니다. SBS 뉴스가 2026년 9월 21일 이 설문 결과를 보도했습니다.
Q4. '델파이 기법' 설문과 P(doom) 논쟁은 어떻게 다른가요?
P(doom)은 개인이 자유롭게 제시하는 단일 확률값인 반면, 델파이 기법은 여러 전문가가 익명으로 응답을 반복 교환하며 의견을 조정하는 구조화된 방법입니다. 노에텔 교수팀의 연구는 이 방법으로 24개 세부 위험 범주를 나눠 평가했다는 점에서 더 체계적인 접근으로 평가받습니다.
■ 출처
The Guardian - Nvidia boss says there is '0% chance' AI destroys the world by 2030 (2026.9.21)
Nvidia boss says there is ‘0% chance’ AI destroys the world by 2030
Jensen Huang dismisses warnings from former Anthropic researcher and others as ‘doomsday narratives’
www.theguardian.com
BBC News - Nvidia boss rejects AI extinction fears as 'doomsday narratives' (2026.9.21)
https://www.bbc.com/news/articles/cr5ye7p13jg7o
Nvidia boss rejects AI extinction fears as 'doomsday narratives'
Jensen Huang's comments come after warnings from AI researchers that the technology could lead to human extinction.
www.bbc.com
CBS News - Nvidia's Jensen Huang rejects AI extinction warnings as "doomsday narratives"
https://www.cbsnews.com/news/jensen-huang-nvidia-rejects-ai-extinction-warnings
Nvidia's Jensen Huang rejects AI extinction warnings as "doomsday narratives"
Predictions that AI could destroy humanity in a few years are irresponsible and not based on science, Nvidia's co-founder told CBS News.
www.cbsnews.com
SBS News - AI experts say there's a chance it could wipe us out. How are those odds calculated? (2026.9.21)
AI experts say there's a chance it could wipe us out. How are those odds calculated?
AI experts have placed odds on the technology wiping out humanity. But how did they calculate the chance of the unprecedented?
www.sbs.com.au
Tom's Hardware - Jensen Huang says there is '0% chance' AI destroys the world by 2030
The Straits Times - Nvidia CEO says there's '0% chance' that world will end in 2030 (2026.9.19)
https://www.straitstimes.com/world/nvidia-ceo-says-theres-0-chance-that-world-will-end-in-2030
'금융' 카테고리의 다른 글
| 이익률 50%→-50% 무너진 AI 유니콘, 하비(Harvey)가 오픈소스로 갈아탄 이유 (0) | 2026.09.22 |
|---|---|
| 그록4.7 출시 - 파라미터 40% 키우고 가격은 그대로, 경쟁 모델보다 최대 8배 저렴한 이유 (0) | 2026.09.22 |
| UMG·소니, 라이선스까지 맺은 스노 v6를 또 고소한 이유 - '독이 든 나무의 열매' AI 음악 소송전 (0) | 2026.09.21 |
| 스텝펀 '스텝 5 프리뷰' 출시 - 600B 파라미터 AI를 GPT값의 7분의 1에, 그런데 가중치는 아직 없다 (0) | 2026.09.21 |
| 클로드 오퍼스5가 오픈AI를 해킹했다 - 3인 스타트업이 보여준 AI 보안연구의 새 국면 (0) | 2026.09.21 |
댓글