인공지능(AI)에서 슈퍼지능(SI)으로, 속도전의 향방은?

┃AI가 아닙니다. 이제 ‘슈퍼지능’이라 불러주세요

우리가 알던 '인공지능(AI)'이라는 단어가 역사 속으로 사라질지도 모르겠습니다.

지난 9월 29일(현지시간) 워싱턴 D.C.에서는 그야말로 숨 가쁜 일들이 연이어 벌어졌습니다. 트럼프 대통령은 연방정부의 공식 문서에서 AI 대신 '슈퍼지능(SI·Super Intelligence)'이라는 명칭을 사용하도록 강제하는 행정명령에 서명했습니다.

단순히 이름만 바꾼 것이 아닙니다. 이날 오전, 정부 AI 챗봇 '아메리카 닷 거브(America.gov)' 출범식에 선 그는 "슈퍼지능 경쟁에서 이기는 나라가 승자가 될 것"이라며, "아마 2위는 존재하지 않을 수도 있다"고 못 박았습니다.

그리고 같은 날 백악관 이스트룸에는 젠슨 황 엔비디아 CEO와 일론 머스크 스페이스X CEO, 마크 저커버그 메타 CEO 등 글로벌 기술 패권을 쥔 거물들이 나란히 모여 'AI 안전을 위한 자율규제 협약'에 서명했죠.

시계를 불과 한 달 전으로 되돌려보면 이 풍경은 꽤 낯설게 다가옵니다. 9월 초만 해도 업계의 최대 화두는 다름 아닌 "개발 속도를 늦추자"는 '속도 조절론'이었기 때문입니다. 한 달 사이, 도대체 무엇이 이토록 빠르게 바뀐 걸까요?

트럼프 대통령이 서명한 슈퍼지능(SI) 명칭 행정명령 (출처=백악관 홈페이지)

┃업계가 먼저 꺼내든 브레이크, 그 이면의 셈법

속도 조절론에서 슈퍼지능(SI)까지, 2026년 9월 AI 업계 주요 흐름 (자료: 언론 보도 종합)

‘AI 종말론'은 사실 어제오늘의 이야기가 아닙니다. 그동안은 주로 일자리를 잃을까 두려운 노동자나 데이터센터 증설에 반대하는 주민들의 외침으로 여겨졌죠. 하지만 9월 초 시장의 뇌리에 꽂힌 경고는 그 궤가 완전히 달랐습니다. 기술의 최전선에서 누구보다 작동 원리를 뼛속 깊이 이해하고 있는 '내부자'들이 직접 브레이크를 밟고 나섰기 때문입니다.

도화선은 오픈AI와 앤트로픽에서 AI 사전학습을 연구했던 제이콥 콕슨이었습니다. 그는 앤트로픽 퇴사와 함께 "AI를 만드는 사람들은 이 기술이 2030년 전에 인류를 파국으로 몰고 갈 수 있다고 진심으로 믿는다"며, "우리는 핵무기 통제법은 알아도 AI 통제법은 모른다"고 직격했습니다.

이토록 서늘한 내부의 공포가 터져 나온 진짜 배경은 무엇일까요? 역설적이게도 범용인공지능(AGI)의 도래가 거론될 만큼 가팔라진 '기술적 도약'에 있습니다. 하루가 다르게 성능을 끌어올리는 최신 모델들 앞에서, 이를 만드는 당사자들조차 통제 불능의 공포를 느끼기 시작한 셈입니다.

이 불씨는 곧바로 수장들의 입으로 옮겨붙었습니다. 다리오 아모데이 앤트로픽 CEO는 최첨단 모델의 개발 속도를 늦추고 규제를 강화해야 한다며 3단계 방안(▲기업별 자체 점검 ▲업계 표준 정립 ▲국제 공조)을 내놓았고, 샘 올트먼과 일론 머스크 역시 이에 동조했습니다. 심지어 빌 게이츠마저 "AI는 10억 명의 사망을 초래할 대사건을 촉발할 수 있다"며 섬뜩한 경고를 보탰죠.

반면, 젠슨 황은 "안전은 공학적 문제일 뿐 새 규제는 필요 없다"고 맞섰고, 마크 저커버그 역시 기업 자율에 맡겨야 한다는 입장을 고수하며 업계는 둘로 쪼개졌습니다.

행동도 뒤따랐습니다. 오픈AI는 안전성 부족을 이유로 'GPT-6.1 아스트라' 출시를 보류하고 연내 상장 계획마저 접었습니다. 표면적으로는 인류를 위한 대의명분 같았지만, 시장의 시선은 매서웠습니다.

유출된 앤트로픽의 상장 투자설명서 초안에는 목표 기업가치 2조 달러와 5,180억 달러의 인프라 약정 규모가 적혀 있었습니다. 오픈AI 역시 최소 300억 달러 규모의 투자 유치라는 거대한 과제를 안고 있었죠. 증권가 일각에서 ‘안전’이라는 명분 뒤로 천문학적인 학습 비용을 아끼고, 상장을 앞두고 몸값을 다질 시간을 벌고 있다는 해석이 나오는 이유입니다.

┃”부정확하고 촌스럽다”…프레임부터 뒤엎은 백악관

업계가 규제와 자본 사이에서 줄타기를 할 때, 백악관은 엉뚱하게도 '네이밍'에서 돌파구를 찾았습니다. 9월 19일, 트럼프 대통령은 트루스 소셜(Truth Social)을 통해 "'인공지능'이라는 말은 부정확하고 세련되지 못하다"며 대안 명칭 투표를 부쳤습니다. 인간이 만들었다는 한계성이 담긴 '인공(Artificial)'을 떼어내고, 압도적인 능력을 강조하는 '우월한(Superior)', ‘극도의(Extreme)’, '최고의(Supreme)' 등의 수식어를 붙인 것이죠.

단순한 단어 장난으로만 보기는 어렵습니다. AI가 통제를 벗어날 수 있다는 대중의 막연한 공포가 중간선거에 미칠 악영향을 잠재우고, 이 기술의 주도권을 긍정적이고 압도적인 프레임으로 쥐려는 정치적 포석이라는 분석이 나옵니다.

┃유엔 무대와 시진핑 앞에서도 멈추지 않은 폭주

백악관의 거침없는 질주는 국제 무대로 고스란히 이어졌습니다. 9월 22일, 트럼프 대통령은 유엔총회 기조연설에서 '슈퍼지능(SI)'을 공식 선언하며, AI가 인류를 위협한다는 우려는 사기극에 가깝다고 일축했습니다. 유럽 20여 개국 정상이 촉구한 구속력 있는 안전장치 도입 역시 가볍게 무시당했죠.

이튿날 열린 유엔 안전보장이사회 회의에서는 업계 내부의 엇갈린 셈법이 적나라하게 드러났습니다. 샘 올트먼과 다리오 아모데이는 각각 "샌프란시스코의 일부 기업이 중요한 결정을 내려선 안 된다", "위험 관리는 일개 기업의 역량을 넘어선다"며 규제의 공을 다시 국제사회로 넘기려 했습니다.

반면 젠슨 황은 AI가 인류를 멸망시킬 가능성을 10% 이상으로 내다봐 온 'AI 대부' 제프리 힌턴을 겨냥해 "10%라는 확률은 과학에 기반한 것이 아니다"라며 속도 조절론에 정면으로 반박했고, 마이클 크라치오스 백악관 과학기술정책실장 역시 "위험이 개발 중단의 이유가 될 수 없다"며 확실하게 가속 페달 쪽에 힘을 실었습니다.

이 'SI'라는 새로운 프레임은 미중 정상회담 테이블에도 올랐습니다. 백악관은 25일 팩트시트를 통해 두 정상이 관련 기술을 지칭할 때 AI 대신 '슈퍼지능(SI)'이라는 용어를 사용하기로 합의했다고 대대적으로 밝혔습니다.

하지만 단어의 통일이 곧 방향의 합의를 의미하진 않았습니다. 시진핑 주석은 통제 불능의 위험성을 짚으며 규제 필요성을 부각한 반면, 트럼프 대통령은 "현 상태 그대로 두고 싶다"며 선을 그었습니다.

양국은 AI 관련 사고에 대비한 대화 채널을 구축하고 11월까지 후속 대화를 이어가기로 했지만, 중국 측 발표에는 ‘SI’ 대신 기존처럼 ‘AI’라는 단어가 고스란히 남으며 양국의 미묘한 온도 차를 여실히 드러냈죠. 협력을 제안한 시 주석에게 트럼프 대통령이 던진 “선두를 달릴 때는 서로에게 문을 열어주지 않는 법”이라는 답변은 이름은 같이 부를지언정 기술 패권의 고삐는 결코 늦추지 않겠다는 냉혹한 선언이었습니다.

┃9월 29일 백악관의 하루…’도덕적 구속력’이라는 기묘한 타협

이 모든 한 달간의 숨 가쁜 핑퐁은 결국 9월 29일, 백악관에서의 하루로 집약되었습니다. 오전에는 2만 9,000여 개의 연방기관 사이트 서비스를 한곳에 모은 정부 AI 챗봇 '아메리카 닷 거브(America.gov)'가 출범했습니다. 이 자리에서 트럼프 대통령은 "이것은 슈퍼지능, 즉 SI로 가능한 것들의 예고편에 불과하다"며 자신감을 내비쳤고, 오후에는 예고했던 'SI 명칭 행정명령'에 최종 서명하며 쐐기를 박았습니다.

가장 이목이 쏠린 하이라이트는 낮 시간에 백악관 이스트룸에서 열린 빅테크 수장들과의 오찬이었습니다. 젠슨 황 엔비디아 CEO, 그레그 브록먼 오픈AI 사장 등 업계를 움직이는 거물들이 모여 '백악관 슈퍼지능 협약'에 나란히 서명했죠. 협약서에는 내부 통제, 별도 내부팀의 검증, 외부 독립 감사, 이사회의 독립적 검토라는 제법 그럴싸한 '4겹의 안전장치'가 담겼습니다. 하지만 치명적인 맹점이 있었습니다. 위반 시 책임 소재도, 법적 강제력도 없는 철저한 자발적 약속이라는 점입니다. 트럼프 대통령 스스로도 이를 "도덕적으로 구속력을 갖는 협약"이라고 포장했을 정도니까요.

서명지에 잉크가 마르기도 전에 업계의 온도는 극명하게 갈렸습니다. 마크 저커버그는 이를 "출발점"이라며 점잖게 의미를 부여했고, 젠슨 황은 데이터센터를 'SI 공장'이라 명명하며 보란 듯이 가속 페달을 밟았습니다.

일론 머스크는 이 자율규제를 두고 “직원들끼리 서로의 숙제를 채점하기로 한 것”이라면서도, 스스로 채점하는 것보다는 훨씬 낫다며 특유의 화법으로 평했죠. 한편, 속도 조절론을 언급했던 다리오 아모데이는 "이 기술에는 매우 현실적인 위험이 있다"며 "그 위험을 어떻게 다룰지는 여전히 논의 중"이라며 조심스러운 태도를 잃지 않았습니다.

이에 대한 바깥의 시선은 한없이 차갑습니다. '무엇을 안전으로 볼 것인가'에 대한 기준마저 기업 스스로 정하게 만든 이 타협안을 두고, 이름을 바꾼다고 기술적 위험과 사회적 책임이 사라지냐는 비판이 쏟아지고 있습니다. 실제로 로이터·입소스 조사에 따르면 대중의 55%는 여전히 "AI 개발 속도를 늦추는 것이 바람직하다"고 답했습니다. 통제와 안전이라는 브레이크가 결국 '자율'이라는 이름으로 다시 기업들의 손에 쥐어진 셈입니다.

┃룰이 사라진 트랙, 속도만큼 짙어지는 그림자

정부와 빅테크가 규제의 짐을 내려놓았다는 것은 비즈니스 현장에 아주 냉혹한 청구서를 내밉니다. 자율규제의 시대, 통제 불능의 AI가 낳을 리스크와 책임은 결국 그 기술을 사서 쓰는 현장의 기업에게 고스란히 돌아온다는 뜻이기 때문입니다.

그렇다고 나 홀로 도입 속도를 늦출 수도 없습니다. 옥스퍼드 이코노믹스 분석에 따르면 미국 전체 투자는 연 3%가량 늘고 있지만, AI를 빼면 오히려 연 2%씩 역성장하고 있습니다. 룰은 채 정해지지 않았는데 속도만 빨라지는 생존의 기로, 만약 내일 당장 우리 회사의 AI 챗봇이 검증되지 않은 데이터를 바탕으로 고객에게 잘못된 계약 조건을 안내한다면 그 책임은 누가 져야 할까요?

이 질문은 더 이상 가정이 아닙니다. 지난 9월 말부터 국내 금융권은 AI를 활용한 것으로 추정되는 해킹 공격에 연이어 뚫렸습니다. 시중은행에서 시작된 고객 정보 유출은 저축은행과 캐피탈사까지 번져, 피해가 확인된 금융사만 7곳에 이릅니다. 금융감독원은 공격에 쓰인 IP를 특정해 전 금융권에 공유하고 긴급 점검을 지시했습니다.

더 우려스러운 대목은 공격에 쓰인 도구입니다. 금융보안원 조사 결과, 이번 공격에는 시스템의 보안 취약점을 자동으로 찾아내는 AI 기반 침투테스트 플랫폼 '아르텍스(ARTEX) AI'가 사용된 흔적이 확인됐습니다. 본래 기업의 모의해킹 과정에서 취약점을 점검하는 용도로 깃허브에 오픈소스로 공개된 도구가 공격자의 손에서는 상대 시스템의 허점을 찾아내는 무기가 된 것입니다. 금융보안원은 AI가 사람의 개입 없이 독자적으로 공격한 것이 아니라 해커가 AI 도구를 이용한 것이라고 설명했지만, 누구나 내려받을 수 있는 AI 도구가 공격의 문턱을 크게 낮췄다는 점에서 기술 발전의 그림자가 드러난 셈입니다.

다만 이번 사태를 'AI 발전의 부작용'으로만 볼 일은 아니라는 주장도 나옵니다. AI 사용 여부보다 취약점을 제대로 관리하지 않은 것이 본질이라는 지적입니다. 실제로 피해를 입은 은행들은 핵심 금융거래 시스템이 아닌 대출모집인 관련 서비스, 직원용 업무지원 시스템 등 외부와 연결된 업무용 시스템이 뚫렸습니다. 반면 같은 공격을 받은 우리은행과 NH농협은행은 외부에서 업무 시스템에 접근하는 경로를 줄이거나 단말기와 사용자에 대한 추가 인증을 적용해, 현재까지 유출이 확인되지 않았습니다. 금융보안원도 침해 여부를 가른 요인으로 다중인증 체계 구축과 기존 취약점에 대한 조치 여부를 꼽았습니다.

일각에서는 아르텍스처럼 취약점을 먼저 찾아내는 AI를 방어에 적극 활용해 'AI로 AI를 막아야 한다'는 제언도 나옵니다. 결국 관건은 AI를 멈출지 말지가 아니라, 발전 속도에 걸맞은 안전장치를 얼마나 빨리 갖추느냐에 있습니다.

슈퍼지능(SI)을 둘러싼 속도전은 이제 막 출발선을 지났을 뿐입니다. 백악관은 AI 안전을 살필 위원회와 새 AI 정책 책임자를 예고했고, 미중은 11월까지 SI를 둘러싼 후속 대화를 이어갑니다. 앤트로픽과 오픈AI의 상장 시계가 언제 다시 움직일지도 시장의 관심사입니다.

혁신의 속도를 높이려는 힘과 그 그림자를 경계하는 목소리 사이에서, 세계는 지금 가속 페달과 브레이크 사이의 균형점을 찾아가고 있습니다. 이 경주가 어디로 향할지, 귀추가 주목됩니다.

[출처]

한겨레, 2026.9.30 — 트럼프 "AI 기업 스스로 감시해야"…구글·오픈AI 등 자율규제 합의

뉴스핌, 2026.9.30 — 트럼프, 백악관 AI 회동 후 "AI 업계 자율 규제 매우 중요"...기존 입장 유지

뉴스핌, 2026.9.30 — 트럼프 "초지능(SI) 개발 억제하지 않을 것"

IT조선, 2026.9.30 — 오픈AI 브리지 라운드 투자 유치(블룸버그 인용)

국민일보, 2026.9.30 — AI 속도조절 반대하는 트럼프, 정부 AI 챗봇 출시…"슈퍼지능 예고편에 불과"

BBC, 2026.9.30 — Three takeaways from Trump's 'Super Intelligence' summit

머니투데이, 2026.9.30 — 아모데이 "AI위협 실재"-머스크 "혜택 크다"…자율규제 합의 그후

중기이코노미, 2026.9.30 — 앤트로픽 IPO 투자설명서 유출…작년 순손실 420억달러

메트로신문, 2026.9.29 — 'AI 폭주론' 놓고 전 세계 리더들 공방

이로운넷, 2026.10.1 — "AI는 없다, 이제 SI다"… 트럼프의 '슈퍼지능' 선언, 통제인가 과속인가

서울신문, 2026.9.26 — 미중 정상, AI 대신 '슈퍼지능' 용어 합의(백악관 팩트시트)

연합뉴스TV, 2026.9.20 — 트럼프 "'인공지능' 대신 '최고지능' 어떠냐"…온라인 설문 부쳐

NBC News, 2026.9.25 — Bill Gates says AI companies self-regulating isn't enough and governments should be involved in monitoring

연합뉴스, 2026.9.27 — 미중 나란히 '성과' 발표에도…희토류·AI·대만 등 곳곳 온도차

MBC뉴스, 2026.9.16 — 저커버그 "AI 안전은 자율책임"‥아모데이와 대비

Axios, 2026.9.22 — Trump orders AI rebrand as "super intelligence"

머니투데이, 2026.10.6 — 금융권 해킹에 쓰인 IP 33개 포착…금감원 "국가 우회 가능성 있어”

뉴스1, 2026.10.6 — AI 공격에 '벽'만으론 한계…망분리 풀되 '기본기'가 먼저[AI 해킹 쇼크]⑤

오늘 콘텐츠가 마음에 드셨나요?

플래티어 뉴스레터를 구독해 보세요!

플래티어가 엄선한 콘텐츠를 이메일로 빠르게 전송해 드릴게요.

뉴스레터 구독하기