AI 주권, '보유' 넘어 '운용'으로…한국형 소버린 AI 전략 재설계론

[시사매거진 박윤승 기자] 국산 인공지능(AI) 모델 확보에 초점을 맞춰온 기존 '소버린 AI' 전략을 넘어, 외부 서비스가 제한되더라도 국가 핵심 기능을 지속할 수 있는 '운용 역량'을 AI 주권의 핵심 기준으로 삼아야 한다는 제언이 나왔다.

최종현학술원은 23일 서울대학교 미래전연구센터와 공동 논의를 토대로 '보유에서 운용으로: 에이전트 AI 시대의 국가안보와 소버린 AI 2.0' 보고서를 발간했다고 밝혔다.

보고서는 AI가 질문에 답하는 수준을 넘어 스스로 판단하고 외부 도구를 활용해 복잡한 업무를 수행하는 '에이전트 AI'로 진화하면서 국가안보의 범위와 기술 주권의 개념도 달라지고 있다고 진단했다. AI 모델과 클라우드 서비스가 국경을 넘어 제공되는 만큼 특정 국가의 정책 변화나 공급망 충격이 국가의 AI 활용 능력에 직접 영향을 줄 수 있다는 판단이다.

이에 따라 기존 소버린 AI 전략의 중심축을 독자 모델 확보에서 '접근 주권'과 '운용 주권'으로 확대해야 한다고 제안했다. 접근 주권은 필요한 AI 기술과 서비스를 안정적으로 사용할 수 있는 능력, 운용 주권은 특정 모델이나 클라우드 서비스가 중단됐을 때 대체 체계로 전환해 핵심 기능을 지속하는 역량을 뜻한다.

보고서는 "모든 기술을 국내에서 독자적으로 개발하고 보유하는 것이 소버린 AI를 의미하지 않는다"며 "글로벌 생태계와 연결된 상태에서도 국가 핵심 기능이 특정 국가나 공급자에 종속되지 않는 구조를 구축해야 한다"고 강조했다.

최종현학술원과 서울대 미래전연구센터는 지난달 30일 '에이전트 AI 시대 신(新)국가안보: 글로벌 기술 패권과 한국'을 주제로 전문가 라운드테이블을 열었다. 기술·안보와 지정학·패권, 한국의 전략 등 세 분야를 중심으로 발제와 토론을 진행했으며 이번 보고서에는 당시 논의가 반영됐다.

김유석 최종현학술원 대표는 "기술 역량이 높은 동시에 대외 의존도도 큰 한국에는 이러한 변화가 특히 중요하다"며 "소버린 AI의 개념을 기술과 모델의 보유를 넘어 운용 역량과 규범 설계의 문제로 확장해야 한다"고 밝혔다. 이어 "대한민국이 규범 형성 과정의 관찰자가 아닌 참여자가 되기 위해 필요한 역량과 경험을 축적해야 한다"고 말했다.

AI 경쟁력 기준도 '최고 성능'서 '안정적 운용'으로

보고서는 에이전트 AI 시대에는 모델 자체의 성능보다 실제 업무 환경에서 AI를 얼마나 안정적으로 운용할 수 있는지가 경쟁력을 가르는 핵심 요소가 될 것으로 내다봤다.

성낙호 네이버클라우드 하이퍼스케일 AI 총괄은 에이전트 AI의 변화로 AI가 사람의 개입 없이 자율적으로 수행할 수 있는 '작업 지평(task horizon)' 확대를 꼽았다. 평가기관 METR 측정 기준으로 성공률 50%를 전제로 AI가 자율 수행할 수 있는 작업 시간은 2019년 수 초 수준에서 2026년 약 14~16시간까지 늘어난 것으로 제시됐다.

다만 모델 성능 향상이 곧바로 에이전트의 실전 경쟁력으로 이어지는 것은 아니라는 분석이다. 실제 에이전트 AI는 모델뿐 아니라 도구 연결과 메모리, 권한 관리, 결과 검증, 오류 복구, 안전장치 등을 포괄하는 '하네스(harness)'와 결합해 작동한다.

업무 시간이 길어질수록 개별 단계의 작은 오류가 누적될 가능성도 커진다. 이에 따라 단순 벤치마크 점수보다 실제 시스템에서 지속적이고 안정적으로 작동하는지가 핵심 평가 요소가 돼야 한다는 설명이다.

미국을 중심으로 확대되는 AI 접근 제한도 이런 변화와 맞물린 것으로 분석됐다. 하나의 범용 AI가 민간 업무와 연구뿐 아니라 국방과 사이버 공격에까지 활용되는 이중용도 기술로 자리 잡으면서 통제 대상 역시 물리적 제품에서 AI 모델과 서비스의 '접근권'으로 이동하고 있다는 것이다.

전문가들은 다만 지식 증류(Knowledge Distillation) 등 기술을 통해 후발 주자가 선도 모델의 능력을 일부 학습할 수 있는 만큼 접근 제한만으로 경쟁국의 기술 발전을 완전히 차단하기는 어렵다고 봤다. 통제 전략도 '막을 수 있는가'보다는 '얼마의 시간을 확보하고 그 기간을 어떻게 활용할 것인가'에 초점을 맞춰야 한다는 지적이다.

사이버 공격 자동화…방어는 '정확도'보다 '커버리지' 과제로

에이전트 AI 확산은 사이버 안보의 공격·방어 구조도 바꾸고 있는 것으로 나타났다.

박세준 티오리 대표는 최근 사이버 침해 과정에서 AI가 개입한 것으로 추정되는 공격 유형이 나타나고 있다며, AI가 단순 취약점 탐지를 넘어 여러 취약점을 결합해 실제 침해까지 이어지는 공격 과정을 자동화할 수 있다는 점에 주목했다.

특히 공격자와 방어자 사이의 '비용 비대칭'이 확대될 가능성이 제기됐다. 공격자는 반복적인 시도 가운데 한 번만 성공하면 되지만 방어자는 전체 시스템을 지속해서 보호해야 한다. AI를 활용하면 공격자는 낮은 비용으로 공격 규모를 확대할 수 있는 반면 방어자는 보안 조치가 다른 시스템에 미칠 영향까지 검증해야 한다.

전문가들은 이에 따라 개별 방어 기술의 정확도를 높이는 것만으로는 부족하며, AI 기반 방어 역량을 얼마나 많은 시스템과 자산에 적용할 수 있는지 '커버리지'를 확대해야 한다고 주문했다.

사이버·데이터·공급망 안보와 기술 주권을 각각 분리된 정책으로 다루기보다 'AI를 안정적으로 지속 운용할 수 있는 능력'을 국가 전략 자산으로 보고 통합 대응해야 한다는 것이 보고서의 진단이다.

미·중 AI 경쟁, 개별 기술 넘어 '생태계 설계권' 다툼

보고서는 미·중 AI 경쟁도 개별 모델이나 반도체의 성능 경쟁을 넘어 글로벌 AI 생태계의 '설계권'을 둘러싼 경쟁으로 확대되고 있다고 분석했다.

김상배 서울대 정치외교학부 교수는 AI가 국방·통상·산업·기술표준·플랫폼을 동시에 연결하면서 '국제질서의 AI 전환'을 촉진하고 있다고 진단했다.

특히 미국의 AI 접근 제한은 국가 간 새로운 '디지털 국경선'이 형성되는 과정으로 해석됐다. 어떤 국가가 가장 뛰어난 기술을 확보했는지만큼 누가 AI 접근 범위와 조건을 결정하느냐가 중요해지고 있다는 것이다.

미국은 첨단 반도체와 최상위 AI 모델에 대한 접근을 관리하면서 최고 성능과 안정성, 고신뢰 시장을 확보하는 '품질(Quality)' 전략을, 중국은 오픈웨이트 모델과 상대적으로 낮은 이용비용을 앞세워 개발자와 이용자 기반을 넓히는 '네트워크(Network)' 전략을 구사하는 것으로 분석됐다.

AI 패권 경쟁도 GPU와 반도체에 한정되지 않는다. 데이터센터와 에너지, 모델·소프트웨어, 클라우드·플랫폼, 서비스, 피지컬 AI까지 포괄하는 '풀스택(full stack)' 경쟁으로 번지고 있다.

전문가들은 향후 어느 국가의 인프라에서 AI가 작동하고 어떤 기술표준과 플랫폼, 비용 구조가 각국 산업과 행정·안보체계에 적용되는지가 국가 영향력을 좌우할 것으로 내다봤다.

한국형 '소버린 AI 2.0'…'완전 자립'보다 선택과 집중

한국의 전략 역시 모든 기술을 독자 개발하는 '완전 자립형' 접근보다 핵심 분야를 선별해 경쟁력을 확보하는 방향으로 재편해야 한다는 제언이 나왔다.

백서인 한양대 ERICA 글로벌문화통상학부 교수는 미국·중국과 비교해 자원이 제한된 한국이 AI와 양자정보기술, 첨단 바이오, 차세대 에너지 등 모든 전략기술에서 독자 경쟁력을 확보하는 것은 현실적으로 어렵다고 진단했다.

이에 따라 글로벌 가치사슬에서 다른 국가가 쉽게 대체하기 어려운 분야를 선별하고 역량을 집중해야 한다고 강조했다. 제조와 헬스케어, 문화 콘텐츠 등 기존 산업 강점을 극대화하는 동시에 고령화와 환경·재난 등 사회문제 해결 분야에서 차별화된 경쟁력을 확보하는 방안도 제시됐다.

이원태 국가AI전략위원회 보안특별위원장은 기존 소버린 AI 개념을 '접근 주권'과 '운용 주권'으로 확장해야 한다고 제안했다.

소버린 AI의 판단 기준도 '독자 모델을 보유했는가'가 아니라 '특정 모델이나 서비스에 대한 접근이 차단돼도 필요한 기능을 지속할 수 있는가'로 전환해야 한다는 것이다.

보고서는 이를 위해 외부의 우수한 AI 기술과 서비스를 적극 활용하되 특정 국가나 공급자에 대한 구조적 의존은 줄이는 '연결하되 종속되지 않는' 체계를 한국형 소버린 AI의 핵심 전략으로 제시했다.

메모리·데이터센터를 전략 자산으로…'AI 원자재 공급국' 탈피 주문

한국의 메모리 반도체와 첨단 제조, 데이터센터 경쟁력을 글로벌 AI 패권 경쟁에서 협상력으로 활용해야 한다는 의견도 제기됐다.

하정우 전 청와대 AI미래기획수석비서관은 메모리 반도체와 데이터센터 입지를 한국이 활용할 수 있는 주요 전략 자산으로 꼽았다.

에이전트 AI 확산으로 다양한 기기에 AI 기능이 탑재되면 LPDDR 등 D램 수요가 확대될 가능성이 높고, 추론 연산 증가에 따라 AI 데이터센터의 중요성도 커질 수 있다는 분석이다. 미국에서 전력과 규제, 주민 수용성 문제로 대규모 데이터센터 건설이 제약받는 상황 역시 한국의 전략적 가치를 높일 수 있는 요인으로 제시됐다.

다만 반도체와 데이터센터를 공급하는 데 그쳐서는 AI가 만들어내는 부가가치를 충분히 확보하기 어렵다는 지적도 나왔다.

보고서는 한국이 'AI 산업의 원자재 공급자'를 넘어 글로벌 기술과 서비스 설계 과정에 참여하고 AI가 창출하는 지식과 서비스의 고부가가치를 국내에 축적하는 구조를 마련해야 한다고 강조했다.

국내 AI 모델도 자립 자체를 목표로 하기보다 업무 특성과 비용에 따라 해외 최상위 모델과 국산 모델, 소형 모델을 함께 활용하는 '모델 믹스' 전략의 한 축으로 활용할 수 있다고 봤다. 이를 통해 해외 공급자에 대한 의존도와 비용을 낮추고 협상력도 높일 수 있다는 설명이다.

"선언보다 실행"…AI 정책에 '빠른 피드백' 필요

정부의 AI 정책 역시 선언과 계획 중심에서 벗어나 실행과 평가, 보완이 반복되는 체계로 전환해야 한다는 주문이 나왔다.

백서인 교수는 부처 간 칸막이와 기존 사업의 반복, 연구개발 중심 접근, 전략 없는 사업 난립을 국내 기술정책의 구조적 문제로 지적했다.

그는 민주주의와 기술력을 갖춘 한국을 세계가 결국 필요로 할 것이라는 낙관적 인식을 '착한 대한민국 천동설'이라고 표현하며, 기존 방식을 유지해도 기회가 올 것이라는 기대에서 벗어나야 한다고 주장했다.

새 정책을 계속 추가하기보다 기술 개발에서 제품·서비스 출시, 시장 평가, 수익화, 재투자로 이어지는 순환 구조를 실제로 작동시키는 것이 중요하다는 설명이다.

정준화 국회입법조사처 입법조사관도 정책의 실행과 평가, 보완 과정을 신속하게 반복하는 '빠른 피드백 루프' 구축을 주문했다. 미국과 중국의 시행착오를 모두 피할 수 없다면 시행·평가 기간을 줄이고 결과를 후속 정책과 입법에 빠르게 반영해야 한다는 취지다.

AI 외교에서도 이미 만들어진 국제규범과 기술표준을 수용하는 데 그칠 것이 아니라 형성 초기부터 규칙 설계에 참여해야 한다고 제언했다.

보고서는 소버린 AI 2.0의 주요 과제로 국가안보와 AI 주권 개념 재정립을 비롯해 전략기술 선택과 집중, 국가 차원의 자원 배분 원칙, 산업 레버리지 활용, AI 투자 회수 전략, 국제규범 대응, 실행 중심 정책체계, 인재·데이터 기반 강화 등을 제시했다.

보고서는 "향후 AI 패권 경쟁의 관건은 가장 뛰어난 모델을 만드는 국가가 되는 데 있지 않다"며 "글로벌 생태계에서 대체하기 어려운 역할을 확보하고 전략적 자율성을 유지하면서 국제질서와 기술규범 설계에 얼마나 참여하느냐가 중요하다"고 결론 내렸다.

이어 "이 모든 판단에는 시한이 붙어 있다"며 한국의 '소버린 AI 2.0' 전략 수립과 실행을 서둘러야 한다고 강조했다.