AI 보안의 성역이 무너졌다! 카이스트 '모델스파이' 6m 거리에서 AI 모델 설계도 탈취 97% 성공과 기업 대응 전략

 

[30초 핵심 요약]

1. 이슈: 카이스트(KAIST) 연구팀이 서버 해킹 없이 물리적 장벽 너머에서 AI 모델의 설계도(레이어 구성 및 설정값)를 탈취하는 '모델스파이(ModelSpy)' 기술을 개발함.
2. 핵심 원리: AI 연산 시 발생하는 미세 전자기파를 분석해 딥러닝 모델의 구조를 최대 97.6% 정확도로 복원. 직접 침투 없이 최대 6m 거리에서도 작동 가능.
3. 시사점: 그동안 '블랙박스'로 여겨졌던 AI 모델의 보안 취약점이 드러남에 따라, 국가 핵심 기술인 AI 설계 자산(IP) 보호를 위한 물리적·전자기적 보안 대책 마련이 시급함.

서버 침투 없는 해킹의 시대, AI 블랙박스가 열리다

인공지능은 현대 산업의 가장 강력한 무기이자 보호받아야 할 핵심 지식재산권입니다. 기업들은 자사의 AI 모델을 외부에서 알 수 없도록 '블랙박스' 형태로 운영하며, 서버 보안에 수조 원을 투자합니다. 하지만 최근 카이스트 한준 교수팀이 싱가포르국립대(NUS), 중국 저장대와 공동 연구를 통해 발표한 소형 안테나만으로 원거리에서 AI 모델 구조를 탈취할 수 있는 공격 시스템 '모델스파이(ModelSpy)' 기술은 이러한 기존의 보안 상식을 완전히 뒤흔들어 놓았습니다.

 

네트워크를 통한 데이터 탈취나 악성코드 심기 같은 전통적인 해킹 방식이 아닙니다. 연구팀은 AI 전용 칩이 연산을 수행할 때 발생하는 미세한 전자기파에 주목했습니다. 벽 너머, 혹은 최대 6m 떨어진 곳에서 센서를 통해 흘러나오는 전자기 신호를 수집하는 것만으로도 해당 AI가 어떤 구조로 설계되었는지, 레이어는 어떻게 구성되었는지를 알아낼 수 있다는 것입니다.

 

물리적 보안의 허점을 찌른 전자기파 분석 기술

모델스파이 기술의 핵심은 AI 가속기(NPU, GPU 등)가 각 레이어를 처리할 때 소모하는 전력과 그 과정에서 방출되는 전자기파가 모델의 구조에 따라 고유한 패턴을 가진다는 점에 있습니다. 연구팀은 이 신호를 딥러닝으로 재학습시켜 역으로 설계도를 추론하는 방식을 사용했습니다.

그 결과는 가히 충격적입니다. 딥러닝 모델의 핵심인 레이어 구성을 무려 97.6%의 정확도로 맞혔습니다. 이는 사실상 AI 모델의 유전자를 그대로 복제할 수 있는 수준입니다. 기술 유출을 막기 위해 겹겹이 쌓아 올린 방화벽과 서버 보안 시스템이 전자기파라는 물리적 통로 앞에서는 무용지물이 될 수 있음을 시사합니다.

국내외 산업 영향과 투자자 대응 가이드

이 기술은 단순한 학술적 성과를 넘어 전 세계 AI 산업계에 커다란 경종을 울리고 있습니다. 특히 AI 반도체와 거대언어모델(LLM) 개발에 사활을 건 우리나라 기업들에게는 직간접적인 위협이자 기회가 될 것입니다.

1. AI 지식재산권(IP) 보호의 패러다임이 바뀔 것입니다. 소프트웨어적인 보안뿐만 아니라, 데이터 센터의 전자기파 차폐(Shielding) 기술과 같은 물리적 보안 솔루션의 수요가 급증할 것으로 보입니다. 투자자들은 이제 단순 AI 소프트웨어 기업을 넘어, 전자기파 차단 소재나 물리적 보안 인프라를 제공하는 하드웨어 보안 기업에 주목해야 합니다.
2. 국가 간 기술 패권 경쟁에서 '방어 전략'의 중요성이 커집니다. 우리나라는 반도체 강국으로서 AI 칩 설계 기술을 보유하고 있습니다. 설계 단계에서부터 전자기파 노출을 최소화하거나 노이즈를 섞어 추론을 방해하는 '보안 설계(Security by Design)' 기술이 향후 반도체 경쟁력의 핵심 지표가 될 것입니다.
3. 기업들은 클라우드 의존도를 재검토할 가능성이 있습니다. 민감한 AI 모델을 구동하는 서버가 물리적으로 어디에 위치하는지, 주변에 어떤 장치가 있는지에 대한 통제권이 중요해지면서 프라이빗 클라우드나 온프레미스 구축 수요가 다시금 고개를 들 수 있습니다.

 

미래를 보는 눈: 창과 방패의 싸움에서 찾는 투자 기회

전문가로서 제언하자면, 이번 카이스트의 연구는 AI 보안 시장의 '블루오션'을 열었다고 평가할 수 있습니다. 기술은 항상 공격이 먼저 나오고 그 뒤를 이어 방어가 발전합니다. 연구팀은 모델스파이라는 강력한 '창'과 함께 ' 전자기파 교란'이나 '연산 난독화' 등과 같은 대응할 '방패' 기술도 함께 제시했습니다.

 

따라서 투자자들은 다음 세 가지 분야를 눈여겨보시기 바랍니다.

1. 전자기 차폐 및 흡수 소재: 서버실 벽면이나 칩 케이싱에 들어가는 특수 소재 기업.
2. 보안용 반도체 설계 자산(IP): 칩 수준에서 전력 분석 공격을 방어하는 기술을 보유한 팹리스.
3. 물리 보안 통합 관제 시스템: 인가되지 않은 센서나 장비의 접근을 6m 이내에서 감지하는 시스템.
4. 연산 난독화 알고리즘: GPU가 동작하는 과정에서 발생하는 전자기파의 해석을 불가능하게 만드는 연산 난독화 알고리즘 설계 기술을 보유한 기업.

 

Q&A: 궁금한 점을 풀어드립니다

Q1. 이 기술로 일반 개인의 스마트폰도 해킹당할 수 있나요?

A1. 이론적으로는 가능합니다. 스마트폰의 얼굴 인식이나 음성 인식도 AI 모델을 사용하기 때문입니다. 다만, 모델스파이는 주로 모델의 '설계도'를 훔치는 데 특화되어 있어 개인 정보 자체를 빼내는 것과는 결이 다릅니다. 하지만 설계도가 유출되면 해당 AI의 취약점을 찾기 쉬워져 간접적인 위험이 생길 수 있습니다.

 

Q2. 벽이 있어도 정말로 정보를 빼낼 수 있나요?

A2. 네, 전자기파는 특정 주파수 대역에서 벽면을 투과하는 성질이 있습니다. 이번 연구는 콘크리트 벽 너머에서도 유의미한 신호 수집이 가능함을 입증했습니다. 이는 보안 구역 내부에 들어가지 않고도 외부에서 전략적인 스파이 활동이 가능함을 의미합니다.

 

Q3. 기업들은 당장 무엇을 해야 할까요?

A3. 가장 시급한 것은 물리적 접근 제어 강화와 전자기파 차폐입니다. 데이터 센터 건립 시 전자기파 노이즈를 발생시키거나 외부 유출을 막는 설계를 도입해야 하며, 소프트웨어적으로는 연산 패턴을 무작위화하여 신호 분석을 어렵게 만드는 기법을 적용해야 합니다.

 

Q4. 우리나라 AI 산업에 악재인가요, 호재인가요?

A4. 단기적으로는 보안 위협이지만, 장기적으로는 호재입니다. 이런 취약점을 먼저 발견하고 방어 기술을 개발하는 능력이 곧 국가 경쟁력이기 때문입니다. 카이스트가 이 분야에서 세계 최고 수준의 성과를 냈다는 것은 국내 보안 기술 산업이 글로벌 표준을 선도할 기회를 잡았다는 뜻이기도 합니다.