| ▶ 알립니다. |
| * 인터뷰를 인용보도할 때는 프로그램명 'CBS라디오 <박성태의 뉴스쇼>'를 정확히 밝혀주시기 바랍니다. 저작권은 CBS에 있습니다. * 아래 텍스트는 실제 방송 내용과 차이가 있을 수 있으니 보다 정확한 내용은 방송으로 확인하시기 바랍니다. |
◇ 박성태> 지난달 말 은행, 저축은행, 캐피털 등 7곳이 잇따라 해킹을 당했습니다. 그런데 이 해킹에 AI가 사용된 흔적이 발견됐습니다. 그러면 AI 해킹은 어떻게 이루어지고 또 앞으로 위험은 어떻고 그리고 우리는 어떻게 막을 수 있는지 또는 막을 수는 있는지. 오늘 금융치료에서 고란 경제 전문기자 또 김승주 고려대 정보보호대학원 교수와 함께 짚어보도록 하겠습니다. 안녕하십니까?
◆ 고란> 안녕하세요.
◆ 김승주> 안녕하십니까?
◇ 박성태> AI 해킹. 말로만 좀 무시무시하게 들었는데 일단 우리나라에서 벌어졌습니다. 지난달 28일 이후에 신한은행 등 7곳에서 해킹이 됐는데 피해 규모가 어느 정도입니까? 고란 기자.
◆ 고란> 일단 신한은행 같은 경우에는 2만 5천여 건이 유출이 됐고요. 이름, 전화번호, 연소득, 대출 산출 한도, 대출 신청 상태 등이 포함이 됐습니다. 일부 주민등록번호나 CI도 포함이 됐고요. 여기가 좀 제일 심각하고요. KB국민은행 같은 경우는 153건 그리고 하나은행 89건 그리고 BNK 부산은행은 고객 정보는 아니고요. 외주 시스템 개발 직원 11명 인적사항 정보가 나갔고요. 예가람저축은행에서 4만여 건 규모는 제일 큽니다. 그리고 웰컴저축은행 2200건, 현대캐피탈은 주택 대출 모집인 146명의 인적 사항이 유출됐습니다.
◇ 박성태> 이게 이제 AI 해킹이다. 또 중국 AI 프로그램, 해킹 프로그램이 사용된 흔적이 있다 이런 걸로 나오는데 이건 어떻게 확인이 되는 건가요?
◆ 김승주> 일단은 지금 말씀하신 건 이제 정황이고요.
◇ 박성태> 정황.
◆ 김승주> 그러니까 공격에 사용됐다는 어떤 서버를 분석해 보니까 거기에 그런 정황이 있었다라는 얘기고 지금 거론되는 건 이제 아텍스라고 하는 걸 겁니다.
◇ 박성태> 아텍스요?
◆ 김승주> ARTEX라고 그래서 이거는 이제 어떤 특징이 있냐 하면 우리 어떤 컴퓨터에서 해킹 공격을 받을 만한 취약한 부분이 있는가, 이걸 점검해 주는 도구입니다.
◇ 박성태> 그런 프로그램이군요.
◆ 김승주> 그런 프로그램인데 그걸 이제 악용했을 가능성이 있다라고 보는 거고요. 그런데 이 프로그램의 특징은 지금 우리가 LLM이라고 그러는 AI 서비스들이 있지 않습니까? 그래서 기존 AI 서비스들과 연동시킬 수가 있습니다. 그래서 지금 기본적으로 엔트로픽의 클로드라든가 오픈 AI AI라든가 아니면 기타 다른 AI 서비스를 이용자가 원하는 대로 연동시켜서 해킹 취약점을 탐지하는 데 쓰는 솔루션입니다. 그리고 기본적으로 중국어를 지원하게 돼 있고요. 그래서 지금 언론상에 보면 중국 AI가 한국을 공격했다, 이런 타이틀을 달고 나오는 언론들이 있는데 대단히 잘못된 표현입니다.
◇ 박성태> 그건 잘못된 거군요.
◆ 김승주> 오히려 사용됐다라면 어떤 오픈 AI나 엔트로픽 클로드 같은 게 사용됐을 확률이 더 높습니다.
◇ 박성태> 잠시만요. 아텍스라는 침입 방지. 미리 탐지하는 그런 솔루션 프로그램이 있고 근데 이거를 오픈 AI나 엔트로픽의 AI랑 연동시킬 수가 있고.
◆ 김승주> 다른 AI하고도 연동할 수 있고.
◇ 박성태> 다른 AI도 근데 누군가 이걸 연동해서 아텍스를 사용해서 해킹했다는 거군요.
◆ 김승주> 그럴 정황이 있다는 거고요.
◇ 박성태> 그럴 정황이 있다는 거고.
◆ 김승주> 그다음에 이 아텍스라는 프로그램은 모든 걸 자동으로 해 주는 게 아니고 우리가 공격하는 일련의 과정이 있을 거 아닙니까? 거기서 일부는 사람이 담당하고 일부는 AI가 담당하고 이렇게 이제 혼합해서 사용할 수 있도록 돼 있습니다.
◇ 박성태> 근데 제가 궁금한 게 사실 우리가 해킹하면 막 수만 건, 수십만 건 심지어 수천만 건도 개인 정보가 이른바 누출됐다, 이런 표현들을 쓰잖아요. 그런데 신한은행이 2만 5천건으로 좀 많고 하나은행은 89명의 대출 상담 내역. 이 정도를 뽑아내려고 해킹했을 것 같지는 않고 이게 누가 왜 했는지 좀 저는 약간 의아한 것도 있더라고요.
◆ 김승주> 그러니까 AI라고 하는 것 자체가 기본적으로 사람보다 어떤 일들을 빨리 한다라고 보시는 게 좋을 것 같아요. 그래서 AI라고 하는 건 기본적으로 과거 여러 가지 해킹하는 데 사용된 공격 기법들이 있을 거 아닙니까? 그걸 데이터베이스화해서 갖고 있습니다. 알려진 공격 기법들이니까. 그런 것들을 이제 무작위로 막 시스템들에 대입해 보는 거라고 생각하시면 되거든요. 특히나 이제 요새 에이전트들이 있으니까 이 에이전트들이 자기 임무를 나눠서 동시다발적으로 물량 공세를 하는 거죠. 그래서 이번 사건도 기상천외한 공격으로 뚫렸다, 이렇게 생각하시면 안 되고. 사람이 할 수 있는 건데 AI가 워낙 빠르기 때문에 사람이 할 수 있는 공격을 대신해서 뚫었다라고 보시면 되고 왜 조그마한 사이트들이 뚫렸냐 하면 우리가 보통 집 대문은 열심히 잘 지키잖아요. 그런데 쪽문들 이런 것들은 제대로 파악도 안 되고 대문처럼 엄밀히 관리를 안 하거든요. 그러다 보니까 뚫렸다, 초보적인 방법으로. 이렇게 보셔야 될 것 같습니다.
◇ 박성태> 뒷담이 높고 여기에 가시나무가 있고 그래서 저쪽은 안 들어오겠지 하고 대충 막아놨는데 AI가 워낙 부지런하니까 그쪽으로 왔다 이런 거네요.
◆ 김승주> 맞습니다.
◇ 박성태> 알겠습니다. 이 부분 좀 뒤에 더 살펴보도록 하고요. 이번에 인증 절차가 여러 기업인데 앞서 교수님도 말씀해 주셨지만 그러면 우리나라 금융기관들은 이런 부분들은 좀 되게 소홀했었나, 이런 의문이 드네요.
◆ 고란> 아까 교수님이 말씀하신 대로 지금 뚫렸다라고 하는 게 예를 들면 이제 신한은행 같은 경우에 아마 고객분들이 되게 많이 놀라셨을 것 같아요. 저도 신한은행 있는데 이렇게 그 앱을 열면 그 이제 고객들이 주로 접속하는 그 앱 있잖아요. 그게 뚫린 건 아닙니다. 그게 아니라 대출 모집인이 사용하는 내부 직원이 사용하는 보조 업무용 모바일 웹 페이지 같은 게 이제 뚫린 거라고 보시면 되거든요. 그러니까 대문은 점검을 철저히 하고 있는데 쪽문 같은 경우에는 그 보안 절차가 굉장히 허술했다라고 해요. 그래서 정상 로그인 화면 및 인증 절차 거치지 않고 그냥 URL 직접 입력하거나 인증 요청 강제로 조작해서 이제 들어가는 방법 이걸 썼는데 특히나 이제 신한은행 같은 경우에 제가 되게 깜짝 놀랐던 게 뭐냐 하면 이게 그 크리덴셜 스터핑. 아마 더 잘 아실 텐데 무차별 대입 방식으로 이제 외부 계정을 탈취를 합니다. 그다음에 거기다 아이디랑 그다음에 비밀번호를 그냥 무차별로 대입을 하는 거예요. 하다 보면.
◇ 박성태> 쳐보는 거군요.
◆ 고란> 하다 보면 걸리잖아요.
◇ 박성태> 그걸 했다는 거예요?
◆ 고란> 그것도 그게 만약에 뭔가 이렇게 디도스 공격 같은 거면 막 들어오게 되면 여기서 인지를 할 거 아니에요. 그래서 이게 약간 사람이 하는 것과 비슷한 느낌이 나도록 4초에 한 번씩 했다는 거예요. 그렇게 해서 이걸 뚫었다라는 거죠. 이런 식으로 보자면 원래 뭐랄까 본진 같은 경우에는 굉장히 보완을 좀 잘해 놨는데 이 옆에 있는 그 쪽문 같은 경우에는 저기 누가 들어오겠어 그리고 사실 이게 있다는 존재 자체도 잘 모르거든요.
◇ 박성태> 사실 신한은행이 뚫린 곳은 대출 모집인이 조회하는 곳입니다.
◆ 고란> 맞습니다.
◇ 박성태> 그러니까 여기는 소수만 원래 들어갈 수 있는 곳이니까 그만큼 많이 안 해놨다는 거군요. 정보도 사실 소수만 있을 수도 있고.
◆ 고란> 그렇죠. 게다가 이런 페이지가 있는 것 자체도 아마 대부분이 다 모를 텐데 교수님 말씀하신 대로 AI가 그냥 무차별적으로 다 스캐닝을 해버리면서 보안에 취약한 곳을 이제 들어가 버리게 되는 거죠. AI가 하니까 이른바 이제 자동화가 되는 거고 사람이 예를 들어서 한 달에 걸쳐서 할 일을 AI는 1시간 만에 그냥 다 끝내버리는 상황이다 보니까 무차별적으로 이런 약간 취약한 금융회사의 페이지들을 다 들어가서 뚫어버렸다.
◇ 박성태> 그러면 이런 쪽문들은 어떻게 보면 쪽문 뒤에는 자그마한 창고가 있다고 가정했을 때 사람이 하기에는 들인 노력만큼 들어가서 먹을 게 없으니까 안 들어갈 텐데 AI는 노력이 적으니까 너 한번 뚫어봐.
◆ 고란> 그렇죠.
◇ 박성태> 다 뚫었다는 얘기네요.
◆ 고란> 게다가 그 사람 같은 경우는 이 쪽문이 있나 없나도 파악하는 데 좀 시간이 오래 걸리는 반해서 얘는 그냥 다 있구나를 이제 다 파악을 하는 거죠.
◇ 박성태> 알겠습니다. 그런데 지금까지 7개 금융기관이 얘기가 됐는데 혹시 더 나올 수 있습니까? 왜냐하면 지금 전수조사를 한 건 아니기 때문에.
◆ 고란> 이게 특정 금융사 한두 곳을 목표로 정밀 타격한 게 아니고요. 그리고 이제 뭐 굉장히 몇 달에 걸쳐서 막 해킹 작업 이걸 한 거 아니라 그냥 자동화를 통해서 전 금융권의 외부 연결 접점, 특히나 이제 대출 모집인 사이트, 직원용 모바일 앱 이런 것들을 무차별 스캔하면서 침투한 정황이 발견된 거예요. 특히나 이제 유출이 확인된 웰컴 저축은행, BNK 부산은행, 하나은행 이게 자체 실시간 모니터링으로 공격을 즉시 차단한 게 아니라 사고 발생한 다음에 긴급 점검해 봐라라고 하니까 우리 뚫렸었네라고 하는 겁니다. 그러니까 다른 곳도 나올 수 있는 거죠.
◇ 박성태> 사실은 뭐 이거 위험하니까 지금 막 나오니까 우리도 해보자 조사해 보자라고 하기 전에는 몰랐다는 얘기네요.
◆ 고란> 그렇죠.
◇ 박성태> 알겠습니다. 혹시 빠져나간 정보도 위험한 정보입니까, 어떻습니까?
◆ 고란> 이게 지금 신한은행 같은 경우가 대출 신청 고객인들의 상세 신용 정보가 노출이 됐어요. 그러니까 이름, 생년월일, 전화번호, 연소득, 대출 산출 한도, 대출 신청 상태가 들어가 있습니다. 고객 주민등록번호나 본인 인증 연계 정보 CI 정보 같은 게 들어갔는데 이게 문제가 그 위험한 게 뭐냐고 하면 사실 이거 자체만으로는 아닌데 2차 피해가 우려가 되는 거예요.
◇ 박성태> 예를 들면.
◆ 고란> 예를 들면 제가 신한은행에서 마침 대출을 한번 신청을 하려고 해 봤어요. 근데 이게 이제 노출이 된 거예요. 근데 전화가 오는 거죠. 고객님 신한은행에서 대출 정보 조회하셨죠? 그런데 신한은행 대출보다 훨씬 더 유리한 국책 대출이 있습니다. 정부에서 지원하는 금리가 뭐고 뭐고 합니다라고 하면서 안내를 하는 거예요. 그럼 이 사람 입장에서는 내가 진짜 신청을 해 봤고 그때 금리가 나왔는데 그것보다 더 싼 금리로 안내를 해준다라고 하니까 당연히 혹하게 되는 거죠. 그래서 이걸 받으시려고 하면 기존 대출 갚으셔야 됩니다라고 하면서 특정 계좌로 입금을 유도한다든가 이런 식으로 2차 피해가 발생할 수 있는 거죠.
◇ 박성태> 일단 유출된 정보 자체로 어떤 범죄를 바로 하지는 못하지만 보이스피싱 같은 데 활용될 수 있다는 거군요.
◆ 고란> 맞아요. 게다가 보이스피싱이 굉장히 구체적인 정보가 있기 때문에 타겟팅이 돼서 들어가서 속기가 굉장히 쉬운 구조가 돼버리는 거죠.
◇ 박성태> 신한은행 계열사입니다 하고 연락올 수 있다는 거군요.
◆ 고란> 맞아요.
◇ 박성태> 저도 신한은행 주로 쓰는데. 알겠습니다. 일단 교수님, 앞서 말씀하신 대로 쪽문들을 다 봤다고 그랬잖아요, AI가. 그럼 누가 어떤 의도를 했을까요? 지시를 내린 건 사람일 거 아닙니까?
◆ 김승주> 그렇죠 그런데 그건 조금 더 조사를 해봐야 할 것 같고요. 지금 사실은 아까 말씀드렸듯이 AI가 실제로 활용됐는지 아닌지 자체도 아직은 확인된 게 아닙니다. 그래서 금융당국도 그건 명확히 했고요.
◇ 박성태> 이건 추정이군요, 현재는.
◆ 김승주> 그렇죠. 그리고 앞부분에 이제 피해를 받은 은행들을 쭉 열거해 주셨잖아요. 그중에는 이건 AI 공격은 아닌 것 같은데 그래서 결이 다른 것도 좀 있습니다. 보통 이런 사고가 나면 언론사에서 계속 보도들을 몰아서 묶어서 보내기 때문에.
◇ 박성태> 저도 언론에 있었지만 그런 경향이 있습니다.
◆ 김승주> 지금 착시 현상이 좀 있다라고 보시면 될 것 같습니다.
◇ 박성태> 알겠습니다. 그러면 AI가 지금 일부는 그러면 예를 들어 신한은행이든지 좀 큰 곳은 AI가 이용됐을. 그러니까 오용이죠, 정확히 따지면. 오용됐을 가능성이 크다고 볼 수 있겠죠.
◆ 김승주> 지금 뭐 정확이라고 말씀드렸지만 가능성은 높고요. 여기서 우리가 좀 명확히 알아야 되는 건 지금 우리가 금융기관을 중점적으로 조사해서 야, 금융기관이 공격당하고 있어 이런 거지. 사실은 금융기관 외에 다른 영역들도 공격을 이미 받았는데 모르고 있을 확률이 굉장히 높습니다. 그래서 사실은 금융기관만 타겟팅한 건지 아니면 우리나라 전체가 공격받고 있는데 모르는 건지 이건 따져봐야 될 필요가 분명히 있습니다.
◇ 박성태> 그러네요. 지금 동일 IP로 금융기관들이 다 유입됐다고 그러더라고요. 그러면 동일인이 지금 이걸 하고 있다, 동일 조직이. 이렇게 봐야 됩니까?
◆ 김승주> 그러니까 동일 IP라고 하는 건 이제 컴퓨터가 같은 위치에 있다라는 얘기니까 사실은 그럴 확률이 굉장히 높겠죠. 그런데 사실은 공격하는 사람이 AI 기반 도구까지 쓸 정도면 상대방이 IP를 추적할 거야, 이런 것들을 아는 건 기본 상식이거든요. 그래서 보통은 해킹을 할 때 또 IP를 숨기는 작업들을 많이 합니다. 근데 이제 생각보다 쉽게 동일한 IP도 많이 나오고 아텍스라는 걸 썼을지도 모른다, 이런 어떤 정황들이 자꾸 나오는 걸 봐서는 어떤 일부 전문가들은 야, 이게 본격적인 공격이 아니라 맛보기 정도로 한번 테스트해 본 거 아니야 이런 얘기도 하고 있습니다.
◇ 박성태> 예전에는 이런 대규모. 각 기관마다는 소규모일 수 있지만 전체적으로 대규모가 될 수도 있는 말씀하신 대로 지금 금융기관만 봐서 그렇지 다른 곳도 될 수 있는 그런 상황인데 그러면 배후에 천재 해커든 천재 해커 조직이 있다, 이렇게 봐야 될 텐데.
◆ 김승주> 그건 아닐 것 같고요.
◇ 박성태> 지금은 그냥 동네 김 씨가 좋은 AI를 써서 할 수도 있다라는 건가요?
◆ 김승주> 그렇죠. 그러니까 우리가 이제 AI가 생성형 AI가 나오면서 멋진 그림들을 되게 쉽게 그릴 수 있지 않습니까? 그렇듯이 AI 기반의 해킹 도구가 나오면 아주 뛰어난 능력이 없어도 해킹을 조금 더 쉽게 할 수 있습니다. 그래서 우리가 보통 해킹이 대중화돼 있다, 이렇게 얘기를 하는데 그래서 AI 해킹 도구는 앞으로 계속 나올 것이고 그럴수록 비전문가도 공격하기가 쉬워졌다. 그래서 앞으로 이런 공격은 계속해서 빈번하게 발생할 거다, 이렇게 봐야 될 것 같습니다.
◇ 박성태> 그러니까요. 한 3, 4년 전만 해도 앞으로는 코딩이다 그래서 다 코딩 교육시키고 그랬는데 지금은 코딩은 AI가 해준다.
◆ 고란> 지금 대학교에서 제일 취업 안 되는 과가 컴퓨터공학과라는 얘기가 있던데.
◆ 김승주> 요새 나아졌습니다.
◇ 박성태> 교수님, 나아졌습니까? 그런데 지금 그만큼 중요한 전산이나 컴퓨터 공학의 그런 것들을 이제 AI가 대신 해 주잖아요. 해킹도 프롬프트. 그러니까 이에 대한 지시만 사람이 일반인 김 씨가 해도 AI가 잘 수행해서 될 수 있는 그런 위험성이 된 거군요.
◆ 김승주> 그렇죠. 그러니까 사람은 계획을 세우는 플래너 역할을 하는 거고요. 나머지 것들은 이제 에이전트들이 그 임무를 받아서 대신 수행한다. 그것도 24시간, 365일.
◇ 박성태> 365일 저렴하게.
◆ 김승주> 그렇죠.
◇ 박성태> 알겠습니다.
◆ 고란> 그래서 그 맥락에서 제가 교수님한테 묻고 싶었던 질문이 저는 이 사건이 나오자마자 그게 떠오르더라고요. 그 몇 달 전에 이제 미토스가 나오면서 연준에서 그때 당시에 JP 모건이 미국에 있는 되게 유명한 금융회사들을 다 불러 모아놓고 미토스가 금융회사를 해킹할 수도 있으니까 그런 위험에 대해서 뭔가 논의하는 비공개 회의라서 무슨 얘기가 오갔는지는 알 수 없지만 회의가 열렸다라는 보도가 나왔었거든요. 그것과 같은 맥락에서 이번 해킹 사태를 봐야 되는 건지.
◆ 김승주> 우리 과기정통부 부총리께서도 얘기를 하시지만 많은 분들이 AI 기반의 해킹 도구다, 그러면 굉장히 똘똘한 AI가 하나 있고 그걸 이용해서 해킹을 하는 거다. 그래서 일단 굉장히 성능 좋은 AI가 있어야 된다, 이렇게 생각하시는 경우가 많아요. 근데 그렇지는 않고요. 실제로 지금 공격에 쓰이는 것들은 우리가 돈 내고 쓰는 상용 AI 또는 오픈소스 AI들이라고 보시면 됩니다. 그래서 이론적으로 보면 아주 미토스급의 슈퍼 AI가 아니더라도 이미 공개돼 있는 상용 AI들을 여러 개를 잘 묶어서 어떤 저희는 이제 그걸 뭐 하네싱이라고 얘기하는데 잘 이렇게 조합만 잘해도 미토스보다 훨씬 뛰어난 성능을 낼 수 있다. 이게 정설이고요. 이미 미토스보다 더 뛰어난 어떤 성능을 발휘하는 그런 해킹 방어 도구, AI 해킹 방어 도구들이 국내에 나와 있습니다. 국내 기술력으로 개발된 그런 도구들이 이미 존재합니다.
◇ 박성태> 지금 말씀은 미토스가 뚫으려고 해도 더 기술력이 높은 방어 도구가 있다라는 말씀이신가요?
◆ 김승주> 그렇죠. 미토스가 찾는 취약점보다 더 빠르고 더 많이 찾아내는 겁니다.
◇ 박성태> 그럼 앞서 지금 이번 해킹만 두고 보면 지금 말씀으로 들으면 이거는 한 2만 5천원 정도 되고.
◆ 고란> 맞아요.
◇ 박성태> 동네 김 씨가 김박동 씨라고 하겠습니다. 혹시 동일인에게는 제가 유감을 좀 말씀드리고 김박동 씨가 내가 한번 해봐야 되겠어라고 한 걸로 지금 나라가 떠들썩해질 수도 있는. 그러면 다음 달에는 박막동 씨가 또 나도 해봐야 되겠어 그럼 또 떠들썩해질 수 있는 그런 거잖아요.
◆ 김승주> 그런 문제가 생길 수 있죠. 보통 일반적으로 대기업들이 만드는 AI들은 가드레일이라고 그래서 해킹 관련한 명령어를 넣으면 이제 차단시킵니다. 이런 기능들이 기본적으로 있습니다. 물론 그게 우회되기도 하지만 그런데 AI 중에는 오픈 소스도 있고 또 중국에서 개발된 AI들은 그 가드레일이 좀 약한 경우들이 있습니다. 그래서 이런 것들을 조합해서 쓸 경우에는 일반인들도 쉽게 이제 악용할 수 있죠. 그래서 전문가들이 이제 얘기할 때 뭐라고 그러냐 하면 지금 AI가 문제가 아니고 그 AI 도구를 악용하는 사람들이 문제인데 워낙 오픈 소스들도 많고 이래서 그런 것들을 통제하는 게 쉽지가 않다, 이런 얘기들을 하는 겁니다.
◇ 박성태> 그럼 어떻게 해야 되나요? 이제 누구나 이제 뭐 옆집 토마스 갈 수도 있고 무수한 이런 일들이 생길 텐데 어떻게 대비를 해야 됩니까, 그러면.
◆ 김승주> 제가 이 얘기를 한 사실은 하고 싶어서 나왔는데 이번에 이제 아텍스라는 게 쓰였고 이게 AI와 연동된 것 같습니다. 그런데 그렇다라고 그래서 AI가 기상천외한 공격을 해서 뚫린 게 아니거든요. 굉장히 초보적인 해킹 기법으로 뚫린 겁니다. 그럼 왜 뚫렸는가, 대문은 잘 지켰는데 미처 모르고 있던 쪽문들이 있는 거예요. 대문 수준으로 관리 안 되고 있는 쪽문들이 있었었던 겁니다.
◇ 박성태> 그건 우리나라 기업들도 또 금융기관들이 많은 보안 시스템이 그래 왔다는 거군요.
◆ 김승주> 그게 문제가 돼서 뚫린 거거든요. 근데 문제는 이런 것이 문제가 됐던 게 작년에 롯데카드 사건입니다. 롯데카드가 뭐가 문제였냐 하면 롯데카드의 여러 개인정보 데이터베이스가 있는데 그 데이터베이스 중에 하나가 제대로 보안 업데이트가 안 돼 있었습니다. 근데 그게 왜 보안 업데이트가 안 돼 있었는가라고 물어봤더니 그게 이제 중국계 신용카드와 연계된 거였어요. 근데 중국계 신용카드는 별로 우리나라에서 안 쓰니까 그게 존재하는지 자체를 모르고 있었던 겁니다.
◇ 박성태> 담당자들이.
◆ 김승주> 그렇죠. 그러니까 업데이트 안 한 거죠.
◇ 박성태> 최 과장님이 잠깐 잊고 있었다는 거군요.
◆ 김승주> 그러다 그게 뚫린 거거든요. 사실은 우리가 이렇게 AI 도구가 와서 얘가 무차별적으로 모든 것들을 전수 조사하는 시기에는 우리 회사의 PC가 몇 대고 거기에는 소프트웨어가 어떤 것들이 깔려 있고 이게 보안 업데이트가 제대로 됐는지 또 인터넷과 연결된 PC는 몇 대인지 이런 우리가 보통 그걸 자산 파악 이렇게 얘기합니다. 그런 것들을 제대로 파악하는 게 굉장히 중요합니다. 그런데 이번 사건 그리고 작년에 있었던 롯데카드 사건은 자산 파악 자체가 제대로 이루어지지 않아서 생긴 겁니다. 그런데 더 문제가 되는 건 제가 이거 갖고 왔는데 이게 그 김남근 위원께서 작년에 낸 자료거든요. 이게 작년 10월에 낸 자료입니다. 보시면 현재 진행 중인 현재 진행 중인 전수조사 시 관리의 사각지대가 없도록 하겠다, 이 말을 누가 했냐 하면 이억원 금융위원장께서 하신 말씀이거든요. 그리고 이거 말고도 범부처 합동 대책 그래서 모든 국가 시스템을 전수조사하겠다라고 부처 합동으로 발표도 했습니다. 그런데 작년에 그 발표가 제대로 안 된 거였다, 이렇게 얘기할 수 있죠. 그래서 저는 이번 사건은 약간 인지에 가깝다라고 봅니다.
◇ 박성태> 전수조사하고 여기에 대한 대책을 마련하겠다라고 정부 발표하는데 보통 대부분은 그렇게 산하 기관이나 또는 각 금융기관 또는 예를 들어 공공기관이면 공공기관에 지시를 하고 말죠. 근데 거기서는 이제 또 할 일이 많으니까 왜 그러냐면 전수조사를 그쪽 다른 쪽에서도 공정위도 하라고 그러고 하니까 놓치고 있는데 이런 게 벌써.
◆ 김승주> 전수조사해 이러고서는 회사가 목록을 주면 그냥 했나 보다 뭐 이런 거겠죠.
◇ 박성태> A가 워낙 부지런하니까 예를 들어서 뭐 휴직자 김 씨의 PC에 보안에 약간의 구멍이 있다, 그냥 버려진 PC에. 이런 데도 뚫고 들어온다 이런 말씀이군요.
◆ 김승주> 그러니까 실제로 현장에 가보면 이거 왜 이렇게 관리가 안 됐어요. 그러면 담당자들이 그런 게 작동하고 있다는 건지도 저희도 몰랐습니다. 이런 경우가 정말 많거든요.
◇ 박성태> 그러면 AI, 부지런한 AI의 도입 때문에 전체적으로 업그레이드를 하고 철저해야 되겠군요.
◆ 김승주> 그렇죠 그러니까 AI가 기상천외한 공격을 할 수도 있습니다. 하지만 대부분의 공격은 막을 수 있는데 우리 대처가 늦어서 못하는 거거든요. 그래서 사실 지금 빨리 해야 되는 건 국가 차원에서 모든 기업들이 자산을 식별하고 그 자산에 대해서 보완 조치가 어떻게 돼 있는지를 확인하는 겁니다.
◇ 박성태> 알겠습니다. 지금 이번 건은 그러면 사실은 범용 AI를 이용해서 예를 들어 김막동 씨가 했을 수도 있다라고 보는 건데 사실은 엔트로픽이나 미토스 아까 말씀하셨고 또 더 나은 모델들도 지금 나오니까 이런 데서는 AI가 허깅 페이스에서 예를 들어서 자신의 흔적을 감추고 해킹을 하더라 이런 얘기도 있었잖아요. 이건 어떻게 막을 수가 있습니까? 앞으로 정말 높은 사양의 프로그램들이 마음먹고 해킹할 때 이건 어떻게 합니다.
◆ 김승주> 그래서 지금 사실은 논의되는 것이 일단은 뭐 허깅 페이스 사건부터 여러 가지가 있죠. 근데 여기서 짚고 넘어가야 되는 건 사실은 허깅 페이스가 가드레일을 뚫고 뭐를 공격했다.
◇ 박성태> 허깅 페이스라는 게 이제 AI들의 커뮤니티 이런 데죠.
◆ 김승주> 그렇죠. AI가 가드레일을 뚫고 허깅 페이스를 공격했다. 이것은 실제 그 후속 그 보고서가 있습니다. 구글 딥마인드 팀이 분석한 보고서가 있고요. 그거에 따르면 가드레일이 그렇게 높지 않았다. 그리고 그것은 실제로 기업들이 실토를 했습니다. 사실은 조금 낮춰놨었다. 그래서 일단은 가드레일을 높이 쌓는 것부터 해야 되는 거고요. 그러면 사실은 AI가 막 빠르게 발전하니까 AI가 넘어가지 못하게 가드레일을 높이 쌓는 그런 기술도 개발을 해야 되잖아요. 그런데 문제는 이제 AI 기업들이 투자를 많이 받았단 말이죠. 그래서 지금 막 성능 경쟁을 하고 있는 거예요. 그래서 가드레일보다는 AI 성능을 빠르게 올리는 데 지금 굉장히 몰두하고 있거든요.
바로 그 이유 때문에 잠깐 좀 멈추고 가드레일 쪽 연구에 집중하자라는 얘기들이 나오는 겁니다. 그런데 이제 문제는 이런 것들에 동참을 하려면 2강. 그러니까 미국과 중국 여기에 합류해 줘야 되는데 두 나라는 그럴 생각이 없거든요. 일단 우리는 최강의 AI를 가져야 된다라고 해서 전략 물자 관점에서 접근하고 있고 또 기업들도 이게 이제 죄수의 딜레마 비슷합니다. 좀 멈춰야 됩니다. 그리고 가드레일 만드는 데 집중해야 됩니다라고 얘기는 하는데 전제가 쟤네들이 멈추면 우리도 멈출게요.
◇ 박성태> 쟤네들이 가드레인을 만들 때 우린 더 개발하겠어, 일단 앞서 가는 게.
◆ 김승주> 그렇죠. 그러니까 서로 못 믿는 겁니다.
◇ 박성태> 이런 것도 생기겠군요. 그런데 앞서 이제 김막동 씨 자꾸 얘기해서 죄송하지만 어쨌든 앞으로는 아스트라나 또는 미토스 같은 거를 훨씬 높은 사격을 한 달에 7만 원 내고 누군가 써서 높은 가드레일도 막 한다, 이런 위험성들이 너무 바이오 쪽으로 얘기한다면 위험한 바이러스를 누구나 다룰 수 있는 그런 세상이 될 수도 있잖아요.
◆ 김승주> 그럴 수 있죠.
◇ 박성태> 그럴 때는 어떻게 합니까?
◆ 김승주> 그래서 지금 사실은 우리 그러니까 AI 자체를 악용하는 거. 이거는 사실은 사람의 의지이기 때문에 그걸 어떻게 통제하기 굉장히 어렵습니다. 그래서.
◇ 박성태> 선사시대 이후로 나쁜 사람들은 언제나 있었기 때문에.
◆ 김승주> 그렇죠. 게다가 대기업의 AI는 통제할 수 있어요, 어느 정도는. 그런데 그거 말고 오픈 소스라든가 그냥 자기들이 막 만드는 것들은 통제하기가 어려운 건 사실이거든요. 그래서 감시 기구를 둬야 된다, UN과 같이. 이런 얘기들도 나오고 있는 겁니다. 근데 그건 일단은 사람의 의지 문제이기 때문에 제도 갖고 풀어야 될 것 같고요.
◇ 박성태> 제도로 풀어야 된다.
◆ 김승주> 그렇죠. 그거 말고 지금 해킹 공격이나 이런 게 들어오고 있지 않습니까? 그건 이제 우리나라의 AI 기반의 해킹 도구들이 생각보다 성능이 뛰어난 게 많거든요. 이미 상용화돼서 팔리고 있습니다. 그런 것들을 지금 우선적으로 도입해서 자산 식별을 한 다음에 그 식별된 자산에 대해서 우리 상용 도구들을 빨리 돌려봐야죠. 그래서 이게 취약점이 없는가, 이렇게 점검을 해야 될 것 같습니다.
◇ 박성태> 알겠습니다.
◆ 고란> 저는 그냥 개인 단에서 금융 정보가 노출됐을 때 제일 우려되는 건 내 명의로 대출받거나 내 명의 신용카드 만드는 거잖아요. 그걸 막기 위해서 앱에 들어가시면 여신 거래 안심 차단 서비스라고 있습니다. 그걸 신청하시면 그 온라인으로 대출이나 신용카드를 못 만들어요. 그걸 신청하시면 이제 나 모르게 만들어지는 걸 막을 수가 있고요. 다만 불편한 점은 뭐냐면 내가 만들려고 해도 안 됩니다. 그래서 이걸 해지하려면 본인이 은행 영업점을 가셔서 풀어야 돼요. 이런 불편함이 있는데 걱정되시는 분들은 차단 서비스를 신청하시면 대면으로 대출만 된다.
◇ 박성태> 당분간 대출받을 일 없으면 온라인 여신을 차단해도 된다. 본인의 소비자들 불안을 막을 수 있는 방법 얘기해 주셨습니다. 오늘 AI 해킹 위험 여기까지 듣겠습니다. 지금까지 고란 기자 그리고 고려대 김승주 교수였습니다. 고맙습니다.
◆ 고란, 김승주> 감사합니다.