IT Solutions/Security

보안, 인공지능만 있으면 완벽할 수 있나요?

2019.04.03 09:30

2018년 퀀틱 드림에서 출시된 인터렉티브 게임인 ‘트로이드 비컴 휴먼’ 인공지능에 대한 우리의 인식을 보여줍니다. ‘트로이트 비컴 휴먼’ 고수준 인공지능을 탑재한 안드로이드의 자유와 인간과의 공존을 주제로 한 게임인데요.


게임 내에서 안드로이드는 주변의 다양한 정보를 수집하고, 판단하고, 제어함으로써 청소는 물론이며 아이 돌보기, 심부름까지 도맡아 합니다. 인간 생활과 밀접하게 연관된 모습을 보면 ‘인공지능이 인간이 될 수 있을까?’라는 본질적 고민을 불러일으킵니다.


가트너(Gartner)의 하이프 사이클(Hype Cycle)을 보면 Deep Neural Nets, AI PaaS, Edge AI를 비롯한 여러 인공지능 기술이 분포되어 있음을 알 수 있습니다. 가트너에서 선정하는 10대 미래 전략 기술(Top 10 Strategic Technology Trend)에도 인공지능이 매년 자리하고 있습니다.


l 가트너 하이프 사이클 2018 (출처: Hype Cycle for Emerging Technologies, 2018, Gartner)


이처럼 인공지능에 대한 기대가 날로 증가하는 가운데 인공지능을 활용한 보안 위협과 방어 기술에도 관심이 집중되고 있습니다. 보안 기술에 인공지능을 접목시킨다면 어떠한 공격이든 방어할 수 있다는 목소리도 있는데요. 인공지능 암흑기를 거쳐서 새로운 붐이 일고 있는 지금, 인공지능과 보안의 관계에 대해 알아보도록 하겠습니다.


 인공지능 보안 위협 및 방어 사례


● 인공지능 보안 위협 사례

인공지능에 대한 기술 장벽이 낮아지면서 인공지능을 사이버 공격에 활용하려는 시도가 증가하고 있습니다.


보안 컨퍼런스 블랙햇(Blackhat)에서 보안 회사 제로폭스(Zerofox)는 머신러닝을 이용한 SNS 스피어 피싱 공격 사례를 발표했습니다. 스피어 피싱은 불특정 다수가 아닌 특정 표적을 대상으로 신뢰할 만한 사람이 보낸 메일을 위장한 공격 방식입니다.



오늘날에는 SNS, 휴대폰 문자 등 다양한 채널을 이용하여 스피어 피싱 공격이 이루어지고 있습니다. 사람의 신뢰를 얻어서 공격을 한다는 점에서 스피어 피싱은 가장 오래됐지만 여전히 효과적인 공격 방법 중 하나입니다.


머신러닝을 공격에 어떻게 이용하는지 알아보겠습니다. 공격은 APT(Advanced Persistent Threat)와 유사하게 진행됩니다. APT 공격은 명확한 공격 대상을 정하고 지능적인 방법을 사용하여 지속적으로 특정 대상을 공격하는 방법인데요. 머신러닝을 이용한 공격은 APT와 마찬가지로 먼저 타깃을 지정하고, 정보를 수집하여 그 정보를 기반으로 공격을 시도합니다.


트위터에서 타깃을 정하기 위해 사용자 그룹을 만들어서 프로필(직장 정보, 연령 등)과 피드를 통해 시간 및 주제를 수집합니다. 머신러닝 모델은 사용자가 흥미로워할 피드를 만들어서 클릭을 유도하는데요. 그 결과 819개의 목표 중 275개를 성공시켰습니다. 해커가 공격에 성공한 수는 49개에 불과했으며, 분당 트위터 등록 개수도 약 4배 이상 많았습니다.


l 인공지능이 생성한 맞춤형 스피어 피싱 피드 샘플 

(출처: Automated E2E spear phishing on Twitter, John Seymour and Philip Tully)


이 연구 결과는 머신러닝 기술을 사용해 과거에는 수동적으로 공격했던 것을 자동화시킴으로서 공격 능력이 발전되고 있다는 것을 의미합니다. 과거 공격들이 정보 수집에 많은 시간이 소요되었다면, 머신러닝을 이용해 정보 수집 시간을 줄이고 이를 통해 실제 공격까지 소요되는 시간이 짧아질 수 있습니다. 자동화된 공격이 파급력이 높을 수밖에 없는 이유입니다.


● 인공지능 보안 대응 사례

인공지능을 활용해 보안성을 강화하기 위한 기술도 다수 등장하고 있습니다. 금융 거래에서 이상 현상을 사전에 탐지하거나, 모바일 및 IoT 환경에서의 보안 기술에 인공지능을 접목한 사례들입니다.


다음은 시장 조사기관 CB Insight 이 인공지능을 활용한 보안 스타트업을 9개의 주요 영역으로 분류한 것입니다.


l 인공지능 기반 사이버 보안 스타트업 기업 (출처: Cybersecurity’s Next Frontier: 80+ Companies Using Artificial Intelligence To Secure The Future In One Infographic, CB Insights)


이처럼 나날이 진보하는 사이버 공격에 대응하기 위해 인공지능 기반의 보안 대응 방법과 기술들도 점차 진화하고 있는데요. 속임수 보안, IoT 보안, 앱 보안부터 예측적 인텔리전스까지 확장되어 있으며 앞으로도 계속 발전할 것입니다.


하지만 인공지능을 이용하면 완벽한 보안을 이룰 수 있다고 생각하는 것은 다소 위험할 수 있습니다. 사실상 인공지능만 도입한다고 해서 모든 보안 문제가 자동으로 해결되지는 않는데요. 우리는 인공지능 기반의 보안 기술에 대해 보다 객관적으로 바라볼 필요가 있습니다.


 인공지능, 보안에 해답이 될까?


현재 사이버 공격 대응을 위한 중요한 요소 중 하나는 방대한 데이터를 분석할 수 있는 충분한 인력이 부족한 것입니다. 이때 인공지능이 도움을 줄 수 있습니다.[각주:1]


IBM에 따르면 사이버 위협에 대한 분석 시간이 사람은 1주일이 소요되는 데 비하여 인공지능은 15분이면 가능하다고 합니다. 2019년까지 전 세계적으로 6백만 명의 사이버 보안 전문가 수요가 예상되나, 150만 명의 공급이 부족한 인력 수급의 불균형이 발생할 전망입니다. [각주:2]


현재는 전문가들이 만든 룰셋을 기반으로 공격 패턴을 탐지하고 있지만, 인공지능이 방대한 데이터를 스스로 학습하고 룰셋을 생성한다면 공격의 탐지율이 올라갈 것입니다. 하지만 오탐률이 높기 때문에 무작정 인공지능만을 믿기는 어렵습니다.



인공지능은 분명 유용한 기술이지만 게임 체인저가 될 수는 없습니다. 인공지능은 악성코드 및 공격자를 탐지하는 데 사용할 수 있지만, 악성코드가 기업의 시스템을 통해 배포되는 것을 막기는 어려우며 인공지능이 모든 엔드 포인트 장비 및 시스템을 제어할 수 있는 것은 아닙니다.[각주:3]


결국 보안 부서 및 책임자가 보호해야 할 사람과 장비, 데이터에 대한 명확한 이해가 있어야 한다는 건 변함이 없습니다. 이를 기반으로 인공지능을 하나의 도구로써 사용할 수 있어야 합니다.


글 l LG CNS 보안컨설팅팀


* 해당 콘텐츠는 저작권법에 의하여 보호받는 저작물로 LG CNS 블로그에 저작권이 있습니다.

* 해당 콘텐츠는 사전 동의없이 2차 가공 및 영리적인 이용을 금하고 있습니다.


  1. 정보보호 동향 및 보안위협 분석, ETRY Insight Report 2017-27, 이승민, 송근혜 [본문으로]
  2. 워싱턴무역관, “미국 사이버보안시장 동향과 우리기업 진출을 위한 시사점”, KOTRA [본문으로]
  3. Why Artificial Intelligence Is Not a Silver Bullet for Cybersecurity, GoodData, Tomas Honzak [본문으로]
Posted by IT로 만드는 새로운 미래를 열어갑니다 LG CNS
위로