공격의 비용이 0에 수렴하면, 지금까지 "표적이 될 가치가 없어서" 안전했던 모든 것이 표적이 됩니다.
들어가며: 무엇이 진짜로 바뀌었는가
AI와 보안을 함께 이야기할 때 흔히 빠지는 두 가지 함정이 있습니다. 하나는 과장입니다. "AI가 모든 것을 해킹한다"는 식의 종말론은 공포만 키울 뿐 아무런 방어 지침도 주지 못합니다. 다른 하나는 안일함입니다. "AI는 그저 또 하나의 도구일 뿐, 본질은 변하지 않았다"는 태도는 실제로 일어나고 있는 구조적 변화를 놓칩니다.
이 장은 그 두 함정 사이를 걷습니다. 우리가 다룰 질문은 "AI가 마법 같은 새 공격을 만들어 냈는가"가 아니라, 더 냉정한 질문입니다. "AI는 공격의 경제학을 어떻게 바꾸었는가." 즉, 같은 공격을 하는 데 드는 비용, 시간, 필요한 전문성이 어떻게 변했는가입니다.
결론부터 말하면, AI가 완전히 새로운 종류의 공격을 발명한 경우는 생각보다 적습니다. 대부분의 공격 기법은 이전부터 존재했습니다. AI가 바꾼 것은 그 공격을 얼마나 싸게, 얼마나 빠르게, 얼마나 적은 전문성으로 할 수 있는가입니다. 그리고 바로 이 변화가, 새로운 공격 기법보다 훨씬 더 광범위하고 깊은 영향을 미칩니다.
왜냐하면 지금까지 수많은 잠재적 표적이 안전했던 이유는, 그들이 견고해서가 아니라 공격할 가치가 없어서였기 때문입니다. 이 책의 서문에서 강조한 "당신이 아직 털리지 않은 이유"가 바로 그것입니다. 공격에 드는 사람의 시간과 노력이, 그 작은 표적에서 얻을 이득보다 컸기 때문에 그냥 지나쳐졌던 것입니다. 그런데 공격 비용이 0에 수렴하면, 이 계산이 뒤집힙니다. 이득이 아무리 작아도 비용이 더 작으면, 공격은 합리적인 선택이 됩니다.
이 장에서는 AI가 공격의 각 단계를 어떻게 자동화하고 증폭하는지, 그것이 2장에서 본 모든 공격자 사분면에 어떤 의미인지, 그리고 방어자가 어떻게 대응해야 하는지를 살펴보겠습니다.
3.1 공격 비용 0의 시대: 경제학적 전환
먼저 가장 중요한 개념을 분명히 하겠습니다.
전통적으로 사이버 공격에는 사람의 노동이 많이 들었습니다. 표적을 조사하고, 취약점을 찾고, 익스플로잇을 만들고, 설득력 있는 피싱 메일을 쓰고, 침투 후 내부를 탐색하는 모든 단계에 숙련된 사람의 시간이 필요했습니다. 이 노동이 공격의 자연스러운 제동 장치였습니다. 사람은 비싸고, 느리고, 동시에 여러 일을 할 수 없으니까요.
이 제동 장치가 두 가지 의미에서 표적을 보호했습니다.
첫째, 표적의 수를 제한했습니다. 한 사람의 공격자가 깊이 있게 다룰 수 있는 표적의 수에는 한계가 있었습니다. 그래서 공격자는 가장 가치 있는 소수의 표적에 집중했습니다.
둘째, 표적의 가치 하한선을 만들었습니다. 공격에 드는 노동의 비용보다 작은 이득을 주는 표적은 공격받지 않았습니다. 작은 블로그, 소규모 쇼핑몰, 동네 병원의 예약 시스템 — 이들은 견고해서가 아니라 "수지가 맞지 않아서" 정밀 공격의 대상이 되지 않았습니다.
AI는 이 제동 장치를 약화시킵니다. 사람이 하던 일의 상당 부분을 AI가 대신하면, 한 사람의 공격자가 다룰 수 있는 표적의 수가 폭증하고, 공격이 수지를 맞추는 표적의 가치 하한선이 내려갑니다. 이전에는 거대 조직에게나 가해지던 정밀하고 맞춤화된 공격이, 이제는 훨씬 작은 표적에게도 자동으로 가해질 수 있게 됩니다.
이것을 한 문장으로 요약하면 이렇습니다. AI는 "정밀 공격의 대량 생산"을 가능하게 합니다. 과거의 무차별 공격은 정밀하지 않았고(그래서 기본기로 막혔고), 과거의 정밀 공격은 대량이 아니었습니다(그래서 대부분은 표적이 되지 않았습니다). AI는 이 둘 사이의 빈 공간 — 정밀하면서 동시에 대량인 공격 — 을 채웁니다. 그리고 이 빈 공간이야말로, 지금까지 "가치가 없어서" 안전했던 수많은 표적이 위치한 자리입니다.
3.2 정찰과 표적 분석의 자동화
공격의 첫 단계인 정찰(1장 1.1의 OSINT)부터 살펴보겠습니다. OSINT(Open-Source Intelligence)는 해킹이 아니라 공개된 정보 — 웹사이트, 채용 공고, 검색 결과, 공개 코드 — 만 모아 표적의 그림을 그리는 합법적 정보 수집을 말합니다.
전통적으로 표적을 깊이 조사하는 일은 시간이 많이 드는 수작업이었습니다. 조직의 구조를 파악하고, 핵심 인물을 식별하고, 그들의 공개된 정보를 수집하고, 기술 스택을 추론하고, 약점을 찾는 일을 사람이 일일이 했습니다. 이 비용 때문에, 깊은 정찰은 가치 있는 소수의 표적에만 집중되었습니다.
AI는 이 정찰을 자동화하고 확장합니다. 공개된 방대한 정보 — 회사 웹사이트, 채용 공고, 직원들의 공개 프로필, 기술 블로그, 코드 저장소, 뉴스 기사 — 를 빠르게 읽고 종합하여, 표적에 대한 구조화된 그림을 만들어 낼 수 있습니다. 누가 핵심 인물인지, 어떤 기술을 쓰는지, 어디에 약점이 있을 법한지를 사람보다 훨씬 빠르게 추려 냅니다.
이것의 의미는, 정밀 정찰의 비용이 극적으로 낮아진다는 것입니다. 이전에는 거대 조직에게만 투입되던 깊은 조사가, 이제는 수많은 작은 표적에게도 자동으로 적용될 수 있습니다. 당신의 조직이 작아서 "누가 우리를 그렇게까지 조사하겠어"라고 생각했다면, 그 전제가 흔들립니다. 조사하는 것은 사람이 아니라 자동화된 시스템이고, 그 시스템에게 표적이 하나든 만 개든 비용 차이는 크지 않습니다.
방어의 함의: 정찰을 완전히 막을 수는 없지만, 노출되는 정보를 의식적으로 관리하여 정찰의 수확을 줄일 수 있습니다. 1장 1.1에서 다룬 대로, 호스트명에 자산 성격을 노출하지 않고, 코드 저장소에 비밀 정보를 남기지 않으며, 공개 자료에 인프라의 구체적 약점을 드러내지 않는 것입니다. 공격자가 더 적게 알수록, 그들의 자동화된 분석도 더 빈약해집니다. 지금 할 수 있는 점검은 단순합니다. 공격자가 보는 것을 나도 똑같이 보면 됩니다 — 내 IP나 도메인을 Shodan에 넣어 인터넷에서 보이는 내 서비스·포트가 무엇인지 확인하고, crt.sh로 내 도메인에 딸린 서브도메인 목록을 훑어보는 것입니다(5장에서 자세히 다룹니다).
3.3 취약점 탐색과 익스플로잇 생성의 가속
공격의 핵심 단계인 취약점 발견과 익스플로잇 작성에서, AI의 영향은 특히 큽니다. 다만 여기서는 정확한 이해가 필요합니다. 과장과 안일함을 모두 피하면서요.
코드 분석의 가속
AI는 코드를 읽고 이해하는 데 능숙합니다. 이것은 양날의 검입니다. 방어자가 자신의 코드에서 취약점을 찾는 데 쓸 수 있는 것과 똑같은 능력(부록 E의 영역 2)을, 공격자도 표적의 코드에서 취약점을 찾는 데 씁니다.
공개된 소스 코드, 유출된 코드, 또는 클라이언트 측에 노출된 코드(웹 애플리케이션의 자바스크립트 등)를 AI에게 분석시키면, 사람이 수작업으로 검토하는 것보다 훨씬 빠르게 의심스러운 지점을 추려 낼 수 있습니다. 입력 검증이 부족한 곳, 인증이 누락된 엔드포인트, 안전하지 않은 처리 흐름 등을 빠르게 짚어 냅니다.
핵심은 속도와 규모입니다. 숙련된 보안 연구자 한 명이 한 달에 검토할 수 있는 코드의 양은 제한적입니다. AI의 도움을 받으면 그 양이 크게 늘어납니다. 더 많은 코드를, 더 빠르게, 더 많은 표적에 대해 분석할 수 있습니다.
이 양날의 검은 당신이 직접 쓴 코드만의 이야기가 아닙니다. 오늘날 거의 모든 웹 프로젝트는 수백 개의 오픈소스 라이브러리(의존성) 위에 세워집니다. 2024년의 xz-utils 백도어(CVE-2024-3094)는, 신뢰받던 오픈소스 안에 악성 코드가 교묘히 심어진 공급망 공격의 대표 사례였습니다. 내가 안 짠 코드라도 결국 내 서버에서 돌아가므로, 내 위험이 됩니다. 그래서 개발자에게 가장 실질적인 한 수는, 내가 끌어다 쓰는 패키지에 알려진 취약점이 있는지 자동으로 감시하는 것입니다 — OSV나 GitHub Advisory 같은 취약점 데이터베이스, 그리고 의존성 점검 도구를 CI에 붙여 두면 됩니다(15장·부록 E).
익스플로잇 작성의 보조
취약점을 찾는 것과 그것을 실제로 악용 가능한 익스플로잇으로 만드는 것은 다른 일이며, 후자는 종종 더 어렵습니다. AI는 이 과정도 보조합니다. 알려진 취약점에 대한 익스플로잇 코드의 초안을 생성하거나, 기존 익스플로잇을 특정 환경에 맞게 변형하거나, 막힌 부분을 우회하는 변종을 제안할 수 있습니다.
여기서 균형 잡힌 시각이 중요합니다. AI가 버튼 하나로 완벽하게 동작하는 0-day 익스플로잇을 척척 만들어 내는 단계는 아닙니다. 정교한 익스플로잇 개발에는 여전히 깊은 전문성과 수작업이 필요합니다. 그러나 AI는 그 과정의 진입 장벽을 낮추고 속도를 높입니다. 특히 2.2에서 본 낮은 역량의 공격자에게, AI는 강력한 보조 도구이자 학습 가속기입니다. 운전을 못 하던 사람에게 반자율주행을 쥐여 주는 셈입니다.
n-day 공격의 가속
가장 현실적이고 즉각적인 위협은 0-day가 아니라 n-day입니다. 여기서 0-day는 패치가 아직 없는, 세상에 알려지지 않은 취약점이고, n-day는 이미 공개되고 패치까지 나왔지만 당신이 아직 적용하지 않은 취약점을 말합니다. 4장에서 자세히 다루겠지만, 새 취약점(CVE — 공개적으로 번호가 매겨진 보안 취약점)이 공개되면, 그것을 실제 공격 가능한 익스플로잇으로 무기화하기까지 걸리는 시간이 곧 방어자의 패치 골든타임입니다. AI는 이 무기화 시간을 단축시킵니다. 공개된 취약점 정보를 빠르게 분석하여 익스플로잇을 만들어 내는 속도가 빨라지면, 방어자가 패치할 시간은 그만큼 줄어듭니다.
n-day가 왜 더 무서운지는 실제 사례가 말해 줍니다. 2021년 말 터진 Log4Shell(CVE-2021-44228, Apache Log4j의 원격 코드 실행)은 패치가 나온 뒤에도 수년간 악용되었습니다. Citrix Bleed(CVE-2023-4966)는 패치가 분명히 있었는데도 그것을 미적용한 곳들이 대규모로 털렸습니다. 즉, 공격자가 노리는 것은 대개 천재적인 0-day가 아니라 "패치를 안 한 당신"입니다. 지금 실제로 악용되고 있는 취약점 목록은 미국 CISA가 악용된 취약점 카탈로그(Known Exploited Vulnerabilities)로 공개하고 있으니, 내가 쓰는 소프트웨어가 거기 올라와 있는지 한 번씩 확인하는 것만으로도 우선순위가 분명해집니다. 2026년 현재, AI가 무기화 속도를 더 당기면서 "공개 → 대량 악용"의 간격은 점점 짧아지고 있습니다.
방어의 함의: 공격의 무기화가 빨라진다는 것은, 패치가 더 빨라져야 한다는 뜻입니다. "다음 정기 점검 때 업데이트하지"라는 여유가 사라집니다. 자동화된 패치 관리와 신속한 대응 체계가 선택이 아닌 필수가 됩니다(15장, 부록 E). 방어 측도 같은 AI를 써서 "이 새 CVE가 우리에게 영향을 주는가"를 즉시 판단해야 하는 이유입니다.
3.4 소셜 엔지니어링의 혁명: 가장 큰 실질적 변화
지금까지 살펴본 기술적 공격보다, 사실 AI가 더 즉각적이고 광범위하게 영향을 미친 영역이 따로 있습니다. 바로 사람을 속이는 기술, 즉 소셜 엔지니어링입니다. 그리고 이것이 대부분의 조직에게 가장 현실적인 위협입니다.
피싱의 질적 도약
전통적인 피싱 메일에는 알아챌 수 있는 단서가 많았습니다. 어색한 문법, 부자연스러운 번역 투, 일반적인 인사말("고객님께"), 맥락 없는 내용 등입니다. 보안 교육은 대체로 "이런 어색한 신호를 알아채라"고 가르쳤습니다.
AI는 이 단서들을 지워 버립니다. 이제 공격자는 완벽한 문법과 자연스러운 어조로, 표적의 언어와 문화에 맞게, 심지어 특정 조직의 내부 용어와 말투까지 흉내 낸 피싱 메일을 대량으로 생성할 수 있습니다. 더 나아가, 3.2의 자동화된 정찰과 결합하면, 표적 개인의 상황에 정확히 들어맞는 맞춤형 미끼를 만들 수 있습니다. "당신이 지난주 참석한 그 컨퍼런스의 후속 자료입니다" 같은, 실제 맥락에 기반한 메일 말입니다.
이것이 바로 3.1에서 말한 "정밀 공격의 대량 생산"의 가장 전형적인 모습입니다. 과거 스피어 피싱(특정인을 겨냥한 정교한 피싱)은 손이 많이 가서 가치 높은 소수의 표적에만 쓰였습니다. 이제는 그 정교함을 대량으로 자동 생산할 수 있습니다. 모든 직원이, 모든 조직이 맞춤형 스피어 피싱의 사정권에 들어옵니다.
이것이 공허한 경고가 아닌 이유는, 침해의 원인을 추적한 통계가 한결같이 같은 곳을 가리키기 때문입니다. Verizon의 데이터 침해 조사 보고서(DBIR)는 해마다 침해의 상당 부분에 사람의 요소 — 즉 피싱이나 도난당한 자격 증명 같은 사람을 통한 경로 — 가 관여한다는 점을 반복해서 보여 줍니다. 기술적 0-day보다 "속아 넘어간 사람"이 훨씬 흔한 입구라는 뜻입니다. 솔직히 말하면, 내가 운영하는 환경에서도 가장 아찔했던 순간들은 대단한 익스플로잇이 아니라, 잘 만들어진 가짜 메일 한 통과 "급하다"는 압박이 겹쳤을 때였습니다.
딥페이크와 음성·영상 위조
텍스트를 넘어, AI는 음성과 영상도 위조합니다. 딥페이크(deepfake) 기술로, 특정 인물의 목소리나 얼굴을 흉내 낸 가짜 음성·영상을 만들 수 있습니다.
이것이 공격에 쓰이는 방식은 직접적입니다. 상사의 목소리를 흉내 낸 전화로 긴급한 송금을 지시하거나, 임원의 얼굴로 위장한 화상 통화로 직원을 속이거나, 신뢰하는 인물의 음성 메시지로 자격 증명을 요구하는 식입니다. 사람은 익숙한 목소리와 얼굴을 본능적으로 신뢰하기 때문에, 이런 공격은 매우 효과적일 수 있습니다.
특히 위험한 시나리오는 긴급성과 권위를 결합한 것입니다. "긴급한 상황이니 지금 당장, 평소 절차를 건너뛰고 처리해 달라"는 요청을, 신뢰하는 사람의 목소리로 전달하면, 평소라면 의심했을 사람도 압박 속에서 속을 수 있습니다.
방어: 신호가 아니라 절차로
소셜 엔지니어링에 대한 방어는 근본적인 재설계를 요구합니다. 왜냐하면 AI가 "어색함을 알아채라"는 기존 교육의 전제를 무너뜨렸기 때문입니다. 더 이상 메일이나 음성의 어색함에 의존해 공격을 식별할 수 없습니다.
해법은 개별 메시지의 진위를 판단하는 것에서, 절차로 검증하는 것으로 전환하는 것입니다.
- 대역 외 확인(out-of-band verification). 민감한 요청(송금, 권한 변경, 자격 증명 제공 등)은, 요청이 들어온 경로와 다른 경로로 반드시 재확인합니다. 메일로 송금 지시가 오면 메일로 답하지 말고, 알고 있는 번호로 직접 전화해 확인합니다. 음성으로 지시가 오면, 사전에 약속된 다른 방법으로 검증합니다.
- 절차의 신성함. "긴급하니 절차를 건너뛰자"는 요청 자체를 위험 신호로 취급하도록 교육합니다. 진짜 긴급한 상황이라도 검증 절차는 지켜져야 하며, 절차를 건너뛰라는 압박이야말로 공격의 전형적 특징입니다.
- 권위에 대한 건강한 의심. 상사나 임원을 사칭하는 공격이 많으므로, 직위가 높은 사람의 비정상적 요청일수록 더 신중히 검증하는 문화를 만듭니다.
- 다단계 인증(MFA). 자격 증명이 피싱으로 유출되더라도, 두 번째 인증 요소가 있으면 공격자가 그것만으로 침입하지 못합니다. 다만 MFA 자체를 노리는 피싱도 있으므로, 피싱에 강한 방식(하드웨어 키 등)이 더 안전합니다(7장).
- 발신자 위조 차단(이메일 인증). 피싱의 절반은 "보낸 사람"이 진짜처럼 보이는 데서 시작합니다. 내 도메인을 사칭한 메일이 함부로 발송되지 못하도록 SPF·DKIM·DMARC를 설정해 두면, 적어도 "우리 회사를 사칭한 메일"의 상당수를 막거나 차단 표시할 수 있습니다. 지금 당장 할 일은 MXToolbox로 내 도메인의 이메일 인증 설정이 제대로 되어 있는지 한 번 점검하는 것입니다(이메일 보안은 보너스 G장에서 더 다룹니다).
이 방어들의 공통점은, 사람의 직관에 의존하지 않는다는 것입니다. AI가 사람의 직관을 속일 수 있게 된 시대에, 방어는 직관이 아니라 검증 가능한 절차에 기반해야 합니다. 14장에서 이 주제를 더 다룹니다.
3.5 침투 후 활동의 자동화
공격이 성공한 이후의 단계에서도 AI의 영향이 나타납니다. 2.5에서 본 APT의 작전 — 거점 확보, 권한 상승, 측면 이동 — 은 침투 후에 이루어지는 정교한 활동입니다. 이 과정도 부분적으로 자동화될 수 있습니다.
침투한 시스템의 환경을 빠르게 분석하여 다음 이동 경로를 찾고, 권한 상승의 기회를 식별하고, 탐지를 피하는 방법을 조정하는 일에 AI가 보조 역할을 할 수 있습니다. 이것은 공격의 속도를 높이고, 사람 공격자가 일일이 판단하던 부분을 줄여 줍니다.
다만 이 영역은 앞선 단계들보다는 자동화의 성숙도가 낮습니다. 침투 후 활동은 환경마다 천차만별이고, 정교한 판단을 요구하기 때문입니다. 그러나 방향성은 분명합니다. 시간이 지날수록 이 단계의 자동화도 발전할 것이고, 침해의 진행 속도는 빨라질 것입니다.
방어의 함의: 침투 후 활동이 빨라진다는 것은, 탐지와 대응의 속도가 더 중요해진다는 뜻입니다. 침해를 가정하고(원칙 2), 내부를 분할하여 측면 이동을 어렵게 만들고, 모든 활동을 기록하여 이상을 빠르게 포착하는 심층 방어가 더욱 중요해집니다(13장).
3.6 군비 경쟁: 방어자도 같은 무기를 든다
지금까지 AI가 공격을 어떻게 강화하는지를 보았습니다. 그러나 이 이야기에는 반대편이 있습니다. 똑같은 AI가 방어자의 손에도 쥐어집니다. 이것이 이 책의 여섯 번째 원칙, "공격이 자동화되면 방어도 자동화되어야 한다"의 근거입니다.
비대칭의 재균형
3.1에서 본 비대칭 — 공격 비용이 0에 수렴하는 것 — 은 방어자에게 불리합니다. 그러나 방어자도 AI를 쓰면, 이 비대칭의 일부를 되돌릴 수 있습니다.
방어자가 AI로 할 수 있는 일은, 사실 공격자가 하는 일의 거울상입니다. 공격자가 AI로 표적의 코드에서 취약점을 찾는다면, 방어자는 AI로 자신의 코드에서 같은 취약점을 먼저 찾을 수 있습니다. 공격자가 AI로 새 CVE를 빠르게 무기화한다면, 방어자는 AI로 그 CVE가 자신에게 영향을 주는지 빠르게 판단하고 먼저 패치할 수 있습니다. 공격자가 AI로 정찰을 자동화한다면, 방어자는 AI로 자신이 외부에 무엇을 노출하고 있는지 자동으로 점검할 수 있습니다.
거창하게 들리지만, 출발점은 무료 공개 도구 몇 개로도 충분합니다. 내 도메인으로 발급된 인증서가 무엇이 있는지(즉 내가 잊고 있던 서브도메인이 노출돼 있는지)는 crt.sh에서 도메인만 넣으면 보이고, TLS 설정의 등급은 SSL Labs, 보안 헤더 상태는 securityheaders.com에서 1분이면 확인됩니다. 더 적극적으로는 nuclei 같은 오픈소스 스캐너로 알려진 취약점 패턴을 내 자산에 먼저 돌려 볼 수 있습니다. 여기에 AI를 더하면 — 예컨대 스캔 결과를 정리해 "무엇부터 고칠지" 우선순위를 매기게 하면 — 혼자서도 꽤 넓은 면을 빠르게 훑을 수 있습니다. 현장에서 보면, 정작 위험한 구멍은 대단한 게 아니라 "잊고 방치한 옛 서브도메인"이나 "끄는 걸 깜빡한 디버그 페이지"인 경우가 많습니다. 후자는 결코 사소하지 않습니다. 예컨대 Laravel을 쓴다면 디버그 모드(APP_DEBUG=true)를 운영 서버에 켜 둔 것이 실제 원격 코드 실행으로 이어진 CVE-2021-3129(Laravel Ignition) 같은 사례가 있습니다. AI 스캐너는 이런 "켜진 디버그 모드"를 사람보다 훨씬 빠르고 지치지 않고 찾아냅니다 — 공격자 쪽에서도 마찬가지라는 게 문제입니다(12장).
핵심은 선제성입니다. 같은 취약점을, 공격자보다 방어자가 먼저 찾으면, 그것은 위협이 아니라 패치된 과거가 됩니다. AI는 방어자가 이 선제성을 규모 있게 확보할 수 있게 해 줍니다. 부록 E에서 이 실천을 구체적으로 다룹니다.
모델 발전이라는 방어자의 기회
여기에 방어자에게 특별히 유리한 지점이 하나 있습니다. AI 모델은 계속 발전합니다. 그리고 모델이 발전하면, 같은 자산을 다시 점검했을 때 이전에 놓친 것을 새로 발견합니다.
공격자에게도 이것은 사실이지만, 방어자에게는 더 체계적으로 활용할 기회가 됩니다. 방어자는 자신의 자산 전체에 대해 완전한 접근 권한을 가지고 있고, 시간의 압박 없이 차분히 점검할 수 있으며, 발견한 것을 즉시 고칠 수 있습니다. 공격자는 외부에서 단편적으로 들여다보지만, 방어자는 내부에서 전체를 봅니다.
그래서 이 책은 권합니다. AI 모델이 새 버전으로 올라갈 때마다, 그것을 전체 보안 자산을 다시 점검하는 신호로 삼으십시오. 더 똑똑해진 모델은 어제는 보이지 않던 격차를 보여 줍니다. 이것은 부록 E의 핵심 트리거이며, 원칙 5(과정으로서의 보안)와 원칙 6(방어 자동화)을 잇는 구체적 실천입니다.
군비 경쟁의 현실적 자세
다만 "방어자도 AI를 쓰면 된다"는 말을 만능 해법으로 오해해서는 안 됩니다. 부록 E의 한계선(E.5)에서 강조했듯, AI는 틀릴 수 있고, 민감 정보를 다룰 때 신중해야 하며, 사람의 검토를 대체하지 않고, 유일한 방어선이 되어서는 안 됩니다.
군비 경쟁의 올바른 자세는 이것입니다. AI는 방어자가 더 많은 것을, 더 빠르게, 더 규모 있게 점검할 수 있게 해 주는 강력한 도구입니다. 그러나 그것은 이 책 전체가 다루는 기본기 — 공격면 축소, 접근 제어, 전송 계층 보안, 모니터링, 백업 — 위에 더해지는 것이지, 그것을 대체하는 것이 아닙니다. AI로 무장한 방어자라도, 22번 포트가 인터넷에 활짝 열려 있고 비밀번호가 약하다면 뚫립니다. AI는 잘 갖춰진 기본기를 증폭하는 것이지, 없는 기본기를 만들어 내지 않습니다.
3.7 균형 잡힌 결론: 과장도 안일함도 경계하며
이 장을 마치며, 다시 한번 균형을 강조하겠습니다.
과장하지 마십시오. AI가 모든 시스템을 즉시 해킹하는 마법은 아닙니다. 정교한 공격에는 여전히 전문성과 노력이 필요하고, 잘 갖춰진 기본 방어는 여전히 대부분의 공격을 막아 냅니다. 공포는 방어를 개선하지 못합니다. 오히려 마비시킵니다.
안일해하지도 마십시오. AI는 공격의 경제학을 실질적으로 바꾸었습니다. 정밀 공격의 대량 생산이 가능해졌고, "가치가 없어서 안전했던" 표적들의 안전이 사라지고 있으며, 소셜 엔지니어링은 질적으로 도약했고, 공격의 무기화 속도는 빨라졌습니다. "본질은 안 변했다"는 안일함은 이 변화를 놓칩니다.
올바른 자세는 그 사이에 있습니다. AI는 공격의 속도, 규모, 접근성을 높였습니다. 그러므로 방어도 속도, 규모, 자동화를 높여야 합니다. 더 빠르게 패치하고, 더 규모 있게 점검하고, 직관이 아닌 절차로 검증하며, 방어자 자신도 AI를 도구로 삼되 그것을 기본기 위에 더하는 것입니다.
그리고 이 모든 것의 가장 현실적인 출발점은, 화려한 AI 기술이 아니라 기본기입니다. 다음 장에서 우리는 AI 시대에 가장 빠르게 무기화되는 위협, 즉 끊임없이 쏟아지는 CVE의 홍수를 들여다봅니다. AI가 무기화를 가속하는 바로 그 대상이며, 방어의 속도가 왜 생존의 문제가 되었는지를 가장 분명하게 보여 주는 주제입니다.
이 장의 실행 항목
- 소셜 엔지니어링 방어를 "신호"에서 "절차"로 전환하십시오. 민감 요청에 대한 대역 외 확인 규칙을 만드십시오. (3.4, 14장)
- "긴급하니 절차를 건너뛰자"를 위험 신호로 규정하십시오. 조직 문화와 교육에 반영하십시오. (3.4)
- 다단계 인증을 적용하십시오. 가능하면 피싱에 강한 방식(하드웨어 키)을 쓰십시오. (3.4, 7장)
- 패치 속도를 높이십시오. 무기화가 빨라진 만큼, 패치도 빨라져야 합니다. 자동화를 검토하십시오. (3.3, 15장)
- 외부 노출 정보를 점검하십시오. 자동화된 정찰의 수확을 줄이십시오. (3.2, 1장)
- 방어에 AI를 도입하되 기본기 위에 더하십시오. 모델 업그레이드를 재점검 신호로 삼는 루틴을 검토하십시오. (3.6, 부록 E)
다음 장: 4장 — CVE의 홍수. 매주 쏟아지는 9점, 10점. AI가 무기화하는 바로 그 대상.