Boko Haram의 AI 활용이 드러낸 새로운 보안 과제

Boko Haram의 AI 활용이 드러낸 새로운 보안 과제

AI 뉴스 썸네일

나이지리아의 무장 조직 Boko Haram 계열 분파들이 여러 프런티어 AI 서비스를 전투와 조직 운영에 활용했다는 현장 조사 결과가 나왔어요. 케임브리지대 CASP 연구진은 전직 구성원 27명과 57회 대면 인터뷰를 진행했어요. 이들의 증언은 AI 안전장치가 개인의 일회성 오용뿐 아니라 역할과 교육 체계를 갖춘 조직의 반복적인 시도도 막아야 한다는 과제를 드러내요. 1

핵심 요약

구분	핵심	왜 볼 만한가요
조사 범위	2025~2026년에 전직 Boko Haram 구성원 27명을 상대로 57회 인터뷰했어요	온라인 흔적이 아니라 현장 증언을 통해 조직 내부의 AI 사용 방식을 추적했어요
활용 방식	여러 AI 서비스를 작전 준비, 장비 문제 해결, 보안, 물류 등에 사용했다는 증언이 나왔어요	선전물 제작을 넘어 일상적인 문제 해결 도구로 쓰였다는 점이 달라요
조직 구조	일부 분파는 전담 인력과 계정, 유료 구독, 내부 교육 체계를 운영했다고 해요	한 명의 악성 사용자보다 오래 지속되는 조직형 오용을 보여줘요
해석의 한계	실제 작전 성과는 입증되지 않았고 자료 상당수가 전직 구성원의 자기 보고에 기대요	위협을 과장하지 않으면서도 안전 체계를 점검해야 해요

1. 테러 조직의 AI 사용이 일회성 질문을 넘어섰어요

CASP 보고서는 Boko Haram의 두 주요 분파인 ISWAP과 JAS가 2023년부터 프런티어 AI를 사용해 왔다는 증언을 담았어요. 언급된 서비스에는 ChatGPT, Claude, Gemini, Grok, Meta AI, DeepSeek이 포함돼요. 연구 참여자들은 장비 고장 진단, 전술 계획, 작전 보안, 이동과 보급 같은 업무에서 AI의 도움을 받았다고 말했어요. 연구진은 폭발 장치와 무기 관련 질의도 보고됐다고 밝혔지만, 공개 글에서 재현할 수 있는 세부 절차는 제공하지 않았어요. 2

이번 조사에서 눈여겨볼 부분은 사용 빈도와 조직화 수준이에요. 일부 증언에 따르면 분파 내부에는 기술 인력으로 구성된 전담 조직이 있었어요. 이들은 여러 서비스 계정과 유료 구독을 관리하고, 지휘 체계를 따라 사용 경험을 다른 구성원에게 전달했어요. 외부 네트워크가 장비와 통신 도구를 제공하고 대면 또는 원격 교육을 했다는 증언도 나왔어요.

728x90

조직형 오용은 개인 차단보다 까다로워요

개별 사용자가 위험한 질문을 한두 번 던지는 상황은 계정 단위 탐지와 응답 거부로 대응할 수 있어요. 조직은 여러 모델과 계정을 번갈아 쓰고, 실패한 시도를 공유하며, 역할을 나눠 다시 접근할 수 있어요. 한 서비스가 요청을 거부해도 다른 서비스에서 표현을 바꿔 묻는 방식으로 제한을 피할 여지가 생겨요.

그래서 모델 제공사는 한 번의 입력만 볼 게 아니라 반복되는 행동과 계정 간 연관성도 함께 살펴야 해요. 위험한 요청을 거부하는 응답 정책에 더해 이상 사용 패턴 탐지, 결제·계정 신호 분석, 플랫폼 간 위협 정보 공유가 필요해요. 다만 이런 감시가 일반 사용자의 개인정보를 과도하게 침해하지 않도록 접근 권한과 보관 기간도 분명히 정해야 해요.

증언과 실제 효과는 나눠서 봐야 해요

보고서는 테러 조직이 AI를 사용했다는 정황과 AI가 작전 능력을 높였다는 주장을 구분해요. 인터뷰 참여자들은 AI가 도움이 됐다고 평가했지만, 연구진은 AI가 없었다면 불가능했을 공격을 가능하게 했는지 확인하지 못했어요. 보고된 활동도 기존 무기와 전술 범위에 머물렀어요.

자료의 한계도 있어요. 조사 대상은 활동 중인 구성원이 아니라 전직 구성원이고, 중간급 인력의 자기 보고가 중심이에요. 연구진은 여러 증언을 대조하고 가능한 부분을 2차 자료와 비교했지만 모든 내용을 독립적으로 검증하지는 못했어요. 표본이 27명이라 Boko Haram 전체나 다른 지역 조직에 그대로 일반화하기도 어려워요.

왜 중요한가요

AI 보안팀이 가정해 온 공격자 모델을 다시 점검할 근거가 생겼어요. 조직화된 공격자는 장기간 여러 계정을 운영하고, 실패 사례를 학습 자료로 바꾸며, 플랫폼을 옮겨 다닐 수 있어요. 모델의 단일 응답 안전성만 평가하면 이런 행동을 놓칠 수 있어요. 레드팀 평가에도 다중 계정, 반복 시도, 서비스 간 이동, 내부 교육을 포함한 시나리오가 필요해요.

플랫폼 간 협력도 피하기 어려운 과제가 됐어요. 한 회사가 발견한 오용 패턴을 다른 회사가 전혀 알지 못하면 공격자는 가장 약한 서비스로 이동할 수 있어요. 공유 대상은 구체적인 위험 패턴과 검증된 지표로 제한해야 해요. 사용자의 정상적인 보안 연구나 언론·학술 활동이 잘못 차단되지 않도록 이의 제기와 재검토 절차도 함께 마련해야 해요.

이번 연구는 AI가 테러 역량을 얼마나 높였는지 확정하지 않아요. 대신 프런티어 모델이 이미 조직 내부의 일상적인 도구로 들어갔을 수 있다는 현장 증거를 제시해요. 정책기관과 모델 제공사는 과장된 미래 시나리오보다 지금 관찰된 계정 운영, 교육, 반복 시도부터 대응할 수 있어요. 2

참고 자료

1. 테러 조직 Boko Haram의 프런티어 AI 활용 방식 — GeekNews
2. “God has helped us, and so will AI”: How the Terrorist Group Boko Haram Uses Frontier AI — Cambridge Programme on AI Science & Policy