AI가 나보다 포렌식을 잘한다면, 우리는 무엇을 공부해야 할까?
00_Intro
안녕하세요, amier_ge입니다.
저는 현재 Digital Forensics & Incident Response를 주 분야로 공부하고 있습니다!
AI가 급속도로 발전하면서 포렌식 분야에서도 굉장히 많은 것이 바뀌고 있다는 느낌을 받았습니다. 따라서 오늘은 현업자가 아닌 학생의 시점에서 바라본 AI와 포렌식의 관계, 그리고 이러한 변화 속에서 어떻게 대처하며 스스로의 역량을 키워나가면 좋을지 이야기해보고자 합니다.
01_Codex/Claude Code 이전
먼저 이야기할 시점은 Codex와 Claude Code가 대중적으로 사용되기 전입니다. 때는 바야흐로 2025년까지가 될 것 같네요.
당시에는 지금과 같은 AI Agent를 사용하지 않았기 때문에 한 세션, 즉 하나의 대화창 안에서 분석할 수 있는 양이 부족했고, 입력할 수 있는 파일의 크기에도 큰 제한이 있었습니다. 또한 AI가 제 로컬 환경의 파일을 직접 확인하거나 분석할 수도 없었습니다.
AI 모델 자체의 성능도 지금보다 부족했던 데다가 이러한 제약까지 있었기 때문에, 난이도가 높은 사건이나 대용량 이미지 파일 및 로그를 분석하는 것은 쉽지 않았습니다.
결과적으로 '해줘.'한마디로 모든 것이 해결되는 세상은 아니었습니다.
하지만 개인적인 감상으로는, 당시에도 로그 분석을 Opus에게 맡겼을 때 생각보다 너무 잘 분석하는 모습을 보며….
아.. 미래에 내 자리가 남아 있으려나…
라고 진지하게 걱정했던 기억이 있습니다.
아티팩트 역시 미리 파싱해서 넘겨주면 굉장히 잘 분석하더군요🥲
02_Agent 그 이후
Codex와 Claude Code와 같은 Agent가 등장한 이후부터는 '정말 세상이 변했구나'를 크게 느꼈습니다.
Agent는 로컬 작업 폴더에 있는 파일을 직접 확인하고, 필요한 명령어를 실행하며, 분석에 필요한 스크립트까지 바로바로 작성했습니다. 분석 중 문제가 발생하면 오류의 원인을 확인하고 해결 방법을 찾아가며 계속해서 작업을 이어나갔죠. 이전까지는 사람이 분석 과정에 계속해서 개입해야 했다면, 이제는 AI가 분석 환경 안으로 직접 들어와 함께 작업하는 것에 가까워졌습니다.
실제로 성능을 확인해보기 위해 이전 연도의 KDFS 문제를 Agent에게 풀게 해보았습니다.
특별한 지시를 주지 않았음에도 실제 정답에 상당히 가까운 결과를 내놓았고, 특히 로그 분석에서는 눈에 띌 정도로 압도적인 모습을 보여주었습니다. 수많은 로그에서 필요한 내용을 추려내고, 시간의 흐름에 따라 사건을 정리하며, 서로 다른 이벤트 사이의 연관성을 찾아내는 능력이 인상적이었습니다.
이 모습을 보며 앞으로는 AI가 분석을 상당 부분 수행하고, 사람은 분석의 방향을 조정하거나 자신의 도메인 지식을 바탕으로 결과를 검증하는 방식도 충분히 가능하겠다는 생각이 들었습니다.
하지만 그럼에도, 모든 분석이 정확했던 것은 아닙니다!
Agent가 처음 내놓은 분석에서 아티팩트의 의미를 잘못 해석한 채 자신 있게 결론을 제시하거나, 존재하지 않는 내용을 사실처럼 이야기하는 경우도 있었습니다.
결과적으로, 완벽한 ‘해줘’의 세상이 찾아온 것은 아니지만, 적어도 이제 이런 말들이 그저 단순한 농담으로만 들리지는 않게 되었습니다..!
03_그러면 우리는 어떻게?
02번까지 읽으며
아니 그러면 나의 미래는 없는 건가요???
라는 의구심을 가지실 수도 있을 것 같습니다.
이에 대해 제가 생각한 내용을 크게 세 가지로 말씀드려보겠습니다!
03-1_AI는 어디까지나 도구다
제가 생각하기에 AI를 이기려고 공부하는 것은 별로 좋은 방향이 아닌 것 같습니다. AI는 앞으로도 계속 좋아질 것이고, 사람이 단순한 작업 속도나 처리량으로 경쟁하기는 점점 더 어려워질 테니까요! 그러니 중요한 것은 AI를 얼마나 잘 사용하고, 나에게 알맞은 방식으로 활용할 수 있는가라고 생각합니다.
⊙ 어떤 작업을 AI에게 맡길지
⊙ 어떤 정보를 제공해야 더 좋은 결과가 나오는지
⊙ 나온 결과 중 무엇을 믿고, 무엇을 다시 확인해야 하는지
이러한 것들을 판단하는 힘을 길러야 합니다.
단순히 AI에게 모든 것을 맡기는 것이 아니라, 내가 분석의 주도권을 가진 상태에서 필요한 부분에 적절히 활용해야 합니다.
어디까지나 AI는 만능 기계가 아닌 사람이 사용하는 도구라는 점을 명심합니다!!
03-2_보고서의 중요성
개인적으로 포렌식에서는 보고서를 작성하는 능력이 더욱 중요해질 것 같습니다.
AI는 분석 결과를 요약하고 정리하는 것은 잘하지만, 사건의 흐름과 근거를 정확하게 연결하여 읽는 사람이 이해하기 쉬운 보고서로 만드는 부분에서는 아직 부족한 점이 있다고 느꼈습니다. 결국 분석 결과가 아무리 좋아도, 이를 제대로 설명하지 못한다면 훌륭한 포렌식 분석이라고 말하기 어려울 것 같습니다.
따라서 분석 능력뿐만 아니라, 자신의 분석 과정과 결과를 논리적으로 전달하는 능력도 꾸준히 길러야 한다고 생각합니다!
03-3_기초를 간과하지 말자!
마지막으로, 공부하다 보면 '이 정도는 AI가 해주겠지', '기초니까 빠르게 넘어가도 되겠지'라고 생각하기 쉽습니다. 이 글을 쓰는 저 또한 종종 이러한 실수를 하고서 나중에 후회하곤 합니다. 하지만 기초를 제대로 알지 못하면 AI가 틀린 답을 내놓더라도 무엇이 잘못되었는지 알아차릴 수 없습니다.
실제로 대회 문제를 풀게 해보면 전체적인 분석 방향은 잘 잡지만, 중간에 아티팩트를 잘못 해석하거나 존재하지 않는 내용을 사실처럼 이야기하는 경우가 있었습니다. 결과만 보면 그럴듯하기 때문에 관련 지식이 없다면 그대로 믿어버릴 수도 있습니다.
이러한 오류를 찾아내고 결과를 검토하는 데에는, 결국 사람의 도메인 지식이 필요합니다.
⊙ AI가 작성한 명령어나 스크립트가 어떤 작업을 수행하는지
⊙ 분석한 아티팩트가 실제로 어떤 의미를 가지는지
⊙ 제시한 결론이 증거를 통해 충분히 뒷받침되는지
를 판단할 수 있어야 합니다.
따라서 우리는 여전히 공부해야 합니다. 어쩌면 이전보다 더 열심히 공부해야 할지도 모릅니다.
AI가 분석을 대신해주기 때문에 공부할 필요가 없어지는 것이 아니라, AI가 수행한 분석까지 검증하기 위해 공부해야 하는 시대가 오고 있기 때문입니다.
04_Outro
학생의 입장에서 느낀 점을 써 내려가 보았는데, 공감되는 부분이 있으셨을까요?
분명 현업자분들이라면 AI를 사용하면서 ‘기업의 민감한 정보를 외부 AI에 쉽게 입력할 수 없는 문제’나 ‘분석 결과의 법적/전문적 신뢰성 문제’와 같은 현실적인 제약을 먼저 느끼실 것이라 생각합니다.
반면 학생들은 아니, 'AI가 나보다 훨씬 잘하네…?'라는 감정을 가장 먼저 느낄 수밖에 없습니다!
그러다 보면 내가 취업할 1~2년 뒤, 혹은 그보다 더 먼 미래에도 과연 나의 자리가 남아 있을지 막막하고 두려울 수 있습니다.
하지만 AI를 무작정 두려워하거나 경쟁 상대로만 생각하기보다는, 이를 어떻게 활용할지 고민하며 내가 맡아야 할 역할을 준비하는 것이 더 중요하다고 생각합니다. 기초를 탄탄하게 쌓고, AI의 결과를 검증할 수 있는 전문성을 기르며, 자신의 분석을 다른 사람에게 명확하게 전달할 수 있도록 꾸준히 노력해봅시다!
정보보안을 공부하는 모든 학생분들 화이팅입니다!
긴 글 읽어주셔서 감사합니다🤭