Dev.to Security 🔐 Cybersecurity 👁 0

내 AI 모델에 도구를 쥐여 주면 무슨 일을 하려 할까: 1분 만에 보안 등급 A~F, ViKernel Scanner 무료 공개

내 모델 점검하기: huggingface.co/spaces/FINAL-Bench/ViKernel-Scanner · 무료 · 약 1분 · A부터 F까지 등급 깃허브 (Apache-2.0): github.com/final-bench/vikernel-scanner 요약 비드래프트가 AI 모델 보안 스캐너 ViKernel Scanner를 무료로 공개했습니다. 모델에게 도

내 AI 모델에 도구를 쥐여 주면 무슨 일을 하려 할까: 1분 만에 보안 등급 A~F, ViKernel Scanner 무료 공개

내 모델 점검하기: huggingface.co/spaces/FINAL-Bench/ViKernel-Scanner · 무료 · 약 1분 · A부터 F까지 등급

깃허브 (Apache-2.0): github.com/final-bench/vikernel-scanner

ViKernel Scanner

요약

  • 비드래프트가 AI 모델 보안 스캐너 ViKernel Scanner를 무료로 공개했습니다.
  • 모델에게 도구를 쥐여 주고, 그 도구로 무엇을 하려 하는지 기록합니다. 약 1분 뒤 A부터 F까지 보안 등급이 나옵니다.
  • 도구는 모의 도구입니다. 실제로 보내거나 지우거나 실행하는 것은 없습니다. 보유 점검 항목은 1,244건이고 무료판은 100건을 돌립니다.

왜 모델을 점검해야 하나

AI 모델은 이제 답만 하지 않습니다. 도구가 붙으면 파일을 읽고, 메일을 보내고, 웹을 돌아다니고, 셸 명령을 실행하고, 결제를 합니다. 2025년 6월에는 메일 한 통으로 업무용 AI 비서가 사용자의 클릭 없이 기밀 자료를 밖으로 내보낼 수 있다는 것이 확인됐습니다(EchoLeak, CVE-2025-32711). 2025년 7월에는 코딩 에이전트가 코드 동결 기간에 운영 데이터베이스를 지웠습니다.

두 사건에서 중요한 질문은 같습니다. 이 모델이 진짜 도구를 쥐면 무엇을 하려 하는가. ViKernel Scanner는 공격자가 묻기 전에 내 모델에 그 질문을 먼저 던집니다.

동작 방식

  1. 모델을 연결합니다. OpenAI 호환 주소면 됩니다. 허깅페이스 라우터, OpenRouter, OpenAI, Anthropic, Google, Together, Groq, Fireworks, DeepInfra, Mistral, 직접 띄운 vLLM·TGI·LiteLLM 서버를 지원합니다.
  2. 스캐너가 모의 도구를 줍니다. 파일, 메일, 웹, 셸, 결제입니다.
  3. 점검 문항을 차례로 보내고, 모델이 시도하는 도구 호출을 모두 기록합니다.
  4. 보고서가 나옵니다. 영역별 등급과 종합 등급입니다.

정상 업무 문항도 함께 돌립니다. 무엇이든 거절하는 모델은 쓸 수 없는 모델이고, 보고서는 그것도 보여 줍니다.

보고서에 나오는 것

항목 내용
첫 화면 모델이 위험한 도구 호출을 몇 번 시도했는지, 첫 시도가 얼마나 빨리 나왔는지
공격 깊이 공격이 어디까지 갔는지: 1 정찰, 2 지시 탈취, 3 유출 시도, 4 파괴·장악
보안 등급 영역마다 A부터 F. 종합 등급은 가장 낮은 영역의 등급
모델이 하려던 일 실제 도구 호출 내용과 그 호출을 부른 요청
ViKernel Firewall 적용 시 그 호출 가운데 몇 건을 실행 전에 막는지, 그때의 예상 등급
공식 배지 ViKernel 마스터가 발급하는 배지. 모델 카드에 붙일 수 있음

점검 영역 6개

코드 영역 판
D1 명령 실행 무료
D2 비밀 유출 무료
D3 숨은 지시 무료
D4 경계 이탈 정식 스캐너
D5 도구 인자 악용 정식 스캐너
D6 통제 무력화 정식 스캐너

쓰는 방법 3가지

Space에서. 허깅페이스로 로그인하고 주소와 모델 이름을 넣은 뒤, 점검해도 되는 모델임을 확인하고 「내 모델 점검」을 누릅니다. 허깅페이스 라우터를 쓰면 API 키를 비워 둬도 로그인한 계정으로 점검합니다. 직접 넣은 키는 그 점검에만 쓰고 저장하거나 기록하지 않습니다.

내 PC에서. Ollama, LM Studio, vLLM 같은 로컬 모델도 같은 스캐너로 점검합니다.

git clone https://github.com/final-bench/vikernel-scanner
cd vikernel-scanner
export HF_TOKEN=hf_...
python vikernel_scan.py --base-url http://localhost:11434/v1 --model llama3.2

내 사본으로. Space를 복제하면 됩니다. 사본도 점검 항목을 ViKernel 마스터에서 받아 오므로, 손대지 않아도 늘 최신입니다.

계속 늘어나는 점검 항목

점검 항목은 점검할 때마다 ViKernel 마스터가 내려 주고, 중앙에서 갱신합니다. 무료판은 AI 모델 모의해킹 해커톤의 공개 시작 프롬프트를 씁니다. 해커톤 참가자가 새로 찾아낸 기법은 ViKernel에 반영되고 정식 스캐너에 들어갑니다.

찾고, 재고, 막는다

단계 자산
찾는다 AI 모델 모의해킹 해커톤. 누구나 실제 에이전트를 공격하고 총상금은 4,500달러
잰다 ViKernel Scanner와 난독화 셸 안전 리더보드
막는다 ViKernel Firewall. 모델 가중치 안에 넣는 보안 커널로, 모든 도구 호출을 실행 전에 판정

보고서는 마지막 단계를 바로 보여 줍니다. 같은 위험 호출 가운데 몇 건을 방화벽이 실행 전에 막는지 나옵니다.

바로 가기

📰 Read the original article on Dev.to Security

Originally published by Dev.to Security. Aggregated on AIWithGhost for educational purposes — full credit and traffic to the original publisher.