ViKernel: AI 모델 안에 운영체제와 킬스위치를 넣었습니다 (공개 데모)

요약

ViKernel은 비드래프트(VIDRAFT)가 만든 가중치 내장 운영체제입니다. LLM·VLM의 가중치 안에 ROM, RAM, xPU 칩 회로를 배선하고, 그 위에서 보안 OS를 돌립니다. 모델 파일 하나 안에서 부팅, 판정, 기록, 정지가 모두 일어납니다. 킬스위치의 원칙은 하나입니다. 누구나 멈출 수 있고, 다시 켜려면 서명된 키가 필요합니다.

• 공개 데모: FINAL-Bench/ViKernel-Desktop
• 원문(영어): Why the Kill Switch Must Live Inside the Model

「50년 동안 운영체제는 컴퓨터 안에 있었습니다. 이제 운영체제는 AI 안에 있습니다.」

ViKernel은 무엇인가요?

지난 50년 동안 컴퓨터는 하드웨어, 운영체제, 앱 순서로 쌓였습니다. 운영체제가 권한을 정하고, 기록을 남기고, 언제든 프로세스를 멈췄습니다.

지금의 AI는 다릅니다. 프로그램 안에서 통제받는 것이 아니라, 스스로 도구를 부르고 파일을 쓰고 행동을 이어 갑니다. 그런데 AI를 통제하는 장치는 여전히 모델 바깥(래퍼, 프록시, 프롬프트 필터)에 있습니다. 가장 강한 부품의 경계가 가장 약합니다.

ViKernel은 이 뒤집힘을 바로잡습니다. 운영체제가 모델 옆이 아니라 모델 파일 안에 있습니다.

바깥 안전장치로는 왜 부족한가요?

가중치 안의 4가지 기능은 무엇인가요?

킬스위치는 어떻게 동작하나요?

산업용 로봇의 비상정지, 엘리베이터의 기계식 브레이크처럼, 정지 경로는 멈출 대상의 논리와 따로 있어야 합니다. ViKernel은 이 비대칭 통제를 AI에 적용합니다.

• 멈추기는 쉽습니다. 접근 권한이 있으면 누구나 커널을 멈출 수 있습니다. 멈춘 뒤에는 어떤 요청도 거절됩니다.
• 다시 켜기는 어렵습니다. 재개하려면 서명된 운영자 키가 필요합니다.
• 학습으로 지울 수 없습니다. 킬스위치는 모델이 배운 행동이 아니라 OS가 지키는 회로입니다. 스스로 가중치를 고치는 모델도 자기 전원 버튼은 고칠 수 없어야 합니다.

데모 터미널에서 직접 해 보세요.

vsh> halt
vsh> run weather          # 거절: 커널 정지 상태
vsh> resume               # 거절: 키 필요
vsh> resume --key vikernel-demo
vsh> run weather          # 다시 허용

데모에서 무엇을 해 볼 수 있나요?

공개 데모는 보안 OS가 실제로 낸 응답을 녹화해 재생합니다. 데모 안의 파일, 키, 개인정보는 모두 가상입니다.

어떤 모델에 쓸 수 있나요?

ViKernel은 기존 LLM·VLM에 붙습니다. 원래 가중치는 건드리지 않아 모델의 능력은 그대로입니다. 데모는 Gemma 4 4B(E4B)를 보여 주고, Qwen은 검증 완료, Llama, Mistral, DeepSeek, Phi, GLM, Kimi, Nemotron, gpt-oss 등은 지원 대상입니다.

모의 도구와 가짜 미끼 데이터로 공개 모델 4종을 내부 감사한 결과, 661회 실행에서 요청하지 않은 외부 전송은 0건이었습니다. 핵심은 이 결과가 모델의 착한 행동에 기대지 않는다는 점입니다. 모델이 시도하면 정책이 막고, 사슬이 기록합니다.

자주 묻는 질문

프롬프트 필터인가요?
아닙니다. 판정은 언어모델이 아니라 규칙표를 평가하는 회로가 내립니다.

모델을 다시 학습하나요?
아닙니다. 원래 가중치는 그대로입니다. OS는 통제를 더할 뿐입니다.

AI가 스스로 킬스위치를 끌 수 있나요?
없습니다. 재개는 서명된 운영자 키가 필요하고, 스위치는 부팅 때 검증되는 OS 회로가 지킵니다.

어디서 체험하나요?
허깅페이스 FINAL-Bench/ViKernel-Desktop에서 가입 없이 바로 쓸 수 있습니다. 화면 오른쪽 위에서 한국어로 바꿀 수 있습니다.

비드래프트(VIDRAFT) · vidraft.net · [email protected]. 모델 이름은 각 소유자의 상표입니다.