ONGRID: GraphRAG에 '검증'을 더하다 (제로토큰 판정)

대부분의 GraphRAG는 두 가지만 합니다. 그래프에서 사실을 검색하고, LLM이 답을 생성합니다. 그런데 현장에서 진짜 중요한 단계, 즉 "그 답이 맞는지 판정하는 단계"는 건너뜁니다.

ONGRID는 그 세 번째 단계를 더한 오픈소스 엔진입니다(Apache-2.0). 이름 자체가 파이프라인입니다.

Ontology-Native Graph, Retrieval, Inference, Decision.

• 라이브 데모: https://huggingface.co/spaces/FINAL-Bench/ONGRID
• 코드: https://github.com/final-bench/ongrid

파이프라인

1. 온톨로지 그래프: 문서를 타입이 있는 개념과 관계로 구조화해 3D 그래프로 보여줍니다(회전, 확대, 클러스터, 검색).
2. 검색: 질문에 관련된 그래프 사실만 뽑습니다.
3. 추론: LLM이 그 사실만 근거로 답하고, 근거 트리플을 함께 표시합니다.
4. 판정: ZTC-Judge가 질문과 답변을 한 번의 순전파로 읽고, 토큰을 하나도 생성하지 않고 신뢰도 판정을 돌려줍니다.

왜 제로토큰 판정인가

보통 "검증"은 또 다른 생성 모델을 호출하는 것을 뜻합니다. 느리고 비싸고, 그 모델의 환각이 또 끼어듭니다. ZTC-Judge는 질문과 답변을 한 번의 순전파로 읽어, 마지막 층의 은닉 상태에 보정된 probe를 적용해 신뢰도 점수와 문턱을 반환합니다. 토큰을 생성하지 않으니 빠르고 결정적입니다.

ONGRID에서는 모든 답변에 판정(이상 없음, 판단 보류, 검토 요망)과 점수가 붙습니다. 신뢰도가 낮은 답은 그냥 내보내지 않고, 사람 검토나 더 강한 모델로 보낼 수 있습니다.

직접 해보기

라이브 데모는 기본 지식우주를 띄우고, 한국어/영어/중국어로 질문할 수 있습니다. 내 문서를 올리면(브라우저 안에서 처리) 그 문서로 그래프가 다시 만들어집니다.

git clone https://github.com/final-bench/ongrid.git
cd ongrid
export ANTHROPIC_API_KEY=sk-ant-...
docker build -t ongrid . && docker run -p 7860:7860 -e ANTHROPIC_API_KEY=$ANTHROPIC_API_KEY ongrid

GraphRAG를 만들고 있다면, 가져갈 가치가 있는 부분은 바로 이 "판정(decision)" 레이어입니다. 코드와 이슈는 열려 있습니다: https://github.com/final-bench/ongrid

만든 곳: VIDRAFT. 유용하면 repo에 star 부탁드립니다.