Human Whitebox Framework

Home > Framework

Proposal Framework

1. 인간 판단 책임 프레임워크

Human Whitebox Framework(H-Box)

AI 거버넌스는 이미 인간 감독, 책임성, 투명성,

신뢰 기반을 중요한 원칙으로 다루고 있습니다.

EU AI Act는 고위험 AI에 대한 인간 감독을 요구하고,

NIST AI RMF는 조직 차원의 AI 위험관리를 제시하며,

한국 AI기본법은 인공지능 발전과 신뢰 기반 조성을

제도적 목표로 삼고 있습니다.

그러나 여전히 중요한 질문이 남습니다.

⦁ 인간은 실제로 무엇을 질문했는가?

⦁ 무엇을 검토했는가?

⦁ 어떤 반론과 위험을 확인했는가?

⦁ 왜 그 판단을 승인했는가?

H-Box는 이 공백을

인간 판단의 기록·증명·보존 구조로 다룹니다.

AI가 답을 만들었다는 사실보다 더 중요한 것은,

그 답을 인간이 어떤 질문과 기준으로 검토하고

승인했는지입니다.

H-Box는

AI를 통제하려는 기술 프레임워크가 아니라,

AI를 사용하는 인간의 판단이 실제로 존재했는지를

설명하고 증명하기 위한 구조입니다.

그 기록은 책임 회피를 위한 장치가 아니라,

책임 있는 판단을 설명하고 보호하기 위한 근거가

되어야 합니다.

2. 두 개의 구조축

H-Box는 두 개의 축으로 구성됩니다.

HDAA 인간 판단 책임 구조

Human Decision Accountability Architecture

HDAA는 AI 활용 과정에서 인간이 실제로 질문하고,

검토하고, 반론하고, 승인했는지를

기록·검증하는 구조입니다.

이를 통해 AI 결과를 무비판적으로 따른 것이 아니라,

인간이 책임 있는 절차를 거쳐 판단했음을

설명할 수 있습니다.

HDAA는 판단 당시의 책임 공백을 줄이기 위한 구조입니다.

HRAA 인간 복기 및 실행 기록

Human Review & Action Archive

HRAA는 결정 이후 인간 판단과 실제 결과를

비교하고 복기하는 구조입니다.

반복되는 오류와 편향을 확인하고,

조직의 판단 경험을 향후 기준 개선으로 연결합니다.

HRAA는 판단 이후의 경험 공백을 줄이기 위한 구조입니다.

3. 신뢰 인프라

H-Box는

AI 시대의 Trust Infrastructure를 지향합니다.

기존 AI 거버넌스는 Human Oversight,

즉 인간 감독을 요구합니다.

그러나 “인간이 감독했다”는 말만으로는 충분하지 않습니다.

H-Box는

인간 감독이라는 원칙을

실제 업무 절차로 바꾸기 위한 프레임워크입니다.

4. 핵심 구조

H-Box는 인간 판단 과정을 다음 단계로 구조화합니다.

1) Capture 판단 포착

질문, 검토, 반론, 승인, 보류 등 판단의 흔적을 포착합니다.

2) Node 판단 단위

포착된 흔적을 질문, 위험 검토, 반론, 책임 확인 등

의미 있는 판단 단위로 정리합니다.

3) Chain 판단 연결

각 판단 단위를 시간과 맥락에 따라 연결하여

판단 흐름을 확인합니다.

4) Structure 책임 구조화

판단 기록을 법적·윤리적·감사적 기준과 연결하여

검증 가능한 책임 구조로 전환합니다.

5) Asset 판단 자산화

축적된 판단 기록을 조직과 사회의

검토·교육·정책 개선 자산으로 전환합니다.

5. 최소 작동 조건

H-Box가 의미 있게 작동하려면

다음 조건이 필요합니다.

⦁ AI가 제안한 부분과 인간이 판단한 부분이 구분되어야 합니다.

⦁ 판단의 출발점과 검토 기준이 먼저 기록되어야 합니다.

⦁ 고위험 판단에는 반론과 위험 검토가 포함되어야 합니다.

⦁ 최종 승인에는 책임 인식 확인이 필요합니다.

⦁ 판단 기록은 사후 검증 가능해야 합니다.

6. 설계 원칙

H-Box는 인간을 감시하기 위한 장치가 아닙니다.

사회적 효력을 갖는 판단이 최소한의 책임 조건을

충족했는지 확인하기 위한 구조입니다.

1) Non-invasive 비침습성

기존 업무 시스템을 전면 교체하지 않고,

판단 과정 위에 얹히는 구조를 지향합니다.

2) Human-centered 인간 중심성

AI가 아니라 인간의 질문과 책임을 중심에 둡니다.

3) Risk-based 위험 기반 접근

위험도와 사회적 영향에 따라 기록 수준을 조절합니다.

4) Verifiable 검증 가능성

누가, 언제, 어떤 기준으로 판단했는지 확인 가능해야 합니다.

5) Preservable 보존 가능성

중요한 판단 기록은 장기적으로 보존 가능한

책임 자산이 되어야 합니다.

6) Protective 보호성

책임 있는 절차를 거친 판단을 설명하고 보호하는

구조를 지향합니다.

7. 우선 적용 영역

H-Box는

먼저 고위험 의사결정 영역에 적용되는 것이 적절합니다.

⦁ 공공행정

⦁ 의료

⦁ 법률

⦁ 금융

⦁ 군사·안보

⦁ 산업 안전

⦁ 교육·평가

⦁ 기업 내부 감사

특히 면허, 승인, 처분, 진단, 평가처럼 인간의 최종 책임이

사회적 효력을 갖는 영역이 우선 적용 대상입니다.

8. 지식 재산 전략

H-Box는 인간 판단의 기록·검증·보존을 위한

개념과 절차를 단계적으로 정리하고 있습니다.

일부 구조는 지식재산권 확보 절차와 함께 발전하고 있으며,

구체적인 기술 구조와 구현 방식은 권리화 절차에 따라

단계적으로 공개할 예정입니다.

현재 공개 가능한 수준에서는 다음과 같은 방향을 포함합니다.

⦁ 판단의 출발점을 기록하는 구조

⦁ 인간 판단 과정을 구조화하는 개념

⦁ 인간 판단의 유효성을 확인하는 절차

⦁ 위험 검토와 반론 절차

⦁ 판단 기록의 전달과 검증 가능성

⦁ 고위험 판단에서 책임 조건과 실행 조건의 관계 등

9. 적용 범위와 경계

H-Box는 다음과 구분됩니다.

⦁ AI를 금지하는 구조가 아닙니다.

AI를 책임 있게 사용하기 위한 절차입니다.

⦁ 인간을 감시하는 장치가 아닙니다.

사회적 효력을 갖는 판단행위의 책임 조건을

기록하는 구조입니다.

⦁ 단순 로그 저장이 아닙니다.

질문·검토·반론·숙고·승인의 맥락을 구조화합니다.

⦁ XAI를 대체하는 개념이 아닙니다.

XAI가 AI의 설명가능성을 다룬다면,

H-Box는 인간 판단 과정의 설명가능성을 다룹니다.

⦁ 책임 회피를 위한 면책 장치가 아닙니다.

실제로 책임 있는 절차를 거쳤는지 설명하고

검증하기 위한 구조입니다.

H-Box는 AI가 만든 답보다,

인간이 그 답을 어떻게 판단했는지를 남깁니다.

AI 시대의 신뢰는 AI의 성능만으로 만들어지지 않습니다.

인간이 어떤 질문을 던졌고, 어떤 기준으로 검토했으며,

어떤 책임으로 최종 판단했는지가 함께 남을 때

AI 시대의 신뢰가 만들어집니다.

HDAA는 실행 전 책임을 증명하고,

HRAA는 실행 후 경험을 보존합니다.

HDAA proves accountability before execution,

HRAA preserves experience after action.