재능대 김명호 교수 AI 에이전트 책임성 연구 집대성한 'The Accountable Machine' 출간

재능대 김명호 교수가 AI 에이전트의 책임성(Accountability) 연구를 집대성한 영문 신간 'The Accountable Machine: Why AI Must Justify Every Decision It Makes'를 아마존 KDP를 통해 29일 출간했다고 밝혔다. 이 책은 김 교수가 발표한 9편의 학술 논문과 20여 편의 기술 아티클을 바탕으로 집필됐다. 저자는 AI의 판단이 정답 여부를 넘어 근거, 승인 주체, 재현 가능성을 구조적으로 보장해야 한다고 강조하며 철학, 인지과학, 수학, 정보이론, 소프트웨어 아키텍처를 결합했다. 책의 핵심 이론은 제안·검증·승인·실행·기록의 역할을 구조적으로 분리한 '구조화된 인지 루프(SCL)'와, 검색된 정보와 실제 판단 근거를 구분하는 '풀-게이트 검색(PGR)'이다. 김 교수는 AI의 성능과 책임성이 서로 다른 축이며 책임성은 모델 구조, 운영 규칙, 인간의 감독 및 추적 체계를 통해 확보된다고 설명하고, 근거 기반 응답·귀속 가능한 행동·구조적 재현성을 책임성 측정 요소로 제시했다. 그는 AI 개발의 질문이 '얼마나 일을 잘해내는가'에서 '왜 그 판단이 허용됐는지 입증할 수 있는가'로 전환돼야 한다며, 이 책이 개발자·연구자·정책 입안자에게 아키텍처적 이정표가 되길 기대한다고 말했다.

AI 에이전트책임성구조화된 인지 루프풀-게이트 검색