AI의 답을 읽다 보면 전문가와 이야기하는 것처럼 느껴질 때가 있다. 용어를 정확히 쓰고 여러 가능성을 설명하면 더 그렇다. 그런데 설명이 전문적으로 들린다는 것과 지금의 상황을 맡겨도 된다는 것은 다른 판단이다.
이 차이를 살피기 위해 나는 자연주의적 의사결정 연구를 가져오고 싶다. 이 연구는 실제 현장에서 사람들이 시간과 정보의 제약 속에 어떻게 판단하는지 묻는다. 여기서 관심을 둘 것은 누가 더 많은 지식을 말하는가보다, 무엇을 단서로 상황을 읽고 행동을 조정하는가다.
전문가는 단서에서 상황을 읽는다
게리 클라인의 [인식 기반 의사결정 모델, RPD](https://www.gary-klein.com/rpd)는 숙련자가 경험을 바탕으로 그럴듯한 행동을 떠올리는 과정을 설명한다. 여러 대안을 모두 늘어놓고 최적안을 고르는 방식만으로 현장의 판단을 설명하기 어렵다는 데서 출발했다.
떠오른 행동이 현재 조건에서 가능한지 머릿속으로 살피고, 맞지 않으면 수정하거나 다른 행동을 검토한다. 이 과정에는 무엇이 평소와 다른지, 다음에 무엇이 나타나야 하는지, 어떤 일이 생기면 판단을 바꿔야 하는지에 관한 기대가 들어간다. [관련 연구자의 설명](https://macrocognition.com/documents/Macrocog-paper.pdf)도 상황 인식과 행동의 머릿속 점검을 함께 다룬다.
이 모델이 모든 전문가의 판단을 보증하는 것은 아니다. 사람이 경험이 많다는 이유만으로 낯선 상황에서도 옳은 결정을 내린다고 볼 수 없다. 지금의 경험이 어떤 환경에서 쌓였고, 그 환경이 현재와 얼마나 비슷한지 확인해야 한다.
답에서 드러난 것과 아직 드러나지 않은 것
AI가 해결책을 제안했다면, 먼저 그 답이 전제하는 상황을 찾아보자. 입력한 자료에서 확인한 사실인지, 일반적인 경우를 가정한 것인지 나누는 것이다. 현장의 제약이 빠졌다면 문장이 유창해도 그대로 적용하기 어렵다.
다음에는 행동의 결과를 묻는다. 무엇이 달라질 것으로 예상하는지, 예상과 다른 신호가 나오면 어떻게 수정할 것인지 살핀다. AI가 이런 설명을 생성했다고 해서 그 결과가 검증된 것은 아니다. 실제 자료와 실행 결과로 대조할 부분이다.
기존 글에서는 사람의 직관과 AI의 패턴 인식을 선명하게 대비했다. 그러나 AI가 원천적으로 무엇을 할 수 없다고 넓게 단정하려면 과업과 모델, 사용 도구를 특정한 평가가 필요하다. 오래된 인간 전문성 연구만으로 현재 AI의 성능 한계를 증명할 수는 없다.
위임할 일을 작게 나누기
전문가를 대체할 것인지 한 번에 묻기보다, 지금의 작업을 나눠보면 판단할 지점이 보인다. 자료를 정리하는 일, 가능한 설명을 만드는 일, 현장 단서를 확인하는 일, 행동을 채택하고 책임지는 일은 서로 연결돼 있지만 같은 작업은 아니다.
예를 들어 회의에서 검토할 대안을 AI와 정리할 수 있다. 그중 실제로 가능한 선택은 담당자가 일정·비용·이해관계 같은 현장 조건과 대조해야 한다. 중요한 조건을 모르면 답을 더 길게 만드는 대신 그 정보를 먼저 확인한다.
한 번의 과업에서 다음 기록을 남겨보자. AI에 맡긴 일, 채택한 제안, 사람이 확인한 근거, 예상과 달랐던 결과다. 이 기록이 쌓여야 해당 조건에서 어디까지 맡길 수 있는지 판단할 수 있다.
AI가 전문가처럼 말하는지는 출발점일 뿐이다. 내가 더 보고 싶은 것은 그 설명이 어떤 단서에 기대고, 언제 틀릴 수 있으며, 누가 무엇을 확인하고 결정하는지다. 그 경계가 보일 때 협력의 방식도 구체적으로 정할 수 있다.