5장. 생성과 판단은 같은 일이 아니다.

주간 보고를 자동으로 쓰는 봇을 만든 적이 있다. 문장은 그럴듯했지만 주간 지표를 지어냈다. 보고서가 매끄럽게 완성될수록 어디까지 계산이고 어디서부터 서술인지 찾기 어려웠다. 만들 수 있다는 사실과 믿어도 된다는 판단이 한 흐름에 섞여 있었다.

프롬프트로 막히지 않은 오류.

처음에는 지시가 느슨해서 생긴 문제라고 보았다. 추정하지 말아야 할 범위를 더 분명히 하고 프롬프트를 더 조여도 오류는 사라지지 않았다. 문장을 생성하는 기능이 계산까지 맡고 있는 한, 표현을 단속하는 말만 늘려서는 경계가 달라지지 않았다.

계산을 평범한 코드로 옮겼다. 모델은 이미 계산된 값을 서술하고 문장 사이의 연결을 만드는 일만 맡았다. 어느 도구가 더 영리한지를 겨룬 것이 아니라, 틀리면 안 되는 계산과 여러 표현이 가능한 서술을 서로 다른 방식으로 다룬 결정이었다.

그 뒤 여덟 번의 재검증에서는 날조가 다시 나타나지 않았다. 이 횟수는 모든 입력과 이후 변경에서도 안전하다는 보증이 아니다. 같은 검증 범위에서 프롬프트를 다듬을 때 남았던 오류가 계산 경계를 옮긴 뒤에는 재현되지 않았다는 기록이다.

이 실패는 생성의 문제가 아니라 경계의 문제였다. 보고서 전체를 만드는 한 동작처럼 취급하자 계산, 선택, 서술의 책임이 흐려졌다. 기능을 나누고 나서야 무엇은 정확해야 하고 무엇은 여러 문장 가운데 골라도 되는지가 보였다. 생성과 판단을 구별하려는 이유가 여기에 있다.

경로를 늘리는 일

생성은 가능한 경로를 늘리는 활동이다. 새로운 화면을 하나 더 만드는 일뿐 아니라 기존 안의 구조를 바꾸거나, 다른 문장을 제안하거나, 아직 검토하지 않은 조합을 꺼내는 일도 포함한다. 생성의 산출물은 선택된 답이 아니라 비교할 수 있는 가능성의 증가다.

이 정의에는 손과 코드와 모델이 모두 들어간다. 사람이 스케치한 세 안도 생성이고, 규칙이 조합한 백 개의 배치도 생성이며, 모델이 제안한 문구 다섯 개도 생성이다. 생성이라는 말을 특정 도구에 붙이지 않는 이유는 도구가 바뀌어도 경로를 늘리는 기능은 남기 때문이다.

경로가 실제로 늘었는지도 따져야 한다. 배경색만 조금씩 다른 스무 안은 파일 수는 늘리지만 결과의 경로를 거의 늘리지 않을 수 있다. 반대로 한 문장의 순서를 바꾼 두 안이 사용자의 행동과 책임의 위치를 바꾼다면 후보는 둘뿐이어도 선택 공간은 크게 갈린다. 생성량을 파일 개수로만 세면 이 차이를 놓친다.

같은 지시에서 나온 후보가 서로 닮는다는 사실만으로 생성이 실패했다고 말할 수도 없다. 요구가 좁고 규칙이 강하면 닮은 후보가 맞는 결과다. 목적은 차이를 크게 만드는 데 있지 않다. 필요한 차이를 빠뜨리지 않아야 한다. 생성의 폭은 낯선 모양의 수보다 검토해야 할 결과 경로를 얼마나 드러냈는지로 봐야 한다.

반대로 겉모양이 크게 다른 후보들이 한 경로에 머물 수도 있다. 사진, 색, 글꼴은 다르지만 모두 같은 정보 순서와 같은 행동 압력을 유지한다면 선택의 결과는 크게 달라지지 않는다. 다양한 표면은 탐색을 풍부하게 보이게 하지만, 판단할 갈림길을 대신하지 못한다.

생성은 탐색의 폭을 넓힐 수 있지만 넓은 탐색이 언제나 필요한 것은 아니다. 규격이 정해진 아이콘을 여러 형식으로 내보내거나 이미 승인된 패턴을 반복하는 작업에서는 가능성을 더 여는 일이 오히려 낭비가 된다. 경로를 늘리는 능력의 가치는 열어야 할 문제가 남아 있을 때 생긴다.

도구가 이 일을 빠르게 해도 무엇을 위해 경로를 여는지는 별도 문제로 남을 수 있다. 더 친근한 화면을 만들라는 요청은 친근함을 어떤 행동과 인상으로 읽을지 정하지 않는다. 도구는 둥근 모서리, 밝은 색, 짧은 문장 같은 후보를 제시할 수 있다. 그중 무엇이 이 제품에서 친근함의 결과를 만드는지는 비교해야 한다.

도식의 위쪽은 하나의 요구가 여러 후보로 벌어지는 모습을 보여 준다. 아래쪽은 그 후보를 다시 한 점으로 접는 과정이 아니다. 먼저 결과가 거의 같은 변형을 묶고 결과가 달라지는 경로를 남긴 뒤, 가치와 손실을 비교해 하나를 택한다. 선택 뒤에는 새 문제가 보일 수 있으므로 화살표가 다시 생성 쪽으로 돌아간다.

결과가 다른 경로를 가르는 일

판단은 결과가 다른 경로를 구별하고 그중 하나를 선택하는 활동이다. 이 정의에서 다른은 모양이 다르다는 뜻만은 아니다. 사용자가 더 빨리 이해하는 경로와 더 오래 탐색하는 경로, 운영자가 더 쉽게 관리하는 경로와 사용자에게 더 많은 통제권을 주는 경로처럼 뒤따르는 결과가 달라야 한다.

구별은 선택보다 먼저 온다. 두 안이 무엇에서 갈리는지 말하지 못하면 선택 이유는 선호의 강도만 남는다. "나는 이것이 더 좋다"는 말은 결정을 시작할 수 있지만 다른 사람이 검토하거나 나중에 수정할 수 있는 구조를 주지 않는다. 판단은 취향을 없애는 일이 아니라 취향이 가리키는 결과 차이를 드러내는 일이다.

선택에는 포기가 붙는다. 명확성을 앞세우면 탐색의 여지를 일부 줄일 수 있고, 사용자의 통제권을 늘리면 운영의 단순성을 포기할 수 있다. 언제나 큰 손실이 생기는 것은 아니지만 실제 충돌이 있다면 양쪽을 모두 온전히 얻었다고 말할 수 없다. 감수한 손실을 적는 까닭은 선택을 비관적으로 만들기 위해서가 아니라 비용을 숨기지 않기 위해서다.

판단의 입력은 후보만이 아니다. 적용할 기준, 기준 사이의 우선순위, 결과를 경험할 사람, 되돌리기 비용이 함께 들어온다. 산출물도 최종 파일만이 아니다. 어떤 경로를 택했는지, 왜 택했는지, 무엇이 나타나면 다시 열 것인지가 판단의 결과에 포함된다.

판단이 항상 한 번의 결재로 끝나는 것도 아니다. 첫 선택은 탐색 범위를 줄이는 잠정 결정일 수 있고, 사용자 반응을 본 뒤 다시 열 수 있다. 이때 좋은 판단은 처음부터 틀리지 않는 선택보다 어떤 관찰이 나오면 방향을 바꿀지 정해 둔 선택에 가깝다. 되돌릴 조건이 없으면 잠정 선택도 영구 결정처럼 굳는다.

책임 역시 비난받을 사람을 찾는 말과 다르다. 무엇을 승인할 권한이 있었고, 어떤 결과를 관찰할 의무가 있으며, 다시 열 결정을 누가 내릴지를 밝히는 일이다. 책임의 위치가 보이면 자동화된 선택도 운영할 수 있다. 위치가 없으면 사람이 마지막 버튼을 눌러도 결과는 무주인이 된다.

이렇게 보면 생성과 판단의 차이는 수행 주체를 나누는 말이 아니다. 누가 했는지보다 무엇이 들어와 무엇이 달라졌는지를 묻는 구분이다. 사람이 한 번의 스케치에서 두 기능을 모두 수행할 수 있고, 자동화된 시스템도 후보를 만들면서 기준에 따라 걸러 낼 수 있다.

같은 동작도 맥락에 따라 두 기능을 오간다. 모델에게 "더 간결하게"라고 요청해 새 문장을 받는 것은 생성이다. 간결함을 앞세우기로 정하고 긴 설명이 주던 안전장치를 포기하는 것은 판단이다. 간결함의 기준과 허용 손실이 이미 합의돼 있다면 그 기준에 맞춰 문장을 줄이는 과정 전체를 자동화할 수 있다.

누가 하느냐는 다른 문제다.

생성형 도구가 등장한 뒤 도구는 만들고 사람은 고른다는 문장이 자주 쓰였다. 작업을 설명하기에는 편리하지만 오래 버티기 어려운 구분이다. 사람도 대안을 만들고 도구도 순위를 매긴다. 평가 모델, 규칙 엔진, 최적화 알고리즘은 이미 많은 후보를 자동으로 탈락시킨다.

반대 방향의 과장도 있다. 평가까지 자동화할 수 있으니 판단도 생성과 다르지 않다는 주장이다. 자동 평가가 판단 기능을 수행한다는 점은 맞다. 평가가 무엇을 목표로 하고, 누구의 오류를 더 크게 보며, 어떤 손실을 허용할지는 시스템이 작동하기 전에 정해져야 한다. 이 값들이 안정돼 있다면 자동화 범위는 넓어진다. 값 자체가 쟁점이면 선택은 다른 위치에 남는다.

예를 들어 버튼 문구가 글자 수 제한을 넘는지, 대비가 정해진 기준을 통과하는지, 필수 정보가 빠졌는지는 자동으로 검사하기 좋다. 오류의 정의가 분명하고 판정 결과를 확인할 수 있기 때문이다. 이런 문제를 사람의 고유한 판단 영역으로 남겨 둘 이유는 없다. 자동화가 더 일관되고 빠를 수 있다.

첫 화면에서 불안을 줄일지 행동을 재촉할지 고르는 문제는 기준 하나로 닫히지 않을 수 있다. 불안을 줄이는 표현은 전환을 늦출 수 있고, 강한 행동 유도는 신뢰를 해칠 수 있다. 어느 손실을 감수할지는 제품의 약속과 위험에 관한 결정이다. 평가 모델에 목표를 넣을 수는 있지만 왜 그 목표가 맞는지는 별도로 다뤄야 한다.

여기서 인간을 최종 심판으로 세울 필요는 없다. 사람의 판단도 편향되고 흔들리며 설명 없이 권위를 행사할 수 있다. 구분의 기준은 인간의 직관과 기계의 계산에 있지 않다. 목표와 손실이 이미 정해졌는지, 그것들을 정하는 일부터 남아 있는지를 봐야 한다.

사람을 검토 고리에 넣었다는 사실만으로 책임이 생기지도 않는다. 수백 후보를 짧은 시간에 승인하도록 요구받은 사람은 실질적으로 평가 시스템의 기본값을 확인하는 역할만 할 수 있다. 반대로 자동 평가가 적용한 목표와 예외, 정지 조건을 누가 정했는지 분명하다면 화면마다 사람의 승인을 붙이지 않아도 책임 구조는 더 선명할 수 있다.

자동 평가가 충분히 정확하고 싸다면 선택 비용도 생성 비용과 함께 내려갈 수 있다. 후보가 늘어도 검토가 밀리지 않고, 잘못된 경로가 초기에 제거되며, 사람은 예외만 다룰 수 있다. 이 가능성은 병목이 언제나 판단으로 이동한다는 이야기에 대한 가장 강한 반론이다. 목표가 고정된 작업에서는 실제로 병목이 사라질 수 있다.

판단이 거의 필요 없는 과업

파일 형식을 바꾸고, 승인된 컴포넌트를 정해진 규격으로 배치하고, 이미 결정된 문구를 여러 언어 칸에 맞추는 작업을 생각해 보자. 예외가 적고 실패 기준이 선명하다면 탐색보다 준수가 중요하다. 이런 과업에서 매번 가치와 손실을 토론하는 것은 신중함이 아니라 절차의 낭비다.

되돌리기 비용이 매우 낮은 선택도 비슷하다. 실험 노출 비율을 작게 잡고 즉시 원복할 수 있으며 실패 지표가 합의돼 있다면 긴 승인 회의보다 빠른 실행이 낫다. 앞선 설계에서 목표, 경계, 정지 조건을 정해 두었기 때문에 실행 단계의 판단이 줄어든다.

문제는 정해 둔 목표가 더 이상 충분하지 않을 때다. 전환율을 높이는 안이 신뢰를 낮추고, 운영 효율을 높이는 안이 사용자의 통제권을 줄이는데도 하나의 점수만 계속 최적화한다면 평가의 정확성이 문제를 해결하지 못한다. 잘못된 답을 고른 것이 아니라 무엇을 답으로 볼지 다시 정해야 하는 상황이다.

이런 과업에서는 평가 자동화가 판단을 목표 설정 단계로 옮길 수 있다. 아직 여러 조직과 과업에서 확인한 결과는 아니다. 목표가 쟁점인 작업에서 남는 결정을 설명하기 위한 가설이다. 평가 시스템이 목표 선택과 책임 추적까지 안정적으로 수행한다면 이 가설은 약해져야 한다.

자기 작업에서 두 기능을 구분하려면 세 가지를 물어볼 수 있다. 지금 늘어나는 것은 파일 수인가, 결과가 다른 경로인가. 무엇을 최적화할지는 이미 합의됐는가. 잘못된 선택의 책임과 되돌리기 비용은 어디에 남는가. 세 질문에 답할 수 있다면 자동화할 부분과 다시 결정할 부분이 조금 더 선명해진다.

어느 기능이 부족한지는 생성과 판단을 나누면 드러난다. 후보가 부족하면 더 만들어야 한다. 결과 차이를 말하지 못하면 비교의 언어를 세워야 한다. 목표가 흔들리면 평가 속도를 높이기 전에 목표를 다시 열어야 한다.

후보의 수가 곧 자유를 뜻하는지는 별개의 문제다. 선택지가 늘면 가능한 행동은 많아지지만, 그중 무엇이 실제로 다른 경로인지 구별하지 못하면 자유는 파일의 개수로만 남는다. 선택지의 수와 실제 선택 가능성은 다르다.

이 구분이 닿는 범위.

이 구별로 사람과 도구의 능력을 서열화할 이유는 없다. 자동 평가가 목표 선택까지 포함해 추가 결정 없이 안정적으로 작동하는 과업에서는 판단이 별도의 병목으로 남는다는 가설을 적용할 이유가 약하다.