12. 인간다움은 자동화될 수 있는가

문제 제기: 공감 버튼이 울리는 사무실

고객센터의 상담 화면에 새 기능이 추가되었다. 고객의 문장을 입력하면 시스템이 감정 상태를 분석하고, 가장 적절한 답변을 추천한다. “불편을 겪으셔서 죄송합니다”라는 문장은 화면 상단에 떠 있고, 상담원은 클릭 한 번으로 전송할 수 있다. 어느 날 장례를 앞둔 고객이 환불을 요청한다. 시스템은 문장에서 슬픔을 감지하고 공감 문구를 추천한다. 상담원은 바쁜 대기열 속에서 그 문장을 보낸다. 고객은 곧바로 답한다. “그 말, 아무도 읽지 않고 보내는 것 같네요.”

여기서 실패한 것은 문장의 문법이 아니다. 문장은 공손했고, 감정 분류도 틀리지 않았을지 모른다. 문제는 인간다움이 적절한 문장을 출력하는 능력으로 축소된 데 있다. 공감이라는 단어를 자동으로 붙인다고 해서 누군가의 사정을 받아들인 일이 되지는 않는다. 인간다움은 말투의 장식이 아니라, 타인의 구체적인 상황 앞에서 자신의 행동을 조정하는 능력에 가깝다.

AI와 자동화가 확장될수록 우리는 인간다움을 기능 목록으로 만들고 싶어진다. 공감형 챗봇, 친절한 음성, 개인화된 추천, 감정에 맞춘 알림. 그러나 “인간답게 반응하라”는 요구는 무엇을 뜻하는가. 인간다움은 자동화할 수 없는 본질인가, 아니면 충분히 정교한 패턴으로 구현 가능한 행동인가.

철학적 논점: 인간다움은 결과보다 관계의 방식에 있다

사람은 오래전부터 인간적인 행동을 규칙으로 가르쳐 왔다. 아픈 사람에게 안부를 묻고, 실수한 사람에게 기회를 주고, 모르는 것을 모른다고 말하는 것. 이런 행동은 어느 정도 자동화할 수 있다. 일정한 조건에서 배려를 표현하도록 시스템을 만들 수 있고, 차별적인 표현을 줄이도록 필터를 넣을 수도 있다. 자동화가 인간적인 가치를 훼손하기만 하는 것은 아니다. 오히려 기억과 주의력의 한계 때문에 놓치던 배려를 시스템이 보조할 수 있다.

하지만 인간다움은 규칙의 실행으로 완전히 소진되지 않는다. 그것은 상황에 따라 규칙을 멈추거나 다시 해석하는 능력을 포함한다. 같은 “정책상 환불이 어렵습니다”라는 문장도, 단순 변심으로 환불을 요구한 사람과 재난으로 가게를 잃은 사람에게 동일하게 적용될 수 없다. 예외를 허용하면 기준이 흔들릴 수 있지만, 예외를 전혀 허용하지 않으면 기준은 사람을 보지 못하는 벽이 된다.

철학은 여기서 ‘효율적으로 친절하면 충분하다’는 전제를 멈춰 세운다. 공학은 그 질문을 설계의 문제로 번역한다. 시스템은 감정을 흉내 내는가, 아니면 사람의 판단을 더 잘 돕는가. 자동화된 문장이 실제 담당자의 검토를 대체하는가, 아니면 검토를 위한 초안일 뿐인가. 사용자는 지금 자신이 사람과 이야기하는지 기계와 이야기하는지 알 수 있는가. 그리고 기계의 오류를 만났을 때, 책임 있는 인간에게 연결될 수 있는가.

공학 사례: 업무를 분해할 때 사라지는 것들

한 회사가 인사팀의 면담 업무를 자동화하려 한다. 시스템은 직원의 설문 답변을 분석해 “번아웃 위험이 높음”, “이직 가능성 있음” 같은 표지를 붙이고, 관리자의 면담 질문까지 생성한다. 표면적으로는 효율적인 시스템이다. 관리자는 수백 명의 상태를 빠르게 훑고, 놓치기 쉬운 사람을 찾을 수 있다.

그러나 업무를 “위험 점수 계산”, “질문 생성”, “알림 발송”, “면담 기록 요약”으로 잘게 나누는 순간, 면담의 의미가 바뀔 수 있다. 직원은 자신의 고통이 한 번의 대화가 아니라 점수와 태그로 먼저 읽혔다는 사실을 알게 된다. 관리자는 실제로 듣기 전에 이미 결론을 전달받는다. 시스템이 만든 요약은 편리하지만, 말의 망설임과 침묵, 앞뒤가 맞지 않는 고백을 지워 버릴 수 있다.

더 나은 설계는 점수를 판정문이 아니라 질문의 신호로 제한한다. 위험도가 높다고 해서 자동으로 평가나 인사 조치로 이어지지 않게 하고, 당사자에게 어떤 정보가 수집되고 어떻게 쓰이는지 알린다. 면담 기록에는 관리자의 요약뿐 아니라 직원이 직접 수정하거나 삭제를 요청할 수 있는 공간을 둔다. 무엇보다 시스템이 “이 사람은 번아웃이다”라고 말하는 대신, “최근 응답에서 업무 부담과 수면 문제를 언급했습니다. 직접 확인하시겠습니까?”라고 말하게 한다. 자동화의 목표가 사람을 대신 판단하는 것이 아니라, 사람이 성급하게 판단하지 않도록 돕는 쪽으로 이동하는 것이다.

추천 시스템에서도 인간다움은 선택지를 늘리는 데만 있지 않다. 돌봄이 필요한 사람에게 자극적인 콘텐츠를 계속 추천하지 않도록 멈춤의 장치를 넣고, 사용자가 “지금은 이런 추천을 원하지 않는다”고 말할 수 있게 해야 한다. 사용자의 과거 행동을 가장 정확히 예측하는 것이 언제나 사용자를 존중하는 것은 아니다. 때로는 예측을 포기할 권리, 기억되지 않을 권리, 낯선 것을 만날 기회가 더 인간적인 설계가 된다.

반론과 긴장: 인간의 판단도 늘 따뜻한가

자동화를 비판하면서 인간의 판단을 낭만화해서는 안 된다. 사람은 피곤하고, 편견을 갖고, 같은 질문을 반복해서 듣다가 무심해진다. 상담원 한 명의 무례한 말이 자동 응답 수백 번보다 더 깊은 상처를 남길 수도 있다. 감정 분석과 알림 시스템은 인간이 놓친 신호를 포착하고, 일관된 최소한의 존중을 보장하는 데 기여할 수 있다.

따라서 인간다움과 자동화를 대립시키는 것은 정확하지 않다. 중요한 것은 자동화가 인간의 취약성을 덮어 버리는지, 아니면 그 취약성을 인정한 채 보완하는지다. 인간 상담원을 남겨 두었다는 사실만으로 충분하지 않다. 상담원이 추천 문구를 거부할 수 있는지, 시간을 들여 예외를 처리할 수 있는지, 실수했을 때 사과하고 고칠 수 있는지가 더 중요하다. 인간을 시스템의 최종 버튼으로 세워 놓고 모든 판단을 떠넘기는 것 역시 인간다움의 보존이 아니다.

인간다움은 자동화될 수 있다. 다만 그것은 ‘사람처럼 보이는 출력’을 자동화하는 일과 다르다. 자동화할 수 있는 것은 배려의 조건을 기억하는 일, 위험한 편견을 점검하는 일, 연결이 끊긴 사람을 다시 불러오는 일이다. 반면 타인의 말 앞에서 자신의 확신을 낮추는 일, 예외의 무게를 감당하는 일, 잘못했을 때 책임지고 관계를 회복하는 일은 여전히 시스템 바깥의 인간적 결단을 요구한다.

마무리 질문

당신이 만드는 시스템은 인간다움을 말투로 흉내 내고 있는가, 아니면 사람을 더 오래 듣고 더 신중하게 판단하도록 돕고 있는가. 자동화된 공감 문장 뒤에 실제로 책임질 사람이 남아 있는가. 그리고 언젠가 기계가 충분히 인간적인 답변을 내놓게 되더라도, 우리는 그 답변을 보낸 주체가 누구인지, 그 관계를 계속 맡겨도 되는지 물을 준비가 되어 있는가?