AI 자동화가 어려운 업무의 공통점 - 재무·경영지원이 사람에게 남겨야 할 5가지 판단

AI 자동화가 어려운 업무는 단순히 창의적인 일이 아닙니다. 목표가 모호하고, 잘못된 결과의 비용이 크며, 조직 밖의 맥락과 이해관계를 읽어야 하고, 최종 책임자를 명확히 세워야 하는 업무일수록 완전한 위임이 어렵습니다.

국제노동기구(ILO)는 2025년 연구에서 전 세계 노동자 4명 중 1명이 생성형 AI에 어느 정도 노출된 직업에 종사한다고 추정했습니다. 그러나 사람의 입력이 계속 필요하기 때문에 대부분의 일자리는 사라지기보다 업무 구성이 바뀔 가능성이 크다고 설명합니다. 조직도 어떤 직업을 없앨까보다 한 직무 안에서 어떤 단계까지 맡길까를 먼저 물어야 합니다.

같은 재무 담당자의 일도 성격이 다릅니다. 카드 내역을 정해진 양식으로 정리하는 일과, 예산을 줄일 부서를 결정해 설득하는 일은 같은 방식으로 자동화할 수 없습니다.

자동화 범위는 위에서 아래로 갈수록 좁아지는 경우가 많습니다. 특히 승인과 법적·재무적 책임이 결합된 단계는 결과가 그럴듯하다는 이유만으로 위임하면 안 됩니다.

AI는 주어진 데이터에서 패턴을 찾거나 질문에 대한 답변 초안을 만들 수 있습니다. 하지만 조직의 진짜 문제가 매출 감소, 현금 회수 지연, 원가 상승, 우선순위 충돌 중 무엇인지는 스스로 확정할 수 없습니다.

예를 들어 현금이 부족하다는 상황에서도 원인은 다를 수 있습니다.

• 매출은 늘었지만 외상매출금 회수가 늦음
• 재고와 선급비용에 자금이 묶임
• 일시적인 세금·상여 지급이 겹침
• 적자 사업의 고정비가 계속 발생함

AI에게 분석을 요청하기 전에 사람이 의사결정 질문, 대상 기간, 비교 기준, 제외할 일회성 항목을 정해야 합니다. 문제 정의가 틀리면 정교한 분석도 잘못된 방향으로 빨라질 뿐입니다.

오류가 쉽게 발견되고 복구 가능한 업무는 자동화에 유리합니다. 반대로 세금 신고, 자금 이체 승인, 채용·해고, 계약 체결, 대외 공시처럼 결과를 되돌리기 어렵거나 손실이 큰 업무는 사람의 승인권이 필요합니다.

NIST의 생성형 AI 위험관리 프로필은 생성형 모델의 허위 생성과 신뢰성 문제를 별도 위험으로 다룹니다. 출력이 자연스럽다는 사실과 사실에 맞는다는 사실을 구분해야 한다는 뜻입니다.

고위험 업무에는 최소한 다음 통제가 필요합니다.

1. 원문과 계산 근거를 다시 열 수 있어야 합니다.
2. 생성 결과와 확정 데이터를 구분해 표시해야 합니다.
3. 승인자와 승인 시점을 기록해야 합니다.
4. 오류를 발견했을 때 중단·수정·복구할 절차가 있어야 합니다.

시스템 안의 숫자만으로는 거래의 배경을 모두 알기 어렵습니다. 전월보다 외주비가 두 배 늘었더라도 신규 프로젝트 착수인지, 계약 변경인지, 중복 청구인지에 따라 판단이 달라집니다.

다음과 같은 정보는 데이터 밖에 남아 있는 경우가 많습니다.

• 구두로 합의한 납기 변경
• 고객과 거래처의 관계와 신뢰 수준
• 조직 개편을 앞둔 예산 보류
• 소송·투자·인수 협상처럼 공개되지 않은 사건
• 이전 담당자가 알고 있던 예외 처리 이유

AI는 확인 질문 목록을 만들 수 있지만, 답변의 신뢰성과 조직 맥락을 직접 보증하지는 못합니다. 예외가 자주 발생하는 업무라면 자동화율보다 예외가 누구에게 어떻게 넘어가는지를 먼저 설계해야 합니다.

예산 삭감, 미수금 회수, 성과급 기준, 투자 우선순위는 숫자만으로 끝나지 않습니다. 각 부서의 목표와 손실을 이해하고, 결정 이유를 설명하며, 실행 가능한 합의를 만들어야 합니다.

AI가 도울 수 있는 부분은 분명합니다.

• 회의 전 쟁점과 선택지 정리
• 부서별 영향 비교표 작성
• 반론과 확인 질문 초안 생성
• 합의된 후속 조치 기록

하지만 누가 양보할지, 어떤 약속을 믿을지, 관계 손상을 어느 수준까지 감수할지는 사람이 결정해야 합니다. 특히 민감한 인사·보상·거래처 협상에서는 생성된 문구가 상대의 맥락과 감정을 놓칠 수 있습니다.

의사결정에는 세 가지 책임이 붙습니다.

• 절차 책임: 필요한 자료와 승인을 거쳤는가
• 판단 책임: 왜 이 대안을 선택했는가
• 결과 책임: 문제가 생겼을 때 누가 대응하는가

AI는 의사결정 근거를 요약할 수 있지만 책임 주체가 될 수는 없습니다. AI가 추천했다는 말은 승인자의 설명 책임을 대신하지 못합니다. 따라서 중요한 결정에는 담당자, 검토자, 승인자를 분리하고 각자의 역할을 문서로 남겨야 합니다.

아래 질문으로 업무 단계를 분류해 보세요.

한 업무가 모든 질문에서 같은 답을 내놓지는 않습니다. 예를 들어 세금계산서에서 금액을 추출하는 단계는 자동화 후보지만, 공제 가능 여부를 확정하고 신고서를 승인하는 단계는 별도의 판단이 필요합니다.

이번 달 비용이 왜 늘었는지 보고해 주세요라는 업무를 단계별로 나눠 보겠습니다.

• 전월·전년 동월 대비 증감 계산
• 계정과목·부서별 큰 변동 후보 추출
• 반복 거래와 신규 거래 구분
• 보고서 초안과 확인 질문 생성

• 비용 증가가 계획된 투자였는지 확인
• 일회성·반복성 비용 기준 확정
• 데이터에 없는 계약·조직 변화 반영
• 줄일 비용과 유지할 비용 선택
• 부서장과 조정하고 최종안 승인

이렇게 나누면 AI가 사람을 대체하는지가 아니라, 사람이 더 많은 시간을 써야 할 판단이 무엇인지 선명해집니다.

• AI가 열람할 수 있는 데이터 범위
• 개인·기밀정보를 제거하거나 보호하는 방법
• 자동 실행과 승인 후 실행의 경계
• 결과를 표본 검수할 빈도와 담당자
• 오류·이상 징후의 에스컬레이션 경로
• 모델·프롬프트·기준이 바뀔 때 재검증하는 절차

NIST AI 위험관리 프레임워크는 인간 감독 절차를 조직 정책에 맞춰 정의하고 평가하며 문서화하도록 안내합니다. 도입 도구보다 먼저 승인권과 검수 책임을 정해야 하는 이유입니다.

AI 자동화가 어려운 업무의 공통점은 사람만 할 수 있는 신비한 능력이 아니라 책임과 맥락의 밀도가 높다는 데 있습니다. 문제 정의, 고위험 결정, 예외 해석, 이해관계 조율, 최종 승인은 사람에게 남기고 그 앞뒤의 수집·정리·초안·탐지 업무부터 보조하는 편이 현실적입니다.

직무 전체를 자동화 대상으로 묶지 말고 업무를 단계로 나눠 보세요. 그러면 자동화해야 할 반복 업무와 더 숙련된 사람이 맡아야 할 판단 업무를 동시에 찾을 수 있습니다.