AI가 만든 회계·세무 숫자에서 오류를 발견하면 먼저 해당 결과의 반영과 배포를 중단하고, 원천 데이터부터 최종 보고서까지 영향 범위를 추적한 뒤 권한 있는 사람이 수정안을 승인해야 합니다. 오류 원인과 수정값만 적는 것으로는 부족합니다. 누가 입력·검토·수정·승인했는지, 이미 전달된 자료를 누구에게 어떻게 정정했는지까지 한 기록으로 연결해야 합니다.
이 글은 AI가 만든 재무제표의 법적 작성 주체를 다시 설명하지 않습니다. 숫자 오류가 실제로 발생했을 때 재무팀이 적용할 통제·검증·승인·사후대응·책임기록에만 범위를 좁힙니다.
“공식 근거 확인일: 2026년 7월 13일 NIST AI RMF와 Generative AI Profile은 자발적 위험관리 지침입니다. 국내 법적 책임을 정하는 규정은 아니며, 회사에 적용되는 내부회계관리제도·공시·세무신고 의무는 별도로 확인해야 합니다.”*읽기 전 참고사항
AI 숫자 오류는 어떤 상태로 분류해야 하나요?
AI가 제시한 값이 원장이나 공식 근거와 다르다고 모두 같은 사고는 아닙니다. 먼저 오류의 영향과 외부 전달 여부를 나눠야 대응 순서를 정할 수 있습니다.
| 오류 상태 | 예시 | 즉시 조치 | 승인 수준 |
|---|---|---|---|
| 초안 단계 오류 | 계정과목 추천 오류, 합계식 누락 | 해당 결과 사용 중단, 원천 자료 재검증 | 업무 담당 검토자 |
| 결산 반영 전 오류 | 충당금 계산, 감가상각, 환산 값 오류 | 전표·보고서 반영 보류, 영향 계정 대사 | 회계 책임자 |
| 내부 보고 후 오류 | 경영회의 자료의 매출·손익 오류 | 수신자에게 잠정 오류 알림, 정정본 재승인 | 보고 승인권자 |
| 신고·공시 후 오류 | 세무신고, 재무제표, 공시 수치 오류 | 법정 정정 절차와 기한 검토, 관련 책임자 보고 | 경영진·공시 또는 세무 책임자 |
| 반복·시스템성 오류 | 같은 입력에서 여러 기간·법인에 오류 발생 | 자동 반영 중단, 모델·규칙·연동 범위 격리 | 시스템 소유자와 업무 책임자 공동 |
금액이 작다는 이유만으로 낮은 위험이라고 단정하면 안 됩니다. 세율, 지급기한, 계정 분류처럼 작은 입력 하나가 여러 거래와 신고서에 반복 적용될 수 있기 때문입니다.
오류가 발견되면 무엇부터 중단해야 하나요?
첫 조치는 책임 소재를 단정하는 일이 아니라 오류가 더 퍼지지 않게 하는 것입니다.
- 같은 AI 출력이 연결된 전표 등록, 보고서 갱신, 파일 배포를 중단합니다.
- 오류가 처음 나타난 입력·프롬프트·규칙·모델 버전과 발견 시각을 보존합니다.
- 같은 조건으로 만들어진 다른 계정, 기간, 법인, 신고 자료를 검색합니다.
- 이미 내부·외부에 전달됐는지와 의사결정에 사용됐는지 확인합니다.
- 임시 수정값을 덮어쓰기 전에 원본 출력과 변경 이력을 별도로 남깁니다.
NIST AI RMF Core의 Manage 2.4는 의도한 사용과 맞지 않는 결과를 내는 시스템을 중지·해제·비활성화할 책임과 절차를 두도록 안내합니다. 반영 중단은 AI를 영구 폐기한다는 뜻이 아니라, 검증되지 않은 결과가 다음 단계로 넘어가지 않게 하는 임시 통제입니다.
숫자는 어떤 순서로 검증해야 하나요?
검증은 AI에게 같은 질문을 다시 하는 방식으로 끝내면 안 됩니다. AI 밖의 원천 자료와 독립 계산으로 결과를 재현해야 합니다.
1. 원천 데이터의 완전성을 대사합니다
- 원장과 보조부의 건수·금액 합계
- 은행, 카드, 세금계산서, 급여 등 외부 원천의 기간과 범위
- 취소·수정·중복 거래와 마감 뒤 입력
- 연결·별도, 법인·지점·프로젝트의 포함 범위
2. 계산식과 단위를 분리해 다시 계산합니다
AI 출력의 최종값만 비교하지 말고 입력값, 계산식, 반올림, 부호, 통화, 부가세 포함 여부를 나눠 확인합니다.
검증 차이 = AI 출력값 - 독립 재계산값
영향 금액 = 검증 차이 × 같은 오류가 적용된 거래 수예를 들어 AI가 월 임차료 10,000,000원에 부가세를 다시 더해 11,000,000원을 비용으로 분류했고 같은 규칙이 12개월에 적용됐다면, 한 건의 1,000,000원 차이가 아니라 전체 기간과 세무 처리까지 추적해야 합니다.
3. 회계정책·세법·계약의 근거를 다시 엽니다
수치가 산술적으로 맞아도 기준이 틀릴 수 있습니다. 적용 회계기준, 회사 회계정책, 계약서, 세법 조문과 신고 서식의 기준일을 확인합니다. 생성형 AI가 제시한 조문·판례·기준서 번호는 원문 딥링크에서 다시 확인해야 합니다.
NIST Generative AI Profile은 생성형 AI가 확신하는 형태로 잘못된 내용을 제시하는 위험을 confabulation으로 설명하며, 배포 전 평가와 운영 중 모니터링에서 출력의 출처와 인용을 검토·검증하도록 권고합니다.
검토와 승인은 어떻게 분리해야 하나요?
같은 사람이 AI에 입력하고 결과를 수정한 뒤 최종 승인까지 하면 오류 원인과 판단 근거가 한 사람의 기억에만 남습니다. 업무 위험에 따라 최소한 다음 역할을 구분하세요.
| 역할 | 확인할 내용 | 남길 기록 |
|---|---|---|
| 실행자 | 입력 범위, 출력 원본, 1차 차이 분석 | 입력·출력 시각, 사용 모델·규칙, 발견 내용 |
| 검토자 | 원천 대사, 독립 재계산, 기준 적합성 | 검증 자료, 차이 원인, 수정 제안 |
| 승인자 | 수정 반영과 재배포 여부, 잔여 위험 | 승인·반려 시각, 승인 범위, 조건 |
| 시스템 소유자 | 연동·규칙·모델 변경과 재발 가능성 | 변경 이력, 테스트 결과, 재가동 조건 |
소규모 조직이라 역할을 사람 수만큼 나눌 수 없다면, 고위험 항목만이라도 별도 검토자를 두고 승인 시점과 근거를 분리해 기록하는 방식으로 보완할 수 있습니다.
외부감사법 제8조의 적용을 받는 회사는 회계정보의 오류 통제·수정, 정기 점검·조정, 기록 보존과 위변조 방지, 업무 분장과 책임을 내부회계관리규정에 포함해야 합니다. AI 검토 절차도 기존 결산·내부회계 통제와 따로 놀지 않게 연결해야 합니다.
이미 보고·신고한 숫자가 틀렸다면 어떻게 대응하나요?
외부로 나간 오류는 조용히 파일만 교체하면 안 됩니다. 수신자가 어떤 숫자가 바뀌었는지 알아야 하고, 법정 정정이 필요한지는 해당 보고의 성격에 따라 판단해야 합니다.
| 확인 질문 | 기록할 답 |
|---|---|
| 어디까지 전달됐나요? | 내부 보고, 거래처, 금융기관, 세무신고, 공시 등 |
| 무엇이 바뀌나요? | 계정·기간·금액·세액·주석·의사결정 영향 |
| 즉시 알릴 대상은 누구인가요? | 보고 승인자, 경영진, 세무대리인, 외부감사인 등 |
| 어떤 정정 절차가 적용되나요? | 내부 재보고, 수정신고, 공시 정정 등 |
| 재발 방지 전까지 무엇을 막나요? | 자동 반영, 특정 프롬프트·규칙, 데이터 연동 |
구체적인 수정신고·공시 정정 여부와 기한은 오류가 반영된 문서, 회사 유형, 적용 법령과 중요성 판단에 따라 달라집니다. 중대한 오류라면 공인회계사·세무사·변호사 등 관련 전문가와 정정 절차를 확인해야 합니다.
책임기록에는 무엇을 남겨야 하나요?
책임기록은 담당자 실수를 적는 문서가 아닙니다. 사실관계, 통제 수행, 승인과 후속 조치를 재현할 수 있게 만드는 기록입니다.
| 기록 필드 | 내용 |
|---|---|
| 오류 식별 | 발견 일시, 발견자, 업무·계정·기간, 오류 설명 |
| AI 사용 맥락 | 사용 목적, 입력 데이터 범위, 모델·버전·규칙, 출력 원본 |
| 영향 평가 | 영향 금액, 관련 거래 수, 전달 대상, 신고·공시 여부 |
| 통제 수행 | 반영 중단, 원천 대사, 독립 재계산, 기준 확인 |
| 수정 결정 | 수정 전·후 값, 수정 사유, 검토자·승인자와 시각 |
| 통지·정정 | 통지 대상, 정정본, 수정신고·공시 검토 결과 |
| 재발 방지 | 규칙 변경, 테스트 범위, 재가동 조건, 후속 점검일 |
NIST Generative AI Profile은 생성형 AI의 오류, 근접 사고와 부정적 영향을 기록·추적하고, 사고 대응 뒤 검토를 통해 절차를 개선하도록 권고합니다. 책임기록이 있어야 개인의 기억이 아니라 실제 입력·출력·검토·승인 흐름을 기준으로 원인을 분석할 수 있습니다.
재가동 전 어떤 조건을 확인해야 하나요?
- 오류가 발생한 입력과 조건을 재현했나요?
- 같은 규칙이 적용된 다른 기간·계정·법인을 확인했나요?
- 독립 재계산 결과와 수정값이 일치하나요?
- 공식 기준과 회사 정책의 적용일을 확인했나요?
- 검토자와 승인자가 수정 범위를 승인했나요?
- 외부 전달분의 통지·정정 여부를 결정했나요?
- 모델·규칙·연동 변경 뒤 회귀 테스트를 수행했나요?
- 남은 위험과 수동 검토 대상을 문서화했나요?
모든 항목을 같은 강도로 적용할 필요는 없습니다. 다만 결산, 세무신고, 급여, 자금 집행과 외부 공시처럼 오류 영향이 큰 업무에는 사전 승인과 독립 검증을 기본 통제로 두는 편이 안전합니다.
정리
AI가 틀린 숫자를 냈을 때 필요한 것은 추상적인 사람이 최종 책임진다는 문장이 아니라 재현 가능한 업무 기록입니다. 반영을 멈추고, 원천 데이터와 독립 계산으로 차이를 확인하고, 검토와 승인을 분리한 뒤, 이미 전달된 자료를 정정하고 재발 방지 조건을 남겨야 합니다.
책임의 법적 결론은 회사 형태와 실제 행위에 따라 달라질 수 있습니다. 재무팀이 먼저 할 일은 특정 개인이나 공급자에게 책임을 돌리는 것이 아니라 오류 확산을 막고 입력·출력·수정·승인 이력을 보존하는 것입니다.
