자동화가 부른 예상치 못한 사고, 편리함 뒤에 숨은 실수

제가 자동화의 편리함을 처음 제대로 믿기 시작한 것은 회사에서 매주 반복하던 정산 자료를 정리하면서부터였습니다. 여러 사람이 입력한 엑셀 파일을 한 폴더에 모으면 정해진 시간에 표가 합쳐지고, 담당자별 요약본이 만들어져 이메일로 전달되는 방식이었습니다. 예전에는 한 시간 넘게 걸리던 일을 십 분 안에 끝낼 수 있었고, 저는 이제 단순 반복 작업에서 벗어났다고 생각했습니다. 그런데 시간이 지나면서 그 편리함이 오히려 확인을 생략하게 만드는 습관으로 이어졌고, 작은 조건 하나가 예상보다 큰 사고를 만들었습니다.

반복 작업을 줄이려던 시작

당시 제가 맡은 업무는 전국 지점에서 보내온 판매 현황을 취합해 매주 월요일 오전에 본사에 전달하는 일이었습니다. 파일 이름은 지점마다 조금씩 달랐고, 누락된 항목도 자주 생겨서 매번 수작업으로 열어 확인해야 했습니다. 저는 파일 이름에 포함된 날짜와 지점명을 기준으로 자료를 읽고, 특정 열의 합계를 계산한 뒤 결과 파일을 지정된 폴더에 저장하도록 작업 순서를 만들었습니다. 처음 며칠은 결과가 정확했고, 동료들도 이제 실수할 일이 줄었다며 반겼습니다.
문제는 업무 방식이 바뀐 주에 생겼습니다. 원래는 매출 금액이 들어간 열의 이름이 모두 같았지만, 한 지점에서 새 양식을 사용하면서 열 제목 뒤에 공백이 하나 추가됐습니다. 사람이 눈으로 보면 같은 항목처럼 보였지만, 제가 만든 규칙은 제목을 완전히 똑같이 입력해야만 해당 열을 찾도록 되어 있었습니다. 그 결과 그 지점 자료의 금액 열을 건너뛰었고, 전체 합계는 실제보다 적게 계산됐습니다. 저는 결과 파일이 정상적으로 생성됐다는 이유만으로 내용까지 정상이라고 판단했습니다.

사고는 아주 평범한 월요일에 일어났다

그날 오전에 만들어진 보고서는 부서장에게 전달됐고, 오전 회의에서는 그 숫자를 기준으로 주간 계획이 논의됐습니다. 점심 무렵 한 지점 담당자가 자기 지점의 실적이 지나치게 낮게 표시됐다는 연락을 해왔습니다. 저는 처음에 입력 오류라고 생각했지만 원본 파일을 다시 열어 보니 자료 자체에는 문제가 없었습니다. 결과 파일을 하나씩 대조하는 과정에서 특정 지점의 금액만 빠져 있다는 사실을 발견했고, 이미 여러 사람이 잘못된 합계를 보고 판단을 내린 뒤였습니다.
더 난처했던 부분은 작업 기록 어디에도 실패 표시가 남지 않았다는 점입니다. 파일은 정해진 시간에 생성됐고, 이메일도 정상적으로 발송됐으며, 표의 모양도 평소와 다르지 않았습니다. 저는 결과가 만들어졌다는 사실을 성공으로 착각했습니다. 실제로는 중요한 열 하나가 빠진 채 그럴듯한 문서가 완성된 것이었습니다. 다행히 금전 지급이나 외부 계약으로 이어지지는 않았지만, 회의 자료를 다시 만들고 각 부서에 정정 내용을 전달하는 데 이틀 가까이 걸렸습니다. 자동으로 줄인 시간보다 수습에 쓴 시간이 훨씬 길었습니다.

제가 놓친 것은 기술보다 확인 절차였다

사고 원인을 살펴보면서 저는 처음부터 지나치게 낙관적인 전제를 세웠다는 것을 알게 됐습니다. 모든 사람이 같은 양식을 계속 사용할 것, 파일이 항상 정해진 위치에 들어올 것, 날짜가 틀리지 않을 것이라는 가정이 너무 많았습니다. 특히 결과 파일이 만들어지면 작업이 끝났다고 생각했고, 합계가 비어 있거나 평소와 크게 달라졌을 때 멈추게 하는 장치를 마련하지 않았습니다. 자동화는 사람이 하던 판단을 없애는 것이 아니라, 판단해야 할 지점을 더 앞쪽에서 명확히 정하는 일이라는 사실을 뒤늦게 이해했습니다.
이후 저는 절차를 조금 바꿨습니다. 먼저 원본 파일에서 읽은 지점 수와 결과에 반영된 지점 수를 비교하도록 했고, 금액 열이 발견되지 않으면 결과를 만들지 않고 중단하게 했습니다. 전체 합계가 지난주와 일정 비율 이상 차이 날 때도 바로 전송하지 않고 확인 대상으로 남겼습니다. 다만 숫자가 다르다고 무조건 오류라고 단정하지 않도록, 큰 행사가 있었던 주에는 담당자가 사유를 적을 수 있게 했습니다. 중요한 것은 복잡한 장치를 덧붙이는 일이 아니라, 사람이 반드시 확인해야 하는 순간을 숨기지 않는 것이었습니다.

편리함이 책임을 대신할 수는 없었다

사고 뒤에는 자동으로 만들어진 문서를 바로 전달하지 않고, 짧은 확인 시간을 두었습니다. 저는 표의 첫 부분만 훑는 대신 전체 지점 수, 합계, 빈칸의 개수, 작성 날짜를 확인하는 네 가지 항목을 체크했습니다. 처음에는 이런 확인이 자동화의 의미를 약하게 만드는 것처럼 느껴졌지만, 실제로는 반대였습니다. 사람이 모든 행을 다시 검토하는 대신 오류가 생길 가능성이 큰 부분만 살피게 되면서 전체 업무 시간이 더 안정적으로 줄었습니다. 편리함은 확인을 없애는 데서 오는 것이 아니라, 확인을 필요한 곳에 집중시키는 데서 생긴다는 생각이 들었습니다.
저는 그 뒤로 새로운 자동화 작업을 만들 때 기능부터 추가하지 않으려고 합니다. 먼저 입력이 어떤 모습으로 들어오는지, 예상 밖의 값이 생기면 누가 알아차릴지, 잘못된 결과가 어디까지 전달될 수 있는지를 종이에 적어 봅니다. 그리고 일부러 파일 이름을 바꾸거나 빈 항목을 넣어 결과가 어떻게 반응하는지 확인합니다. 완벽한 상황에서 한 번 잘 작동하는 것보다, 작은 변화가 생겼을 때 멈추거나 알려 주는 편이 훨씬 믿을 만했습니다. 자동화는 손을 떼는 기술이 아니라, 손을 떼도 괜찮은 범위를 정하는 작업에 가깝습니다.

자동화를 시작하는 사람에게 남기고 싶은 말

저는 아직도 반복 작업을 보면 먼저 줄일 방법을 찾습니다. 다만 예전처럼 빨리 돌아가는지만 보지 않고, 틀렸을 때 발견할 수 있는지도 함께 살핍니다. 실패한 파일이 조용히 완성되는 구조라면 아무리 시간이 절약돼도 안심할 수 없습니다. 반대로 문제가 생겼을 때 중단되고, 무엇이 이상한지 사람이 이해할 수 있다면 조금 느리더라도 오래 사용할 수 있습니다. 자동화는 사람의 부주의를 없애 주지 않습니다. 오히려 잘못된 가정을 더 빠르고 넓게 실행할 수 있게 만듭니다. 그래서 시작하기 전에는 무엇을 자동으로 할지보다, 무엇만큼은 사람이 끝까지 확인할지를 먼저 정해 두셨으면 합니다.