[IT 워크북] Leader's Source Code #2. “의사결정의 속도가 곧 조직의 속도” - 소프트웨어인라이프 김동현 부장의 현장형 제미나이 AX 소스코드

2026년 현재 시장에는 수많은 인공지능(AI) 도구와 서비스형 소프트웨어(SaaS)가 쏟아지고 있습니다.

그러나 많은 중소·중견기업(SMB) 리더들은 "도구는 늘었는데 정작 직원의 업무 효율은 제자리"라며 디지털 피로감을 호소합니다.

디지털 혁신을 이룬 강소기업이자, 구글 제미나이(Gemini) 활용 실무 웨비나를 통해 현장형 AX(인공지능 전환)를 리드하고 있는 (주)소프트웨어인라이프의 김동현 부장을 만났습니다.

대기업 중심의 거창한 담론을 걷어내고, 중소기업이 오늘 오후 당장 실행할 수 있는 '연결과 통합의 시스템 경영'에 대해 취재했습니다.

1. [SaaS 파편화] 피로의 본질은 편의가 아닌 '맥락(Context) 손실'

Q. 많은 중소기업이 메일, 메신저, 협업툴, AI 도구 등 부서별로 서로 다른 SaaS를 따로 구독하면서 계정 관리 복잡성과 데이터 파편화로 고통받고 있습니다.

이처럼 여러 기술 툴이 난립할 때 현장 실무진이 마주하는 실제 업무 피로도의 본질은 무엇이며, 리더가 업무 인프라를 하나의 생태계로 통합해야 하는 이유는 무엇입니까?

A. 많은 리더들이 SaaS 파편화를 단순히 "툴이 많아서 번거롭다"는 식의 불편함의 문제로 진단하곤 합니다.

하지만 실무진이 실제로 잃는 것은 편의가 아니라 '맥락(Context)'입니다.

영업팀 직원이 고객과 주고받은 대화는 메신저에 있고, 그 건의 계약 조건은 메일 스레드 깊숙이 묻혀 있습니다.

진행 현황은 협업툴 칸반보드에 따로 있고, 관련 파일은 또 다른 스토리지에 있습니다.

이 네 군데 정보를 한 사람이 머릿속에서 조합해야 비로소 업무 현황을 파악할 수 있습니다.

이것이 진짜 피로의 본질입니다.

정보를 찾는 데 드는 에너지가 아니라, 흩어진 정보를 '다시 연결'하는 데 쓰이는 인지 자원의 소모입니다. 사람의 작업 기억은 유한한데, 그 귀한 용량이 본래 써야 할 판단과 창의 대신 '어디에 뭐가 있더라'를 찾는 데 소진되는 것입니다.

실제로 실무진의 하루를 보면 오전에 메일을 확인하다가 메신저 알림이 뜨고, 메신저를 열면 협업툴 링크가 있고, 내용을 이해하려고 지난주 회의록을 찾다 보면 원래 하던 메일 작업은 중단됩니다.

한 작업에서 다른 작업으로 전환할 때마다 뇌는 '재가동 비용'을 치르게 되는데, 툴이 다르면 UI와 검색 방식이 달라 이 비용이 더 커집니다. 결국 실무진은 구조적으로 깊은 사고(Deep Work)를 할 수 없는 환경에 놓이게 됩니다.

실무진만 힘든 게 아닙니다

툴이 부서별로 다르면 퇴사자 계정을 끊거나 신규 입사자 계정을 발급할 때마다 인프라 유지·보수에 아까운 시간을 쓰게 됩니다. 소액처럼 보이는 구독료들이 합산되면 비용 부담도 상당하지만, 더 큰 문제는 데이터가 통합되지 않아 조직 전체의 맥락을 볼 수 없다는 점입니다.

이것은 편의가 아니라 리더가 조직의 실제 상태를 볼 수 있는 '전략적 가시성'의 문제입니다.

업무 인프라가 단일 생태계로 통합되면 정보가 자동으로 연결되어 실무진은 '정보를 찾는 사람'이 아니라 '일하는 사람'이 됩니다. 또한, AI는 데이터가 연결되어 있을 때만 진짜 힘을 발휘하기 때문에 통합된 환경에서 비로소 AI의 효용이 실현됩니다.

마지막으로 구성원 간의 대화와 파일이 같은 공간에 기록되어 누군가 퇴사해도 그 맥락이 조직에 남는 지식 관리가 실질화됩니다.

좋은 업무 인프라의 기준은 하나입니다.

구성원이 로그인을 몇 번 하는지, 파일이 어디에 있는지를 신경 쓰지 않고 도구를 의식하지 않아도 되는 환경입니다.

SaaS 파편화는 도구가 수단을 넘어 '관리의 대상'이 된 상태이며, 리더의 역할은 구성원이 도구를 돌보는 데 쓰는 에너지를 다시 일 자체로 돌려주는 것입니다. 그 출발점이 바로 통합된 단일 생태계입니다.

2. [오피스 AI] "이미 맞다" 메일·보고서·엑셀의 3대 실무 병목 해소 

Q. 매달 AI 솔루션 활용법에 대한 웨비나를 진행하며 수많은 기업들의 고민을 들으셨을 텐데요.

'우리 업종에 AI가 맞을까' 고민하는 SMB 리더들에게, 직원들이 매일 쓰는 메일 작성, 보고서 초안 기획, 스프레드시트 데이터 분석 등의 일상 업무에 AI를 결합했을 때 즉각적으로 해결되는 실무 병목 현상은 무엇입니까?

A. 당장 오늘 오후에 처리해야 할 일상적이고 반복적인 병목 업무를 해결하는 것부터가 진짜 AX의 시작입니다.

첫 번째 병목은 메일입니다.

메일 한 통 작성에 실무자가 초안을 쓰고 톤을 다듬는 데 평균 20~40분이 소요됩니다. 하루에 5통만 써도 최대 3시간이 낭비됩니다.

무슨 말부터 꺼내야 할지 모르는 시작 마비와 수신자에 맞춰 문체를 조율해야 하는 어려움이 본질인데, AI가 결합되면 핵심 키워드 세 줄만 입력해도 초안이 나오고 지시 한 줄로 정중한 톤으로 바뀝니다. 예를 들어 거래처에 납기 지연을 통보해야 하는 정중하고 곤란한 상황도 AI에게 조건을 넘기면 즉시 초안이 나옵니다.

실무자는 사실 확인과 최종 판단만 하면 되므로 30분 작업이 8분으로 줄어듭니다.

두 번째 병목은 보고서입니다.

보고서 작성의 어려움은 정보 부족이 아니라 정보가 너무 많아서 생기는 구조화의 늪입니다. AI를 문서 도구에 결합하면 날것의 메모와 자료를 붙여 넣고 "경영진 보고용 1페이지로 요약해줘, 결론 먼저"라고 명령하여 구조를 바로 잡을 수 있습니다.

실무자는 형식 작업에 쓰이던 시간을 없애고 빠진 내용을 채우며 사실을 검증하는 역할로 이동하게 됩니다.

지난 분기 보고서를 바탕으로 이번 분기 형식의 초안을 만드는 작업도 훨씬 수월해집니다.

세 번째 병목은 스프레드시트입니다.

더 근본적인 병목은 "이 숫자들이 무슨 말을 하고 있는가"를 해석하는 데 드는 막막함과 탐색 시간입니다. AI가 스프레드시트에 결합되면 데이터를 주고 "주목할 이상치와 주요 트렌드 세 가지를 뽑아줘"라고 하여 분석의 시작점을 잡을 수 있습니다.

또한 VLOOKUP이나 조건부 합계 함수를 어떻게 중첩해야 하는지 말로 설명하면 AI가 함수를 직접 써주기 때문에, 실무자는 결과를 검증하는 시간만 남게 됩니다.

메일, 보고서, 스프레드시트의 병목은 모두 내용을 몰라서가 아니라 "시작"과 "구조화"를 매번 처음부터 판단해야 해서 시간이 새는 것입니다. AI는 바로 이 지점에서 시작점을 만들어주고 초안을 제안합니다.

"우리 업종에 AI가 맞을까"라는 질문의 답은 결국 하나입니다.

당신의 직원이 오늘 오후에 메일을 쓰고, 보고서를 만들고, 데이터를 본다면 AI는 이미 맞습니다.

3. [AI와 전자결재] "AI는 시작이고, 결재는 연결이다" 워크플로우의 재설계

Q. 아무리 똑똑한 AI를 도입해도 생성된 산출물이 사내 전자결재나 결재 프로세스와 끊겨 있으면, 직원은 결국 복사·붙여넣기와 대기 시간을 반복하게 됩니다.

'AI의 초안 작성'과 '클라우드 전자결재 시스템'이 완벽하게 결합했을 때, 기업의 업무 흐름(Workflow)이 얼마나 단축되고 효율화되는지 실무적인 관점에서 설명해 주십시오.

A. 많은 기업이 AI 도구를 도입하고 나서 "확실히 빠르긴 한데 여전히 번거롭다"고 느낍니다.

AI가 기획서 초안을 만들면 직원은 그것을 복사해서 사내 문서 양식에 붙여 넣고 서식을 맞춰 결재 시스템에 제출하는 장면이 반복되기 때문입니다

 AI가 공정의 앞부분만 바꿨고 뒷부분은 손대지 못해 병목이 이동했을 뿐입니다.

연결되지 않은 시스템 사이에서는 복사·붙여넣기 과정에서 서식이 깨지는 '전환 마찰'이 발생하고, 초안과 최종본이 따로 노는 '버전 혼선'이 일어납니다.

가장 큰 손실은 승인 대기 중에 결재가 어느 단계에서 멈춰 있는지 알 수 없는 '불확실성 관리 비용'입니다.

만약 시스템이 분리되어 있다면 실무자가 AI로 초안을 만들고, 사내 양식에 옮기고, 결재선을 설정하여 상신한 뒤 수정 요청을 받아 다시 AI 툴로 돌아가 수정하고 제출하기까지 총 3~4일이 소요됩니다.

반면 통합된 환경에서는 전자결재 시스템 안에서 AI 초안 기능을 실행해 사내 양식에 맞춰진 초안을 바로 생성하고, 상신 버튼을 누르면 자동으로 결재선이 추천되어 결재자들에게 모바일 알림이 갑니다.수정 요청도 문서 내 코멘트로 달려 해당 부분만 수정하고 재상신하면 이력이 자동으로 기록되므로 당일 혹은 익일에 업무가 완료됩니다.

이처럼 AI와 전자결재가 통합되면 세 가지 메커니즘이 작동합니다.

중소기업 기준으로 직원들의 행정 업무 시간을 측정해보면 하루 45분~1시간 30분 수준이 나오는데, 상당 부분이 전환 마찰과 상태 확인에 쓰입니다. 시스템 비용을 합산해도 이 시간을 회수하는 가치가 훨씬 큽니다.

의사결정의 속도가 곧 조직의 속도입니다.

결재 하나가 3일 걸리는 조직과 당일 처리되는 조직은 시장 대응 속도와 팀의 사기에서 엄청난 차이가 쌓이게 됩니다.

AI가 쓰고, 시스템이 잇고, 사람이 판단하는 세 가지가 같은 공간에서 작동할 때 워크플로우는 단축이 아니라 완전히 재설계됩니다.

4. [데이터 준비도] 14%의 함정, 완벽한 준비를 기다리다 영원히 시작 못 한다

Q. 조사에 따르면 사내 데이터를 완전히 통합해 AI에 즉시 학습시킬 수 있는 '데이터 준비도'를 갖춘 기업은 14%에 불과합니다.

대다수 중소기업은 데이터가 엑셀이나 개별 PC에 파편화되어 있는데요.

데이터 인프라가 미흡한 기업들이 AX(AI 전환)를 시작하려면 데이터 정제부터 완벽히 해야 할까요,

아니면 당장 현업 프로세스에 AI를 부딪쳐보며 수정해야 할까요? 현장 지침이 궁금합니다.

A. 완벽한 준비를 기다리다가는 영원히 시작도 못 합니다.

"데이터 준비도를 갖춘 기업이 14%에 불과하다"는 통계를 보고 데이터부터 정리해야겠다고 반응하는 것은 실제로는 함정입니다.

그 14%의 기업들도 처음부터 완벽했던 게 아니라 시작했기 때문에 준비가 된 것입니다.

데이터 정제를 먼저 완수하고 AI를 도입하겠다는 계획은 ‘수영을 완벽하게 배운 후에 물에 들어가겠다는 것’과 같습니다.

물에 들어가지 않으면 수영을 배울 수 없습니다.

AI를 어디에 쓸지 정하지 않은 상태에서는 정리 기준이 없어 끝없는 작업이 되고, 데이터만 고치다가 완벽주의의 늪에 빠져 6개월이 지나도 도입 동력이 식어버립니다.

또한 정제가 끝나도 현장 직원들이 도구 사용 습관을 지니지 못하면 도구는 외면받게 됩니다.

그렇기 때문에 리더는 3단계 현장 지침을 따라야 합니다.

1단계는 가장 아픈 업무 하나를 고르는 것입니다.

전사적 전환이 아니라 매주 반복되고 시간이 많이 걸리는 견적서 작성이나 실적 보고서 같은 단 하나의 업무에 AI를 붙이는 것부터 시작해야 합니다.

2단계는 있는 데이터 그대로 시작하는 것입니다

현재의 오피스 AI 도구들은 완벽한 데이터베이스를 요구하지 않으므로, 담당자가 가진 엑셀 파일을 그대로 올리고 질문하면 됩니다. 실제로 써보면서 팀마다 다른 컬럼 이름이나 누락된 데이터를 발견하게 되고, 현업에서 발견된 문제가 데이터 정제의 올바른 우선순위를 결정해 줍니다.

3단계는 작은 성공을 기록하고 확산시키는 것입니다.

기획서 작성 시간이 3시간에서 40분으로 줄었다는 구체적인 수치를 기록하면 이것이 다음 업무로 확산하는 가장 강력한 동기부여가 됩니다. 담당자가 쌓아온 파편화된 엑셀 파일은 그 자체로 실무 맥락을 담고 있는 훌륭한 데이터입니다.

현재 AI 도구들은 비정형 데이터도 처리할 수 있도록 설계되어 있으므로 데이터 정제가 완료될 때까지 기다릴 필요가 없습니다.

AX를 성공시킨 중소기업들의 공통점은 리더가 "일단 한 가지부터 해보자"고 결정했다는 것입니다.

86%의 기업은 시작하면서 준비도를 높여갈 기회가 있습니다.

시장에서 가장 위험한 것은 잘못된 시작이 아니라 늦은 시작입니다.

Q5. [미래 오퍼레이션과 리더의 역할]

Q. 앞으로의 비즈니스 경쟁력은 단일 AI 툴을 잘 쓰는 것을 넘어, 'AI와 사내 결재 시스템, 그리고 데이터를 하나의 운영 체계로 묶어내는 능력'에서 갈릴 것으로 보입니다.

앞으로 기술 과잉 시대에 혼란스러워하는 SMB 리더들이 지향해야 할 새로운 오퍼레이션 환경과 가이드라인은 무엇인지 조언 부탁드립니다.

A. 기술 과잉 시대, 리더의 역할은 '선택'이 아니라 '연결'입니다.

매주 새로운 AI 툴이 등장하는 기술 과잉 시대에는 도구가 없어서 못 하는 게 아니라 너무 많아서 무엇을 해야 할지 모르게 되는 것이 문제입니다.

이 상황에서 리더에게 필요한 것은 더 많은 정보가 아니라 명확한 판단 기준입니다.

지금까지는 어떤 툴이 좋은지 물었지만, 앞으로는 개별 도구의 성능 차이가 줄어들기 때문에 도구들이 얼마나 유기적으로 연결되어 하나의 운영 체계로 작동하는가가 조직의 생산성을 결정합니다.

리더가 지향해야 할 미래 오퍼레이션 환경은 세 가지 원칙으로 정리됩니다.

원칙 1은 "데이터는 한 번만 입력한다"는 것입니다.

고객 정보가 CRM, 엑셀, 메일에 따로 입력되고 있다면 파편화 상태입니다. 통합된 환경에서는 데이터가 한 곳에 입력되면 시스템이 알아서 재무, 결재, 알림 라인으로 자동 전송하게 만듭니다.

원칙 2는 "승인은 맥락과 함께 이동한다"는 것입니다.

결재 문서가 올라올 때 이전 결정들이나 예산 현황이 같은 화면에서 함께 보인다면 결재자의 판단 시간이 줄어들고 결재는 의사결정의 신뢰도 높은 기록으로 축적됩니다.

원칙 3은 "AI는 도구가 아니라 동료의 역할을 한다"는 것입니다.

필요할 때만 켜고 끄는 도구를 넘어, 보고서를 작성하면 AI가 자동으로 데이터를 불러오고 결재가 완료되면 다음 실행 단계를 상시 제안하는 시스템이 되어야 합니다.

리더에게 필요한 것은 코딩 능력이나 AI 전문 지식이 아니라 업무 흐름을 읽는 능력입니다.

어디서 정보가 끊기고 어떤 반복 작업이 무의미한 수작업인지 파악하고 설계하는 운영 설계자가 되어야 합니다.

구체적으로 리더는 주요 업무의 시작부터 완료까지 종이에 적어보며 수작업과 중복 입력이 보이는 연결 지점을 찾아내야 합니다.

또한 모든 것을 한 번에 해결해 준다는 완벽한 시스템을 사려 하지 말고, 가장 아픈 지점부터 해결해 나가며 시스템을 만들어가야 합니다.

마지막으로 도입 초기부터 실무진을 설계 과정에 참여시켜 기술 도입에 대한 저항을 줄여야 합니다.

기술 과잉 시대에 리더들이 매일 스스로에게 던져야 할 질문은 단 하나입니다.

"우리 직원들이 오늘 한 일 중에, 사람이 아니라 시스템이 했어야 할 일은 무엇인가?"

이 질문이 습관이 되면 도입해야 할 기술과 연결해야 할 지점이 보입니다. 도구는 계속 바뀌어도 끊김을 없애고 맥락을 연결해 사람이 판단에 집중할 수 있게 만드는 좋은 운영 설계의 원칙은 바뀌지 않습니다.

이것이 앞으로 중소기업 경쟁력의 핵심입니다.