[AI 생존 전략 03] AX의 성공 방정식, DOING

AI가 마치 혁명과 같이 모든 산업에서 새로운 성장과 변화의 전환점이 될 것이라는 기대감은 아직도 크다. 일부 기업들은 이런 AI를 도입하고 잘 활용해서 시장을 선도하며 엄청난 효과를 이루어냈다. 하지만 그 반대로 어떤 기업은 엄청난 자원을 투입했음에도 결과가 좋지 못했고, 오히려 시장에서 도태되었다.

도대체 무엇이 극명한 차이를 만들어낸 것일까? AI의 모듈이 더 복잡한 알고리즘을 사용했다거나, 더 많은 데이터를 확보를 했다거나 하는 단순한 기술적 차이만은 아니었다. 성공한 회사들과 실패한 회사들 사이에는 근본적인 차이가 존재했다는 것이다.

이제부터 제조, 금융, 의료, 유통 등 여러 분야의 구체적인 사례들을 깊이 있게 분석하면서 AI 프로젝트의 성패를 결정하는 핵심적인 요소를 파악해본다. 그 과정에서 찾은 인사이트를 바탕으로, 현재 개인이나 우리 기업이 AI 도입 과정에서 주의해야 할 점과 성공으로 이끌 수 있는 구체적인 실행 지침으로 다섯 가지 필수 요건 “D.O.I.N.G.”(이하 DOING)을 살펴본다.

DOING으로 AX 실천하라

〈국가 AI 전략〉 정책 방향에서는 AI 도입을 ‘데이터 → 모델 → 서비스 → 확산’ 생명주기로 보고, 전 주기에 걸친 관리·거버넌스 필요성을 강조한다. 최근 과학기술정보통신부와 한국정보통신기술협회(TTA)가 발간한 〈신뢰할 수 있는 인공지능 개발 안내서〉의 일반·채용·스마트 치안·생성 AI 분야에서는 생명주기 관리, 데이터 수집·처리, 모델 개발, 시스템 구현, 운영·모니터링을 단계적으로 정리하여 기업이 준수해야 할 핵심 요건을 제시하고 있다. 다음에 제시할 다섯 가지 핵심 실천 요건 DOING이 잘 갖추어졌는지에 따라 AI 성패가 결정된다고 할 수 있다.

첫째로 D는 Data를 의미한다. 정보 수집 및 분류를 통한 AI 활용 기반 구축이다. 즉, AI가 제대로 작동하려면 데이터 수집, 정제, 품질의 투명성과 책임성 있는 관리가 무엇보다 중요하다. 둘째로 O는 Organization를 의미한다. AI 중심의 조직 구조 및 경영진 리더십이다. 무슨 얘기냐면 AI 기술보다 더 중요한 것은 조직 문화와 리더십이며, AI 중심의 조직의 변화 관리가 필요하다.

셋째로 I는 Industry Bridging를 말한다. 현장 노하우와 AI 기술의 연결이다. 산업 현장의 경험을 녹이는 절차가 없이 성공할 수 없다. 반드시 현장의 노하우가 AI 기술을 결합해야 진정한 혁신이 가능하다. 넷째로 N은 Norms를 말한다. 신뢰할 수 있는 관리 원칙 및 윤리 기준 수립이다. 신뢰할 수 있는 AI를 위해 반드시 공정성, 책임성, 윤리 규범이 반드시 수립되어야 한다.

마지막 G는 Grounding를 말한다. 현장 적용을 위한 실무적 융합이다. 결국 AX의 적용을 위해서는 실제 현장에서 자연스럽게 적용되고 실무화 함께 융합 및 통합될 때 비로소 의미가 있게 된다.

지금부터 다섯 가지 핵심 실천 요건을 상세하게 알아보자

첫째, D(DATA) : 정보 분류를 통한 AI 활용 기반 구축

“데이터는 석유가 아니라, 비옥한 토양이다.” 당연하게도 AI가 제대로 반영되려면 무엇보다 양질의 데이터가 우선이 되어야 한다. 그런데 이런 데이터를 ‘석유’라고 부르는 경우가 있었는데 어떻게 보면 ‘비옥한 토양’이라는 표현이 더 적절하다. 왜냐하면 석유는 한 번 사용하면 없어지게 되지만, 비옥한 토양은 지속적으로 더 좋은 결과물을 생산해낼 수 있기 때문이다. 이전에는 정교한 알고리즘 모델이 중요했지만 실제로 이에 기반이 되는 데이터가 부실하면 의미가 없다.

그렇다면 비옥한 토양인 데이터의 조건을 살펴보면, 우선 정확성과 정합성이 필요하다. 정확성은 데이터가 실제 사실적 내용과 일치해야 한다는 것이다. 다음으로 정합성이 중요한데 서로 모순되지 않고 일관된 기준으로 수집되어야 한다. 또한 형태의 다양성도 고려해야 하는데, 숫자나 표 같은 정형 데이터뿐 아니라 사진, 영상, 텍스트 같은 비정형 데이터가 균형 있게 확보되어야 AI가 복잡한 상황을 제대로 이해할 수 있다.

하지만 데이터가 불충분해서 일부에 편향되어 있을 때는 문제가 발생할 수 있다. 일례로 AI가 특정 그룹에게 불리한 신용 평가를 내리거나, 채용 과정에서 AI가 성별이나 인종에 따라 차별적인 판단을 내리는 사례들이 발생하고 있다. 이런 리스크를 줄이려면 데이터를 수집하는 단계부터 편향성을 점검하고, 데이터를 올바르게 분류하고 등급을 매겨서 다양한 관점에서 검증하는 절차가 반드시 필요하다.

특히, 데이터 중에 중요한 정보인 개인 정보 처리 역시 신중하게 접근해야 할 부분이다. 기업들은 고객의 개인 정보가 포함된 데이터가 많아지면서, 이를 합법적이고 안전하게 처리하면서도 AI 학습에 효과적으로 활용할 수 있는 방법을 찾는 것이 중요해졌다. 데이터를 이용할 목적에 따라 데이터를 적절히 분류하고, 등급별로 접근 권한을 관리하며, 정기적으로 품질을 점검하는 시스템이 갖춰져야 한다. 특히 민감 정보와 고유식별정보라면 암호화나 익명화 처리를 통해 보안을 강화하면서도 분석 가치는 유지할 수 있는 방법을 찾아야 한다. 이렇게 체계적인 관리 체계를 구축하려면 당연하겠지만 효과적인 데이터 관리 체계 수립이 무엇보다 중요하다.

둘째, O(Organization) : AI 조직 및 경영진 리더십

“AI는 기술 문제가 아니라, 변화 관리 문제다.” AI 도입을 단순히 기존의 솔루션을 도입하는 것과는 전혀 다르다. AX는 기존의 업무 패러다임을 완전히 변경하는 것이기 때문에 조직의 변화 관리가 결정적이다.

하버드 경영대학원의 에이미 에드먼슨 교수는 직원들이 의견 제시나 실수에 대한 두려움 없이 자유롭게 도전할 수 있는 심리적 안정감이 보장되어야 한다고 강조했다. 바로 이러한 환경 속에서 직원들은 AI와 같은 신기술을 활용한 아이디어를 과감하게 실험해볼 수 있다.

그래서 리더의 역할은 결정적이다. AI 도입을 회사의 핵심 전략으로 삼고, 단기 성과에만 급급하지 말고 장기적으로 봐야만 직원들이 ‘실제로 AI를 통해 효과를 낼 수 있다’는 확신을 갖게 된다. 말로만 혁신을 외치고 실제로는 성과만 종용하는 조직에서는 AI 프로젝트가 성공하기 어렵다.

결국에는 실패하는 조직은 공통적인 패턴이 있다. 이런 변화에 대한 거부감이 강해서 ‘우리는 원래 하던 대로 할 것이다’라는 분위기가 만연하다. 부서 간 이기주의가 심해서 협력보다는 경쟁만 일어나고, 정보 공유도 제대로 이루어지지 않는다. ‘우리도 AI를 도입했다’는 보여주기식 프로젝트에만 집중하게 된다. 결과적으로 AI가 실제로 활용되지 못하고, 실제 업무에 효과적이지 못한 별개의 결과물이 나오기 쉽다. 결국 AI를 도입했는데 우리한테 맞지 않는다는 결론에 도달하게 된다. 따라서 실패에 연연하지 말고 지속적으로 새로운 아이디어를 시도하고 리더는 끝까지 믿고 기다릴 줄 아는 변화를 관리하는 측면의 프로젝트를 꾸준히 이끌어 나가야만 한다.

셋째, I(Industry Bridging) : 현장 노하우와 AI 기술의 연결

“현장을 모르는 AI 도입은 결국 실패한다.” 아무리 기술력이 뛰어난 AI 전문가가 있더라도, 그 기술이 사용되는 산업 현장에 대한 이해가 부족하고 경험이 없다면 실패할 수밖에 없다.

병원에서 필요한 AI를 개발한다고 가정해보자. 의료 지식과 병원 시스템에 대한 지식이 없는 전문가가 아무리 정교한 AI 모델을 만들어도, 현장에서 의사들이 어떤 상황에서 어떤 정보를 필요로 하는지 알지 못하면 그 AI는 환영받을 수 없다. 어떻게 솔루션을 만들지는 알지만, 무엇을, 왜 풀어야 하는지는 반영해야만 성공적인 AX가 가능하다.

성공적인 AI 프로젝트는 현장과 AI 기술의 원활한 협업에서 나온다. 이를 위해 조직적인 협업 체계가 필요하다. 예를 들어 소통 채널을 만들어 기술 개발 과정에서 나오는 이슈를 현장의 인력이 지속적으로 피드백을 할 수 있는 절차가 중요하다.

넷째, N(Norms) : 신뢰할 수 있는 관리 체계와 윤리 기준 수립

“한 번 신뢰를 잃으면 다시 되찾기 어렵다.” AI를 제대로 적용하려면 신뢰할 수 있는 투명성, 공정성, 책임성 같은 윤리적 원칙을 AI 시스템에 녹여야만 한다. 이는 단순히 윤리적이거나 도덕적 의무가 아니라 법적 문제나 기업의 평판 손실 같은 큰 위험을 막기 위한 리스크 관리이기도 하다.

예를 들어 직원들이 불법적인 해킹을 위해 이용하거나 이상한 악성 코드 등을 위 악의적으로 이용하고 만들게 되면 자칫 법적 문제로 이어질 수 있기 때문에 AI 활용을 위한 지침과 정책을 수립할 필요성이 있다.

또한 개인 정보 침해 문제에 엄중하게 대처해야 한다. 데이터 내에 고객의 동의 받지 않은 정보가 섞여 있으면 의도치 않게 유출될 수 있다. 그리고 AI 모델에 따른 알고리즘 편향도 심각한 문제다. 일부 데이터에 담긴 사회적 편견이 AI 결과에 그대로 반영되어서 어떤 사람에게는 불리한 결과를 가져올 수도 있다. 그리고 결과에 대해 불투명한 프로세스도 문제가 된다. "어떻게 이런 결정이 나왔는지" 누구도 설명하지 못하는 상황이 일어나면 사용자나 고객들은 불신을 가지게 된다. 아마존은 2015년부터 이력서를 자동 심사하는 AI를 개발했지만, 과거 남성 중심의 채용 데이터를 학습해서 여성 관련 키워드가 들어간 이력서를 낮게 평가하는 편향 문제가 드러나 결국 2018년 초에 프로젝트를 폐기한 바가 있다. AI에서 AI 관리 체계 수립과 거버넌스에 대한 기준 수립은 선택이 아니라 필수임을 알 수 있다.

다섯째, G(Grounding) : 현장의 적용과 활용

이상 설명했던 과정을 모두 통과하고 뛰어난 AI를 만들었다고 해도 실제로 현장에서 활용되지 않으면 아무런 의미가 없다. 결국 현장의 업무에서 얼마나 자연스럽게 사용하고 이에 대한 산출물이 효과적으로 나는 것인가가 AX 전환의 진정한 성공의 기준이 된다.

당연히 인터페이스는 현장에서 사용하기 직관적이어야 하고, 사용자 경험은 편리해야 한다. 기존 방식보다 UI나 UX가 더 복잡해져서 AI를 사용해보니 오히려 일이 더 많아지고 오류가 많아졌다는 불만이 있다면 아무리 기술적으로 완벽한 솔루션이라도 현장에서는 외면받게 된다. 따라서 AX를 한 걸음에 달성하려고 하면 안 된다. 작은 파일럿 프로젝트로 시작해서 공유하고 피드백을 받아 점차 개선해가며 진행해야 한다. 물론 이런 과정이 시간이 더 걸릴 수 있겠지만 이런 과정을 거쳐야 직원들도 점진적으로 신뢰를 쌓고 이 솔루션이 실제로 도움이 될 수 있다.

페덱스도 처음에는 AI가 계산한 최적 경로를 배송 기사들이 거부했는데, 이유는 AI가 도로 사정이나 주차 난이도, 고객과의 약속 변경과 같은 현장 상황들을 전혀 반영하지 못하고 개발되었기 때문이었다. 결국 현장의 목소리를 반영해 부분적으로 시스템을 수정했고, 그제서야 AI의 역할을 할 수 있게 되었다. 결국 AI의 성공은 기술의 완성도뿐 아니라 조직 중심의 현장 통합에 달려 있다는 것을 알려준다.

Q&A

Q. 중소기업도 AI 전환이 가능한가요? 돈이 많이 드는 것 같아서 작은 투자로 시작할 수 있을까요?

오히려 중소기업이 AI 활용에 더 유리한 조건을 가지고 있다. 즉, 대기업과 달리 의사결정이 빠르고 조직이 유연하기 때문이다. 핵심은 기업규모와 돈이 아닌 '효율적인 접근법'이다. 우리가 해결해야 될 문제를 명확히 파악하고 효과적인 해결책을 찾는 것이 성공의 열쇠다. 적용할 수 있는 방법을 소개한다.

클라우드 기반 AI 서비스 활용 : 자체 개발 대신 구독형 AI 솔루션을 이용할 수 있다. CRM 자동화(세일즈포스), 마케팅 플랫폼(허브스팟), 재무관리 도구 등을 월 단위로 이용하면 초기 부담을 크게 줄일 수 있다.

핵심 문제 집중 해결 : 모든 분야를 한 번에 바꾸려 하지 말고 현재 가장 비용이 많이 들고 반복적인 업무 한 가지만 선정해 조그마한 부분부터 해결하는 것부터 시작하는 것이 좋다.

정부 지원 프로그램 적극 활용 : 국가에서 지원하고 과기부, 중기부에서 운영하는 AI 도입 바우처와 컨설팅 지원을 받으면 비용 부담을 대폭 줄일 수 있다.

Q. AI 결정의 편향성과 잘못된 정보 등이 풀리지 않고 있는데 어떻게 해결할 수 있을까요?

AI의 편향성을 제거하고 공정성을 확보하는 것은 반드시 해결해야 할 핵심 문제다. 결국에는 AI는 우리가 입력하고 학습시킨 데이터의 특성을 기반으로 결정을 반영하기 때문에, 편향되거나 잘못된 사실을 데이터로 학습하면 차별적 결과를 낼 수밖에 없다. 따라서 이를 사용하는 사용자의 인식교육과 데이터에 대한 무결성 등을 검토해야 한다. 별도의 컨설팅을 받는 것도 추천한다.

기술적 개선 : 사실을 근거로 댈 수 있는 AI 기술로 의사결정을 보다 투명하게 만들고, 편향성 탐지 및 정확성에 대한 완화하는 알고리즘을 지속적으로 업데이트시켜가야 한다.

관리적,제도적 개선 : EU 법안처럼 데이터에 대한 위험도별 등급 분류와 고위험 AI에 대한 투명성, 정기 점검, 데이터 품질 관리 의무화를 통해 데이터의 리스크를 최소화할 필요가 있다.

내부 인력 교육 : 내부의 AI 관련 정책과 지침 수립하고 내부 인력에 대한 AI 학습과 교육을 통한 인식제고가 필요하다.

Q. AI 시대에 가장 유망한 산업이나 직업은 무엇이라고 생각하시나요? 우리 아이들은 앞으로 어떤 분야를 공부하면 좋을까요?

사실 지금의 특정 직업보다는 '개인의 역량'에 주목해야 한다. 현재의 기술 발전 속도를 보았을 때에도 지금 유망해보이고 미래에 필요하다고 생각되는 직업도 10년 후엔 크게 달라질 수 있다. 따라서 생각을 많이 할 수 있도록 책을 많이 읽게 하고 특히, 아이가 정말 좋아하고 잘하는 것을 보면서 그 부분을 더 발전시킬 수 있는 다양한 체험을 주는 것이 중요하다.

AI 학습 설계자 : 생성형 AI가 우수한 판단을 내릴 수 있도록 데이터에 비옥한 땅과 같이 고품질 데이터를 확보하고 구체적인 명령어와 기업에 맞는 입력방식을 설계하며, AI의 산출물에 대해 올바르게 분석 평가하고 개선하는 전문가

기술-비즈니스 융합 전문가 : 비즈니스 요구사항을 구체적으로 습득하고 이를 AI 기술과 접목하여 이를 융복합적으로 응용할 수 있는 전문가

AI 윤리 및 법적 전문가 : AI 도입과 활용 시에 확인해야 하는 국내외 법적, 윤리적 리스크를 사전 평가하고 이에 대한 프로세스의 공정성과 투명성을 보장하는 내부 정책을 수립·감독하는 전문가

AI 업무 자동화 설계자 : 개인과 조직의 전체 업무 흐름을 파악하고 자동화 가능한 영역을 찾아내고, 조직과 AI의 최적의 활용 프로세스를 설계하는 전문가

AI 보안 전문가 : 최근에도 빈번하게 발생하는 사이버 해킹과 침해 위협으로부터 AI 모델, 시스템, 데이터를 보호하고, 보다 안전한 AI 프로세스를 구축·운영하는 보안 전문가

앞으로는 이렇게 단순한 기술 개발에서 넘어서서 AI 기술과 인간·비즈니스·사회를 '연결하고 조율하는' 다양한 역할을 하는 직업과 전문가를 많이 찾을 것이라 예상한다.

Q. AI 전환(AX)과 디지털 전환(DX)이 많이 회자되고 있는데 이 둘의 차이점은 무엇인가요?

A4. 물론 개념은 DX가 먼저 나오고 현재 AX라는 단어가 많이 사용되고 있긴 하지만 사실 목적과 접근 방식에서 차이가 있을 수 있다.

먼저 DX(디지털 전환)은 2000년대 이르러 발생되던 이 개념은 기존 아날로그 업무를 디지털 기술로 효율화하는 것이 핵심이었다. 예를 들면 일반적인 종이 문서 종류의 전자화, 오프라인 미팅에서 온라인 화상회의로 전환, 기존의 개별적 시스템에서 통합 관리 시스템 구축 등이 대표적 사례이다. 즉, '업무 프로세스의 디지털화'가 주된 목표이다.

AX(AI 전환)은 AI의 발전과 적용과 더불어 이미 DX로 축적된 디지털 데이터를 토양으로 삼아 '지능적 의사결정'을 더 자동화해 새로운 가치 창출을 위한 전환이 목표다.

DX와 AX의 서로의 관계를 다시 생각해본다면 DX는 마치 도시의 도로를 놓고 교통 신호 체계를 구축하는 것에 가깝다면, AX는 DX에서 구축해 놓은 통제 시스템 위에서 자유롭게 운행하는 자율주행차와 같다고 할 수 있다. 어떻게 보면 DX는 AX의 필수 전제조건이 될 수 있다.

Q. 직원들의 AI 도입 시 거부감이나 실패에 대한 두려움 등을 어떻게 극복할 수 있을까요?

사실 AI 도입에서 가장 고민해야 될 부분은 자본력이나 기술력이 아니다. 바로 이를 사용하고 이용하는 직원이다. 본문에서도 언급했듯이 도전에 열려 있는 조직을 만드는 것이 핵심이다. 따라서 열려 있는 조직체계와 리더십에서 직원들의 공감대와 참여를 이끌어내야 한다.

AI 도입은 사실상 직무의 변화를 가져올 수밖에 없고 많은 변화를 동반할 수 있다. 직원들이 스스로 "내 일자리가 위험할지도 모른다"는 불안을 느끼게 하거나 실패할 때 두려운 마음을 가지게 하지 말고 프로젝트에 모두가 함께 노력할 수 있는 문화를 만드는 것이 중요하다. 따라서 경영진과 리더의 첫 번째 과제는 기술력 향상만을 외치지 말고 업무 변화의 필요성과 도전할 수 있는 문화를 명확히 전달해야 한다.

명확한 비전 공유 : AI는 현재의 직업을 대체하는 게 아니고 기존의 반복 업무를 개선하고 더 창의적이고 전략적인 일에 집중할 수 있도록 프로세스화하는 과정이라는 메시지를 명확하게 전달할 필요성이 있다.

소규모의 프로젝트에 직접 체험 기회 제공 : 소규모 파일럿 프로젝트에 기존의 직원들을 참여시켜 실제 성과를 스스로 경험하게 하면 점점 더 노하우가 쌓이고 성공적 DNA가 갖춰져야 한다.

지속적인 교육 투자 : 직원들에게 새로운 기술을 습득할 수 있는 기회를 주는 것이 중요하다. 직원 스스로 성장하고 나의 시장가치가 높아진다는 확신이 드는 교육 프로그램을 운영하는 것이 좋다.

내부 성과와 사례 공유 : AI 활용으로 인한 실제 생산성이 향상되고 업무 만족도가 올라간 구체적 사례를 내부 임직원과 공유하면 조직 수용성이 보다 높아지게 된다.

끝으로 AX는 기술 프로젝트가 아닌 직무 및 업무의 변화 관리 프로젝트다. 실제로 이용할 직원의 마음을 얻지 못한다면 어떠한 높은 기술력을 가진 AI 프로젝트도 성공할 수 없다.

Q. 앞에서 실천목표인 DOING 프레임워크를 설명했는데 이에 대한 평가 기준과 적용 방법과 범위는 어떻게 되나요?

다른 많은 방법론이 존재하겠지만 DOING은 실천 목표이자 지금 당장 하자(Doing Now)라는 의미도 포함되어 있다. 따라서 나중이 아닌 지금부터 각 기업에 맞게 이를 도입하고 평가해야 한다.

구체적인 항목을 제시할 수도 있다. 하지만 이는 각 기업 비즈니스의 성향이나 목적에 따라 다양하게 변경될 수는 있다. 올바른 평가를 위해서는 각 내용마다 더 구체적인 항목에 대해 각 등급을 매겨 항목별 점수를 주는 방식으로 평가할 수 있다.

마치, 정보보호 관리 체계의 101가지 인증기준과도 흡사한 체크리스트를 활용하는 방법을 추천한다. 이렇게 AI 도입 성패를 좌우하는 5가지 핵심 요소에 대한 적용은 각 기업뿐만 아니라 개개인의 역량 개발에도 적용할 수 있는 범용적 기준이 될 수 있다. 평가 요소를 부록으로 실어 두었으니 참고하면 좋겠다.