무분별한 생성형 AI PoC를 멈춰라

2022년 말, ChatGPT가 등장했을 때 비즈니스 세계는 충격에 휩싸였습니다. 생산성, 혁신, 가치 창출을 획기적으로 향상시켜 기업의 운영 방식을 혁신할 것으로 기대되는 인공지능(AI)의 차세대 진화 기술인 생성형 AI(Generative AI)가 황금기를 맞이할 준비가 되어 있었기 때문이죠. 이에 따라 ''뒤쳐질지 모른다는 두려움(fear of missing out)'으로 인해 기업들이 GenAI를 어디에 어떻게 적용하여 비즈니스를 개선해야 할지를 파악하기 위한 개념증명(POC) 탐색 작업이 광풍처럼 몰아쳤습니다.

기업이 POC를 추구하는 과정에서 더 중요하고 기본적인 질문을 놓치고 있습니다: 이 새로운 기술을 어떻게 활용해야, 기존 투자 (예: 디지털, 데이터, 머신러닝(ML) 및 AI)의 ROI를 극대화 할 수 있을까요? 대부분의 기업에게 GenAI는 단순히 이미 산적한 아젠다(agenda)에 더해 해결해야 할 또 하나의 시급한 이슈에 불과했습니다.

이크이 큰 기회를 놓칠 수 있는 지점으로, GenAI가 만드는 가치의 상당 부분은, 광범위한 디지털, 데이터 및 ML/AI 이니셔티브의 ‘가치와 전달 방식’을 변화시키는 데 있습니다. 기업은 GenAI POC에만 집중하는 대신, 이 기술이 조직에서 수행할 수 있는 다양한 역할을 고려하여, 모든 데이터 및 디지털 역량의 잠재력을 발휘할 수 있도록 지원해야 합니다.

GenAI를 활용한 데이터 프로미스(data promise) 실현

대부분의 기업은 최소 10년 이상 데이터, 분석, ML/AI를 활용하는 역량을 강화하기 위해 노력해 왔습니다. 클라우드 마이그레이션, 디지털 트윈, 분석 플랫폼, 그리고 점점 더 다양해지는 툴과 솔루션, 그리고 더욱 강력해진 애플리케이션은 수요 중심의 운영 계획부터 마진 및 프로덕트 포트폴리오 최적화에 이르기까지 모든 것을 가능하게 했습니다. 일상적인 의사 결정의 AI 기반 자동화가 점점 더 보편화되고 있으며, 광범위한 의사 결정 지원을 제공하는 정교한 대시보드가 표준이 되었습니다.

그러나 이러한 발전은 기업이 데이터를 사용하는 방식에 내재된 몇 가지 한계를 드러냈습니다. 예를 들어, 예측 AI가 아무리 정교해졌다고 해도, 미래와 불연속성을 넘어서는 확고한 데이터(hard data)는 없습니다. 디지털 트윈(digital twins)이 운영을 최적화하는 데 아무리 유용하다고 해도, 결국에는 현재와 똑같은 복제본(Twin)일 뿐, 미래의 운영이 어떤 모습일 수 있고, 또 그래야 하는지에 대한 이상적 모델은 아닙니다. 그리고 AI 가이던스(AI guidance)가 아무리 강력해도, 인간의 상황 인식 능력과 예외 및 새로운 상황을 해결하는 능력에는 미치지 못합니다.

그 이유 중 하나는 대부분의 머신러닝(ML)과 전통적 AI가 조직의 '시스템 상의 기록(Systme of record)', 즉 엔터프라이즈 및 기능적 애플리케이션(functional application)에서 얻은 정형데이터(structured data)를 활용하기 때문입니다. 반면, 특정 상황과 관련이 있을 수도 있고 없을 수도 있는 (may (or may not) be relevant) 맥락이나 판단이 필요한 사안(contextual and judgmental matters)에 대한 정형데이터(structured data)는 거의 존재하지 않습니다. 바로 이 지점이 사람의 개입이 필요한 부분입니다.

그러나 사람이 개입하고 상황에 맞는 능력을 발휘하는 것은 쉽지 않고 간단하지도 않습니다. 예를 들어, 대시보드 및 플래닝 솔루션(Dashboards and planning solution)은 일반적으로, 이를 효과적으로 사용하기 위한 전문적인 기술(Specific Skills)이 필요하기 때문에, 조직을 광범위하게 지원하는 데 한계가 있어, 도입에 어려움을 겪게 됩니다.

GenAI는 업계의 판도를 바꿀 수 있는 잠재력을 가지고 있습니다. 비정형 데이터를 능숙하게 처리할 수 있는 능력과 기업 내 누구나 쉽게 사용할 수 있는 고유한 사용 편의성을 갖춘 이 기술은 기업이 대시보드를 넘어 데이터를 최대한 활용하는 데 도움이 되는 세 가지 핵심 역할을 수행할 수 있습니다.

Role #1: 인터페이스로서의 GenAI (GenAI as an interface ) 

자연어 처리 능력을 갖춘 GenAI는 인간이 기술 및 데이터와 상호작용하는 방식을 근본적으로 변화시킬 것입니다. 이제 사람들은 대시보드와 정교한 보고서에서 데이터를 읽고 결론을 도출하는 방법을 배울 필요 없이, 마치 정보를 잘 알고 있는 동료 전문가(well-informed colleagues)와 인게이지먼트하는 것처럼 질문하고, 조언을 얻고, 실행 가능한 답변을 받으면서 기술과 진정한 대화를 나눌 수 있게 됩니다.

이를 통해 대시보드 및 전문 애플리케이션과 관련된 도입 장애물을 극복할 수 있습니다. 이를 통해 사람들은 이전과는 전혀 다른 방식으로 기존 데이터에 액세스하여 다양한 의사 결정 프로세스에 통합함으로써 상황 인식, 판단력, 창의성, 해결 능력을 훨씬 더 잘 활용할 수 있습니다.

Role #2: 번역가로서의 GenAI (GenAI as a translator) 

하지만 인간은 모든 것을 알 수 없으며 주변에서 일어나는 모든 일을 인식하지도 못합니다. 정형데이터(structured data)를 통해 상황을 인지하는 데에는 한계가 있습니다.

바로 이 부분에서 GenAI는 데이터 번역가(data translator)의 역할도 수행할 수 있습니다. 오늘날 시중에 나와 있는 주요 대형 언어 모델(LLM: large language models)과 같은 대형 모델은 풍부한(그러나 일반적으로 활용되지 않은) 비정형 데이터를 정형 데이터, 즉 기업의 기존 예측 알고리즘에 적합한 데이터로 변환할 수 있습니다. 이러한 일반적인 파운데이션 모델(Foundation Model)은 데이터가 긴 텍스트, 이미지, 동영상, 컴퓨터 코드, 심지어 단백질을 구성하는 아미노산 문자열의 형태이든 상관하지 않습니다. 이러한 모델은 해당 콘텐츠를 읽고 더 이해하기 쉬운 새로운 형식으로 변환하도록 조정할 수 있습니다. 마치 ChatGPT와 DALLE을 결합하여 텍스트를 요약하여 적절한 동반 이미지를 생성하는 프롬프트와 같이 말이죠.

이러한 모델은 인쇄본(transcripts), 계약서, 정책, 매뉴얼, 뉴스, 이벤트, 질문, 작업, 심지어 정형데이터(structured data) 등 다양한 형태의 데이터를 이해하는 데 사용할 수 있습니다. 즉, 적절한 프롬프트와 올바른 데이터가 제공되면 GenAI는 풍부한 원시 데이터(raw context)를 관련성 있고 구체적이며 실행 가능한 인사이트와 가이던스(guidance)로 전환할 수 있습니다.

Role #3: 에이전트로서의 GenAI (GenAI as agents)

그러나 GenAI가 할 수 있는 가장 흥미로운 역할은 인터페이스와 번역기라는 두 가지 역할이 하나의 역할로 결합될 때입니다: 조직이 정형데이터(structured data)와 비정형데이터, 내부 및 외부의 모든 데이터와 정보를 최대한 활용할 수 있도록 지원하는 AI 에이전트입니다.

이렇게 생각해 보세요. GenAI는 인터페이스이자 번역가(data translator)로서 데이터베이스에서 비디오, 문서에 이르는 방대한 데이터 소스와 이 방대한 데이터 세트와 상호 작용하고 질문하고 도전하는 인간 지향적인 방식을 결합합니다. 이는 실시간으로 연결된 하나의 '합성된 동료(합성 동료)'로서 회의, 부서별 영역 다툼, 휴가, 교육 일수, 실질적인 채용 제한 없이 이루어집니다(GenAI 사용 시 고려해야 할 비용 영향이 있긴 하지만).

즉, AI 에이전트는 더 이상 스마트한 숫자를 뿜어내는 복잡한 알고리즘이 아닙니다. 맥락을 인식하고(contextual), 협력적이며(Collaborative), 자연스럽게 상호작용이 가능한, 합성 팀원(synthetic team members)의 무한한 공급원이 된다는 뜻입니다.

물론 이렇게 많은 AI 에이전트가 모든 것을 해결할 수는 없습니다. AI 에이전트는 비즈니스 운영의 일상적인 업무에 압도적인 힘을 발휘하고 인간보다 더 잘 수행할 수 있지만, 비즈니스 운영 방식에 대한 결과를 책임질 수 없고 책임져서도 안 됩니다. 그들은 인간 동료들이 디지털 자산 전반에 걸쳐 처음부터 끝까지(end-to-end) 모든 변화를 실행할 수 있도록 권한을 부여하는 레버(levers)로 사용하는 것이 가장 좋습니다.

예를 들어, AI 에이전트는 지속적으로 예측을 수행하고 고객 수요 및 시장 동향을 모니터링한 다음, 그 결과를 즉시 캐스케이드(cascading)하여 필요에 따라 밸류체인의 모든 단계를 조정함으로써, 글로벌 공급망을 운영 및 최적화(run and optimize)할 수 있습니다. 그러나 예를 들어, 글로벌 배송에 차질을 빚는 이벤트는 예측할 수 없습니다. 그러나 이러한 중단이 발생하면 에이전트는 어떤 제품 x 시장의 조합(product market combinations)이 영향을 받을지, 흐름을 어떻게 리디렉션해야 하는지 등 영향을 즉각적으로 파악할 수 있습니다. 또한 아프리카의 뿔(Horn of Africa) 주변 우회와 같은 다양한 시나리오를 평가하여, 사람이 앞으로 나아갈 방법에 대해 충분한 정보를 바탕으로 결정을 내릴 수 있도록 도울 수 있습니다(적어도 아직은 에이전트 혼자서는 할 수 없음).

GenAI 터널 비전 피하기 (Avoiding GenAI tunnel vision)

GenAI와 AI 에이전트에게 특정 역할과 작업을 할당함으로써, 조직은 잠재적으로 유용할지 모르지만 확장성이 떨어지는 개념증명(POC)에 의존하는 한계를 피할 수 있습니다. GenAI를 활용하여 "프로세스를 재창조(process reinvent)"하면, 시행착오(trial-and-error)를 거치는 POC 방식에 비해 훨씬 더 큰 가치 향상을 가져올 수 있습니다.

기업에서는 엔터프라이즈(Enterprise)에서 GenAI의 역할을 어떻게 결정할 수 있을까요? 간단한 세 가지 질문을 통해 그 길을 찾을 수 있습니다.

1/ 상호작용의 편의성을 개선하여 차이를 만들 수 있는 곳은 어디일까요? (Where can better ease of interaction make a difference?)

GenAI를 인터페이스로 효과적으로 사용하려면, 조직이 데이터, 분석, 머신러닝(ML/AI)을 최대한 활용하기 어려운 영역(예: 대시보드 채택 문제 또는 애플리케이션별 특화된 기술의 필요성)을 파악해야 합니다.

앞서 예로 든 글로벌 공급망 최적화가 대표적인 사례입니다. 통합 비즈니스 계획(IBP) 솔루션을 구현하는 것은 다양한 기능을 다루고 높은 수준의 정형데이터(structured data) 품질과 세부 사항이 필요하기 때문에 결코 간단한 작업이 아닙니다. 또한, IBP 대시보드 및 애플리케이션을 사용하려면 일반적으로 전문적인 경험이 필요합니다. 따라서 IBP 및 공급망 계획 솔루션 제공업체가 GenAI를 사용하여 애플리케이션을 보다 인간 친화적으로 만드는 데 큰 관심을 보이는 것은 당연한 일입니다.

복잡한 대시보드를 다루지 않고도 툴과 대화할 수 있는 기능을 통해 다양한 기능 부서의 더 많은 전문가들이 IBP의 강력한 기능을 활용할 수 있습니다. 예를 들어 마케팅 담당자는 프로모션 계획이 프로덕트의 재고수준(stock levels)과 품절 리스크(stockout risks)에 미치는 영향과 이를 완화할 수 있는 방법을 문의할 수 있습니다. R&D는 포트폴리오에서 어떤 프로덕트가 플래닝에 복잡성을 유발하는 재료를 사용하는지 평가할 수 있으며, 레시피 변경을 통한 개선 효과를 얻을 수 있습니다. 그 밖에도 여러 가지가 있습니다.

2/ 어디에서 더 많은 비정형 데이터가 차이를 만들 수 있을까요?

데이터 번역가(data translator)로서의 GenAI는 인간의 문맥 파악 능력에 크게 의존하는 분야에서 특히 유용합니다. 이 기술은 디지털로 캡처한 인간 상호 작용과 같은 복잡한 비정형 데이터를 활용하여 이러한 능력을 보완하거나 심지어 대체할 수 있습니다.

콜센터 기록은 잘 알려진 예입니다. GenAI는 이를 고객 응대 시 축적된 인간의 경험을 반영하여 참조 가능한 컨텍스트로 변환할 수 있습니다. 이를 통해 콜센터 상담원(특히 경험이 적은 상담원)에게 고객의 질문과 이슈를 해결하는 방법에 대한 실시간 가이던스(guidance)를 제공할 수 있습니다.

일반적으로 이미 유용한 기본 검색 기능이 포함되어 있는 모든 디지털 포럼에도 동일한 원칙이 적용됩니다. GenAI는 주요 실무자의 세부적인 요청(specific requests), 주요 문서 및 개념의 요약, 가장 적용 가능한 상황(the most applicable situations) 등에 대한 리포팅을 통해 이 기능을 향상시킬 수 있습니다.

의사 결정과 작업 실행을 향상시키기 위해 GenAI의 도움으로 번역할 수 있는 비정형 및 컨텍스트 데이터의 종류에는 실질적인 제한이 없습니다. 실제로 기업들은 이러한 목적을 위해 새로운 데이터 수집을 고려하는 것이 가치가 있다고 생각할 수 있습니다. 대개 인간의 판단력, 수완, 상상력의 정점인 의사 결정 자체가 좋은 예이며, 따라서 지속적인 학습을 위해 캡처할 가치가 있습니다.

3/ 무한한 용량과 무한한 시간이 있다면 무엇을 할 수 있을까요? (What could you do with infinite capacity and infinite time?)

어떤 면에서 GenAI 기반 에이전트 또는 합성된 동료(synthetic coworkers)가 가장 큰 가치를 창출할 수 있는 분야를 평가하는 것은 간단합니다. 잘 조직된 10만 명의 동료(로켓 과학자는 아니지만 전문적이고 유능하며 진정으로 연결된)가 추가되어, 정보를 중심으로 돌아가는 일상 업무(예: 수십만 명의 고객을 위한 마케팅 메시지 개인화)에서 실질적인 차이를 만들 수 있는 분야를 상상해 보시기만 하면 됩니다.

이러한 AI 에이전트의 힘은 거의 무한한 응용 분야를 가지고 있습니다. 예를 들어, 비즈니스 계획에서 AI 에이전트는 실시간 시장 상황, 소비자 행동 및 기타 외부 요인에 지속적으로 적응하여 AI 기반의 상세한 수요 예측을 쉽게 처리할 수 있습니다. AI 에이전트는 어떤 요인의 조합이 가장 적절한지 판단할 수도 있습니다. 그런 다음 이러한 예측은 재고 및 용량을 최적화하고, 배송 경로를 최적화하고, 일상적인 관리 작업을 실행하는 다른 조합의 AI 에이전트에게 제공될 수 있습니다.

물론 이러한 작업은 사람이 수행할 수도 있습니다. 하지만 AI 에이전트는 확장 가능하고 항상 사용 가능하며 하나의 조율된 힘으로 작동할 수 있습니다. 따라서 제품 그룹뿐만 아니라 개별 제품 및 성분에 대한 세부 예측을 관리하고 매시간 또는 변경 사항이 있을 때마다 계획을 조정할 수 있습니다. 인간은 고급 계획 시스템으로 무장하더라도 AI 에이전트가 제공하는 계획의 세분성, 빈도, 완전성, 그리고 이러한 에이전트가 처리할 수 있는 정형 및 비정형 파라미터의 폭을 따라갈 수 없습니다.

POC를 넘어서라 (Going forward: moving beyond POCs)

Chat-GPT가 등장한 지 거의 2년이 지났지만, 비즈니스 리더들은 여전히 GenAI가 회사에 어떤 의미가 있는지 파악하기 위해 노력하고 있습니다. 가장 기본적인 수준에서 GenAI가 제공할 수 있는 놀라운 아웃풋(output)은 이 기술이 인간으로부터 더 많은 업무를 대신할 것임을 직관적으로 분명하게 보여줍니다. 하지만 게임 체인저가 되는 것은 아웃풋(output)의 천재성이 아닙니다. 오히려 GenAI가 제공하는 처음부터 끝까지(end-to-end) 루틴을 제공할 수 있는 엄청난 스케일과 오케스트레이션이 진정한 혁신을 가져올 것입니다.

기업들이 이 기술이 가장 유용할 수 있는 분야에 대해 어느 정도 명확해지기 시작하면서 2024년에는 GenAI에 대한 POC 열풍이 잦아들 것입니다. 그러나 우리는 가치 실현의 물결의 시작 단계에 불과합니다. 이제 기업들이 모든 디지털 및 데이터 프로그램에서 더 많은 가치를 창출하기 위해 GenAI가 수행할 수 있는 구체적인 역할을 고려하여 해당 분야에 대한 투자를 훨씬 더 큰 혜택으로 전환해야 할 때입니다.