생성형 AI에 대한 기대가 잦아드는 가운데, IT 리더는 전문화된 모델, 보다 현실적인 목표, 다른 형태의 AI 등을 종합적으로 고려해야 한다.
지난 2년간 생성형 AI에 대한 열광이 넘쳐났다. 하지만 앞으로 불가피한 진로 수정이 예상되고 있다. 이는 CIO가 생성형 AI 전략을 재고해야 한다는 의미로 이어진다.
거품이 완전히 터지지는 않을 수도 있다. 그러나 이러한 거품은 축소될 가능성이 크다. 가트너의 잘 알려진 과대광고 주기에 따르면 생성형 AI는 이미 부풀려진 기대의 정점을 지나 환멸의 저점으로 향하고 있다.
가트너는 또 2025년까지 현재 진행 중인 생성형 AI 프로젝트의 30%가 개념 증명 후 중단될 것이라고 예측했다. 이러한 생성형 AI 프로젝트 중 상당수가 데이터 품질 저하, 부적절한 리스크 관리, 불분명한 비즈니스 가치, 비용 증가 등의 이유로 실패한다는 전망이다.
이 시장조사기관에 따르면 생성형 AI 프로젝트는 수백만 달러가 소요되기 십상이며, 지속적으로 막대한 비용이 발생할 수 있다. 예를 들어, 생성형 AI 가상 비서를 출시하는 데 500만~650만 달러의 비용이 들 수 있으며, 사용자당 연간 8,000~1만 1,000달러의 예산이 반복적으로 필요할 수 있다.
가트너의 AI, 하이퍼 자동화, 지능형 자동화 그룹의 애널리스트인 프란시스 카라무지스는 가상 비서나 지능형 챗봇과 같은 ‘유비쿼터스’ 생성형 AI 사용에 대한 ROI를 판단하기가 까다롭다고 진단했다. 가상 비서의 경우 직원들이 오래된 문서를 검색하거나 이메일을 작성할 때 시간을 절약할 수 있지만, 대부분의 조직은 이전에 이러한 지표를 추적한 적이 없기 때문에 이러한 작업에 과거에 얼마나 많은 시간이 소요되었는지 전혀 알지 못한다고 그녀는 말했다.
3개 중 2개는 성공
가트너의 실패한 생성형 AI 프로젝트에 대한 전망은 IBM이 보고 있는 것과 일치한다고 IBM의 왓슨x.ai 제품 관리 책임자인 마리암 아수리는 전했다. 기업 3곳 중 1곳은 파일럿 단계 이후 AI 활용 사례를 포기하지만, 나머지 2곳은 충분히 가능성이 있다고 본다는 의미라고 그녀는 덧붙였다.
그녀에 따르면 2022년과 2023년 사이에 AI로 비롯된 영업이익 증가율은 거의 5%에 이르는 등 두 배 가까이 증가했으며, 2025년에는 10%에 달할 것으로 예상된다.
아수리는 “많은 기업들이 ROI를 높이고 경쟁력을 유지하기 위해 생성형 AI가 중요하다는 점을 인식하고 있다. 이들은 과대 광고에 현혹되지 않고 AI가 진정한 가치를 창출할 수 있는 분야를 파악하기 위해 투자를 계속 늘리고 있다”라고 말했다.
투자는 계속될 것이지만 반발을 예상하는 전문가들도 많다. IT 컨설팅 회사 얼라이언트그룹의 지능형 자동화, AI 및 디지털 서비스 담당 상무이사 크리스 스티븐슨은 “초창기부터 부풀려진 기대치가 계속 이어져 왔기 때문에 환멸의 골이 꽤 깊어질 것 같다”라며 “올라간 것은 반드시 내려오기 마련이다”라고 말했다.
2022년 말 챗GPT 출시 이후 소비자들의 큰 반응이 기업들 사이에서 큰 기대감을 불러일으켰다. 한편 머신러닝, 딥러닝, 예측 애널리틱스 등 ‘전통적인’ AI 기술은 많은 조직에서 그 가치를 계속 입증해왔다. 스티븐슨은 “즉 생성형 AI보다 더 저렴하고 멋진 AI 솔루션들도 많다. 고객과 기획 세션을 진행할 때 고객이 필요로 하는 솔루션의 3분의 2는 생성형 AI 모델에 맞지 않는다고 본다. 때로는 AI와 전혀 관련이 없는 것들도 있다”라고 말했다.
스티븐슨은 생성형 AI의 과대광고가 가라앉으면서 IT 리더들이 다른 AI 기술을 위해 전략을 재평가하는 것을 목격하고 있다고 전했다.
폭넓게 생각하기
다른 AI 전문가들은 비즈니스에 맞춰진 전문화된 AI로의 전환을 보고 있다. 감성 지원 AI 도구를 개발한 웨이큰AI(WakenAI)의 CEO이자 공동 설립자인 하산 우리스테기는 “특정 요구에 맞춘 전문화된 AI는 보다 정확하고 효과적인 솔루션을 제공하여 조직에 더 큰 가치와 신뢰성을 제공한다”라고 말했다.
하지만 단기적으로는 실용적인 사용 사례가 부족한 일부 AI 벤처가 실패할 수도 있다고 그는 말했다. 사용자가 맞춤형 AI 아바타를 만들 수 있는 앱과 같은 틈새 AI 제품은 수명이 길지 않을 수 있다고 그는 평가했다.
우리스테기는 “이제 AI 시장은 폭발이 아니라 조정을 겪고 있다. 비현실적인 기대가 현실적인 현실에 부딪히면서 업계는 재조정의 시기를 맞이할 수 있다”라고 말했다.
오픈소스 머신러닝 스타트업인 젠ML의 CTO 겸 공동설립자인 함자 타히르는 과대광고에 대한 반발이 있을 수 있지만 장기적으로 생성형 AI는 혁신적인 기술이 될 것이라고 덧붙였다.
그는 “현재의 AI 붐은 부풀려진 기대치와 높은 밸류에이션 등 과거의 기술 거품과 몇 가지 특징을 가진다. 생성형 AI를 둘러싼 과대 광고는 부인할 수 없지만, 저는 이 기술이 산업을 변화시키고 장기적인 가치 창출을 주도할 잠재력을 가지고 있다고 믿는다”라고 말했다.
신중한 접근 방식 취하기
기업들이 생성형 AI의 장기적이고 혁신적인 사용 사례를 모색하는 가운데, 많은 CIO가 CEO나 이사회 구성원으로부터 지금 당장 가치를 찾아야 한다는 압박을 받고 있다.
타히르는 CIO가 디지털 어시스턴트와 지능형 챗봇을 넘어 조직의 전략적 목표와 우선순위에 초점을 맞춰야 한다며, CIO는 각 프로젝트의 비즈니스 가치와 예상 ROI를 명확하게 설명할 수 있어야 한다고 조언했다.
그는 또한 내부의 AI 역량을 구축하기 위해 지속적인 학습과 숙련도 향상 문화를 조성해야 한다고 전했다. 먼저 대중에게 노출될 가능성이 낮은 내부 프로젝트를 시작하여 위험을 완화하고 실험을 위한 통제된 환경을 마련해야 한다.
또한 CIO는 특정 사용 사례에 맞게 기존 AI 모델을 미세 조정하는 접근법을 고려해야 한다. 타히르는 “이러한 접근 방식은 종종 더 적은 노력으로 더 나은 결과를 얻을 수 있으며, 조직이 생성형 AI의 이점을 빠르게 실현할 수 있게 해준다”라고 말했다.
대형 기술 업체들이 여전히 생성형 AI에 막대한 투자를 하고 있기 때문에 CIO들은 실험할 기회가 많을 것이라고 스티븐슨은 덧붙였다. 일단 조직이 해결해야 할 문제를 찾은 다음, 생성형 AI뿐만 아니라 다양한 기술을 고려하면 된다는 설명이다.
그는 “많은 경우, 우리는 큰 목소리를 내거나 AI 챗봇을 회사에 도입하는 것에서 한 발 물러나 ‘어디에 문제가 있는지 모든 아이디어를 얻자’고 말한다. 이사회에 돌아가서 생성형 AI로 몇 퍼센트를 해결할 수 있는지, 다른 AI 솔루션으로 몇 퍼센트를 해결할 수 있는지, 오래전부터 사용하던 기술로 어떤 부분을 해결할 수 있는지 보여줄 수 있다”라고 말했다.
그는 이어 CIO가 생성형 AI를 도입하느냐 마느냐의 전략에 사활을 걸어서는 안 된다고 강조했다. “신중하게 접근해야 한다. 모든 것을 한 바구니에 담으려 하지 말고 충분한 기술을 확보하여 시범적으로 도입한 후 나중에 어떻게 확장할지 생각해야 한다”라고 스티븐슨은 말했다. dl-ciokorea@foundryco.com
