[IT 동아] [칼럼] 생성형 AI 시대, 성공적인 도입 전략

2024년 02월 22일

세계 경제가 초불확실성 시대에 돌입하면서 기업들의 AI 생존을 넘어 글로벌 경쟁력 확보를 위한 전략으로 가장 많이 등장하고 있는 키워드 중에 하나가 바로 ‘생성형 AI’이다. 국내 기업들 역시 위기의 경영 환경 속에서 직원 및 고객 경험의 혁신을 통해 새로운 도약의 기회를 찾고자 하는 움직임이 거세지고 있고 그 중심에 AI 기술이 자리하고 있다.

최근 발표된 가트너의 IT 지출 전망 보고서에 따르면, 2024년 전 세계 IT 지출은 2023년보다 8% 증가한 총 5조 1,000억 달러에 달하고 있다. 아직까지 생성형 AI가 IT 지출에 실질적인 영향을 미치고 있지는 않더라도, 보다 광범위한 AI 투자의 움직임은 전반적인 IT 지출 증가를 뒷받침하고 있다. 아시아 태평양 지역만을 보면 IDC는 2027년 AI에 대한 지출이 연평균 25.5%의 성장률로 784억 달러 규모로 증가할 것으로 내다보고 있다.

AI 지출의 증가 전망은 희망적으로 보일 수 있지만 현실에서는 꼭 그렇지만은 않다. 생성형 AI는 기업의 서비스 영역을 확장하는 데 있어 엄청난 잠재력을 제공하면서도 윤리적 문제, 데이터의 유출, 잘못된 관리감독 등 위험을 동반하기도 한다. AI가 비즈니스에 끼칠 수 있는 심각한 영향력을 세 가지로 나눠보면,

첫째, 잠재적 편향성: 적절한 조치를 취하지 않으면 AI 시스템이 학습 데이터에 존재하는 편향을 의도치 않게 지속시켜 의도하지 않은 결과를 초래할 수 있다. 입력되는 데이터에 따라 결과가 달라지기 때문에, 강력한 데이터 기반을 구축하는 것이 중요하다. 여기에는 엄격한 데이터 큐레이션 프로세스를 도입하여 AI 모델의 편향을 최소화하고, 공정성과 형평성을 보장하기 위해 지속적으로 알고리즘을 평가하고 개선하는 것이 필요하다.

둘째, 투명성: AI 도입의 결정이 개인의 삶이나 기회에 영향을 미치는 경우, AI가 특정 결과를 도출하는 과정을 설명할 수 있어야 한다. AI 모델은 단순히 답변만 제공하는 것이 아니라 그 답변의 근거도 제공하도록 설계되어야 한다. 이를 위해서는 업계 전반의 노력이 필요하지만, AI 모델의 작동 방식, 학습데이터, AI 의사결정 프로세스에 대한 이해를 높이는 것이 필요하다.

셋째, 보안 및 개인정보 보호: 전 세계 많은 국가에서 고객 및 직원 정보는 명확한 데이터 개인정보 보호법과 규정에 의해 보호되므로 모든 생성형 AI 솔루션은 민감한 정보를 보호하기 위해 강력한 데이터 암호화 및 액세스 제어 기능을 갖춘 최고 수준의 개인정보 보호 표준을 준수해야 한다.

이러한 어려움에도 불구하고 혁신 가속화, 생산성 및 효율성 향상 등의 이점이 우려되는 것보다 더 크게 인식되고 있어 AI의 성장은 불가피하다. 그렇다면 생성형 AI 기술이 계속해서 빠르게 발전하고 있는 동안 기업들은 성공적인 AI 도입을 위해서 먼저 무엇을 준비해야 할까?

첫째, 안정적이고 확장 가능한 생성형 AI를 위한 신뢰할 수 있는 데이터 소스를 구축한다. AI 시스템을 설계하고 구축할 때 가장 흔한 실수는 신뢰할 수 있고 편향되지 않은 결과를 도출할 수 있는 고품질의 데이터를 확보하지 못하는 것이다. 비즈니스 영향력을 줄 수 있는 AI 확장은 올바른 데이터 기반(비즈니스 전략과 일치하는 데이터 전략, 데이터 거버넌스, 데이터 품질, 데이터 아키텍처 등)이 있을 때만 이루어질 수 있다. 비즈니스 인사이트는 생성형 AI에 어떤 데이터가 공급되는지에 따라 달라지며, 데이터 품질이 곧 생성형 AI 솔루션의 품질이 된다.

둘째, 생성형 AI 기술을 적용하기 전에 활용 사례를 먼저 검토한다. 생성형 AI 도구가 사용자 생산성과 직원 및 고객 경험을 향상시킬 수 있지만 기술이 투자를 항상 보장하는 것은 아니다. 투자 수익을 보장하려면 생성형 AI 사용 사례 식별과 기술 적용을 안내하는 전문가를 확보하는 것이 중요하다. 기업은 고객에게 일대일 서비스를 제공하여 비즈니스 내에서 생성형 AI를 책임감 있게 적용하여 효율성과가치를 높이고 목표 달성을 지원할 수 있도록 사전에 잘 짜여진 AI 준비 프로그램과 같은 리소스 활용을 고려해야 한다.

마지막으로, LLMOps(대형 언어 모델 개발 및 운영 통합 체계) 프레임워크를 활용한다. 기업이 책임감 있고 비용 효율적인 방식으로 데이터 및 생성형 AI 기술에서 가치를 창출하려면 LLMOps 프레임워크를 사용해야 하며 이러한 프레임워크는 더 큰 규모의 데이터 및 AI 아키텍처에 통합되어야 한다. LLMOps 프레임워크를 활용하고 데이터 및 AI 전문가와 협력함으로써 기업은 사용되는 데이터가 안전하고 신뢰할 수 있는지, 생성된 통찰력을 전달할 수 있는 아키텍처가 올바로 적용되어 있는지 확인할 수 있다.

AI는 선한 의도로 활용될 수 있는 매우 매력적인 기술이지만, 적절한 가이드와 관리가 필요한 강력한 기술이다. 따라서 위 세 가지 고려사항과 함께 책임감 있는 AI 배포를 위해 처음부터 적절한 방호책과 거버넌스를 설정하고 모든 비즈니스 IT 인프라에서 신뢰할 수 있는 동반자로서의 역할을 수행할 수 있도록 해야 한다. 또한 이러한 방호책은 위험 관리와 지속적인 혁신 및 성장 사이의 균형을 적절히 유지하는 것도 필요하다. AI 기술의 성공적인 도입을 위해서는 이처럼 다양하고 복잡한 사항들을 동시 다발적으로 고려하는 것이 요구된다. 따라서, AI 여정 안에서 기업의 의도대로 기술을 설계하고 적용하여 비즈니스 목표를 달성하기 위해서는 전문 지식과 경험을 갖춘 신뢰할 수 있는 파트너를 활용하는 것이 무엇보다 중요하다.