무엇이 바뀔까? 기계 고객이 변화시킬 것들

지능형 애플리케이션이 대거 등장하면서, '기계 고객(Machine Customer)'이라는 개념이 부상하고 있다. 기계 고객은 말 그대로 사람이 아닌 '기계'가 자율적으로 물건을 사고파는 행위를 하는 것을 말한다. 향후 유통 및 마케팅 분야에서도 기계 고객은 중요하게 고려해야 할 요소가 될 것으로 보인다. 글로벌 시장조사업체 가트너(Gartner)도 기계 고객을 2024년 주요 전략 기술 트렌드 중 하나로 선정하기도 했다. 기계 고객의 이모저모를 자세히 살펴보자.

기계 고객에 대해 "인간의 제어 없이도 자율적으로 협상, 거래하는 기계 고객은 오는 2030년에는 그 규모가 수조 달러(약 1350조원)를 넘을 것으로 전망한다”라고 설명했다. - 가트너

매년 가트너는 향후 5~10년 내에 급격한 변화를 가져올 IT 키워드 10종을 지목한다. 올해 가트너가 꼽은 10대 트렌드로는 △생성형 인공지능(AI) 보편화 △증강 AI 개발 △지능형 앱 △AI 보안 관리 △지속적인 위협 노출 관리 △인력의 증강·연결화 △플랫폼 엔지니어링 △기계 고객 △산업 클라우드 플랫폼 △지속가능한 기술 등이 있다.

기계 고객의 사전적 의미는 ‘사람 대신 고객의 역할을 하는 기계’ 혹은, ‘사람의 명령에 따라 상품 구매 행동을 하는 기계부터 사람을 대신해 자율적으로 상품을 선택하고 구매하는 기계를 포괄하는 말’이다. 여기에는 지능화된 애플리케이션과 그 기반이 되는 AI 기술, 머신러닝(ML) 등 복합적인 기술이 모두 포함된다.

가트너에 따르면, 기계 고객은 ‘자율적으로 협상하고 대가를 지불하는 과정을 통해 상품과 서비스를 구매할 수 있는 비인간 경제 행위자’다. 여기서 ‘기계’란 단순히 로봇과 같은 형체의 기계에 국한되지 않고, 디지털 기술로 구현된 여러 유무형의 존재를 총칭하는 개념이다. 가트너는 "2025년에는 전자상거래 고객 중 37%가 기계 고객 서비스를 이용할 전망이며, 기업과 조직들은 지금부터 고객에 대비한 전략을 세워야 한다”라고 강조했다.

또한, 가트너는 '기계 고객 혁신의 3단계(3 Phases of Machine Customers' Evolution)'를 발표하며, 일반 인간 고객이 주류인 기존의 1단계가 2026년을 기점으로 일반 고객과 기계 고객이 공존하는 2단계 혹은 과도기로 넘어가고, 2036년에는 오히려 기계 고객이 시장의 주류로 자리 잡는 3단계가 도래할 것이라며, 기계 고객이 경계형 고객(Bound Customer), 적응형 고객(Adaptable Customer), 자율형 고객(Autonomous Customer)의 3단계를 거쳐 진화할 것이라고 설명했다.

1. 경계형 고객

1단계는 기계 고객이 대시 버튼처럼 설정된 규칙에 따라 특정 품목을 구매하는 단계이다. 현재 대부분 기계 고객은 ‘Bound Customer’이다. 구매에 대해 사람이 큰 결정권을 가지며, 사람의 개입이 가장 큰 단계이기도 하다.

2. 적응형 고객

2단계는 기계 고객이 규칙에 따라 경쟁 제품 중에서 최적화된 선택을 할 수 있는 단계이다. 사람과 AI 비서가 상호작용하며 상품 선택 및 구매를 결정한다. 양쪽 모두 구매에 대한 의견을 제시하는 권한을 갖지만, 사람의 개입을 최소화하는 것을 목표로 한다. 로봇 트레이딩이나 자율 주행 차량이 이 단계에 속한다.

[그림 1] 기계 고객 혁신의 3단계 (출처: 가트너)

3. 자율형 고객

3단계는 기계 고객이 소비자의 소비 패턴, 선호도, 니즈를 추론해 구매를 결정하는 단계이다. 기계 고객이 고도의 재량권을 갖고 거래 프로세스 대부분을 소유하며, 필요에 따라 기계의 자체적인 니즈를 반영할 수도 있다.

 

이처럼 기계 고객은 앞으로 기업 매출에도 적지 않은 영향을 미칠 전망이다. 가트너에 따르면, CEO들은 2030년까지 기업 수익의 약 22%가 기계 고객으로부터 나올 것으로 예상한다.

[그림 2] CEO들은 2030년쯤 기계 고객이 중요해질 것으로 예상하고 있다. (출처: 가트너)

기계 고객의 장점과 전망

기계 고객은 자동화된 구매를 통해 인간의 개입 없이 AI 시스템이 제품이나 서비스를 선택하고 구매할 수 있다. 데이터 기반 의사결정으로 대량의 데이터를 분석해 최적의 구매 결정을 내리기 때문이다. 따라서 인간보다 빠르고 정확하게 구매 프로세스를 처리할 수 있다.

기계 고객은 다양한 분야에서 활용될 수 있다. e커머스 분야에서는 사용자의 구매 이력, 검색 기록 등을 바탕으로 상품을 추천해 구매 전환율을 높이고, 챗봇을 통해 고객의 문의에 실시간으로 응답하고 주문건을 처리하며, 개인 맞춤형 상품 추천을 제공함으로써 수요와 공급의 변동에 따라 상품 가격을 자동으로 조절해 매출을 극대화할 것으로 기대된다.

금융권에서는 로보어드바이저를 통해 알고리즘을 기반으로 투자 포트폴리오를 구성하고 관리함으로써 개인 맞춤형 투자 서비스를 제공하며, 이상 거래 패턴을 분석해 금융 사기를 예방할 수 있고, 다양한 데이터를 분석해 개인의 신용도를 평가하고 대출 가능 여부를 쉽게 결정할 수 있다.

제조 부문에서는 설비의 상태를 실시간으로 모니터링해 고장을 예측하고, 예방 조치를 취할 수 있다. 또한, 제품 생산 과정에서 발생하는 불량품을 자동으로 검출함으로써 수요를 예측하고 재고를 최적화하며, 생산 계획을 수립할 수 있다는 이점이 있다.

이처럼 기계 고객이 활성화되면 다음과 같이 5가지 변화가 생길 것으로 예상된다.

• 소비 패턴의 변화: 기계 고객의 등장으로 소비 행태가 더욱 데이터 중심적이고 효율적으로 변화
• 기업 전략의 변화: 기업들은 기계 고객을 타깃으로 한 마케팅과 제품 개발 전략을 수립
• 개인화 서비스 확대: AI의 발전으로 더욱 정교한 개인화 서비스 가능
• 새로운 비즈니스 모델 등장: 기계 고객을 위한 새로운 서비스와 플랫폼이 생겨남
• 일자리 변화: 일부 구매 관련 직종이 영향을 받을 수 있으나, 새로운 형태의 일자리도 생겨날 전망이다.

기계 고객의 개념은 아직 초기 단계이지만, AI가 소비 주체로 기능하는 다양한 분야에서 활용되고 있으며, 기술의 발전에 따라 인간의 소비 방식과 비즈니스 환경에 큰 변화를 가져올 것으로 예상한다. 하지만 기계 고객을 활용하는 데는 몇 가지 윤리적 문제점도 거론된다.

첫째, 알고리즘 편향(Algorithmic Bias)이다. AI 모델은 학습 데이터에 기반해 의사결정을 하기 때문에 학습 데이터에 편향이 존재하면 모델 역시 편향된 결과를 도출할 수 있다. 예를 들어, 과거의 채용 데이터를 기반으로 학습된 채용 알고리즘은 특정 성별이나 인종을 차별할 수 있다. 또한, 알고리즘 편향은 특정 개인이나 집단에게 불리한 대우를 초래할 위험도 있다. 신용 평가 알고리즘이 특정 지역 거주자에게 불리하게 작용해 대출 기회를 박탈할 수 있다.

둘째, 개인정보 침해(Privacy Concerns)다. 기계 고객은 개인의 구매 이력, 검색 기록, 위치 정보 등 다양한 개인정보를 수집하는데 악용될 경우 개인의 프라이버시를 침해할 수 있다. 수집된 개인정보가 유출될 경우, 개인의 신용도 하락, 금전적 손실, 심리적 고통 등 심각한 피해를 야기할 수 있다.

셋째, 책임 소재의 모호함(Accountability)이다. AI가 내린 결정으로 인해 피해가 발생할 경우 그 책임 소재를 명확히 규정하기 어렵다. 개발자, 운영자, AI 시스템 자체 중 누구에게 책임을 물어야 할지에 대한 논쟁이 발생할 수 있다. AI는 복잡한 윤리적 문제에 대한 판단을 내리기 어렵다. 예를 들어, 자율주행 자동차가 갑작스러운 상황에 직면했을 때, 누구를 보호해야 하는지 판단할 수 있어야 하는데, AI는 아직까지 인간의 윤리적 가치를 완벽하게 이해하고 적용하는 데 어려움이 있다.

넷째, 인간의 역할 감소(Decreased Human Role)에 대한 부분이다. AI가 많은 업무를 대체하면서 인간의 일자리가 감소하고 인간 간의 상호작용이 줄어들며, 인간 관계가 단절될 수 있다는 단점이 있다.

다섯째, 중독 및 의존(Addiction and Dependence) 문제이다. 알고리즘은 개인의 취약점을 이용해 과도한 소비를 부추길 수 있다. 인간이 AI에 지나치게 의존하면 스스로 판단하고 행동하는 능력이 저하될 수 있다. AI 기술 개발 시 인간의 가치와 존엄성을 존중하고, 인간과 AI가 공존할 수 있는 방안을 모색해야 한다.