[IT 동아] 챗봇 엉뚱한 답변에 기업이 배상…”AI 활용에 신중해야”

[IT동아 권택경 기자] AI 챗봇의 환각 현상에 기업이 배상 책임을 지게 되는 일이 생겼다.

지난 15일(현지시각) 밴쿠버 선 등 현지 매체들에 따르면 캐나다 민사 해결 재판소는 AI 챗봇이 고객에게 잘못된 환불 규정을 알려준 사건에서 기업이 AI 챗봇이 알려준 대로 고객에게 환불해야 한다고 판결했다.

사건의 자초지종은 이렇다. 제이크 모팻이라는 남성은 지난 2022년 에어캐나다의 밴쿠버발 토로토행 항공권을 예매했다. 돌아가신 할머니 장례식에 참석하기 위해서였다.

에어캐나다를 비롯한 일부 북미 항공사들은 이처럼 직계 가족 장례식 참석 등을 위한 비행에는 장례 유족 운임이라 명목으로 할인된 운임을 적용한다. 모팻이 에어캐나다의 장례 유족 운임 규정을 알아보기 위해 챗봇에 문의하자 챗봇은 90일 이내 일반 항공권 운임과 장례 유족 운임의 차액을 추후 소급해서 환불 신청할 수 있다고 설명했다.

그러나 챗봇의 안내는 사실과 달랐다. 에어캐나다 정책에 따르면 여행을 마친 후 장례 유족 운임을 소급 적용하는 건 불가하다. 모팻은 챗봇의 답변 내용을 근거로 에어캐나다에 880캐나다달러(약 87만 원)에 달하는 차액 환불을 요청했지만 에어캐나다는 정책에 따라 이를 거부했다.

수개월간 실랑이가 이어지다 에어캐나다가 절충안으로 200캐나다달러(약 20만 원) 상당의 할인권 제공을 약속했다. 모팻은 이를 거부하고 사건을 민사 소액 재판을 다루는 캐나다 민사 해결 재판소로 가져갔다.

재판에서 에어캐나다는 챗봇을 비롯한 대리인, 종업원 등이 제공한 정보에 대해서 회사가 책임을 질 수 없다고 주장한 것으로 전해졌다. 챗봇도 스스로 법적 책임을 져야 하는 별도의 법적 독립체라는 것이다.

사건을 담당한 크리스토퍼 리버스 재판 위원은 이같은 에어캐나다 주장에 근거가 없다며, 챗봇이 잘못 안내한 대로 모팻에게 환불할 책임이 있다고 판결했다. 이에 에어캐나다는 수수료, 세금을 제외한 약 650캐나다달러(약 64만 원)를 배상하게 됐다.

리버스 위원은 챗봇도 에어캐나다 웹사이트의 일부일 뿐이며, 에어캐나다의 웹사이트로 제공되는 모든 정보에 대한 책임은 에어캐나다에 있다고 밝혔다. “정보가 정적인 페이지로 전달됐는지 챗봇으로 전달됐는지는 상관없다”는 설명이다.

아스 테크니카에 따르면 판결 이후 에어캐나다가 웹사이트에서 챗봇을 비활성화한 것으로 보인다고 보도했다. 에어캐나다는 당초 간단한 문의 처리를 대신해 인력 부담을 덜 목적으로 AI 챗봇을 도입한 것으로 알려졌다.

전문가들은 이번 사건이 기업이 AI를 활용할 때 좀 더 신중해질 필요가 있음을 보여준다고 지적했다. 밴쿠버 선에 따르면 캐나다 최대 로펌 고울링 WLG의 아놀트 브렌트 변호사는 AI 관련 규제가 심화함에 따라 기업들이 규제 준수 책임뿐만 아니라 민사 책임에도 주의를 기울일 필요가 있다고 말했다.

브렌트 변호사는 회사가 책임을 피하려면 고객에게 챗봇에 대한 책임을 지지 않는다고 고지해야 하는데, 이는 소비자가 서비스의 효용성에 의문을 품게 할 것이라고도 지적했다.

정보 및 AI 법률 분야 전문가인 이라 파르기 변호사는 “너무 까다롭고 복잡하거나, 기반 규정이 충분히 마련돼있지 않거나, 개인 재량에 너무 많이 의존하는 경우에는 챗봇을 멀리해야 할 수도 있다”고 조언했다.

글 / IT동아 권택경 (tk@itdonga.com)