[소셜코리아 칼럼] 똑똑한 AI 활용했는데 오히려 성과가 떨어지는 역설. 인간-AI 효과적인 조합 따로 있어···AI의 기술적 경계선 이해해야 (이명호 사단법인 케이썬 이사장) (⏳4분)
인공지능(AI) 기술의 급속한 발전으로 다양한 분야에서 AI 활용이 증가하고 있다. 챗GPT로 대표되는 생성 AI를 개인이 업무에 활용할 수 있게 되면서 AI와 인간의 협력이 실제로 효과적인가에 대한 의문도 제기된다.
AI와 인간의 협력, 성과 낸 세 가지 경우
인간은 창의성과 직관, 맥락적 이해를 통해 다양한 문제를 해결할 수 있는 반면, AI는 뛰어난 계산 능력으로 특정 작업에서 인간보다 우수한 성과를 낼 수 있다. 따라서 창의성, 직관, 맥락적 이해력을 가진 인간이 속도, 확장성 및 분석 능력을 갖춘 AI와 협력, 조합을 이루면 인간과 AI의 상호보완적 특성 덕분에 엄청난 잠재력을 가질 수 있을 것으로 기대하게 된다.
그러면 실제로 인간-AI 조합은 효과적일까? 오히려 인간의 능력 저하를 가져오고 별로 효과적이지 않다는 주장과 연구 결과도 있다. AI모델의 종류, 사용 목적과 방식, 그리고 환경에 따라 성과가 달라질 수 있으므로 AI를 어떻게 활용하면 최적의 성과를 낼 수 있을지 궁금해진다. 이 글에서는 AI의 효과적인 활용 방식과 그 한계점을 최신 연구 결과를 바탕으로 살펴보고, AI와 인간의 협력에 대한 통찰을 제공하고자 한다.
올해 10월 과학저널 [네이처 인간행동] (Nature Human Behaviour)에는 미셀 바카로(Michelle Vaccaro) MIT 연구팀의 논문 ‘인간과 AI의 조합이 유용한 경우’가 실렸다. 연구팀은 인간-AI 조합의 효과성을 검증하기 위해 광범위한 AI 활용 성과 연구 결과를 메타 분석해 인간-AI의 조합이 언제 우수한 성과를 내는지 알아봤다.
첫째, 평균적으로 인간-AI 조합은 인간이나 AI 단독 작업보다 낮은 성과를 보였다. 이는 사용자가 AI에 과도하게 의존해 추가적인 판단을 생략하거나(AI 과대 의존), 반대로 AI의 제안을 무시하는(AI 과소 의존) 경우에 발생했다.
둘째, 의사결정 작업에서는 성과가 감소한 반면 콘텐츠 생성 작업에서는 오히려 성과가 크게 향상했다.
셋째, 인간이 AI보다 우수한 경우에는 인간-AI 조합에서 성과가 증가했으나, AI가 인간보다 우수한 경우에는 인간-AI 조합에서 오히려 성과가 감소했다.
‘사이보그 행동’과 ‘켄타우로스 행동’
연구 결과를 종합하면 AI를 사용한다고 해서 항상 긍정적인 결과를 얻는 것은 아니다. 인간이 AI의 한계와 능력을 판단할 수 있는 능력을 갖출 때만 AI 활용으로 우수한 성과를 낼 수 있다. 인간이 자신의 판단과 AI(알고리즘)의 판단 중 언제 AI를 신뢰하고 언제 자신의 판단을 신뢰해야 할지를 알지 못하는 경우 오히려 역효과를 낼 수 있다.
결국 AI를 어떻게 사용하면 효과적인지 알고 자신의 능력에 맞는 방식, 인간과 AI의 효과적인 조합 방식을 찾아야 성과를 낼 수 있다. 어떻게 자신에게 맞는 인간-AI의 조합 방식을 찾을 것인가?
우선 자신의 능력과 업무 수행 방식에 맞는 조합을 찾기 위해서는 AI의 기술적 특성을 이해할 필요가 있다. 하버드대 파브리치오 델아쿠아(Fabrizio Dell’Acqua) 연구팀의 2023년 논문 ‘불규칙한 기술적 경계 탐색 : AI가 지식 노동자의 생산성과 품질에 미치는 영향에 대한 현장 실험 증거’에서는 AI가 “불규칙한 기술적 경계”를 갖고 있는 특징을 알아야 한다고 주장한다.
논문에 따르면 고숙련 노동자가 생성형 AI를 그 능력의 경계 내에서 사용하면 AI를 사용하지 않는 노동자들과 비교해 성과를 거의 40% 향상할 수 있다고 한다. 하지만 AI를 그 능력 경계 밖에서 사용할 때는 노동자의 성과가 평균 19%포인트 감소하는 결과를 보였다.
일반적으로 고숙련 노동자가 다방면에 걸쳐서 균일한 능력을 보이는 데 반해 AI는 “불규칙한 기술적 경계”를 갖고 있기 때문이다. 특정 작업에서는 AI가 인간보다 뛰어날 수 있지만 다른 작업에서는 인간보다 뒤처진다는 것이다.
특히 현재의 생성 AI는 특정 작업에 대해 기계 시스템같이 동일한 성과를 내는 것이 아니다. 사용하는 사람의 방식(프롬프트)에 따라서 다른 결과를 내는 것은 물론, 기능도 인간보다 뛰어난 부분이 있는가 하면 간단한 것조차 못하기도 해서 상당히 큰 능력 차이를 보인다.
또한 이러한 불규칙한 기술적 경계는 드러나지 않은 부분도 많기 때문에 사용자가 시행착오를 반복하면서 AI의 성과를 검증·평가할 수 있는 능력을 갖추고 최적의 인간-AI 조합 방식을 찾아야 한다.
델아쿠아 연구팀은 인간과 AI 간 협력을 위한 두 가지 방식을 제안한다. 인간-기계 하이브리드인 ‘사이보그 행동’과 신화 속의 반인반마 생물에서 따온 ‘켄타우로스 행동’이다.
사이보그 행동은 AI의 능력을 보완적으로 활용하며 인간과 AI가 긴밀히 협력하는 방식이다. 예를 들어 AI가 문장 초안을 작성하면 이를 사람이 검토·수정하고, 다시 개선점을 찾기 위해 AI에 피드백을 요청하는 과정이 이에 해당한다.
켄타우로스 행동은 특정 작업에서는 인간이 주도적으로 처리하고, 다른 작업에서는 AI에 맡기는 등 역할 분담을 통해 효율성을 극대화하는 방식이다. 단 전제는 두 방식 모두 AI의 기술적 경계선을 이해하고 있어야 한다는 것이다.
도구, 사용하는 사람 능력에 따라 달라
AI의 등장, 생성 AI의 등장은 우리의 업무 수행 방식 전환을 요구하고 있다. 특히 생성 AI는 도구적 성격을 갖고 있다. 동일한 작업을 반복 수행하여 항상 일정한 성과를 내는 기계 시스템과 달리 도구는 사용하는 사람의 능력에 따라 다른 성과를 내는 특성이 있다. 기계 시스템은 전반적으로 인간의 노동력을 평준화시켜 가치를 저하하지만, 도구는 다루는 인간의 능력에 따라 성과가 좌우된다.
연구 결과는 적절한 방식으로 AI를 활용할 때 개인 및 조직의 성과가 크게 향상될 수 있음을 시사한다. 따라서 개인이나 조직은 AI 기술의 특성을 명확히 이해하고, 이를 자신들의 업무와 능력에 맞게 설계된 방식으로 통합해야 한다. 이는 단순히 기술을 도입하는 것을 넘어, 기술과 인간 간 협력 모델을 체계적으로 구축하는 것을 의미한다.
AI의 도입으로 인간의 노동이 배제되고, 인간이 패자가 되는 것이 아닌가 하는 우려가 있다. 그러나 앞에서 살펴본 연구 결과들에 따르면 AI는 인간의 활용 능력과 방식에 따라 차별적 성과를 내고 있다. AI를 효과적으로 활용하는 능력이 새로운 경쟁력의 원천이 될 것이다. AI-인간의 최적 조합을 찾는 전략적 사고가 요구된다.
