인공지능(AI)에 대한 인식이 변화하고 있다. 지금까지 AI는 컴퓨터 기술을 사용해 인간의 사고 프로세스를 증강하기 보다는 사고방식 자체를 흉내 내어 인간 지능을 모방하고 나아가 이를 능가하기 위한 시도의 측면에서 발전해왔다. 이런 접근방식으로도 지금까지는 많은 발전을 이뤘다. 특히, 이미지 인식과 음성 인식 등 대중적으로 많이 알려진 기준 지표에서 기계가 인간보다 더 나은 성과를 내는 것으로 인정받은 분야들이 좋은 예다. 그러나 현실 세계에서 예기치 못한 상황에 맞닥뜨렸을 때 대응하는 능력 면에서는 한계를 보여왔다. AI의 진정한 가치는 실제 비즈니스에서 생산성을 얼마나 증대할 수 있는가에 달려있으므로, 이런 한계를 극복하지 못하면 AI의 광범위한 도입에는 차질이 발생할 수밖에 없다. 그러나 최근 인간 중심 AI라는 새로운 접근방식이 부상하면서 기존의 한계를 뛰어넘을 수 있을 것이라는 기대감이 형성되고 있다. 인간 중심 AI는 최종사용자인 인간의 경험 향상에 최고의 가치를 두고, 인간보다 뛰어난 능력 발휘가 아닌 인간을 도와 주어진 작업을 더 잘 수행하는 데 주안점을 둔다. 인간과 기계가 이렇게 협력하면 AI가 혼자 고군분투하는 것보다 궁극적으로 인류 발전에 훨씬 더 큰 기여를 할 수 있을 것이다.
최첨단 AI의 한계: 환자를 대할 줄 모르는 AI
지금도 AI에 구체적인 목표를 부여하고, 그 목표를 달성하는 방법에 대한 데이터를 대량으로 투입하면 전반적으로 평균적인 인간의 능력을 뛰어넘는 결과를 내놓는다. 이는 거의 공식과 같다. 빅데이터에 딥 러닝을 더하면 인간의 능력을 초월한 수준의 결과치가 나온다. 2011년 TV 퀴즈쇼 ‘제퍼디’(Jeopardy)에서 IBM의 컴퓨터 왓슨(Watson)이 인간을 물리쳤을 때 엄청난 화제가 됐던 것이 좋은 사례다. 하지만 실생활에서 예기치 못한 상황에 맞닥뜨렸을 때 AI의 성능은 인간이 특이 상황을 처리하는 능력보다 대체로 떨어진다. 사람의 경우 압박감이나 피로에 몰린 상황만 아니라면 예상치 못한 상황을 한층 효과적으로 다룰 수 있다. 일례로 자율주행 자동차는 피로 또는 주의력 분산으로 인해 발생할 수 있는 인간의 실수가 배제되기 때문에 평균 성능 면에서 인간인 운전자보다 안전하다. 그러나 자동차 앞쪽으로 갑자기 풍선이 날아드는 경우와 같이 예기치 못한 상황에서는 굉장히 위험하게 작동할 수 있다. 반면, 실제 사람의 경우 갑자기 풍선이 날아와도 다소 놀라기는 하겠지만 계속해서 무사히 운전할 수 있는 것이 보통이다. 또 다른 좋은 예는 헬스케어 분야에서 찾아볼 수 있다. AI시스템은 의사 개개인과 비교했을 때 월등히 많은 사례를 관찰한 경험이 있기 때문에, 평균적으로 개별 의사보다 더 정확하게 종양을 식별해낼 수 있다. 그러나 여전히 최종 진단을 내리는 책임은 인간인 의사에게 있고, 의사는 또한 환자의 상태를 정확하고 친절하게 설명함으로써 환자의 신뢰를 얻는 역할을 한다. 바로 이런 지점들에서 인간적인 요소가 매우 중요하게 작용한다.
인간 대 기계
인간 중심 AI는 작업 수행 과정에서 인간을 배제하는 것이 아니라, 인간과 협력함으로써 인간에게 힘을 부여하고 인간의 편익을 촉진한다. 스탠퍼드대학교의 인간중심AI연구소(Human-Centered AI Institute)가 주축이 돼 이 접근방식을 이끌고 있으며, 현재 세 가지 분야를 중심으로 연구가 진행되고 있다. AI가 인간과 사회에 미치는 영향을 연구하고 예측하는 것, 인간의 편익을 도모하기 위한 AI 시스템을 구축하는 것, 그리고 새로운 AI 기술을 개발하기 위해 인간 지능을 심층적으로 이해하는 것이 그 세가지 중점 연구 분야다. 셋 중 마지막 연구 분야가 가장 중요하다. 현행 머신러닝에 빅데이터를 더해도 그 파장이 미치는 범위는 인간 지능과 동일한 수준이라고 볼 수 없다. AI는 인간 중심 접근방식을 통해 데이터와 알고리즘을 넘어서는 실제 응용 프로그램으로써 인간 사회에 가시적인 혜택을 제공할 수 있게 된다. 지금도 인간이 기계보다 월등히 나은 성과를 내는 작업들이 있기 때문에 모든 일을 로봇에게 맡긴다는 것은 이치에 닿지 않는 일일 것이다. 인간은 참고할 사례가 극히 적은 상황에서 인사이트를 끌어내는 데 특히 능숙하다. 따라서 특이 상황이 발생했을 때 대량의 데이터를 수집하기 전에 사람이 먼저 상황을 살펴보고 해결 방법을 탐색해 보는 것이 가장 좋은 접근법이다. 이런 상황에서는 인간 지능이 AI보다 훨씬 효율적이기 때문이다. 인간은 또한 엄청나게 정교한 감각을 지니고 있다. 기계의 경우, 카메라처럼 꽤 훌륭하게 작동하는 디지털 센서들이 존재하지만, 실제 집행가능한 합리적인 예산으로는 후각, 미각, 또는 촉각 등을 인간과 비슷한 수준으로 감지할 수 있는 로봇은 없다. 예컨대 전문 마사지사는 고객의 몸을 한 번 만져보는 것만으로 어디가 불편한지 알아낼 수 있지만 뛰어난 수준의 터치 센서가 없는 기계는 그런 직관적인 감을 개발할 수 없다. 즉, 기계가 해주는 마사지에서는 그다지 섬세한 손길을 기대할 수 없다.
인간 중심 AI의 핵심 요소
인간 중심 AI 시스템에서 가장 중요한 것은 바로 신뢰다. 인간의 AI에 대한 신뢰를 고취하려면 AI 시스템이 어떤 조건에서 완벽하게 작동하며, 어떤 상황에서 AI 시스템의 결정을 의심해야 하는지 미리 이해하고 있어야 한다. 또한 AI 시스템을 다루는 데 있어 균형 있는 태도를 유지하는 것도 중요하다. 예를 들어 자율주행 차량에 최신 데이터를 추가해 업데이트를 실행했는데 갑자기 주행 속도가 느려졌다면, 이는 AI 시스템이 데이터를 근거로 속도를 늦추는 것이 안전하다고 판단했기 때문일 가능성이 높다. 이 경우 사람은 시스템이 평상시의 기대치에 부합하지 못하기 때문에 뭔가 잘못됐다고 느끼게 된다. 하지만 사람도 천천히 단계별로 배워가는 것처럼, AI 시스템도 스스로 학습하고 그 내용을 실제 작동에 제대로 적용하는 데 시간이 걸릴 수 있음을 이해하고, 상황에 따라 적절히 대응해야 한다. 대면 업무가 많은 비즈니스라면 인간 중심 AI가 제공할 혜택을 가장 크게 누릴 수 있다. 콜 센터의 경우 챗봇이 상담원을 대체할 수 있다고 여겨졌던 때가 있었지만, 아무리 대화 능력이 뛰어난 AI라도 오류 발생에 대비해 사람이 별도의 모니터링을 수행해야 한다. 헬스케어도 인간 중심 접근방식이 중요하게 작용하는 분야다. 의사와 간호사를 로봇으로 대체하는 대신 의사의 최종 점검을 전제로 인간 중심 AI에게 진단 업무를 맡기면 의사 한 명이 하루에 검진할 수 있는 환자의 수를 늘릴 수 있을 것이다. 또한 오진율을 낮추는 데에도 도움이 될 것이다. 궁극적으로 의사가 좀 더 능률적이고 효과적으로 일할 수 있게 된다.
핵심은 사용자인 인간의 고충을 파악해 AI 시스템이 정확히 그 고충을 해결하도록 하는 데 있다. 또한 특히 헬스케어와 같은 분야의 경우 AI가 내린 결정을 설명할 수 있어야 한다는 점도 중요하다. 그래야만 AI가 왜 그와 같은 결론에 도달했는지 그 과정을 의사가 확인하고, 해당 결론이 옳은지 판단하고, 이를 환자에게 설명할 수 있다.
인간 중심 AI는 AI가 올바른 방향으로 발전할 수 있도록 안내한다. 인간이 당면한 고충을 해결하는 데 집중함으로써 인간과 AI가 공존할 수 있는 환경을 조성하고, 나아가 생산성 증대, 삶의 질 향상, 그리고 사회 전체를 위해 더 이로운 결과를 낼 수 있도록 지원한다.
- 이 글은 지디넷코리아에 게재된 기고입니다.
