국내 장애 현장에 도입된 AI의 현주소
기획 / AI와 장애
본문
국내 장애 현장에 도입된 AI의 현주소
우리나라는 현재 인공지능을 미래 산업의 핵심 성장 동력으로 삼고 빠른 기술 확산을 추진하고 있다. 새롭게 출범한 이재명 정부는 AI정책을 핵심 국정 과제로 내세우고 산업 육성과 민간 활용에 박차를 가하고 있으며, 우리나라는 전 세계에서 유럽연합(EU)에 이어 두 번째로 인공지능기본법을 제정한 나라로 평가받는다.
그러나 아직 미비한 점이 많다. 우리나라의 인공지능법 안에 고위험 인공지능에 대한 정의있으나 EU의 AI 법처럼 위험 수준을 세분화하여 책임과 규제를 차등화하는 체계는 갖춰지지 않았다. 또 과징금을 매출액의 최대 7%를 부과할 수 있는 EU와 달리, 한국은 과태료 상한이 3천만 원에 불과하고, 정부는 이마저도 3년 유예를 검토 중이라는 보도까지 나오고 있다. 기술의 빠른 확산과는 달리, 그에 따르는 윤리적 규제와 보호 장치는 아직 걸음마 단계다.
이런 현실 속에서 장애인의 삶을 지원하기 위한 도구로 AI가 국내 복지 및 교육 현장에 시범 도입되고 있다. 대표적으로 SK텔레콤은 시각장애인을 위한 AI 기반 시각보조 안내 ‘설리번’, 청각 및 언어장애인을 위한 실시간 음성-텍스트 변환 ‘에이닷’, 발달장애인의 도전행동을 분석하는 ‘CareVia’, AI 메타버스 심리상담 플랫폼 ‘메타포레스트’ 등을 개발해 현장에 공급하고 있다.
△ 종로구발달장애인평생교육센터에 도입된 AI발달장애인 케어시스템 'CareVia'
종로발달장애인평생교육센터(이하 종로센터)는 2023년 하반기부터 CareVia 시스템을 도입해 중증 자폐성 발달장애인의 도전행동을 인공지능 CCTV로 분석하고있다. AI는 얼굴 때리기, 머리 박기, 물어뜯기 등 9가지 유형의 도전행동을 자동으로 인식해 해당 행동 발생 전후 20분의 영상을 저장하고, 이를 사회복지사와 행동 중재사가 검토해 원인을 분석하는 방식이다.
그러나 머리를 넘기는 동작을 얼굴을 때리는 행위로 시스템이 오탐을 하기도 하고, 저장 영상이 20분으로 제한적이어서 정확한 원인을 파악하기 어렵다는 문제가 나타났다. 게다가 AI 기술이 장애인 당사자의 일거수일투족을 영상으로 기록하고 학습하는 구조 자체가 개인정보 보호나 사생활 침해의 우려를 야기한다는 지적도 나오지만 이에 대한 충분한 가이드라인이나 동의 절차는 명확하지 않다. 특히 정보 이해가 어렵고 의사결정에 어려움이 있는 발달장애인의 경우, 동의는 형식적인 절차에 머물기 쉽다.
△ 송파구발달장애인평평생교육센터에서 활용한 AI 돌봄로봇 '카티'
한편 송파발달장애인평생교육센터는 AI 기반 돌봄 로봇 ‘카티’를 시범 도입했다. 현장에서는 해당 로봇이 쉬는시간 당사자들의 말벗, 수업 중 보조교사 역할을 하길 기대했지만, 실제 기술이 적용된 현장에서는 콘텐츠가 유아에게 맞추어져 있고, 지나치게 단조로운 대화 구조로 인해 실질적인 소통이 이뤄지지 못했다. 결국 이 돌봄로봇은 사용자의 말이나 맥락을 이해하지 못하고, 반복적인 동문서답으로 당사자들의 흥미를 잃게 만들었다. 센터 관계자는 “로봇은 성인발달장애인의 언어도, 문화도 이해하지 못 하고 있었다”며 “결국 기술이 잘 활용되기 위해서는 장애 당사자의 삶과 경험을 설계에 반영해야 할 것”이라고 강조했다.
기술은 새롭지만, 사용하는 방식은 여전히 과제로 남아
두 센터의 사례는 첨단 기술이 도입되고 있음에도 불구하고, 장애 현장에서의 활용 방식이 여전히 충분한 논의와 준비 없이 이뤄지고 있다는 점을 시사한다. 기술 그 자체는 새로운 가능성을 열고 있지만, 이를 어떻게 적용하고 누구를 중심에 둘 것인가에 대한 사회적·윤리적 고민은 아직 뒤따르지 못한 모습이다.
종로센터에 설치된 “따뜻한 AI가 발달장애인 돌봄을 돕고 있습니다”라는 현판 문구는 AI를 인간적인 도구로 상징하려는 의도일 수 있으나, 동시에 장애인을 수동적인 ‘돌봄의 대상’으로만 보는 시혜적 인식을 드러낸다. 실제로 카티 로봇의 활용도 유아와 성인 발달장애인을 동일선상에 놓고 접근한 결과라는 점에서, 장애에 대한 사회적 인식 전환이 기술 도입보다 선행되어야 한다는 질문을 남긴다.
두 센터의 CareVia나 카티 로봇과 같은 기술은 여전히 돌봄의 보조 도구로 머물러 있다. CareVia 시스템이 도전행동을 감지하더라도 해석과 개입은 결국 행동중재자와 사회복지사의 몫이었고, 돌봄 로봇 ‘카티’ 역시 자율적인 상호작용보다는 주변의 지시에 따라 제한적으로 활용될 수밖에 없었다. 이는 현재 AI 기술이 복잡한 인간의 감정과 맥락을 이해하고 대응하기에는 여전히 부족하며, 결국 인간 중심의 돌봄을 보완하는 수준에서 그 역할이 한정되고 있음을 보여준다.
그러나 이러한 ‘보조성’의 원인이 기술의 한계 때문만은 아니다. 문제는 기술 자체보다 그 기술을 도입하고 활용하는 방식과 태도에 있을 수 있다. 장애인의 사생활과 개인정보 보호는 기술 도입 논의에서 후순위로 밀려 있으며, 효과와 성과 중심의 평가가 우선시되는 분위기 속에서 당사자의 권리와 통제권은 배제되기 쉽다.
기술이 장애인의 삶에 실제로 도움이 되기 위해서는 기술자들이 만들 수 있는 기술을 장애 현장에 맞추는 방식이 아니라, 장애 현장에서 실제로 필요한 기술이 무엇인지 당사자와 함께 탐색하고 공동으로 기획하는 접근이 필요하다. 예를 들어, “TV를 보고싶다”는 표현을 “TV에 들어가자” 등 다른 방식으로 표현하는 발달장애인의 표현과 맥락을 이해하고 맞추는 데이터가 필요할 수 있다는 것이다.
지금 필요한 것은 보여주기식 기술 도입이 아니라, 장애인이 AI 기술의 수동적 수혜자가 아니라 적극적인 사용자로 자리매김할 수 있는 환경을 조성하는 일이다. 장애인이 새로운 기술이 야기할 윤리적 위험으로부터 권리를 보호받고, 동시에 기술을 능동적으로 활용할 수 있는 주체가 되기 위한 기반이 마련되고 있는지를 지금 우리 사회는 질문을 시작하고 토론해야 한다.
-----------------------------------------------------------------------------------------
관련기사
AI와 장애 : AI의 두 얼굴, 새로운 가능성이자, 인간을 뛰어넘는 위협의 기술
작성자글과 사진. 김영연 기자 cowalk1004@daum.net
Copyright by 함께걸음(http://news.cowalk.or.kr) All Rights Reserved. 무단 전재 및 재배포 금지
댓글목록
등록된 댓글이 없습니다.
