다양성에 미친 UN, 인공지능과 장애를 이야기하다
해외소식
본문
지난 6월 8일(월)부터 11일(목)까지 미국 뉴욕 유엔 본부에서 열린 제19차 유엔 장애인권리협약 당사국회의(Conference of States Parties, COSP19)는 장애 인권의 현재와 미래를 논의하는 국제사회의 중요한 장 가운데 하나였다.
특히 올해는 유엔장애인권리협약 채택 20주년을 맞는 해로, 당사국회의는 ‘CRPD 20주년: 성과를 기념하고 공고히 하며, 변화하는 세계 속 다음 단계의 이행 방향 설계’의 대주제로 진행되었다.
한국에서도 보건복지부, 국회(서미화, 김예지, 최보윤 국회의원), KOICA 개발협력연대(DAK) SDGs10장애분과위원회(장애우권익문제연구소 외 13개 단체), 한국장애인단체총연합회 및 소속단체, 국가인권위원회, 사법부, 한국국제협력단 관계자 등 약 60명이 참석했다.
올해 회의에서는 ▲CRPD 채택 이후 20년간의 성과와 한계 평가, ▲지역사회 자립생활과 탈시설 정책, ▲장애포괄적 지속가능발전목표 이행, ▲인공지능과 디지털 접근성, ▲기후위기와 재난상황에서의 장애인 권리, ▲장애인의 정치 참여 확대 등 다양한 의제가 논의되었으며 그중에서도 <함께걸음>은 인공지능(AI)이 장애인의 삶에 가져올 변화에 보다 집중하였다.
장애우권익문제연구소(이하 연구소)는 이번 COSP19에서 “AI가 장애인의 삶을 개선하는 기술이 될 수도 있지만, 적절한 통제와 감시 없이 즉, 어떠한 기준이 없이 발전할 경우 장애인에 대한 차별의 도구가 될 수 있다”는 문제의식을 국제사회에 공유했다.
특히 AI 채용시스템, 알고리즘 기반 평가, 생성형 AI서비스 등이 장애인을 비장애인 중심의 기준으로 판단할 경우 장애계가 오랜 세월동안 투쟁을 통해 줄여나가고자 했던 기존의 차별이 더욱 은밀하고 강력한 형태로 재생산될 수 있다는 점, 즉 ‘장애 인권의 시계가 거꾸로 흘러갈 수도 있다’는 것을 강조했다.
오래된 회의장 속 빛나는 다양성
회의장 의자는 군데군데 가죽이 벗겨져 있었고, 복도 벽면에도 세월의 흔적이 고스란히 남아 있었다. “듣던대로 유엔이 예산이 많이 부족하구나.” 라는 생각이 먼저 들 정도였다.
하지만 그 공간을 채운 사람들은 그 어떤 국제회의보다도 역동적이고 다채로웠다. 누군가는 인공호흡기를 착용한 채 토론에 참여하고, 누군가는 AAC(보완대체의사소통) 기기의 음성을 통해 자신의 의견을 발표한다. 회의장 밖 카페에서는 여섯 명의 농인이 손을 쉼 없이 움직이며 수어로 대화를 이어간다. 모두가 활기찬 대화였다. 사람마다 걸음걸이가 달랐고, 말하는 방식도 달랐다. 그러나 누구도 그것을 특별하게 바라보지 않았다. 오히려 그 다양성이 이 공간의 ‘기준’이었고 철저하게 익숙한 것이었다.
살아있는 Nothing About Us Without Us
정부 대표단과 국제기구, 장애인단체, 연구기관, 기업까지 세계 각국에서 수천 명이 뉴욕으로 모였다. 회의장은 연일 사람들로 붐볐다. 그러나 이 회의의 진짜 특징은 규모가 아니었다. 이곳에서 장애인은 회의 ‘참석자’가 아니라 회의를 움직이는 ‘주체’였다.
국제회의를 취재하다 보면 전문가가 발표하고 장애인은 청중으로 앉아 있는 모습을 흔히 본다. 하지만 유엔에서는 달랐다. 탈시설을 경험한 장애인이 직접 자신의 삶을 이야기하고, 정신장애 당사자가 국가 정책을 비판하며, 장애인 창업가가 AI 산업의 미래를 설명한다. 그들의 발표는 논문보다 강했고, 통계보다 설득력이 있었다.
한 장애인이 시설에서 살아왔던 시간을 이야기할 때 회의장은 숨소리조차 들리지 않을 만큼 조용해졌다. 그들의 경험은 연구자료가 아니었다. 정책의 근거였다.
유엔장애인권리협약이 지난 20년 동안 끊임없이 외쳐 온 “Nothing About Us Without Us(우리 없이 우리에 대한 것은 없다).”라는 원칙은 이곳에서 단순한 구호가 아니었다. 회의를 운영하는 방식 자체였다. 누군가 장애인을 대신해 말하는 것이 아니라 장애인이 직접 말했고, 회의장은 그 이야기를 끝까지 경청했다. 그 차이는 생각보다 훨씬 컸다.
AI를 말하는 세계
이번 COSP19에서 가장 자주 들린 단어 가운데 하나는 단연 ‘인공지능(AI)’이었다.
2006년 유엔장애인권리협약이 채택될 당시만 해도 생성형 AI도, 알고리즘 채용도, 거대언어모델(LLM)도 존재하지 않았다. 그러나 불과 20년 만에 AI는 장애인의 삶을 가장 크게 바꿀 기술로 떠올랐다.
흥미로운 점은 AI를 바라보는 시각이었다. 회의장 어디에서도 “AI를 막아야 한다”는 목소리는 들리지 않았다. 반대로 “AI를 무조건 육성해야 한다”는 주장도 없었다. 대신 누가 AI를 만들고 있는가, 누가 데이터를 선택하는가, 장애인은 그 과정에 참여하고 있는가와 같은 질문이 회의장 안에서 던져지고 있었다.
한국장애인재활협회(RI Korea), 아시아태평양장애인포럼(APDF), 국제장애인연합(IDA)이 공동 주최한 사이드이벤트 「장애와 디지털 전환 : 공정한 디지털 미래 보장」에서는 이러한 문제의식이 더욱 선명하게 드러났다.
국제장애인연합(IDA) 호세 마리아 비에라 사무총장은 AI를 “새로운 접근성 의제”라고 표현했다. 과거 접근성이 건물과 교통, 교육의 문제였다면 이제는 AI와 디지털 기술 자체가 장애인의 사회참여를 결정하는 인프라가 되었다고 말한다.
그는 AI를 단순히 규제해야 할 기술이 아니라 장애인의 권리와 사회참여를 확대할 수 있는 수단으로 바라봐야 한다고 강조했다. 동시에 정부뿐 아니라 기술기업, 투자기관, 연구기관, 국제기구 등 새로운 행위자들이 AI 거버넌스에 참여해야 한다고 주장했다.
그러나 토론자들은 AI가 가진 위험성 역시 간과해서는 안 된다고 입을 모았다.
런던위생열대의학대학원 한나 쿠퍼 교수는 AI가 기존 사회의 차별과 편견을 학습할 경우 이를 더욱 광범위하게 재생산할 수 있다고 경고했다. 장애인이 인터넷이나 디지털 기기에 접근하는 비율이 상대적으로 낮은 상황에서 AI 중심 사회가 구축된다면 새로운 형태의 디지털 배제가 발생할 수 있다는 것이다.
▲사이드이벤트 <장애와 디지털 전환 : 공정한 디지털 미래 보장>
유니세프의 고팔 미트라 장애아동 글로벌 총괄 역시 “차별적인 데이터를 학습한 AI는 기존 불평등을 대규모로 확대할 수 있다”고 지적했다. AI가 객관적이고 중립적인 기술처럼 보일 수 있지만, 실제로는 어떤 데이터를 학습하고 어떤 기준으로 설계되었는지에 따라 장애인에 대한 편견을 그대로 반영할 수 있다는 의미다.
한국장애인재활협회 조성민 사무총장 또한 일부 생성형 AI가 장애를 여전히 결함이나 무능력의 관점에서 설명하는 사례를 소개하며, 장애인이 AI 개발 과정에 직접 참여해야 한다고 강조했다.
AI는 이제 어느 한 나라만의 의제가 아니었다. 정부도, 국제기구도, 기업도, 장애인단체도, 모두 AI를 이야기하고 있었다.
6월 11일(목) 오스트리아 정부와 제로 프로젝트 (Zero Project), 하버드대학교 장애법 프로젝트가 공동 주관한 「장애인권 증진을 위한 스타트업과 신기술의 잠재력 활용」 사이드이벤트에서는 발표자들이 하나같이 장애인을 기술의 이용자나 수혜자가 아닌 혁신의 주체로 바라봐야 한다고 강조했다.
미국의 벤처투자사 Naval Ventures의 레지나 클라인은 “과거의 보조기술 산업이 비장애인을 중심으로 설계된 기술의 문제를 사후적으로 보완하는 역할에 머물렀다면, 이제는 장애인이 기술 설계 단계부터 참여하는 시대가 시작되고 있다”고 설명했다.
뇌병변장애 당사자이자 장애인 창업가 지원기관 2gether International의 창립자인 디에고 마리스 칼은 “이제는 장애인권 중심의 프레임을 넘어 장애주도혁신(Disability-Driven Innovation)의 프레임으로 전환해야 한다”고 주장했다. 그는 장애를 해결해야 할 문제가 아니라 새로운 혁신을 만들어내는 원천으로 바라볼 필요가 있다고 강조했다.
이러한 논의는 장애인을 보호의 대상이나 기술의 수혜자로만 바라보던 기존 관점을 넘어, AI와 디지털 전환의 방향 자체를 장애인이 결정해야 한다는 국제사회의 변화된 인식을 보여준다.
진짜 회의는 회의장 밖에서 시작됐다
기자는 이번이 두 번째 COSP19였다. 처음 뉴욕에 왔을 때는 회의 일정을 따라다니며 발표를 기록하기 바빴다. 그러나 두 번째는 달랐다. 행사의 진짜 가치는 회의장 밖에 있다는 것을 알게 되어 첫날 저녁부터 COSP 참석자들에게 메일을 보내기 시작했다. “AI 체크리스트에 대한 여러분의 의견을 듣고 싶습니다.”
하버드대학교 장애법 전문가 헤지 스미스(Hezzy Smith) 국장은 연구소가 개발 중인 AI 체크리스트를 보며 흥미로운 질문을 던졌다. “왜 개발자에게만 책임을 묻고 있습니까?” 그는 체크리스트도 중요하지만 장애인이 직접 AI의 차별을 발견할 수 있는 감시도구가 더 필요할 수 있다고 제안했다. 현재 개발되고 있는 대부분의 AI 윤리 논의는 기업이나 개발자에게 ‘차별하지 말라’고 요구하는 수준에 머무르고 있지만 실제로 특정 AI가 장애인을 차별하는지 여부를 장애인 당사자나 시민사회가 확인하기는 쉽지 않다는 주장이다.
인도 내 장애인의 경제적 자립과 온라인 지식 허브 플랫폼 등을 운영하는 EnAble India의 사욤데브 무케르지(Sayomdeb Mukherjee) 협력국장은 또 다른 관점을 제시했다. 그에게 장애인을 배제하는 AI채용 시스템 문제를 설명하자 주저 없이 “규제만이 답이다”라고 답했다.
기업이 자발적으로 윤리적 기술을 개발할 것이라는 기대만으로는 충분하지 않다는 것이다. 그러면서 그는 “기업은 통치하지 않는다. 통치하는 것은 정부”라며 정부가 명확한 기준을 만들고 이를 강제할 책임이 있다고 강조했다. 시민단체의 역할은 정부와 국제사회가 이러한 기준을 만들도록 압력을 넣고 끈질기게 요구하는 것이라고 주장했다.
실제로 Enable India는 인도에서 장애인의 고용 확대를 지원하기 위해 AI 기반 플랫폼과 디지털 기술을 활용하고 있다. 그는 기술 자체를 부정적으로 바라보지 않았다. 그러나 장애인이 기술 개발 과정에서 배제된 상태로 AI가 확산된다면, 기존 사회에 존재하던 편견과 차별 역시 더욱 빠르고 광범위하게 확대될 수 있다고 경고했다.
그는 “좋은 기술이 저절로 좋은 결과를 만드는 것은 아니다”라며, 접근성 기준과 차별금지 원칙, 당사자 참여 구조를 법과 제도로 보장하는 것이 중요하다고 강조했다.
캐나다 장애인권단체 Not Dead Yet 이안 매킨토시(Ian Mclntosh) 사무총장은 AI 논의를 보다 근본적인 질문으로 이끌었다. 그는 AI 차별 문제를 이야기하면서 캐나다에서 현재 사회적으로 대두되고 있는 의료조력사망(MAiD, Medical Assistance in Dying) 제도를 언급하며 “두 문제 결국 사회가 장애인의 삶을 어떻게 바라보는가라는 질문으로 연결된다”고 설명했다.
그는 캐나다에서 장애인들이 충분한 지원서비스와 소득보장을 받지 못하는 상황에서도 조력사망이 선택지로 제시되는 현실에 대해 우려를 표했다.
“AI 역시 마찬가지다. 인공지능은 스스로 차별을 만들어내지 않는다. 그러나 AI는 사회가 가진 편견과 가치관을 학습한다. 만약 사회가 장애인을 생산성이 낮은 존재, 비용이 많이 드는 존재, 도움이 필요한 존재로만 인식한다면 AI 역시 그러한 시각을 데이터로 학습하고 재생산할 수 있다.”라며 그는 AI의 위험이 단지 알고리즘에 있는 것이 아니라 우리가 어떤 사회를 만들고 있는지, 그리고 어떤 삶을 가치 있게 여기는지가 AI에 반영되는 것이라고 설명했다.
한국의 AI가 배워야 할 것
이번 COSP19에서 연구소가 개발 중인 ‘장애와 인공지능 체크리스트’를 소개하자 예상보다 훨씬 큰 관심이 이어졌다.
체크리스트를 함께 검토하고 싶다는 제안, 국제 공동연구를 해보자는 제안, 자국의 사례를 공유하겠다는 제안이 이어졌다.
AI 경쟁은 이미 시작됐다. 한국 역시 AI 기본법을 제정하고 산업 육성을 이야기하고 있다. 네이버와 SK하이닉스를 비롯한 국내 기업들도 AI를 국가 성장 동력으로 준비하고 있다. 그러나 기술 경쟁만으로는 충분하지 않다.
세계는 이미 AI의 속도만큼이나 인권과 접근성, 차별 문제를 함께 논의하고 있었다. 한국 역시 이제는 “얼마나 빠르게 AI를 개발할 것인가”를 넘어 “누구를 위한 AI를 만들 것인가”를 함께 고민해야 할 시점이다.
▲6월 8일 진행된 시민사회포럼에서 장애우권익문제연구소의 'AI와 장애' 연구내용과 함께 국제사회 연대의 필요성을 제기하는 김영연 센터장
AI는 누구를 위한 기술인가
뉴욕에서 돌아온 지금도 이메일은 계속 도착하고 있다. AI 차별 사례를 공유하겠다는 사람, 체크리스트를 함께 발전시키자는 사람, 국제 컨퍼런스를 함께 열자는 사람.
이번 COSP19에서 얻은 가장 큰 성과는 하나의 발표가 아니었다. 사람이었다. 그리고 연결이었다. AI는 국경을 모른다. 차별도 국경을 모른다. 그렇다면 대응 역시 한 나라만으로는 부족하다.
마침 7월 13일 대한민국 정부는 국민 누구나 무료로 사용할 수 있는 국산 AI 서비스를 구축하겠다며 ‘모두의 AI 프로젝트’를 발표했다. AI를 일부 기업이나 전문가만의 기술이 아니라 국민 모두가 활용하는 공공 인프라로 만들겠다는 방향 자체는 분명 의미있는 시도다.
정책의 이름에 ‘모두’가 포함되기는 했지만 이것이 정말 장애인을 포함하여 모든 사람들을 위한 정책일지는 두고봐야 할 일이다. 지금까지 장애인은 새로운 기술이 등장할 때마다 완성된 기술에 뒤늦게 접근성을 덧붙이는 방식으로 초대받아 왔다. AI 시대에도 같은 일이 반복된다면 ‘모두의 AI’는 또 한번 장애인을 사후적으로 고려하는 정책에 머물 수 있다.
AI의 경쟁력은 얼마나 빨리 만들었는지가 아니라, 처음부터 누구를 상상하며 만들었는지에서 결정될지도 모른다.
작성자글과 사진. 김영연 기자 cowalk1004@daum.net
Copyright by 함께걸음(http://news.cowalk.or.kr) All Rights Reserved. 무단 전재 및 재배포 금지
댓글목록
등록된 댓글이 없습니다.
