지이코노미 문채형 기자 | 인공지능(AI)이 온라인 유해콘텐츠를 찾아 아이들을 지키고, 그 과정에 장애인과 시니어가 참여해 새로운 일자리를 얻는다. 여기서 만들어진 일자리는 다시 지역사회의 안전과 돌봄으로 이어지고, 한국에서 축적한 경험은 아시아를 넘어 국제사회와 공유한다.

 

 

AI를 둘러싼 논의가 ‘사람의 일자리를 얼마나 대체할 것인가’에 집중돼온 가운데 기술을 아동·청소년 보호와 취약계층 일자리, 지역사회 안전, 국제협력으로 연결하는 이른바 ‘K-AI 포용모델’이 국회에서 제시됐다.

 

특히 AI가 사람을 대신하는 것이 아니라 방대한 온라인 정보를 먼저 탐지·분석하고 장애인과 노인 등 사람이 최종 판단을 맡도록 역할을 재설계함으로써 기술 발전의 사회적 부작용을 오히려 새로운 일자리와 사회 참여의 기회로 전환하자는 구상이다.

 

박지원·서미화 국회의원은 25일 오전 국회도서관 대강당에서 ‘AI Agent 기술을 활용한 온라인 유해콘텐츠 모니터링으로 아동·청소년 보호 및 인식 전환 교육, 취약계층 일자리 창출을 위한 정책 세미나’를 공동 개최했다.

 

행사는 박지원·서미화 의원이 공동주최하고 UN아시아본부 유치위원회(김대진 대표)와 사단법인 먹사니즘전국네트워크 AI특별위원회가 주관했다. 드래곤아이즈와 사단법인 한국장애인녹색재단, 디지털리터러시협회, 한국장애인단체총연맹 등이 후원했다.

 

이날 세미나에서는 딥페이크와 온라인 그루밍, 청소년 사이버도박 등 빠르게 확산하는 온라인 유해콘텐츠에 기존 인력 중심 모니터링만으로 대응하는 데 한계가 있다는 진단과 함께 AI와 인간의 판단을 결합하는 새로운 온라인 안전망 구축 방안이 집중적으로 논의됐다.

 

◇“아이 지키는 AI가 일자리 만들고, 그 일자리가 다시 사회 안전으로”

 

이날 제시된 모델을 관통하는 핵심은 ‘AI 기술→아동·청소년 보호→취약계층 일자리→지역사회 안전·돌봄→국제사회 공유’로 이어지는 선순환 구조다.

 

AI Agent가 온라인 정보를 24시간 수집·분석해 위험 가능성이 있는 콘텐츠를 먼저 선별하고, 사람이 최종적으로 해당 콘텐츠의 맥락과 위험성을 검증하는 ‘Human-AI 협업’ 방식이다.

 

AI는 사람이 일일이 처리하기 어려운 방대한 양의 정보를 빠르게 탐지하고, 사람은 기계가 판단하기 어려운 맥락과 가치 판단을 맡는다.

 

특히 최종 검증 업무에 장애인과 노인 등 기존 노동시장 진입에 어려움을 겪어온 취약계층이 참여할 수 있도록 직무를 설계하면 온라인 안전망 구축과 새로운 일자리 창출을 동시에 달성할 수 있다는 구상이다.

 

취약계층에게는 저강도·고효율·재택형 일자리를 제공하고, 사회적으로는 아동·청소년을 보호하는 디지털 안전망을 확보한다. 기술 발전으로 일자리가 사라질 것이라는 기존 우려를 AI와 인간의 역할 재설계를 통해 새로운 고용 기회로 전환하겠다는 것이다.

 

◇김대진 “AI의 선순환, 국경 넘어 국제사회와 공유해야”

 

이 같은 구상을 국제사회와 연결한 것은 김대진 UN아시아본부 유치위원회 대표다.

 

 

김 대표는 이날 축사를 통해 AI 기반 아동·청소년 보호와 취약계층 일자리 창출을 개별적인 기술·복지 정책으로 바라볼 것이 아니라 지역사회와 국제사회까지 연결되는 새로운 사회혁신 모델로 발전시켜야 한다고 강조했다.

 

김 대표는 “최근 생성형 AI를 비롯한 디지털 기술의 급속한 발전은 우리 사회에 새로운 기회와 함께 새로운 위험을 동시에 가져오고 있다”고 말했다.

 

딥페이크와 디지털 성범죄, 온라인 그루밍, 불법도박, 학교폭력 등 온라인 유해콘텐츠가 AI 기술과 결합하면서 더욱 지능화·고도화되고 있다는 게 김 대표의 진단이다.

 

특히 그는 이 같은 문제가 한 국가만의 문제가 아니라는 점에 주목했다.

 

김 대표는 온라인 유해콘텐츠 문제가 “국경과 지역을 넘어 전 세계 아동·청소년에게 영향을 미치는 글로벌 차원의 사회적·인권적 과제로 확대되고 있다”며 AI 시대의 아동·청소년 보호를 국제사회가 함께 대응해야 할 과제로 규정했다.

 

국제사회의 AI 논의 역시 기술 개발 경쟁을 넘어 인권과 안전, 사회적 포용의 문제로 확대되고 있다고 설명했다.

 

김 대표는 “유엔 아동권리위원회는 디지털 환경에서 아동의 권리를 보호하기 위한 국제적 논의를 지속해 왔으며, 유네스코 역시 AI 윤리 권고를 통해 인간의 존엄성과 감독, 사회적 포용, 차별금지, 지속가능성, 다중 이해관계자 간 협력을 AI 거버넌스의 핵심 원칙으로 제시하며 해결을 위해 노력 중”이라고 말했다.

 

◇김대진 “AI가 아이 지키고 일자리 만들고 다시 지역사회 안전으로”

 

김 대표가 이날 강조한 대목은 AI 기술과 사회적 포용 사이에 선순환 구조를 만들어야 한다는 것이다.

 

 

AI의 경제적 성과가 기업의 생산성 향상에만 머무는 것이 아니라 아동·청소년 보호와 취약계층의 경제활동 참여, 지역사회 안전으로 이어져야 한다는 주장이다.

 

김 대표는 “AI Agent와 같은 기술이 무엇보다 아이들을 지키는 기술이 되고 새로운 일자리를 만들고, 그 일자리가 다시 지역사회의 안전과 돌봄으로 이어지며 이러한 경험이 국경을 넘어 국제사회와 공유되는 선순환이야말로 AI 시대가 만들어가야 할 새로운 사회적 가치”라고 강조했다.

 

이날 세미나의 핵심을 압축한 발언이다.

 

AI가 온라인 유해콘텐츠를 탐지해 아동·청소년을 보호하고, 장애인과 노인 등 취약계층은 AI가 분류한 콘텐츠의 최종 판단에 참여한다. 여기서 새로운 일자리가 생기고 취약계층의 사회 참여와 경제적 자립이 확대된다. 다시 이들의 업무가 지역사회의 안전망을 강화하는 구조다.

 

김 대표는 여기서 한발 더 나아가 이러한 한국의 경험을 국제사회와 공유할 필요성을 제기했다.

 

◇“한국에서 시작된 AI 포용모델, 아시아 넘어 국제사회로”

 

김 대표는 이날 논의된 모델을 유엔 지속가능발전목표(SDGs)와도 연결했다.

 

그는 “국제사회가 추진하는 지속가능발전목표가 제시하는 양질의 교육과 아동·청소년 보호, 양질의 일자리, 불평등 완화, 포용적 사회 구축이라는 과제 역시 이번 세미나에서 논의되는 정책들과 맞닿아 있다”고 평가했다.

 

아동·청소년 보호와 취약계층 일자리, 불평등 완화라는 각각의 정책과제를 AI라는 하나의 기술적 수단을 통해 연결할 수 있다는 의미다.

 

김 대표는 특히 한국에서 만들어진 모델을 국제사회가 공유할 수 있는 사회혁신 사례로 발전시킬 필요성을 강조했다.

 

그는 “한국에서 시작된 AI 기반 아동·청소년 보호와 사회적 포용의 모델이 아시아를 비롯한 국제사회와 공유되고 확산되기를 기대한다”고 밝혔다.

 

이어 “UN아시아본부 유치위원회도 정부, 국제기구, 공공기관, 민간기업, 시민사회가 함께하는 협력체계 구축에 힘을 보태며 오늘의 논의가 국경을 넘어선 국제협력 의제로 이어질 수 있도록 최선을 다하겠다”고 말했다.

 

AI 경쟁이 기술력과 산업 주도권 확보에 집중되고 있는 상황에서 한국이 ‘사람을 위한 AI’라는 또 다른 경쟁력을 만들어낼 수 있다는 메시지다.

 

결국 김 대표가 제시한 구상은 AI 기술의 성능 자체보다 ‘누구를 위해, 어떻게 사용할 것인가’에 초점이 맞춰져 있다. 기술 발전에서 소외되기 쉬운 계층을 AI 생태계 안으로 끌어들이고 그 과정에서 만들어진 사회적 가치를 국제사회와 공유하자는 것이다.

 

◇박지원 “AI가 사람 대신하는 것 아닌 새로운 일자리 만드는 기술 돼야”

 

공동주최자인 박지원 의원 역시 AI가 사람의 일자리를 대체하는 기술이라는 시각에서 벗어나야 한다고 강조했다.

 

 

박 의원은 “AI 기술은 이제 우리 삶과 일터를 빠르게 바꾸고 있다”며 “그 과정에서 AI가 사람의 일자리를 대체할 것이라는 우려도 있지만 중요한 것은 기술을 누구를 위해, 어떤 방향으로 활용하느냐에 있다고 생각한다”고 말했다.

 

특히 장애인과 시니어 등 기존 노동시장 참여에 어려움을 겪어온 계층에게 AI가 새로운 기회가 될 수 있다는 점에 주목했다.

 

박 의원은 “AI가 방대한 데이터를 먼저 탐지하고 분석하고 장애인과 시니어가 이를 최종적으로 검증하고 판단하는 방식은 기술이 사람을 대신하는 것이 아니라 사람의 역량을 보완하고 새로운 일자리를 만들어내는 가능성을 보여준다”고 강조했다.

 

이어 딥페이크 성범죄와 디지털 그루밍, 온라인 불법도박 등 아동·청소년을 위협하는 유해콘텐츠가 빠르게 진화하고 있는 현실을 짚으며 “AI를 활용해 우리 아이들을 보호하는 동시에 장애인과 시니어에게 새로운 디지털 일자리를 만들어가는 방안을 함께 모색하는 이번 세미나가 더욱 뜻깊게 다가온다”고 말했다.

 

◇서미화 “사후 차단 넘어 AI 활용한 선제적 예방체계 필요”

 

서미화 의원은 기존 온라인 유해콘텐츠 대응체계가 사후 차단 중심이었다는 점을 지적하며 AI를 활용한 선제적 예방체계 구축을 주문했다.

 

서 의원은 “오늘날 디지털 환경은 우리 삶을 편리하게 만드는 동시에 아동·청소년을 대상으로 한 딥페이크, 성범죄, 디지털 그루밍, 불법도박 등 새로운 형태의 유해콘텐츠가 빠르게 확산되는 공간이 되고 있다”고 말했다.

 

이어 “사후적으로 유해콘텐츠를 차단하는 데 그치지 않고 기술을 활용해 위험을 선제적으로 발견하고 예방하는 체계로 나아가야 한다”고 강조했다.

 

장애인과 노인 등 사회적 약자를 단순한 정책 수혜자가 아니라 AI 시대의 새로운 경제활동 주체로 바라봐야 한다는 점도 짚었다.

 

AI가 먼저 정보를 분석하고 장애인과 시니어가 최종 검증과 판단을 담당하는 모니터링 업무가 정착될 경우 취약계층의 경제적 자립과 안전한 디지털 환경 구축이라는 두 가지 효과를 함께 거둘 수 있다는 것이다.

 

◇송영길·김문수 의원 축사…“AI의 최종 목적지는 사람”

 

이날 행사에는 송영길 의원과 김문수 의원도 축사를 보내 AI 기술이 인간을 대체하는 수단이 아니라 아동·청소년을 보호하고 사회적 약자의 참여 기회를 넓히는 방향으로 활용돼야 한다는 데 공감했다.

 

송영길 의원은 축사에서 “지금 대한민국은 AI 대전환이라는 거대한 변화의 문턱에 서 있다”며 “AI는 산업과 경제를 넘어 교육, 복지, 행정, 일자리 등 우리 사회의 모든 영역을 바꾸고 있다”고 진단했다.

 

이어 “그 길이 어디로 향해야 하는가. AI의 최종 목적지는 결국 사람이어야 한다”고 강조했다.

 

AI가 사람의 일자리를 빼앗는 기술에 머무는 것이 아니라 지금까지 기술과 환경의 장벽으로 충분한 기회를 얻지 못했던 장애인과 취약계층이 자신의 가능성을 펼치고 새로운 일자리에 참여할 수 있도록 돕는 기술이 돼야 한다는 것이다.

 

김문수 의원은 축사를 통해 온라인 유해콘텐츠가 빠르게 확산하는 상황에서 AI를 활용한 조기 탐지와 예방체계 마련 필요성을 강조했다.

 

김 의원은 “문제가 발생한 뒤 콘텐츠를 차단하는 데 그치지 않고 AI Agent 기술 등을 활용해 위험을 조기에 발견하고 피해를 예방할 수 있는 새로운 보호체계를 고민해야 한다”고 밝혔다.

 

다만 “기술의 편리함만을 앞세워서는 안 된다”며 아동·청소년의 개인정보와 표현의 자유를 보호하면서 위험 콘텐츠에는 신속하고 정확하게 대응할 수 있는 기준과 사회적 합의가 함께 마련돼야 한다고 강조했다.

 

◇AI가 24시간 탐지하고 사람이 최종 판단…일자리로 연결

 

이날 세미나에서는 ‘Human-AI 협업 모델’을 실제 사회적 일자리로 연결하기 위한 구체적인 방안도 논의됐다.

 

AI Agent가 온라인 정보를 24시간 수집·분석해 위험 콘텐츠를 1차적으로 선별하고, 사람이 최종 검증하는 방식이다. AI가 반복적이고 방대한 모니터링을 담당하고 사람은 최종적인 판단과 검증을 수행하도록 업무를 재설계하는 것이다.

 

드래곤아이즈 최승현 사장은 “AI Agent와 사람의 역할을 결합하면 아동·청소년 보호와 취약계층 일자리 창출이라는 두 가지 사회적 가치를 동시에 실현할 수 있다”며 “기술이 사람을 대체하는 것이 아니라 더 많은 사람이 사회에 참여할 수 있도록 하는 방향으로 활용돼야 한다”고 강조했다.

 

김준식 동국대학교 문화대학 학장은 온라인 유해콘텐츠가 어린이의 언어 발달과 문학적 사고력에 미치는 영향을 발표했으며, 권찬 전 초록우산어린이재단 부회장은 유해콘텐츠에 무방비로 노출된 어린이를 보호하기 위한 어른들의 적극적인 개입 필요성을 제기했다.

 

최철호 마포시니어클럽 관장은 AI를 활용한 쉽고 안전한 시니어 일자리 개발 필요성을, 정원석 한국장애인녹색재단 중앙회장은 중증장애인을 포함한 장애인 일자리 확대 필요성을 각각 제시했다.

 

참석자들은 아동·청소년 온라인 안전망 강화와 AI 기반 유해콘텐츠 대응체계 구축, 취약계층 맞춤형 AI 일자리 개발, 재택형·유연근무형 직무 모델, 공공기관 및 교육기관 도입, AI 기반 사회적 일자리 확산을 위한 법·제도 개선 등을 논의했다.

 

◇기술 경쟁 넘어 ‘사람을 위한 AI’로

 

이날 논의의 또 다른 특징은 AI의 생산성과 효율성을 높이는 것에서 한발 더 나아가 기술이 만들어낸 효율을 사회적 가치로 어떻게 전환할 것인지에 초점이 맞춰졌다는 점이다.

 

AI가 사람의 일자리를 대체할 것이라는 우려가 커지는 상황에서 오히려 AI를 활용해 기존 노동시장에 진입하기 어려웠던 장애인과 노인에게 새로운 직무를 만들고, 그 업무를 아동·청소년 보호라는 공공서비스와 연결하는 역발상이다.

 

이를 실제 정책으로 안착시키기 위해서는 AI 기술 개발만으로는 부족하다. 취약계층이 수행할 수 있는 직무를 세밀하게 설계하고 교육과 보상체계를 마련하는 한편 정부 부처와 공공기관, 민간기업이 함께 참여하는 협력구조가 뒷받침돼야 한다는 의견이 나왔다.

 

주최 측은 이번 세미나를 시작으로 ‘AI 기술-국민 안전-취약계층 일자리-공공서비스’를 연결하는 지속 가능한 민관 협력 모델을 구축하고 향후 정부와 공공기관, 민간기업으로 확산하는 방안을 모색한다는 계획이다.

 

결국 이날 국회에서 제시된 ‘K-AI 포용모델’이 던지는 질문은 AI가 얼마나 많은 사람의 일을 대신할 수 있느냐가 아니다.

 

AI로 아이들을 지키고, 그 과정에서 새로운 일자리를 만들고, 그 일자리가 다시 지역사회의 안전과 돌봄을 강화하며, 한국에서 축적한 경험을 국제사회와 공유할 수 있느냐는 것이다.

 

기술의 속도보다 기술이 향하는 방향에 주목한 이번 논의가 산업 중심의 AI 대전환을 넘어 ‘사람을 위한 AI’라는 한국형 사회혁신 모델로 이어질지 주목된다.