유니세프, "어린이를 위한 AI 만들자"

"유치원에 찌질한 애들뿐이라 노잼이야", "엄마 X짜증나"

​

이런 표현을 5살 된 내 아이가 사용했다고 생각해보자. 부모라면 내 아이의 언어 습관에 대해 진지하게 고민하게 될 것이다.

​

지난여름, 한 실험 영상이 온라인을 뜨겁게 달궜다. LG유플러스가 진행한 무분별한 콘텐츠 시청이 아이의 언어 습관에 주는 영향에 관한 연구 영상이다. 해당 콘텐츠에서 인공지능으로 구현한 5세 어린이는 나이에 맞지 않는 어휘, 표현 등을 사용해 시청자들을 놀라게 했다.

​

LG유플러스는 인공지능 학습을 통해 어린이가 영상 콘텐츠를 무분별하게 접할 경우 비속어, 무시하는 언어 등을 무분별하게 사용한다는 사실을 밝혀냈다. 영상 콘텐츠 속 출연진이 사용하는 언어를 그대로 학습하는 것이다.

​

"아동을 위한 AI 가이드라인 필요하다"

놀이 시간, 식사 시간, 가사일 등으로 부모가 잠깐 아이를 보지 못하는 시간에 아이들은 유튜브를 본다. 유튜브 알고리즘이 추천하는 영상들 속에서 아이들은 다양한 정보를 학습한다. 앞서 설명한 LG유플러스의 실험 영상은 조금 극단적이긴 하지만, 아이들이 AI가 무분별하게 제공하는 콘텐츠에 노출됐을 때 어떤 부작용이 나타날 수 있는지를 잘 보여준다. 나날이 고도화되는 AI 시대에서 아이를 위한 인공지능 가이드라인이 필요한 이유다.

​

유니세프, '아동을 위한 AI 정책 권고' 발표

유니세프(UNICEF)는 세계 최초로 '아동을 위한 AI 정책 권고(Policy guidance on AI for children)'를 발표했다. AI 시스템이 아동의 권리를 어떻게 유지·훼손할 수 있는가에 대한 글로 벌 교육 전문가들의 고민이 담겼다. 더불어 정부, 기업이 AI 정책·서비스 등을 설계할 때 아동권리 유지를 위해 염두해야 할 사항도 제시한다.

​

먼저, '아동을 위한 AI'의 기초로 '3P'를 소개한다.

​

- 보호(Protection = Do not harm): 아동은 AI 시스템의 해롭고 차별적인 영향으로부터 보호받아야 한다. 더불어 아동과 AI가 안전하게 상호작용할 수 있는 방안이 마련돼야 한다. AI 시스템은 아동에게 피해를 주기보다 위해·착취로부터 보호할 수 있는 방향으로 활용돼야 한다.

​

- 활용(Provision = Do good): AI 시스템이 모든 아동이 누려야 할 교육, 건강관리, 놀 권리 등을 지원하는 경우, 적극적으로 활용돼야 한다.

​

- 참여(Participation = Include all children): 참여를 보장한다는 것은 아동이 AI 시스템을 구현하는데 기여하는 수단, 기회를 부여하고 AI 이용, AI가 삶에 미치는 영향 등에 대해 인식하고 결정하도록 돕는 것을 뜻한다. 모든 아동은 AI에 도움을 받아야 하며 모두를 위한 책임 있는 디지털 미래를 설계하는 과정에서 주도적인 역할을 담당할 수 있어야 한다.

​

아동 중심 AI 시대를 위해서는 다음의 9가지 사항이 지원돼야 한다.

1. 아동의 발달과 웰빙 지원

2. 아동을 포용하고 아동을 위하는 AI

3. 아동에 대한 공정·비차별에 우선순위 부여

4. 아동 데이터, 프라이버시 보호

5. 아동 안전 보장

6. 아동에게 투명성, 설명 가능성·책임성 제공

7. 정부와 기업의 AI·아동 권리 관련 지식 확충

8. AI 현재와 미래 발전에 아동을 준비시킬 것

9. 아동 중심 AI 활성화 환경 조성

​

성인 중심 AI 이니셔티브 변화해야

AI의 중요성이 나날이 커지면서 60개 이상의 국가가 광범위한 AI 정책 이니셔티브를 발표했다. 이들 이니셔티브는 경제 성장과 국가 경쟁력 제고에 초점을 맞춰 설계됐다.

​

일론 머스크를 비롯한 각계 전문가들이 AI에 대한 우려 섞인 전망을 내놓은 뒤로는 AI 기술의 영향, 지배구조, 책임성 등에 대한 다양한 논의가 제기되기 시작했다. 이에 AI 정책과 시스템이 인류에게 봉사하고 윤리적인 방식으로 발전하도록 하기 위해 글로벌 정부, 정부 간 기구, 기업과 관련 단체들은 윤리에 초점을 맞춘 AI 원칙을 개발하기도 했다. 이 AI 원칙의 핵심은 개인 정보 보호, 책임성, 안전·보안, 투명성·실명 가능성, 인간의 기술통제, 직업적 책임 등 주제였다.

​

다가오는 미래의 주역인 아동을 보호하고 제대로 육성하기 위해선 아동을 고려한 AI 원칙을 수립해야 한다.

​

앞서 제시한 3P를 중심으로 친아동적인 AI 시스템을 구축하기 위한 노력을 해야 할 때이다. 특히, AI 시스템이 제공하는 혜택을 모든 아동이 차별 없이 누릴 수 있도록 지원해야 하며 발달 단계·학습 능력 차이 등 아동의 다양한 특성을 고려해 AI 시스템을 설계하고 구현해야 한다.