디지털 아동 놀이: 인공지능(AI)의 영향으로부터 아동 보호(유엔, 11.27.) AI는 수년간 아동을 대상으로 하는 여러 제품에 사용되고 있지만, AI 기술의 잠재적 영향으로부터 아동을 보호하는 법률은 여전히 걸음마 단계입니다.유엔 뉴스(UN News)는 아동을 위한 AI에 대한 세계적 포럼에 앞서, 유니세프의 전문가 두 명과 정책 보호 개선의 필요성에 관해 이야기를 나눴습니다.아동은 이미 장난감, 가상 도우미(virtual assistants), 비디오 게임, 맞춤형 학습 소프트웨어(adaptive learning software) 등 다양한 방식으로 AI 기술과 만나고 있습니다. 인공지능이 아동의 삶에 미치는 영향이 지대함에도 불구하고 AI 정책과 이행에 있어 아동 권리는 크게 고려되지 않고 있음을 유니세프에서는 보고하고 있습니다.이에 대한 대응으로 유니세프는 아동의 권리를 증진하고 인공지능 시스템이 어떻게 이러한 권리를 지지하거나 훼손할 수 있는지에 대한 인식을 높이기 위해 아동을 위한 인공지능 정책 지침 초안을 작성했습니다.유엔 뉴스(UN News)의 코너 레논(Conor Lennon)은 유니세프 글로벌 인사이트 팀의 정책대표인 자스미나 바이런(Jasmina Byrne)과 유니세프 데이터, 연구 및 정책 전문가 스티븐 보슬루(Steven Vosloo)에게 인공지능 관련 정책의 중심에 아동을 두는 것의 중요성에 대해 질의했습니다.AI 기술은 사회를 근본적으로 변화시킬 것입니다.스티븐 보슬루(Steven Vosloo) “우리는 인공지능이 화제이며, 특히 차세대의 사회와 경제를 근본적으로 변화시킬 것임을 인지하고 있습니다. 하지만 국가 인공지능 전략과 기업 정책 및 지침을 살펴본 결과, 이들이 아동과 AI가 아동에게 미치는 영향에 크게 관심을 두지 않고 있다는 것을 발견했습니다.그래서 우리는 전 세계 전문가들과 5개국의 약 250명의 아동과 이야기를 나누면서 광범위한 논의 과정을 시작했습니다. 그 과정을 거쳐 지침 문서 초안이 발간되었고, 이를 발표한 후 우리는 정부, 조직 및 기업에 시범 운영을 요청했습니다. 현재 우리는 지침과 관련된 사례 연구를 진행 중에 있으며 이를 통해 그동안 우리가 배운 내용을 공유하고자 합니다.”자스미나 바이런(Jasmina Byrne) “인공지능은 수십 년에 걸쳐 발달해왔습니다. 인공지능은 그 자체로 해롭지도 이롭지도 않습니다. 이 기술을 이롭거나 해롭게 만드는 것은 이 기술을 어떻게 적용하는 가입니다.인공지능은 맞춤형 학습을 위한 교육 영역에서 긍정적으로 활용할 수 있습니다. 의료, 언어 시뮬레이션 및 처리에 사용할 수 있으며 장애 아동 지원에도 사용됩니다.그리고 유니세프에서도 AI를 사용하고 있습니다. 예로 AI를 통해 질병의 확산을 예측하고 빈곤 추정치를 더 정확하게 도출해낼 수 있습니다. 그러나 인공지능 기술을 활용하는 데 있어 위험 또한 존재합니다.아동은 항상 디지털 기술과 상호작용하지만, 아동과 어른들 다수가 아동이 사용하는 많은 장난감이나 플랫폼이 인공지능으로 구동된다는 사실을 인식하지 못하고 있습니다. 그래서 우리는 아동이 가지는 특별한 취약성 때문에 아동에 대한 세심한 고려가 필요하다고 생각합니다.”개인 정보와 이윤 추구 동기(profit motive)스티븐 보슬루(Steven Vosloo) “인공지능은 자연어 처리(natural language processing)를 사용해 단어와 지시를 이해합니다. 그래서 아동이 사용한 언어와 친밀한 대화까지도 포함하여 많은 자료를 수집하고 이는 클라우드, 종종 상용 서버에 저장됩니다. 따라서 개인 정보 보호에 대한 우려가 있습니다. 독일에서는 AI 기능이 탑재된 장난감이 해킹되어 안정성에 대한 문제로 해당 장난감이 판매 중지된 사례가 있습니다.온라인 사용자의 약 3분의 1은 아동입니다. 우리는 종종 어린 아동이 그들에게 적합하지 않은 소셜미디어 플랫폼이나 비디오 공유 플랫폼을 사용하는 것을 발견합니다.그러한 플랫폼은 종종 최대 참여를 목적으로 설계되었으며, 아동을 고려하지 않은 데이터를 토대로 한 프로파일링에 기반합니다.예측 분석과 프로파일링은 특히 아동을 다룰 때 관련이 있습니다: 인공지능은 아동을 특정 틀에 맞춰 프로파일링하고 이를 통해 아동의 미래 교육 기회 및 부모가 접근할 수 있는 혜택 등을 결정할 수 있습니다. 따라서 인공지능은 아동의 현재에 영향을 줄 뿐 아니라 인생의 항로를 다른 방향으로 바꿀 수 있습니다.”자스미나 바이런(Jasmina Byrne) “작년 영국에서 크게 다뤄졌던 일입니다. 작년에 영국 정부는 고등학교 3학년 학생의 최종 성적을 예측하고자 알고리즘을 사용했는데, 이 알고리즘은 사립학교 출신 자녀 자료에 편향되어 이를 통해 분석된 결과는 처참했습니다. 또 이 결과는 수많은 소수민족, 소수 공동체 출신 아동을 차별하는 결과를 낳았습니다. 그래서 영국 정부는 결국 이 시스템을 폐지해야 했습니다.이는 알고리즘이 편향된 데이터를 기반으로 하는 경우, 아동에게 실제로 정말 부정적인 결과를 초래할 수 있음을 보여주는 한 가지 사례일 뿐입니다.”이젠 디지털 라이프(digital life)다스티븐 보슬루(Steven Vosloo) “우리의 제안이 실제로 코드를 작성하는 사람들에게까지 스며들기를 바랍니다. 우리의 정책 지침은 사실 더 광범위한 청중을 대상으로 하는데, 이는 AI 규제에 대해 고려하기 시작하고 관련 전략을 계획하고 있는 정부와 정책 입안자들과 이런 AI 시스템을 개발하는 기업을 모두 포함합니다.우리는 경쟁적 이해관계에 대해 인식하고 있습니다: 인공지능 시스템 관련 결정은 종종 영리적 보상과 도덕적 보상 간 균형을 맞춰야 합니다. 우리가 옹호하는 것은 데이터 과학자(data scientist)나 소프트웨어 개발자뿐만 아니라 최고 경영진과 정부 고위장관에게서 오는 책임 있는 인공지능에 대한 약속입니다.”자스미나 바이런(Jasmina Byrne) “아동이 디지털 기술을 사용하면서 남긴 데이터 흔적(data footprint)은 상업화되고 제3자가 자신의 이윤과 이익을 위해 사용합니다. 아동은 종종 적합하지 않은 광고의 표적이 되는 경우가 많습니다. 저희가 계속해서 밀접하게 관찰하고 추적하는 부분도 이 부분입니다.이제는 이러한 문제를 해결하려는 정치적 욕구가 강해지고 있으며, 저희는 이를 정책 입안자들의 의제로 올리기 위해 노력하고 있습니다.정부는 디지털 프런티어 기술에 관한 모든 정책 결정의 중심에 아동을 두고 생각해야 합니다. 아동과 아동의 욕구를 고려하지 않는다면, 우리는 정말 중요한 기회를 놓치게 됩니다.”스티븐 보슬루(Steven Vosloo) “스코틀랜드 정부는 지난 3월 인공지능 전략을 발표했으며 아동을 위한 인공지능에 대한 유니세프 정책 지침을 공식적으로 채택했습니다. 정부 전체가 아동 권리 협약을 법으로 채택했기 때문입니다. 아동의 삶은 이제 온라인도 오프라인도 아닌 디지털 라이프(digital life)입니다.” 아동을 위한 인공지능(AI) 글로벌 포럼(2021.11.30.~12.1.) - 유엔아동기금(UNICEF)과 핀란드 정부는 11월 30일부터 12월 1일까지 아동을 위한 인공지능(AI) 글로벌 포럼을 개최했습니다. - 세계 최고의 아동 권리 및 기술 전문가, 정책 입안자, 실무자, 연구원뿐 아니라 인공지능(AI) 영역에서 활동하는 아동이 참여하여 디지털 기술 정책 및 인공지능(AI) 시스템과 관련된 아동 권리 지식을 공유했습니다. - 포럼은 「아동을 위한 인공지능 정책 가이드(Policy Guidance on AI for Children) v2.0」와 ‘청소년 참여 방법론(Adolescent Engagement Methodology)’에 대한 개요 소개, 아동 중심의 인공지능(AI)을 위한 노력과 그렇지 못한 부분에 대한 지식 공유, 참여자가 행동하도록 영감을 주고 지속할 수 있도록 네트워킹을 활성화하는 것이 목표입니다.<출처 : https://news.un.org/en/story/2021/11/1106002