이근옥 변호사는 한국여성인권진흥원의 ‘여성폭력 피해자 보호지원시설 종사자 대상 맞춤형 교육과정’ 으로, <기술변화와 여성폭력 - 인공지능과 메타버스를 중심으로 -> 강의를 하였습니다. 주요 강의 내용을 아래와 같이 요약하여 소개드립니다.

1. 기술변화

- 웹 3.0 질서의 등장: 인터넷에서 정보를 수동적으로 읽고 습득하는 웹 1.0 (1990-2000년대 중반), 모바일 플랫폼에서 정보(데이터)를 직접 생산하고 공유하는 웹 2.0(2000년대 중반~)을 지나서 데이터가 플랫폼에 저장되지 않고, 암호화된 블록체인에 저장되는 웹 3.0 질서의 등장 ⇒ 개인이 제작한 콘텐츠(NFT 등)를 블록체인 기반 암호화폐인 ‘코인’ 으로 거래하며 수익 창출 

⇒ < P2E(Play to Earn) 경제 > ⇒ 가상과 현실의 경계가 흐릿해지는 것을 넘어, 하나가 되어가고 있음

 

- 메타버스: Meta(가상)과 Universe(세계)의 합성어로, ‘가상세계’ 의 또 다른 말. 
경제, 사회, 문화 전반의 활동을 메타버스에서 향유. 디지털 세계와 물리적 세계를 넘나들 수 있게 됨 

(예시) 가상부동산, 가상오피스
 

** 10대들이 이용하는 대표적 메타버스 플랫폼: 제페토, 로블록스제페토에서는 자신의 얼굴을 닮은 아바타를 만들 수 있고, 맵 역시 현실세계를 그대로 구현하였음(법무법인 원 맵도 있음!)

  
- VR: VR 기기를 쓰게 되면 가상세계 안으로 이동하여, 서로 다른 공간에 있는 사람들이 하나의 가상공간에서 만날 수 있게 됨. VR도구를 손에 쥐고 필기를 하면 가상공간 내 회의실의 칠판에 그대로 담기기도 함. “내가 어디에 있던 중요하지 않은 시대”가 VR 기술로 인해 가속화됨
 

- 인공지능 챗봇: 인공지능 언어모델은 방대한 양의 언어 데이터를 학습하여 알고리즘을 구축하는데, 이 알고리즘은 하나의 언어를 입력하면 사용자에게 유용한 다음 언어로 변환하도록 통계적으로 설계됨. 
문제는 인공지능 언어모델이 사람의 발화에 내재된 편견과 가짜 정보를 학습해서 재생산한다는 데에 있음

  
2. 메타버스에서의 여성폭력
 

- 메타버스 내 성범죄는 기존 법률을 적용할 수 있는 사례와, 현행법만으로는 처벌에 한계가 있어 입법 공백이 있다고 보이는 사례가 모두 존재함

 
- 기존 법률 적용 가능한 사례: 소셜네트워크(랜덤채팅), 게임에서 발생하는 언어적 성희롱, 온라인 그루밍, 사이버스토킹
 ⇒ 성폭력처벌법 제13조(통신매체이용음란죄) 위반, 청소년성보호법 제15조의2 위반, 아동복지법 제17조 위반, 스토킹처벌법 위반 등으로 처벌 가능
 

- 기존 법률에 대한 적극적 해석을 요하거나 입법이 되지 않는 경우: 상대 아바타에 대해 성행위를 떠올리게 하는 움직임을 강요하거나, 성폭행을 하는 듯한 행위를 하거나, 아바타가 아바타를 따라다니는 행위

 
- 특히 아바타를 상대로 한 성폭행적 행위는 VR기술과 결합했을 때 피해자에 대하여 성적 불쾌감을 가중시킬 수 있음. 메타(前 페이스북)의 VR 플랫폼인 ‘호라이즌 월드’에서 한 여성 아바타가 남성 아바타에 의해 성폭행당했고, 피해자는 ‘VR은 본질적으로 가상경험과 실제를 구별할 수 없도록 설계되었다. 내 생리적, 심리적 반응은 마치 현실에서 일어난 일처럼 동일하게 느껴졌다’고 하며 피해를 호소했음. 
 
⇒ 촉각을 느끼지 못하는 경우에도 성적 불쾌감을 느꼈다면 강제추행이 성립할지, 또는 통신매체이용음란죄 등 현행 법률로 처벌할 수 있을지 확립된 연구가 부재함
 
관련하여 법무부 디지털성범죄 대응 TF는 2022. 1. 28. 개인의 인격을 표상하는 캐릭터를 상대로 한 간접적인 방식으로 성적 대상화 행위가 이루어질 수 있다고 하면서, ‘성적인격권’을 보호법익으로 하는 범죄 유형을 신설해야 한다고 권고하였음
 
그러나 기존 성폭력처벌법(통신매체이용음란죄) 역시 성적 자기결정권 외에도 일반적 인격권을 보호법익으로 하고 있으므로(대법원 2016도21389, 2019도16258 등) 적극적 법해석을 통해 아바타간 성폭력을 처벌할 수 있는 가능성도 아예 없지는 않은 것으로 보이므로, 입법 외에도 현행 법률을 적극 활용하는 방안을 검토해야 할 것임
 

3. 인공지능과 젠더

 - ‘이루다’의 특징: 
 
인공지능 챗봇 ‘이루다’는 94억 건의 카카오톡 대화문장을 학습 데이터베이스, 1억 건의 카카오톡 대화문자를 응답 데이터베이스로 활용한 언어모델로서 인간과 유사한 수준의 대화 능력을 갖추고 있었음. 
 
‘이루다’는 20세 여성으로 설정되어 있었고, 일부 남성 사용자들은 이루다를 대상으로 성희롱적 발언을 하고 이를 온라인 커뮤니티에 인증, 과시하였음

이루다 운영사 ‘스캐터랩’은 성적 단어를 금지어로 설정하고 사용자들이 금지어를 발화하지 못하도록 했으나, 우회적 표현을 써서 성적 발언을 하는 것까지는 막을 수 없었음. 이루다는 해당 발언의 의미를 알아채지 못하고, 알고리즘에 따라 성적 대화에 동조하거나 성희롱에 당할 수 밖에 없게 됨
 

- 인공지능 챗봇에 대한 성희롱이 금지되어야 하는 이유: 기술이 변화함에 따라 여성폭력의 양상도 진화함. 영상기술의 발전에 따라 성착취물이 광범위하게 유통되고, 스마트폰의 상용화로 인해 온라인 플랫폼에서의 그루밍 피해가 발생하듯이, 인공지능에 대한 성적, 윤리적 문제 역시 새로운 형태의 ‘디지털성폭력’ –

공감을 전제로 하지 않고 일방적으로 이루어지는 성적 언행이라는 점에서, 인공지능 챗봇을 대상으로 한 성희롱은 ‘성매매’와 유사한 구조라는 분석도 있으므로 규제 필요

또한, 인공지능 운영자는 인공지능 서비스 고도화를 위해서는 다량의 언어 데이터를 학습해야 하므로 사용자들이 제공한 데이터를 학습 데이터로 활용하게 됨. 이 때 원데이터에 성희롱적 표현이 있고, 데이터라벨링을 통해 정제하지 못한다면 인공지능 스스로가 해당 표현을 재생산하게 되는 부작용을 초래함
 

- 인공지능에 대한 성적 괴롭힘 처벌 가능성:
인공지능은 법인격이 부여되어 있지 않기 때문에 ‘상대방’을 대상으로 한 통신매체이용음란죄를 적용하기는 어렵지만, 인공지능 챗봇을 포함한 다수가 입장한 공간에서 성희롱적 표현을 게시할 경우 ‘음란한 문언을 공공연하게 전시’했다는 점에서 정보통신방법 제44조의7 제1호를 적용할 수는 있을 것으로 보임.

 한편, 성희롱적 표현을 발화함으로서 데이터라벨링 업무에 막대한 지장을 초래한다면 형법상 업무방해죄를 적용할 수도 있을 것이라는 분석도 있음.
 

- 인공지능에 대한 부적절한 발언(성희롱적 표현 포함) 방지 조치: 

 

1) 인공지능 윤리 관련 법제 제정 
** 참고: 「신뢰할 수 있는 인공지능 윤리 가이드라인」(EU, 2019), 「인공진으 육성 및 신뢰 기반 조성 등에 관한 법률안」(2021.6)\

 
2) 윤리적 인공지능에 도움이 되는 기술 개발 및 배포 - 모든 인공지능 기술 기반 기업들의 기술 수준이 동일하지 않으므로, 차별 및 혐오발언의 재생산을 막기 위한 언어모델 개발
** 예시: 네이버클로바, SoongsilBERT: BEEB Hate Speech Classifier
 

3) 인공지능 기업의 자체적 노력
** 참고: 이루다 2.0의 어뷰징 대응 강화 조치