(국제인권법) 최근 인공지능(AI) 및 인공지능 알고리즘 시스템이 비약적으로 발전함에 따라

소개

교과목명: 국제인권법
[과제명] ● 다음 설문에 대해 논하시오.(30점)
최근 인공지능(AI) 및 인공지능 알고리즘 시스템이 비약적으로 발전함에 따라 그 활용영역과 범위가 행정, 의료, 서비스, 교육, 법률 등 사회 전분야로 확대되어 생활의 편의를 높여주고 있으나, 반면, 인공지능 결정의 불확실성, 인지적 한계 문제 등 기술적·관리적 한계로 인해 발생하는 인권침해적이고 민주주의에 역행하는 문제들도 드러나고 있다.
1. 인공지능기술의 발전이 인권침해를 발생시키는 국내외 사례들을 알아보고(교과서에 제시된 사례 이외 5가지 이상 짧게 정리),
2. 인공지능과 민주주의의 관계에 대해 관련 논문 등을 참고하여 간략하게 정리하고,
3. 인공지능의 이러한 위험성과 한계를 통제하기 위해 제시되고, 또 시행되고 있는 국내적, 국제적 제도, 원칙, 정책 및 법률 등을 정리하면서, 본인의 생각을 밝히시오.

목차

1. 인공지능기술의 발전이 인권침해를 발생시키는 국내외 사례들
1) 인공지능과 딥페이크 범죄
2) 챗봇 이루다와 차별 조장
3) 도둑 잡는 AI
4) 인공지능 면접
5) AI로 학폭 감지하는 기술

2. 인공지능과 민주주의의 관계에 대해

3. 인공지능의 이러한 위험성과 한계를 통제하기 위해 제시되고, 또 시행되고 있는 국내적, 국제적 제도, 원칙, 정책 및 법률 등 정리, 본인의 생각
1) 인공지능의 위험성과 한계를 통제하기 위한 제도들

4. 참고문헌

본문내용

1. 인공지능기술의 발전이 인권침해를 발생시키는 국내외 사례들
1) 인공지능과 딥페이크 범죄
인공지능을 활용하는 딥페이크(DeepFake)라는 기술이 있다. 딥페이크는 생성적 적대 신경망 모델을 사용하는 인공지능이다. 생성적 적대 신경망은 원래 실제 이미지와 가상 이미지를 식별하기 위해 개발된 기술이다. 이것을 이용하면 인간이 손으로 직접 하는 것보다 영상과 이미지를 정교하게 편집할 수 있고, 손상된 영상을 복원하기도 한결 수월해진다. 문제는 최근 들어서 딥페이크가 악용되는 경우가 많고, 이것이 범죄의 수준에 이르렀다는 점이다. 악의적으로 가짜 뉴스를 만들어서 정치적, 사회적으로 혼란을 일으키기도 하고, 인스타그램 같은 SNS에서 쉽게 찾아볼 수 있는 여성들의 사진에서 얼굴만 편집해서 누드 사진고 합성해 음란물을 만드는 사람들이 적지 않다. 우리나라에서도 ‘지인 능욕’이라는 표현이 있을 정도로 딥페이크를 이용한 음란물 제작이 많다.

참고자료

· SPIRi 소프트웨어정책연구소, 2022.7.25. 안성원, 인공지능의 악용 사례, 딥페이크 기술과 과제
· 서울경제, 2023.12.7. 김태원, “내 일상이 그들에겐 포르노”.. 나체 합성 ‘지인 능욕’ 경찰도 못 잡는 이유
· (https://m.sedaily.com/NewsView/29YF53TQVC#cb)
· 문화과학사, 문화과학 2021년 봄호통권 제105호), 2021.3. 이광석, “챗봇 ‘이루다’가 우리 사회에 남긴 문제: 인공지능에 인권 매뉴얼 탑재하기”
· 머니투데이, 2021.4.27. 김수현, ‘이루다’가 쏘아올린 AI 윤리.. 우리 사회를 각성시켰다
· (https://news.mt.co.kr/mtview.php?no=20210422132502222430)
· 테크월드, 2021.3.17.이혜진, 경찰의 ‘도둑 잡는 AI’ 사용, 인권 침해 가능성
· (https://www.epnc.co.kr/news/articleView.html?idxno=203662)
· 중앙선데이, 2022.8.19. “기계가 왜 떨어트렸지” AI 면접 잣대 몰라 취준생들 한숨
· (https://www.joongang.co.kr/article/25095615#home)
· 동아일보, 2023.5.10.박석민, 이소정, AI로 학폭 감지해 신고.. 사생활 침해-유출 우려
· https://www.donga.com/news/Society/article/all/20230510/119216520/1)
· 한국공법학회, 공법연구 제49집 제2호, pp.147-167, 2020.12. 조소영, 인공지능과 민주주의
· 연합뉴스, 2022.6.22.윤우성, 고도화, 보편화하는 AI... 인권침해 방지 관련법은 부재
· (https://www.yna.co.kr/view/AKR20220622073300004)
· 매일노동뉴스, 2023.8.25.연윤정, 국회 심의 인공지능법 인권침해 예방 미흡
· (https://www.labortoday.co.kr/news/articleView.html?idxno=216961)
· 세계법제정보센터, 2023.8.16. 세계 각국의 AI 규제 관련 입법 동향
· (https://world.moleg.go.kr/web/dta/lgslTrendReadPage.do?&CTS_SEQ=50807&AST_SEQ=3891&ETC=3)