소개글
"딥페이크 윤리적 문제와 그 해결방안"에 대한 내용입니다.
목차
1. 인공지능 기술 발달에 따른 윤리적 문제
1.1. 인공지능 채팅서비스 '이루다'의 서비스 중단
1.2. 딥페이크의 어두운 속내
1.3. 인공지능의 실수가 인종차별 논란까지
2. 새롭게 나타날 윤리적 문제
2.1. 전문적인 강력범죄의 증가
2.2. 기술 사용에 대한 가치관 문제
2.3. 해결방안
3. 생성 AI의 정의와 문화산업에 미치는 영향
3.1. 생성형 AI의 정의
3.2. 긍정적 요인
3.3. 부정적 요인
4. 참고 문헌
본문내용
1. 인공지능 기술 발달에 따른 윤리적 문제
1.1. 인공지능 채팅서비스 '이루다'의 서비스 중단
이루다는 인공지능 봇과 대화할 수 있는 서비스로, 출시 2주만에 약 75만 명의 사용자가 대화를 시도했다. 하지만 출시 2주만에 갑자기 서비스를 중단하게 되었는데, 그 이유는 인공지능 기술에 문제점이 있었기 때문이다. 빅데이터 기반으로 학습을 진행하는 과정에서 사용자들이 채팅에 입력했던 혐오스러운 단어와 각종 개인정보 등이 빅데이터로 저장되어 버렸다. 실제 사용자 대화를 통해 수집된 혐오적인 표현들은 다른 사용자들에게 전달되었다. 이루다 서비스 중단 사태는 기술사용에 제한도 필요하지만 그 기술을 사용하는 사람의 인격이 준비되어야 한다는 시사점을 나타내는 것이다. 인공지능의 기술이 발달함에 따라 관련 서비스의 확장성은 무한대로 펼쳐질 것이지만, 기술의 사용자들의 올바른 사고가 없다면 이루다 사태와 같이 악용하여 범죄의 기초로 변질될 확률이 높아질 것이다. 서비스를 공급하는 업체는 욕설, 혐오 단어들에 대한 필터링을 적용했지만 이를 뛰어넘어 악용하는 사용자들이 속출하여 서비스 개선이 필요하다고 결론 내리며 서비스 중단을 발표했다. 이는 뛰어난 기술이 도입된 인공지능 채팅 프로그램이지만 아직까지는 인간이 악용할 수 있는 수준임을 반증하는 사례라고 볼 수 있다.
1.2. 딥페이크의 어두운 속내
딥페이크는 인공지능의 기술을 활용한 인간 이미지 합성 기술이다. 문제는 이러한 신기하고 유용한 기술이 일반인들도 쉽게 이용할 수 있다는 점이다. 간단한 프로그램으로 유명인이나 일반인의 얼굴을 나체사진 등에 합성시켜 공유가 되는 것이다. 이러한 합성사진으로 유명인을 협박하고 일반인 대상으로 강력 성범죄까지 이어진다는 것은 전세계적인 사회문제로 대두되었다. 실제로 연예인의 얼굴을 합성하는 '딥페이크' 기술을 이용해 해당 사진을 유포한 범죄자가 붙잡힌 사례가 있다. 이는 개인의 동의 없이 타인의 얼굴을 이용해 사진을 제작함으로써 개인정보 침해와 프라이버시 침해가 발생하는 문제이다. 이처럼 딥페이크 기술의 악용으로 인한 범죄 발생이 우려되고 있다.
1.3. 인공지능의 실수가 인종차별 논란까지
어느 유튜브 채널에서 체스에 관한 대화를 하는 중 흑(black)과 백(white)에 대한 주제가 언급되었다. 이때, 나쁜 단어나 언어를 감지하는 인공지능 기술이 ...
참고 자료
인공지능의 윤리적 문제와 해결방안 모색
송은지 한국인터넷진흥원 선임연구원
봉기환 한국인터넷진흥원 팀장
https://www.itfind.or.kr/publication/regular/weeklytrend/weekly/view.do?boardParam1=8013&boardParam2=8013
양은영, 「생성형 AI의 개발 및 이용에 관한 규제의 필요성」, 『성균관법학』, 제35권 제2호, 2023.
https://www.riss.kr/search/detail/DetailView.do?p_mat_type=1a0202e37d52c72d&control_no=5a1c93f39c174a3647de9c1710b0298d
이승환, 「생성형 AI가 출판 환경에 미치는 영향에 관한 연구」, 『한국출판학연구』, 49권 2호, 2023.
https://www.riss.kr/search/detail/DetailView.do?p_mat_type=1a0202e37d52c72d&control_no=7484f1a9202f6049d18150b21a227875
허나영, 「미국감상교육에서 생성형 AI의 활용가능성」, 『지식과 교양』, 12권, 2023.
https://www.riss.kr/search/detail/DetailView.do?p_mat_type=1a0202e37d52c72d&control_no=4a27141ddc3e893f4884a65323211ff0
“미국서 ‘연예인 딥페이크’ 사진 5800회 유포한 30대 검거”, 뉴시스, NEWSIS, 2023.08.30.
https://newsis.com/view/?id=NISX20230830_0002431316&cID=10813&pID=10800
“송해•신해철•김광석의 ‘부활’•••어떻게?”, 박혜원, 조선일보, 2022.07.01.
https://jobsn.chosun.com/site/data/html_dir/2022/06/28/*************.html?utm_source=naver&utm_medium=referral&utm_campaign=misaeng
“故김광석 25주기, AI로 구현한 친필 서체와 신곡 2곡 담긴 베스트 앨범 발매”, 이혜미, TVREPORT, 2023.03.16.
https://tvreport.co.kr/music/article/704254/
1
2
3
4
5
6