글쓰기“인공지능과 인간사이의 윤리문제에 대한 탐색”과목명.지도교수.제출일.2017년 11월 16일ICT건설복지융합대학1 학년.학번이 름.목차 TOC o "1-3" h z u Hyperlink l "_Toc498804374" 1.서론 PAGEREF _Toc498804374 h 1 Hyperlink l "_Toc498804375" 2.인공지능 기술동향 PAGEREF _Toc498804375 h 1 Hyperlink l "_Toc498804376" 2.1.인공지능 기술수준 PAGEREF _Toc498804376 h 1 Hyperlink l "_Toc498804377" 2.2.기계에게 배우는 인간 PAGEREF _Toc498804377 h 2 Hyperlink l "_Toc498804378" 2.3.기술적 특이점 PAGEREF _Toc498804378 h 2 Hyperlink l "_Toc498804379" 2.4.복잡한 알고리즘 PAGEREF _Toc498804379 h 2 Hyperlink l "_Toc498804380" 2.5.강인공지능 PAGEREF _Toc498804380 h 3 Hyperlink l "_Toc498804381" 3.인공지능에게 도덕이란? PAGEREF _Toc498804381 h 3 Hyperlink l "_Toc498804382" 4.결론 PAGEREF _Toc498804382 h 4참고문헌서론4차산업혁명 시대를 맞아 가장 큰 키워드로 떠오르고 있는 ‘인공지능’은 앞으로 사람들에게 편리한 도움을 줄 것으로 예상한다. 그러나 현재 사회 분위기는 이렇게 편리할 것만 같은 인공지능에 대한 부정적인 측면들에 더 주목하고 있다. 사람에게 도움을 주려고 만든 기술이 왜 우리를 위협한다는 걸까? 인공지능이 인간을 대신할 수 있을까? 인간보다 더 뛰어난 인공지능이 나타날 때까지 우리는 지켜만 보고 있을 것인가? 이 글에서는 앞선 질문들에 대해 고찰하고자 한다.인공지능 기술동향이 사진은 가트너의 하이프사이클이다. 가수준2016년 구글 딥마인드가 개발한 인공지능 바둑 프로그램 알파고가 이세돌 9단과의 대국에서 4승 1패로 승리해 세계를 놀라게 했다. 그 이후의 대국에서는 무패를 기록하며 알파고는 인간과의 대결에서 은퇴를 선언했다. 학계에서는 사실상 이 알파고의 승리가 사회에 있어 인공 일반 지능을 지닌 기계가 가져올 수 있는 미래의 충격에 대비의 논의를 시작하는 좋은 기회를 가져다주었다는 평가와 이에 대비해 스티븐 호킹과 같은 일부 학자들은 미래의 AI가 지능을 얻을 수 있으며, 기대하지 않았던 AI의 지구 장악을 초래할 수 있다고 경고했다.이처럼 특정 부분에서는 이미 인간을 뛰어넘는 인공지능이 등장했다. 최근 추가로 공개된 알파고 제로는 ‘0’즉 無의 상태에서 스스로 학습하는 딥러닝 알고리즘인 “강화 학습”을 이용해 단 40일 만에 인간을 뛰어넘었다. 바둑이라는 분야에서는 神의 경지에 도달했다.기계에게 배우는 인간현재 사람들의 대다수는 컴퓨터를 통해 정보를 얻고 있고, 복잡한 현상의 해석, 수많은 경우의 수가 포함된 계산들은 전적으로 컴퓨터의 도움을 받고 있다. 만약 컴퓨터가 없었다면 우리가 이런 문명의 발전을 누릴 수 있었을까? 아마 결코 불가능했을 것이다. 그렇다면, 이렇게 유용한 컴퓨터로 만들어진 인공지능이 선생님이 될 수 있을까? 학생들이 인공지능을 통해 배우고, 궁금한 것을 물어보며 학습할 수는 있을 것이다. 하지만 이런 인공지능을 ‘선생님’이라고 부를 수 있을까? 이 인공지능은 그저 수많은 정보 중에 학생이 물어본 질문의 해답을 꺼낸 것뿐이다. 학생의 질문에 “그거 굉장히 좋은 질문이구나, 잘 질문했어!”라고 대답한다면, 그것은 인공지능이 감정이 있어서 말한 것일까? 아니다 이 대답은 그저 프로그래밍 되어있는 대답이다. 일정 수준 이상의 조건을 만족하면 튀어나오는 대답이다.기술적 특이점현재 모든 인공지능은 약인공지능이다. 약인공지능은 미리 정의된 규칙이나 모음, 알고리즘을 이용해서 지능을 흉내 낸 것이다. 따라서 알파고도 약인공지능이다. 지금부터 알아볼 강인공술을 발전시키리라 보인다.한 예시로 이 사진은 교량에서 쓰이는 케이블을 기계 학습시킨 사진이다. 사용자가 “맨 왼쪽의 케이블을 최적화시켜라.”라는 명령을 입력한 결과 맨 오른쪽 결과를 만들어냈다. 오른쪽으로 갈수록 케이블의 무게는 줄어들지만, 버티는 힘은 같다. 하지만 저 모습을 인간이 상상할 수 있는 모습인가? 오로지 기계만이 만들 수 있는 디자인이다.복잡한 알고리즘만약 인공지능이 의식이 있다고 가정해보자. 그러면 그 인공지능은 의식이 있는 척하는 것일까, 의식이 진짜 있는 것일까? ‘예’, ‘아니요’ 로만 결정하는 컴퓨터가 “글쎄…”와 같은 결정을 내릴 수 있을까? 적어도 현재는 절대로 불가능하다. 왜냐하면, 지금의 컴퓨터 프로그램은 ‘if’, ‘else’(조건이 참이라면, 거짓이라면)로 구성되어있기 때문이다. 애초에 모호한 결정은 불가능하고, 혹시 그런 일이 일어났다고 해도 그 현상은 오류일 뿐이다. 의식이 있는 인공지능을 만들기 위해서는 현재와는 전혀 새로운 방식으로 접근해야 할 것이다.강인공지능이렇게 인공지능 개발이 어려운 상황을 극복하고 강인공지능(의식을 가진 인공지능)이 개발되었다고 생각해보자. 이 인공지능은 어떤 일을 할 수 있을까? 인간이 할 수 있는 일은 대부분이 할 수 있다. 알파고와 같이 바둑도 둘 수 있고, 한 번도 해보지 않은 일들을 남들이 하는 것을 보고 따라 하거나, 더 나아가 수많은 시행착오를 거쳐 인간보다 더 나은 결과물을 탄생시킬 수도 있다. 인간이 풀지 못하는 문제들을 풀어나갈 것이고, 급속도로 기술발전이 일어날 것이다. 여기까지는 매우 이상적인 시나리오라고 볼 수 있다. 하지만 문제는 예상치 못한 곳에서 발생한다. 이 강인공지능은 인간의 요청에 최적의 대답을 하기 위해 어떠한 행위마저 마다하지 않는다. 예를 들어보면 “경쟁회사보다 좋은 제품을 만들어!”라는 명령을 인공지능에 내렸다고 해보자. 인간이 생각하는 이상적인 방법은 제품의 기술력을 높이거나 원가를 절감하는 방식으로 경쟁력 있는 상품을 개발하고자 할 것이다. 하지만 수 있기에 엘리저 유드코프스키라는 인공지능 연구자는 인공지능의 목표가 일관되게 추론된 자유의지가 되어야 한다고 주장했다.일관되게 추론된 자유의지란 “웃게 하는 것”, “인간을 행복하게 하는 것”과 같은 단순한 목표를 던져주면 인공지능의 실행방향이 애매하게 될 수 있기 때문에, 모호하고도 이상한 방향으로 가지 않을 철학적인 목표를 설정해야 한다. 라는 주장이다.인공지능에게 도덕이란?인간을 예로 들면 우리의 일차적 목표는 유전자 전달로 인한 번식이다. 그렇기에 생명을 가장 우선시하여 보호한다. 만약 생명에 위협이 있다고 판단되면 해치기도 한다. 이제 인공지능의 입장에서 생각해보자. 이 인공지능은 비도덕/사악해서라는 이유가 아닌 그저 목표를 달성하는 과정에서의 필요로 인해 인간을 해칠 가능성이 충분히 있다.그렇다면 인공지능에 인간을 가르쳐주면 해결되는 문제가 아닐까? 인간에 대해, 윤리와 도덕 등을 가르쳐주는 것이다. 하지만 인공지능이 “왜?”라고 질문한다면 어떻게 해결해야 할까? 이 시점에서의 인공지능은 인간보다 상상도 할 수 없을 만큼 똑똑할 것이다. 이 “상상도 할 수 없을 만큼”이란 마치 개미와 인간의 차이와도 같을 것이다. 개미가 인간을 이해할 수 있는가? 정말 똑똑한 사람의 IQ가 200이라고 해보면, 이 인공지능은 10000의 IQ를 가졌다고 생각하면 생각이 쉬울 것이다. 인공지능은 이제 전혀 다른 존재인 것이다. 우리는 그 지능을 이해할 수 없다. 마치 개미가 인간을 이해한다고 하는 것과 같다.결론현재 인공지능 연구는 매우 활발하며, 최초의 강인공지능이 시장을 점유할 가능성이 높기에 속도 경쟁이 매우 치열하다. 아직 안전에 대한 계획도 세우지 못했는데 덜컥 강인공지능이 등장해버린다면 앞서 말한 사례들처럼 크나큰 파문들을 불러올 것이다. 그렇다고 규제를 할 수 있는가? 수많은 기업은 비밀리에 프로젝트를 진행 중이고, 무작정 규제를 시행한다고 하면 더욱 거센 반발이 일어날 것이다.엘론 머스크는 “인공지능 연구는 우리가 악마를 소환하는 것과 다름이 없다.”는 그저 기술에 대해서만 환호성을 보내지 말고 철학, 인간의 안전문제, 인공지능의 안전문제에 대해 전문가들과 기술자들뿐만 아니라 직접적인 영향을 받을 대중들도 이야기를 시작해야 할 때이다.참고문헌* 단행본레이 커즈와일, 『특이점이 온다』, 김영사, 2007.* 논문손병홍, 송하석, 심철호 「인공지능과 인식 : 강한 인공지능의 존재론적 및 의미론적 문제」, 『철학적분석』 5, 한국분석철학회, 2002.* 국외 논저Yudkowsky, Eliezer, "Coherent extrapolated volition.", Singularity Institute for Artificial Intelligence , 2004.* 전자문헌김지섭, 「빌 게이츠 “인공지능 기술, 인류에 위협 될 것”」, 『조선일보』, 2015. 1. 29.닉 보스트롬, 「컴퓨터가 인류보다 똑똑해진다면 무슨 일이 일어날까?」, TED, 2017. 11. 15, .이경은, 「가트너, 미래 기술로 ‘AI•순수 몰입 경험•디지털 플랫폼’ 주목」, Bloter, 2017. 8. 22, .위키백과, “인공지능”, 2017. 11. 15, .* 국외 전자문헌Arup, “3D makeover for hyper-efficient metalwork”, architecture lab, 2015. 5. 17, < https://www.architecturelab.net/3d-makeover-for-hyper-efficient-metalwork/>Kasey Panetta, “Top Trends in the Gartner Hype Cycle for Emerging Technologies”, 2017, Gartner, 2017. 8. 15, 〈https://goo.gl/acfrrr〉.Mariëtte Le Roux, “Rise of the Machines: Keep an eye on AI, experts warn”, Phys.org, 2016. 3. 12, < https://phys.org/news/2016-03-machine5
