도덕의 구조: 인공지능 시대 도덕 논의의 출발점 (A Structure of Moral Theory: A Starting Point for Moral Discussions in the Era of Artificial Intelligence)

서지정보

· 발행기관 : 서울대학교 철학사상연구소
· 수록지 정보 : 철학사상 / 73호 / 163 ~ 195페이지
· 저자명 : 목광수

초록

본 논문은 인공지능 시대의 도덕 논의가 어떻게 제시되어야 하는지에 대한 체계적 틀을 제안하고자 한다. 이를 위해 본 논문은, 기존 도덕의 형식적 구조를 분석하고 이를 통해 인공지능 시대의 도덕이 기존 도덕의 형식적 구조를 수용하는 ‘동물윤리의 길’로부터 도덕 논의를 시작하여 새로운 도덕 구조를 모색하는 ‘생태윤리의 길’로 나아가는 체계적 틀을 제안한다. 왜냐하면, 인공지능은 발전하는 과학기술로서의 동적 특성을 갖고 있으며, 인공지능 시대의 과학기술은 인간의 인식 전환을 초래할 수 있기 때문이다. 본 논문의 분석에 따르면, 실천적 목적을 갖는 기존 도덕 논의들이 다양한 내용과 주장을 담고 있음에도 불구하고, 형식적인 측면에서 1인칭, 2인칭, 3인칭 관점의 체계적 구조를 공통으로 갖고 있다. 왜냐하면, 실천적 목적을 갖는 윤리는 타자의 요구 또는 요청으로부터 시작한다는 점에서 2인칭 관점을 전제하며, 2인칭 관점을 형성하는 도덕 공동체는 3인칭 도덕의 기준을 토대로 판단되는 것일 뿐만 아니라 이러한 과정을 통해 내려진 도덕 판단은 행위자가 도덕적 의무로서 실천하게 하는 1인칭 관점의 동기부여와 규범성을 가져야 하기 때문이다. 이러한 기존 도덕의 구조에서 볼 때, 현재의 과학기술에서 제시되는 인공지능과 관련된 도덕 논의는 3단계 인공적 도덕 행위자 논의가 보여주는 것처럼 완전한 또는 충분한 도덕이 아닌 부분적 도덕에 불과하다. 이러한 ‘동물윤리의 길’에서는 인공지능이 3인칭 관점의 도덕규범에 부합하고 인공지능 개발이나 설계와 관련된 과정에서의 도덕 논의에 초점을 둘 필요가 있다. 그러나 이러한 인공지능 로봇이 자가 학습을 통해 기존의 도덕 구조에 만족하거나 인간 사회가 탈인간중심주의적인 새로운 인식의 전환을 맞게 되어 새로운 도덕 구조와 내용을 모색할 필요가 있을 때는 ‘생태윤리의 길’을 갈 수 있음을 염두에 두어야 한다. 기존 도덕의 구조 분석을 고려할 때, 인공지능 시대의 도덕 논의는 인공지능의 동적 발전 과정을 고려한 체계적 논의여야 한다.

영어초록

In this paper, I propose a systematic framework for how moral discussions on artificial intelligence (hereafter, AI) ought to be presented. To do this, I analyze established ethical theories. From there, I suggest a systematic framework, from 'a path of animal ethics' through reinterpretation and expansion of their concepts on the basis of established moral theories, to 'a path of ecological ethics' which attempts to establish a new theory of ethics, with a critical viewpoint on the established theories of human-centered ethics. The seemingly convoluted pathways in the framework reflect the dynamic development of AI, from weak AI to strong or super AI. Established moral theories, which pursue a practical purpose, have the common structure of 1st, 2nd, and 3rd person standpoints in form, although they are diverse in content. This is because a moral practice begins from a 2nd person standpoint, responding to a request from the other in the moral community. The situation is understood based on 3rd person moral norms, and is motivated only by the internal reason of normativity from the 1st person standpoint. The current moral discussions on AI such as the artificial moral agent project cannot be applied to this three-person structure in that AI robots do not have a 1st person standpoint and can only follow moral norms from the 3rd person standpoint. For this reason, moral discussions in regards to AI ought to follow 'a path of animal ethics,' focusing not only on the moral norms of the 3rd person standpoint but also the moral norms for AI designers and programmers. However, if future technological advancements allow for AI robots to meet the structure of moral theories through auto-self learning or if human society is transformed to be de-anthropocentric, a new moral structure and their related contents will need to be constructed.

참고자료

· 없음