부패범죄에 AI 범죄예측 시스템 적용의 문제점과 개선방안 (Problems and Improvements of AI Crime Prediction System for Corruption Crime)

서지정보

· 발행기관 : 한국부패학회
· 수록지 정보 : 한국부패학회보 / 27권 / 2호 / 121 ~ 144페이지
· 저자명 : 김병수

초록

부패범죄는 한 행위자의 일탈에 그치는 것이 아니라 사회구조를 무너뜨릴 수 있는 파괴력을 지니는 범죄이기에 한 국가의 문제만이 아니라 전 세계적으로도 심각한 문제로 여겨지고 있다. 이러한 부패범죄를 감소시키는데 국가와 사회가 많은 노력을 기울이고 있지만, 부패범죄가 가지고 있는 은밀성과 관행성 때문에 쉽게 적발되지도 않을 뿐만 아니라 완전히 근절되기도 어렵다. 이에 AI 범죄예측 시스템을 도입하여 부패범죄를 줄일 수 있는 효과적인 방안이 없을지 모색할 필요가 있다. 이미 많은 나라에서 AI 범죄예측 시스템을 도입하여 범죄율이 감소하는 긍정적인 효과를 보고 있기 때문이다. 그런데 AI 범죄예측 시스템을 부패범죄에 적용할 수 있을지 그리고 적용한다면 어떠한 문제점이 있는지를 검토할 필요가 있다. 나아가 부패범죄에 AI 범죄예측 시스템을 적용하기 위한 개선방안이 무엇인지 모색하고자 한다.
부패범죄가 가지고 있는 국가와 사회에 대한 심각성과 은밀성과 관행성 때문에 AI 범죄예측 시스템을 적용하여 부패범죄를 줄일 수 있는 효과적인 방안을 모색할 필요가 있다. AI 범죄예측 시스템은 필연적으로 개인의 권리를 침해할 수 있으므로 개인정보보호법에 의하여 개인정보를 보호하여야 한다. 알고리즘의 불투명성을 해결하기 위해서는 알고리즘의 설계자나 알고리즘을 사용하는 기업은 그 알고리즘 내부 논리에 대해 감사기관 등에게 설명할 수 있어야 한다. 알고리즘의 부정확성 해결방안으로 미국의 과학수사기법의 신뢰성에 관한 Daubert 기준을 사용할 필요가 있다. 알고리즘의 편향성을 극복하기 위해서는 궁극적으로는 알고리즘의 설계자나 개발자가 알고리즘을 편향되게 설계하지 않도록 하여야 한다. 이를 위해 설계과정이나 개발과정에서 알고리즘의 요소 및 매트릭스(metrics)를 투명하게 공개하여야 한다. AI 범죄예측 시스템의 개인통제기능을 제한하기 위해서는 AI 범죄예측 시스템도 대상자의 권리침해를 최소화하기 위하여 비례성의 원칙을 적용하여야 한다. AI 범죄예측 시스템의 이용을 비례성의 원칙에 의하여 제한하더라도 그 대상이 되는 사람들은 감시와 통제를 받는다는 사회적 거부감과 공식적인 부패조사에 대한 반감이 필연적으로 존재할 수밖에 없다. AI 범죄예측 시스템의 이용을 위한 부패조사를 거부감 없이 수용하기 위해서는 성숙한 시민의식의 제고와 함께 부패범죄가 없는 세상을 위한 사회적 공감대가 형성되는 것이 필요할 것이다.

영어초록

Corruption crime is not limited to the deviance of one actor, but is a crime with destructive power that can destroy the social structure. Although the state and society are making great efforts to reduce corruption crime, it is not easily detected or completely eradicated due to the confidentiality and customary nature of corruption crime. Therefore, it is necessary to explore whether there is an effective way to reduce corruption by introducing an AI crime prediction system. This is because many countries are already seeing a positive effect of reducing the crime rate by introducing AI crime prediction systems. However, it is necessary to examine whether the AI ​​crime prediction system can be applied to corruption crimes and what problems there are if it is applied. Furthermore, we intend to explore the improvement measures for applying the AI ​​crime prediction system to corruption crimes.
AI crime prediction systems that handle personal information can infringe on individual rights. And the algorithm of AI crime prediction system has problems of opacity, inaccuracy, and bias. AI crime prediction systems are becoming a new means of control for citizens, such as ‘Big Brother’.
As a solution to bias and inaccuracy, the AI ​​crime prediction system should be descriptive, accurate, and audited by an objective agency. In order to limit the individual control function of the AI ​​crime prediction system, the AI ​​crime prediction system must also apply the principle of proportionality to minimize the infringement of the subject's rights (the principle of minimal infringement). And AI crime prediction systems should be used as a last resort (principle of complementarity). It should be used individually according to the subject's risk of recidivism (principle of individuality). The AI ​​crime prediction system should not be implemented by administrative disposition, but should be imposed by judicial review of the court (principle of judicial control). If the analysis of the AI ​​crime prediction system is applied according to the principle of imposition of such security measures, the individual control function of the AI ​​crime prediction system can be limited as much as possible and the efficiency as a control method for corruption crimes can be increased.

참고자료

· 없음