인공지능 기반 반부패 도구(AI-ACT)의 헌법원리 적합성에 관한 고찰 (A study on the constitutional suitability of artificial intelligence-based anti-corruption tools(AI-ACT))

서지정보

· 발행기관 : 한국부패학회
· 수록지 정보 : 한국부패학회보 / 27권 / 1호 / 5 ~ 30페이지
· 저자명 : 조한상

초록

헌법의 기본원리 중 핵심은 민주주의와 법치주의이며, 이것은 근대 입헌적 민주주의에 대한 헌법재판소의 설명과 같은 맥락이다. 양자의 관계는 역설적 공존의 관계, 상호 감염의 관계로 이해하는 것이 타당하다. 반부패가 헌법의 기본원리에 반한다면, 헌법의 기본원리에 대한 내적 붕괴를 불러오고, 더 큰 부패를 초래할 수 있다. 이 때문에 AI를 활용한 새로운 반부패 수단, 이른바 AI-ACT 역시 헌법의 기본원리와 관련하여 적합한지, 혹시 헌법의 기본원리를 파괴할 잠재적 위험성은 없는지 검토할 필요가 있다.
현재 시점에서 AI-ACT는 약한 AI를 기반으로 만들어진 부패 방지 도구로서, 대규모 데이터 세트를 선별하고, 이를 분석하여 부패의 위험, 의심, 명백한 사례 등을 탐지, 예측 및 보고하는 시스템이다. AI-ACT는 상향식과 하향식으로 나눌 수 있는데, 전자는 언론인, 시민사회 그리고 일반 시민이 주체가 되는, 후자는 수사기관이나 감사 담당자 등이 주체가 되는 반부패 도구다. AI-ACT의 기본구조는 데이터 입력, 알고리즘 디자인, 제도 채택 여부 결정의 세 단계로 그려볼 수 있다.
AI-ACT는 민주주의와 법치주의에 심각한 위협 또는 그러한 위협으로 향하는 미끄러운 경사면이 될 수 있다. 데이터와 알고리즘의 편향성은 특정 인물 또는 집단에 대한 혐오・차별・배제로 귀결될 수 있으며, 이것이 미디어 알고리즘을 통해 무차별 또는 선택적으로 유포된다면 정치적 양극화와 포퓰리즘의 멋이감이 될 수 있다. 포퓰리즘은 국민의 열정을 동원한다는 점에서 외관상 민주적으로 보이지만, 전체주의를 조장하여 민주주의를 파괴하는 결과를 초래한다. 동시에 이것은 권력의 집중과 독재를 의미하며, 이는 권력의 과도한 확장의 경계를 본질로 하는 법치주의에 대한 위협을 의미한다. AI-ACT가 치안・수사 등 목적으로 부패한 공직자에서 일반 국민으로 칼날을 돌린다면, 법치주의가 무너진 총체적 감시사회의 서막이 열릴 수 있다.
문제 해결의 첫 단계는 AI-ACT의 투명성 확보다. 투명성이 확보되어야 비로소 책임성을 담보하고, 편향성을 교정하고, 통제 가능성을 획득할 수 있을 것이다. 이를 위해 첫 번째, 부패방지법에 유럽일반정보보호법의 개입권과 여타의 주체, 절차, 제재에 관한 기본 규정을 두는 등 법적 보완이 필요하며, 두 번째 AI를 검증하는 AI를 개발하여 AI 간의 견제와 균형을 모색하는 기술적 보완이 필요하고, 세 번째는 편리성과 객관성의 환상에 경도되지 말고 적절한 비판적 자세를 유지하는 사회적 보완이 필요함을 강조하였다.

영어초록

The core of the basic principles of the Constitution is democracy and constitutionalism. It is reasonable to understand the relationship between the two as a paradoxical relationship of coexistence and a relationship of mutual infection. If anti-corruption is contrary to the basic principles of the Constitution, it can lead to an internal collapse of the basic principles of the Constitution and lead to greater corruption. For this reason, it is necessary to examine whether the so-called AI-ACT is appropriate in relation to the basic principles of the Constitution and whether there is a potential risk of destroying the basic principles of the Constitution.
AI-ACT is a system that selects and analyzes large datasets to detect, predict, and report risks, suspicions, and obvious cases of corruption. AI-ACT can be divided into bottom-up and top-down, the former being the subject of journalists, civil society, and ordinary citizens, and the latter being an anti-corruption tool led by investigative agencies and auditors. The basic structure of AI-ACT can be drawn in three stages: data input, algorithm design, and system adoption decision.
AI-ACT can be a serious threat to democracy and constitutionalism or a slippery slope toward such threats. The bias of data and algorithms can result in hatred, discrimination, and exclusion of certain people or groups, and if it is indiscriminately or selectively distributed through media algorithms, it can be a prey of political polarization and populism. Populism seems democratic in appearance in that it mobilizes the passion of the people, but it promotes totalitarianism and results in destruction of democracy. At the same time, this means the concentration of power and dictatorship, which means a threat to the rule of law. If AI-ACT turns the blade from corrupt public officials to the general public for security and investigation purposes, the prelude to the overall surveillance society, where constitutionalism has collapsed, could open.
The first step in problem solving is securing transparency in AI-ACT. Only when transparency is secured will accountability be guaranteed, bias be corrected, and control be obtained. Legal supplementation is needed, such as establishing basic regulations on the right to intervene and other subjects, procedures, and sanctions in the Anti-Corruption Act. Secondly, technical supplementation is needed to seek checks and balances between AI. Third, it emphasized the need for social supplementation to maintain an appropriate critical attitude without falling into the illusion of convenience and objectivity.

참고자료

· 없음