인공지능 거버넌스에서 신뢰 개념에 대한 고찰 및 정책 유형화 연구 (A Conceptual Framework for the Trust in Artificial Intelligence in AI Governance and Policy Typology)

서지정보

· 발행기관 : 서울대학교 법학연구소
· 수록지 정보 : 경제규제와 법 / 17권 / 2호 / 30 ~ 50페이지
· 저자명 : 우지숙, 김수지

초록

인공지능이 급속히 확산되면서 인공지능을 수용할 수 있는 전제 조건으로서 인공지능 신뢰를 촉진하기 위한 정책적노력이 구체화되고 있다. 그러나 인공지능 신뢰가 무엇을의미하는지, 신뢰와 위험(risk)의 관계는 무엇인지, 신뢰는어떤 과정을 거쳐 형성되는지, 이를 촉진하기 위해 정책은어떤 역할을 수행해야 하는지 여전히 불분명하다. 본 연구는 이론적, 개념적 검토를 통해 신뢰는 위험이 존재하지 않는 상태에서 나타나는 것이 아니라 위험의 존재에도 ‘불구하고’ 그로 인해 취약해지는 것을 감수하려는 태도와 의지이며, 이러한 신뢰의 형성 과정에는 인공지능 신뢰성에 대한 이용자의 평가가 큰 영향을 미치지만, 신뢰성이 곧바로신뢰로 연결되는 것은 아니라는 점에서 신뢰의 형성은 복잡하고 능동적인 과정임을 강조하였다. 또한 본 연구는 인공지능 신뢰에 대한 접근방법을 ‘위험 축소형’과 ‘신뢰성 향상형’으로 나누고, 인공지능 신뢰 정책을 강화, 준수, 설명, 참여의 네 유형으로 분류하였다. 강화 정책과 준수 정책은 위험 축소 접근에 근거한 것으로서 인공지능의 위험 수준을줄이기 위한 기술적 조치들에 집중하거나(강화), 기업의 인공지능 개발 과정에서 발생할 수 있는 위험 요소를 제거하고자 한다(준수). 설명 정책과 참여 정책은 신뢰성 향상 접근방법에 근거하여 인공지능의 신뢰성을 평가하고 개선하는과정에 초점을 맞추며, 인공지능 기술의 신뢰성과 관련된정보를 이용자에게 제공하도록 독려하거나(설명), 이용자가인공지능 기업의 신뢰성을 평가하고 인공지능의 신뢰성에영향을 미칠 수 있는 의사결정 과정에 참여할 수 있는 환경을 조성하고자 한다(참여). 신뢰의 개념적 틀에 대한 고찰과인공지능 신뢰 정책의 유형화에 관한 본 연구는 인공지능신뢰 정책이 인공지능의 위험을 축소하기 위한 노력뿐 아니라 이용자가 인공지능 기술과 기업의 신뢰성을 적극적으로평가하고 관련 의사결정 과정에 참여할 수 있는 환경을 마련하는 데 초점을 맞출 필요가 있다는 점을 시사한다.

영어초록

As artificial intelligence (AI) becomes increasingly prevalent, policy efforts to foster trust in AI as a prerequisite for its acceptance are emerging. However, critical questions remain unanswered regarding the precise definition of trust in AI, its formation process, and the potential role of policy intervention in fostering such trust. Through a theoretical and conceptual review, this study defines trust in AI as “a state in which users accept the risk of being vulnerable to AI based on a comprehensive assessment of the trustworthiness of the AI technologies and AI companies.” This study also divides approaches to AI trust into "risk-reducing" and "trustworthiness-building" and divides the object of users’ trust into AI technologies and AI companies, and finally categorizes AI trust policies into four types: enhanced, complying, explanatory, and participatory.
The enhanced policy and complying policy are based on the risk-reducing approach, focusing on technical measures to reduce the risk level of artificial intelligence(enhanced), or aiming to eliminate risk factors that may arise during the AI development process in companies(complying). The explanatory policy and participatory policy are based on the trustworthiness-building approach, focusing on evaluating and improving the trustworthiness of AI, encouraging the provision of information related to the trustworthiness of AI technologies to users(explanatory), or creating an environment where users can assess the trustworthiness of AI companies and participate in decision-making processes(participatory). Through a study of the conceptual framework of trust and a typology of AI trust policies, this study highlights the need for AI trust policies to focus on creating an environment where users can actively evaluate the trustworthiness of AI technologies and companies and participate in the decision-making process, alongside efforts to reduce the risks of AI.

참고자료

· 없음