데이터양이 증가하고 이를 처리하는 AI(artificial intelligence, 인공지능)가 발달하면서 알고리즘 원리에 대한 공개 여론이 생겨나고 있습니다. 4차 산업혁명으로 새롭게 등장한 설명을 요구할 권리에 대해 소개합니다!
# 설명을 요구할 권리는 무엇일까요?
설명을 요구할 권리(Right to Explanation)란 정보 주체가 자동화된 의사 결정 알고리즘에 대해 그 작동 원리를 설명하도록 요구할 수 있는 권리입니다. 이 권리가 보장된다면 이용자들이 공정성, 객관성에 의문이 들 때 기업, 공공기관 등에게 알고리즘을 공개할 것을 요구할 수 있는 것이죠. 이 개념은 2018년 5월 시행될 유럽연합(EU)의 개인 정보 보호 규정인 GDPR(General Data Protection Regulation)과도 연결돼 있습니다. 설명을 요구할 권리라는 용어가 명시되어 있지 않지만, 알고리즘 규제에 대한 내용을 담고 있기 때문입니다.
여기서 알고리즘이란 컴퓨터, 인공지능 등이 데이터를 처리하는 규칙을 말합니다. 컴퓨터가 자동으로 데이터를 분석하고 의사결정을 내리는 알고리즘은 오늘날 다양한 분야에서 활용되고 있습니다. 검색 기록과 유저 특성에 기반을 둔 온라인 광고 추천, 관심 뉴스 편집 서비스, 신입사원 서류 심사 등 여러 가지 예가 있습니다.
설명을 요구할 권리가 처음 등장한 논문에 따르면 이 권리가 보장될 시 사용자들은 첫째, 알고리즘에 의해 행해진 결정에 대해 질문하고 반박할 수 있습니다. 둘째로 데이터를 다루는 사람은 개인에게 언제, 왜 데이터를 모으고 처리하는지 알려야 하며 셋째로 사용자는 개인의 권리행사를 위해 투명하게 공개된 정보, 쉬운 의사소통을 요구할 수 있습니다.
# 설명할 요구할 권리는 왜 등장했을까요?
최근 알고리즘이 객관적이지 않다는 비판과 사례가 늘어나며 설명을 요구할 권리에 대한 논의가 대두됐습니다. 특정 인종에게 상대적으로 저렴한 상품을 추천하거나 관심 뉴스 편집 서비스의 토픽을 조작하는 등 신뢰성에 의문을 제기할 일이 발생했기 때문이죠. 사용자들이 스스로 알고리즘 객관성과 공정성을 확인할 수 있어야 한다는 ‘설명을 요구할 권리’ 논쟁은 2016년 유럽에서 시작해 계속 이어지고 있습니다.
# 알고리즘을 공개하라!
설명을 요구할 권리를 지지자는 알고리즘 공개를 요구하는데요. 찬성 측의 근거는 크게 두 가지입니다. 첫째, 권리가 보장되면 알고리즘 공정성 문제를 해결할 수 있습니다. 알고리즘의 편향성과 조작에 대해 문제가 제기되면 공개를 통한 감시로 공정성과 객관성을 유지할 수 있습니다.
둘째, 사용자의 정보 통제 가능성이 증가한다는 것입니다. 사용자들은 정보를 제공하는 주체지만 그 데이터를 이용해 컴퓨터가 어떻게 자신에 대한 의사결정을 내리는지 알지 못합니다. 사람들이 정보 통제 가능성을 얻고자 노력한 결과, 보험회사의 설명의무, 식품 성분 표시제 등이 법제화된 것처럼 4차 산업혁명 시대에 설명을 요구할 권리를 통해 정보 통제 가능성을 얻을 수 있습니다.
# 알고리즘 공개는 어불성설!
설명을 요구할 권리를 반대하는 사람들은 알고리즘 공개가 비효율적이며, 불가능하다고 주장합니다. 첫 번째 논리는 알고리즘 공개와 규제가 기술 발전과 기업 혁신의 걸림돌이 된다는 것입니다. 오늘날 4차 산업혁명 시대에 알고리즘은 기업의 경쟁력이자 핵심 미래 기술의 원천인데, 이를 일일이 공개하고 규제하기 시작하면 인공지능 기술 발전 속도가 저해된다는 의견입니다.
두 번째는 알고리즘에는 설명 자체가 불가능한 블랙박스 영역이 존재한다는 것입니다. 인공지능 기술인 머신 러닝, 딥러닝 등이 크게 발전하면서 알고리즘을 설계한 개발자조차 알고리즘을 100% 이해하기란 어렵습니다. 구글의 알파고가 이세돌 9단과의 바둑 대결에서 왜 그 자리에 바둑돌을 놓았는지 정확히 설명을 할 수 없는 것처럼 말이죠.
알고리즘 공개를 통한 설명을 요구할 권리. 정보 제공자의 당연한 권리인지, 기업 혁신의 걸림돌이 될지 그 귀추가 주목되는데요. 여러분들의 생각은 어떤가요?
