이번 개정안은 인공지능 기술이 빠르게 확산되며 국민 일상 전반에 깊숙이 자리 잡은 상황에서 AI에 의해 생성되거나 작동되는 결정이 개인에게 중대한 영향을 미치고 있음에도 그 기준과 결과에 대한 설명조차 받기 어려운 구조를 개선하기 위해 추진됐다. 허위 기만 콘텐츠와 딥페이크 음란물 등 AI 기반 부작용이 이미 사회문제로 대두된 가운데 이용자 피해를 실효적으로 보호할 제도적 장치가 필요하다는 판단이 반영됐다.

개정안의 핵심은 세 가지다. 첫째 고영향 인공지능으로 인해 개인의 권리나 의무에 중대한 영향을 받는 경우 AI 사업자에게 결과에 대한 설명을 요구할 수 있는 ‘설명요구권’을 법적으로 보장했다. AI 사업자는 정당한 사유가 없는 한 이용자가 요구한 설명을 제공해야 하며 결과 도출 기준과 절차 데이터 활용 개요 등을 이용자가 쉽게 열람할 수 있도록 해야 한다. 이를 통해 블랙박스화된 알고리즘에 대한 국민의 접근권을 강화하고 책임 있는 AI 운영을 유도한다는 취지다.

둘째 인공지능 사업자의 이용자 보호 업무를 정부가 평가하고 그 결과를 공개할 수 있도록 하는 ‘이용자 보호 평가제’를 도입했다. AI 서비스 제공자가 피해 예방과 민원 처리에 성실히 임하도록 유도하고 공적 감시 아래 자율적인 개선을 이끌어내기 위한 제도다.

셋째 AI 관련 이용자 피해 발생 시 신속하고 실질적인 해결을 도모하기 위해 ‘인공지능 분쟁조정위원회’ 설치를 명문화했다. 분쟁조정위원회는 원상회복과 손해배상 등의 조정안을 제시할 수 있으며 당사자가 이를 수락할 경우 재판상 화해와 같은 효력을 갖게 된다.

이번 입법은 국회 과방위에서 2024년부터 지속적으로 논의돼 온 과제이기도 하다. 방송미디어통신위원회 초대 위원장 후보자로 지명된 김종철 후보자 역시 최근 인사청문회 서면답변에서 ‘AI 서비스 일상화로 인한 허위 기만 콘텐츠와 딥페이크 음란물 등 권익 침해를 예방하기 위한 정책의 시급성에 공감한다’며 ‘AI 서비스 이용자보호법과 온라인 서비스 이용자보호법 등을 포괄적으로 검토해 효과적인 입법 방안을 마련할 필요가 있다’고 밝혔다.

최민희 의원은 ‘인공지능 기술 발전으로 인한 피해는 결국 사람에게 귀속된다’며 ‘AI 기술이 사람을 위한 것이 되도록 이용자 권리를 중심에 두고 제도를 설계해야 한다’고 강조했다. 이어 ‘정부가 추진 중인 AI 3강 전략이 기술 경쟁력 확보에 집중되고 있는 만큼 국회는 이에 걸맞은 이용자 중심의 신뢰 기반 구축에 힘써야 한다’고 밝혔다.