누구를 위한 디지털 전환인가?
자동화된 복지행정의 위험성
홍승헌, 황하
인공지능 등 신기술에 기반한 행정서비스의 급속한 도입은 기회와 위기를 동시에 가져오고 있다. 한편으로는 과도한 자원과 인력이 소모되던 방대한 데이터의 수집과 처리, 사각지대의 발굴, 보다 과학적인 의사결정 보조, 고객친화적인 서비스 경험 등을 가능케하면서 정책 및 행정서비스 과정을 보다 효율적⋅효과적으로 만들고 있는 반면, 수집한 개인정보의 처리, 알고리즘 편중(bias)의 문제, 사이버보안과 같은 문제들을 양산하고 있다. 본 논문은 인공지능 기반 행정서비스가 인간에 미칠 수 있는 위험성에 주목하여, 이를 해결하기 위해 인공지능을 설계하고 도입하는 과정에서 어떠한 인간개입이 필요한지를 논한다. 자동화된 복지행정서비스가 사회적 약자인 복지수급자들에게 악영향을 끼친 대표적 사례인 호주의 로보데트 스캔들에 초점을 맞춰서, 인공지능 기반 행정서비스에 내재된 다양한 위험성(risk)에 대해 논의한 후, 이에 대처하기 위하여 인공지능 시스템 설계시 구비해야 할 조건으로 인간의 3중 개입(triple-loop human intervention)을 제시한다. 주제어: 디지털 전환, 복지행정, 인공지능, 로보데트, 인간개입 |
Digital Transformation for Whom?
Risks of Automated Welfare Services
Seung-Hun Hong & Ha Hwang
The rapid adoption of public services based on emerging technologies such as artificial intelligence is bringing both opportunities and risks. On the one hand, it makes public service processes more efficient and effective by enabling the collection and processing of vast amounts of data known to consume excessive resources and manpower in the past. It also enables the identification of blind spots, more scientific decision support, and customer-friendly service experiences. On the other hand, it raises challenges such as handling of private information, algorithmic bias, and cybersecurity. This paper focuses on risks that AI-based public services might pose to humans and discusses how human intervention is needed in the process of designing and introducing such services. Focusing on the Robodebt scandal in Australia, a representative case where automated welfare services adversely affect socially vulnerable welfare recipients, this paper discusses various risks inherent in AI-based public services and proposes triple-loop human intervention as a condition for AI system design. ※Keywords: Digital transformation, Welfare services, Artificial intelligence, Robodebt, Tirple-loop human intervention |