세금 신고 마감일이 30일로 다가온 가운데, 최근 인공지능(AI) 확산 속에서 캐나다인들 사이에서는 Canada Revenue Agency(CRA)가 세금 심사에 AI를 활용하는지에 대한 관심이 커지고 있다.

이 같은 관심은 세무업체 H&R Block이 이달 초 발표한 보고서와 맞물려 더욱 증폭됐다. 보고서에 따르면 캐나다인의 56%는 AI를 활용한 세금 신고에 대해 불편함을 느끼고 있으며, 90%는 민감한 금융 정보를 공개형 AI 도구에 입력하는 데 따른 보안 위험을 우려하는 것으로 나타났다.

미국은 확대, 캐나다는 신중…AI 인식도 낮아

미국 국세청인 Internal Revenue Service(IRS)는 최근 AI 활용을 확대하고 있다. 그러나 지난달 Government Accountability Office 보고서는 IRS가 2025년 인력의 20%를 잃으면서 AI 개발·운용 역량에 대한 우려를 제기했다.

특히 AI 도입을 담당하는 연구·분석 부서는 같은 해 63명의 인력을 잃었다. 현재 IRS는 음성봇과 챗봇을 통해 납세자가 환급 상태, 미납금, 납부 계획 등을 확인할 수 있도록 지원하고 있다.

한편 지난해 6월 발표된 Ipsos의 30개국 조사에 따르면 캐나다는 AI 제품과 서비스에 대한 기대감이 가장 낮은 국가로 나타났다. 캐나다인의 31%만이 AI에 긍정적 반응을 보였고, 3분의 2는 불안감을 느낀다고 답해 조사 대상국 중 높은 수준의 우려를 나타냈다.

“세금은 개인별 상황 달라…AI 한계 명확”

H&R 블록의 세무 전문가 야닉 르메이는 공개형 AI 도구의 한계를 지적했다. 그는 “기업 내부에서만 사용되는 폐쇄형 AI와 달리, 공개형 AI는 개인정보 입력 시 위험성과 한계를 동시에 지닌다”고 설명했다.

특히 ChatGPT와 같은 도구는 수백 가지 세액공제와 혜택의 지속적인 변화까지 반영하도록 학습돼 있지 않다는 점을 강조했다.

르메이는 “캐나다인의 세금 상황은 매우 다양하며, AI는 이러한 개별 상황을 충분히 반영하지 못할 수 있다”며 “잘못된 조언으로 인해 환급을 제대로 받지 못하는 결과로 이어질 수 있다”고 밝혔다.

CRA “개인 세금 판단은 여전히 사람이 담당”

CRA는 AI를 효율성 향상을 위한 보조 수단으로 ‘책임 있게 탐색 중’이라고 밝혔다. 다만 개인 세금과 관련된 결정에는 AI를 사용하지 않는다는 점을 분명히 했다.

CRA 대변인은 “모든 개인 세금 신고와 파일은 여전히 사람의 감독 아래 검토 및 처리된다”며 “AI는 개인 세금 상황에 대한 결정을 내리는 데 사용되지 않는다”고 설명했다.

현재 CRA는 총 19개의 AI 시스템을 운영하고 있으며, 이 가운데에는 생성형 AI 기반 챗봇도 포함돼 있다. 해당 챗봇은 고객 서비스 현대화의 일환으로 도입됐으며, 24시간 연중무휴로 일반적인 정보를 제공한다.

내부 업무 중심 활용…개인정보 입력은 금지

CRA에 따르면 챗봇은 일반 정보 제공에만 사용되며, 개인 세금 파일 처리나 개별 상황 상담은 담당하지 않는다. AI는 문서 분류, 자료 정리 등 내부 업무와 ‘기업 기능’에도 활용되고 있다.

또한 직원들은 내부 생성형 AI 모델을 활용해 문서 작성 및 요약을 수행하고, 개발자들은 코딩 보조 도구로 AI를 사용하고 있다.

연방정부 지침에 따라 모든 공공기관은 AI 사용에 엄격한 규제를 받는다. 특히 공무원이 공개형 AI 도구에 개인 정보를 입력하는 것은 명확히 금지돼 있다. 이는 모든 개인정보가 Privacy Act의 보호를 받기 때문이다.

정부 부처가 AI를 도입하거나 개발·운용할 경우 반드시 개인정보 보호 담당자와 협의해야 하며, 자동화 의사결정 지침에 따라 ‘알고리즘 영향 평가’를 수행해 관련 기준 준수 여부를 검증해야 한다.