뉴스
금융권 민원 부추기는 AI…인용한 판례도 허위·조작 | 중앙일보
LegalCrew
관리자
2026-06-22 10:17 ·조회수 5회
0
0
📎 출처: 중앙일보원문 보기 →
보험사와 계약 관련 분쟁을 겪던 A씨는 인공지능(AI)의 도움을 받아 올해 초 금융감독원에 민원을 넣었다. 보험사가 계약 일부 내용을 변경한 뒤 설명·고지의 의무를 다해 보험금을 줄 수 없다고 주장한 반면, A씨는 설명을 들었더라도 해당 내용을 제대로 인지하거나 동의한 적이 없다며 맞섰다. AI가 금감원 민원 제기를 권유한 것은 물론, 유사 판례와 분쟁조정 사례를 근거로 민원 신청서 초안까지 작성해줬다. 결과는 A씨의 예상과 달랐다. 금감원 검토 과정에서 민원서에 인용된 일부 판례와 분쟁조정 사례가 실제 존재하지 않는 것으로 확인됐다. AI가 거짓을 사실처럼 꾸며내는 ‘환각 현상’이 만들어낸 허위 정보였다. A씨의 민원은 결국 받아들여지지 않았다.
금융권이 생성형 AI 확산으로 ‘민원 몸살’을 앓고 있다. AI가 이용자에게 금감원이나 관련 협회 등에 민원을 넣으라고 제안하고, 약관과 판례까지 조작한 민원서를 작성해주면서다.
21일 국민권익위원회 민원 빅데이터에 따르면, 올해 1~5월 권익위를 통해 금감원에 접수된 민원은 2만1054건으로 집계됐다. 지난해 같은 기간 1만6215건보다 29.8% 증가한 수치다. 특히 지난 3월 민원 접수 건수는 4916건으로 월별 기준 역대 최고치를 기록했다. 4월(4668건)과 5월(3853건)에도 이전 수준보다 20~30% 많은 민원이 들어왔다. 이는 권익위를 경유해 금감원에 접수된 민원을 한정해 집계한 것이다. 금융회사를 통하거나 금감원에 직접 접수되는 건까지 감안하면 실제 민원 증가세는 훨씬 가파를 것이라고 금융권에서는 판단하고 있다.
금융권에서는 이 같은 ‘민원 쓰나미’의 주요 원인 중 하나로 생성형 AI를 꼽고 있다. 금융권 관계자는 “AI 의존도가 높아지면서 문제 해결 방법 자체를 AI에 묻는 경우가 많아졌는데, 상당수가 당국에 민원 제기를 권유하는 방향으로 답변하는 것이 영향을 미치는 것 같다”며 “특히 AI는 구독료를 내는 이용자에게 일방적으로 유리하게 설명하는 경우가 많아 대응에 어려움이 크다”고 설명했다.
민원 심사를 담당하는 금융권 관계자들에 따르면, AI가 작성한 민원서는 대개 10쪽 안팎으로 길고, 특정 표현이나 키워드가 반복되거나 AI 특유의 문체가 나타나는 경우가 많다. 사용된 AI와 참고 자료가 비슷하다 보니 여러 민원 내용이 서로 판박이처럼 유사한 경우도 적지 않다는 설명이다.
더 심각한 문제는 AI의 환각 현상이다. 실제 존재하지 않는 약관 조항이나 대법원 판례, 분쟁조정 사례를 AI가 사실처럼 생성해 민원서에 포함시키는 경우가 적지 않다. 금융당국 관계자는 “판례와 분쟁조정례라며 사건번호까지 진짜처럼 그럴듯하게 조작된 사례를 첨부해오는 경우도 많다”며 “허위 정보라는 점을 설명해도 민원인이 AI 답변을 더 신뢰하는 경우가 있어 당국의 민원 대응 부담도 커지고 있다”고 말했다.
금감원이 지난달 20일 금융회사들에 민원·분쟁 발생 현황과 자체 감축 계획 제출을 요청한 것도 이 같은 배경에서다. 홍성걸 국민대 행정학과 교수는 “기술 발전 과정에서 불가피하게 발생하는 측면이 있지만, 과도한 민원 증가로 인해 정작 당국의 도움이 절실한 민원인이 제때 지원을 받지 못하는 부작용이 생길 수 있다”며 “AI 도움을 받아 작성한 민원이라는 점을 표시하도록 하는 등 제도를 보다 정교하게 설계해 부작용을 최소화할 필요가 있다”고 덧붙였다. [출처:중앙일보] https://www.joongang.co.kr/article/25438591
금융권이 생성형 AI 확산으로 ‘민원 몸살’을 앓고 있다. AI가 이용자에게 금감원이나 관련 협회 등에 민원을 넣으라고 제안하고, 약관과 판례까지 조작한 민원서를 작성해주면서다.
21일 국민권익위원회 민원 빅데이터에 따르면, 올해 1~5월 권익위를 통해 금감원에 접수된 민원은 2만1054건으로 집계됐다. 지난해 같은 기간 1만6215건보다 29.8% 증가한 수치다. 특히 지난 3월 민원 접수 건수는 4916건으로 월별 기준 역대 최고치를 기록했다. 4월(4668건)과 5월(3853건)에도 이전 수준보다 20~30% 많은 민원이 들어왔다. 이는 권익위를 경유해 금감원에 접수된 민원을 한정해 집계한 것이다. 금융회사를 통하거나 금감원에 직접 접수되는 건까지 감안하면 실제 민원 증가세는 훨씬 가파를 것이라고 금융권에서는 판단하고 있다.
금융권에서는 이 같은 ‘민원 쓰나미’의 주요 원인 중 하나로 생성형 AI를 꼽고 있다. 금융권 관계자는 “AI 의존도가 높아지면서 문제 해결 방법 자체를 AI에 묻는 경우가 많아졌는데, 상당수가 당국에 민원 제기를 권유하는 방향으로 답변하는 것이 영향을 미치는 것 같다”며 “특히 AI는 구독료를 내는 이용자에게 일방적으로 유리하게 설명하는 경우가 많아 대응에 어려움이 크다”고 설명했다.
민원 심사를 담당하는 금융권 관계자들에 따르면, AI가 작성한 민원서는 대개 10쪽 안팎으로 길고, 특정 표현이나 키워드가 반복되거나 AI 특유의 문체가 나타나는 경우가 많다. 사용된 AI와 참고 자료가 비슷하다 보니 여러 민원 내용이 서로 판박이처럼 유사한 경우도 적지 않다는 설명이다.
더 심각한 문제는 AI의 환각 현상이다. 실제 존재하지 않는 약관 조항이나 대법원 판례, 분쟁조정 사례를 AI가 사실처럼 생성해 민원서에 포함시키는 경우가 적지 않다. 금융당국 관계자는 “판례와 분쟁조정례라며 사건번호까지 진짜처럼 그럴듯하게 조작된 사례를 첨부해오는 경우도 많다”며 “허위 정보라는 점을 설명해도 민원인이 AI 답변을 더 신뢰하는 경우가 있어 당국의 민원 대응 부담도 커지고 있다”고 말했다.
금감원이 지난달 20일 금융회사들에 민원·분쟁 발생 현황과 자체 감축 계획 제출을 요청한 것도 이 같은 배경에서다. 홍성걸 국민대 행정학과 교수는 “기술 발전 과정에서 불가피하게 발생하는 측면이 있지만, 과도한 민원 증가로 인해 정작 당국의 도움이 절실한 민원인이 제때 지원을 받지 못하는 부작용이 생길 수 있다”며 “AI 도움을 받아 작성한 민원이라는 점을 표시하도록 하는 등 제도를 보다 정교하게 설계해 부작용을 최소화할 필요가 있다”고 덧붙였다. [출처:중앙일보] https://www.joongang.co.kr/article/25438591