의사도 속이는 AI 위조 진단서…AI 잡는 AI 관심 ↑

최근 생성형 AI(인공지능)를 활용한 보험사기 수법이 빠르게 고도화되면서 보험업 전반의 리스크가 커질 수 있다는 우려가 나온다. AI를 활용한 대응 시스템 구축 등 소비자 신뢰를 제고하기 위한 방안을 강구해야 한다는 목소리도 커지고 있다.
29일 금융감독원에 따르면 AI를 악용한 위·변조 진단서 및 진료비 영수증을 통한 보험사기 수법이 최근 기승을 부리고 있다. 지난해 말에는 챗지피티(GPT)로 거짓 병원 진단서를 만들어 실손보험금을 청구해 1년간 1억5000만원을 탈취한 사례가 처음 접수되기도 했다.

이같은 신종 수법 증가로 지난해 보험사기 적발금액은 1조1571억원으로 전년 대비 0.6% 증가했다. 이 기간 적발인원은 3.0% 감소했지만 개별 사건마다 피해규모가 커지는 '고액화' 현상이 나타나는 것이다.


AI를 통한 위·변조 진단서는 최근 전문가들의 눈마저 속이고 있다. 미국 뉴욕 소재 마운트사이나이 아이칸 의대의 한 연구팀이 지난달 의학학술지 '방사선의학'에 게재한 연구 결과가 이를 입증한다.

연구에 따르면 6개국 영상 전문의 17명 중 실제 환자의 'X-ray'(X-선) 사진과 AI로 생성한 가짜 이미지를 구별해낸 사람은 7명에 불과했다. AI 이미지가 포함된 사실을 알려준 뒤에도 진위를 정확하게 구별한 비율 역시 75% 수준이었다.
해외에서도 경고음이 들리고 있다. 영국 BBC방송에 따르면 현지 대형 보험사 어드미럴(Admiral)은 지난해 AI를 악용한 보험사기 적발 건수가 전년 대비 71% 증가했다고 전했다. 특히 차량에 있는 가벼운 스크래치를 AI 기술로 정교하게 편집해 심각한 파손으로 위장한 사례도 있었다.
최근 보헙업계는 사진·영상 등 디지털 자료 기반의 보험금 청구 자동화 시스템을 도입하고 있다. 이 때문에 국내에서도 AI를 활용한 보험사기 리스크가 더 커지고 있다는 분석이 나온다.

금융권 관계자는 "오늘날의 보험사기는 개인의 일탈을 넘어 고도화된 기술 기반의 지능형 범죄로 진화하고 있다"며 "이같은 신종 수법에 대응하지 못하면 불필요한 보험금 누수와 더불어 보험업 신뢰 자체가 흔들릴 수도 있다"고 설명했다.
"AI 딥페이크 이미지 검증체계 강화해야"…소비자 신뢰 강화보험개발원은 전날 보고서를 통해 보험금 청구에 사용되는 진단서의 출처 및 생성 이력을 확인할 수 있는 검증·데이터 공유 체계 도입을 제안했다. 워터마크 삽입, 전자서명, 블록체인 기반 인증 등을 통해 자료 신뢰성을 확보해야 한다는 설명이다.


AI 생성 이미지를 정확하게 식별하기 위한 특화 모델 개발 필요성도 언급했다. 이를 위해 각 보험사는 자사 AI 모델에 딥페이크와 실제 이미지 데이터를 반복 학습시키는 등 노력이 필요하다는 것이다.

보험개발원은 "금융당국과 경찰청이 올해 특별신고 및 포상기간과 보험사기 특별단속을 운영하며 대응방안을 마련하고 있다"며 "기존 심사체계만으론 딥페이크를 걸러내기 어려운 만큼 보험업계는 여러 대응방안을 모색해 소비자 신뢰를 유지해야 한다"고 전했다.

금융당국 관계자는 "유관기관과 공조를 지속해 위·변조 진단서를 악용한 보험사기 적발에 힘쓸 것"이라며 "향후 주요 적발 사례를 공개하는 등 사전 예방을 위한 노력을 지속할 것"이라고 말했다.