상황인식 AI 서비스로 살짝 보이는 국민성

일본 전철역판 '마이너리티 리포트'같은 범죄 예측 시스템을 다룬 2021년도 기사입니다. 후속 기사를 검색해 보았는데 찾지 못했습니다.

 

일본, 범죄로부터 전철 내 안전 어떻게 지키나

https://news.kbs.co.kr/news/view.do?ncd=5357581

 

AI로 영상을 분석하여 일반적인 심리 상태인 사람은 녹색으로 표시하는데, 공격성이나 긴장이 높아지면 붉은 색으로 표시한다고 합니다. 범행 전 영상을 분석해 봤더니 경찰 앞을 지나갈 때 붉은 색으로 바뀌었습니다. 범죄가 아닌 다른 일로 긴장을 했다 해도 붉은 색이 나올 듯합니다. 정확도가 얼마나 될까요? 사람이 긴장을 하는지 여부는 일종의 정답지가 있는 데이터가 분명히 있습니다만, 그것만 가지고 범죄 의도를 의심하기에는 불충분해 보입니다. 경찰이 확인 가능할 정도의 빈도로 붉은 색 경고가 나온다면 범죄 예방 면에서는 효과가 있긴 하겠습니다.

영장 없이 검문, 검색이 가능하려면 법제 관련 준비도 필요하겠습니다. 한국은 테러방지법이 관련법이 될까요? 뉴스를 잠깐 본 정도로는 사생활이 크게 침해를 받는다는 느낌이 들지는 않습니다. 그렇다 하더라도 자칫하면 비판을 많이 받을지도 모를 텐데 최근 현황은 어떤 지 궁금합니다.

범죄를 예방하는 인공지능 솔루션 분야에는 다양한 시도가 나왔습니다.

• ETRI, 범죄 예방하는 인공지능 기술 공개
  • https://www.dongascience.com/news.php?idx=44991
  • http://www.safetimes.co.kr/news/articleView.html?idxno=93386
• 범죄 예방 vs. 사생활 침해 - 하늘 그물 <Skynet>은 정말 악인만 잡아낼까?
  http://dbr.donga.com/article/view/1206/article_no/9364/ac/magazine
• 일본, AI 이용해 범죄 피해 예방
  https://news.kbs.co.kr/news/view.do?ncd=4332710

잠깐 살펴봐도 저 정도는 나오는군요. 주로 안면인식 AI 기술로 CCTV 영상을 실시간으로 분석하여 범죄자(전과자, 수배자)를 검출하는 방식이 많습니다. 일본은 은행의 현금인출기 이용객을 CCTV로 보아 보이스피싱을 당하는 피해자인지 추론하는 형태입니다. 신원정보를 활용하지 않고 행동으로 추론하는 방식입니다. 역시나 미야베 미유키 작가의 소설 '화차'(https://g.co/kgs/YLpLpW)에서 나왔듯이, 다른 곳으로 이사만 가도 신원을 위장할 수 있는 일본답습니다. 대체 얼마나 효과가 있을지 궁금합니다만, 개인정보를 활용하지 않는 방식으로서 잘 됐으면 좋겠습니다. 신원을 특정하든 하지 않든 CCTV 영상을 인공지능으로 지켜본다는 게 꺼림칙합니다만, 시민단체나 NGO가 오남용을 잘 감시할 수 있는 체계만 갖춰진다면 계속 발전해 나가도 좋겠다 싶습니다.

 

걱정스러운 사례는 미국에 있었습니다. Algorithm claims to predict crime in U.S. cities before it happens (https://www.japantimes.co.jp/news/2022/07/04/world/crime-legal-world/algorithm-predict-crime-us/) 시카고를 1,000 평방 피트 격자로 나눈 지역 별로 범죄 발생을 예측하겠다는 연구였습니다. 아이스크림이 많이 팔리면 상어에게 해를 입는 사람이 증가한다는 식으로 상관관계와 인과관계를 혼동한 결과가 나오지 않기를 바랍니다. 기사에 따르면 이전에도 범죄 예측 모델이 있었고 불법 총기 소지나 중범죄 예측결과는 형편없이 나빴다고 합니다.

 

인공지능 기술이 나빠서라기보다는 학습 데이터에 편향이 많았을 거라 추측합니다. 칼부림하는 백인은 어떻게든 생포하려고 애쓰면서 주머니에 손 넣고 지나가는 흑인은 총으로 쏴버리는 미국 경찰'들'에 대한 뉴스를 꽤 많이 보았기 때문입니다.  인공지능에게 쓰레기를 넣으면 쓰레기가 나옵니다. 대체로 인간이 나쁩니다. 인공지능을 탓할 게 아닌 때가 태반입니다.