지난 몇 년 간 인공지능 일을 해오면서 인공지능이 디스토피아를 불러오는 원인 중 하나가 될 거라는 두려움이 점점 커지고 있습니다. 아직까지는 상품 추천, 스마트 스피커 정도로 실패해도 어깨를 으쓱하고 넘어가거나, 자율주행처럼 최종적인 책임은 사람에게 두기 때문에 심각하게 걱정할 필요가 없습니다. 물론 일자리 문제가 중요합니다만, 정부 차원에서 얼마든지 과도기를 버티도록 지원할 수 있습니다. 소견으로는, 투표만 잘하면 해소하기가 별로 어려운 일은 아닙니다.
디스토피아를 유발하는 원인 중 하나로 인공지능을 꼽는 이유는 게으르며 식견이 좁은 권력자가 인공지능을 함부로 적용할 가능성이 적지 않기 때문입니다. AGI(Artificial General Intelligence 인공 일반 지능 人工一般知能)를 실현하지 않아도 얼마든지 발생할 만한 일입니다. 이미 도쿄전력이 돈 몇 푼 아끼겠다고 전세계 바다를 방사능으로 오염시키는 판국입니다. 비용 좀 줄이겠다고 독과점 인프라 기업이 무책임하게 인공지능을 끼워 넣어 재앙을 일으킬까 두렵습니다. (참고: 당신이 생각하는 식으로 인류는 절멸하지 않는다 https://wizmusa.tistory.com/1170964384)
역시나 현실 세상은 끔찍한 일이 일어날 가능성을 넘기지 않았습니다. 벌써 성의 없는 정치인에 의해 아주 큰 사고가 났습니다.
이혼당하고 목숨 끊고, 내각은 총사퇴…네덜란드서 AI가 벌인 짓
https://n.news.naver.com/mnews/article/025/0003332045
서유진 중앙일보 2023-12-30
네덜란드 세무당국이 과거 세무 데이터·국적 등 개인정보를 기반으로 인공지능(AI)에 분석을 맡겼고, 이를 토대로 2012~2019년 받은 아동 수당을 환급하라고 수천 가구에 명령했다. 그런데 국정 감사결과 AI 분석에 오류가 있어 정당한 수급자를 부정수급자로 잘못 낙인찍은 사실이 드러났다. 라메사 같은 피해자가 약 2만6000명에 이르렀다.
세상의 어떤 통계학자, 통계학도를 데려와도 저런 식으로 일하지 않습니다. 머신러닝, 딥러닝 모델을 쓴다고 해도 기존 통계 모델을 병용하는 등 이중삼중의 검증을 거칩니다. 네덜란드 정부는 역량이 부족한 기업에게 AI 서비스 개발을 맡겼을까요? 배임입니다. 부정수급자 절대다수가 제1세계 백인 가정이 아닌 결과를 놓고 이상하다고 여기지는 않고 키들대며 조소하기만 했을까요? 이 또한 배임입니다.
피해자가 2만6천 명이 아니라 피해가구가 2만6천 개이며, 가정 파탄까지 맞은 실질적 피해자는 두세 배가 되는 참혹한 행정착오였습니다. 이중국적자나 조부모가 네덜란드인이 아니라는 인종차별적인 알고리듬까지 적용하는 바람에 무려 부정수급자 판단결과에서 무려 94%가 오류였습니다. 이런 결과는 오롯이 '성의 없이' 인공지능을 행정에 도입한 정치인 탓입니다. 2012~2019년 사이에 벌어진 악행이 간신히 밝혀져 2021년에 네덜란드 내각이 총사퇴했다고 해봐야, 자그마치 7년 동안 벌어진 서민들만의 고통에 대한 보상은 커녕 2023년이 되어서도 부당했던 행정조치조차 원복하지 못하는 형국입니다.
이런 와중에 영국 정부는 네덜란드 시민이 고통 받는 모습을 무시하며, 인공지능을 내세워 정치적 생명연장만 꾀하고 있습니다.
"공무원 수 6만6000명 줄여라"…그 자리에 AI 둔다는 英정부
https://n.news.naver.com/mnews/article/025/0003323095
김민정 중앙일보 2023-11-21
영국 정부가 인공지능(AI)을 공공 부문에 도입해 공무원 수를 감축하겠다는 구상을 밝혔다. AI를 보건·행정 업무에 적극적으로 활용해 브렉시트(Brexit·영국의 유럽연합 탈퇴) 이후 팬데믹 등을 겪으면서 비대해진 공무원 조직을 효율화하겠다는 방침이다. 정부는 이를 통해 세금을 아끼고 국가 생산성을 높이겠다고 설명하지만, 일각에선 무리한 'AI 드라이브' 대신 기존 IT(정보통신) 시스템에 투자하는 게 낫다는 주장도 나온다.
영국정부가 인공지능을 적용하겠다는 분야는 국민보건서비스(NHS), 난민·이민자 신청 처리 업무입니다. 피해자가 큰 목소리를 내기 힘든 분야만 골랐다는 의심이 듭니다. 영국 내에서도 많이 우려합니다.
보건 부문 싱크탱크인 건강재단(The Health Foundation) 연구원 아니타 찰스워스는 FT에 "현재 NHS 전산망에서는 다중 로그인 기능이 없고, 시스템을 활용하기 위해 전원을 켜고 세팅하는 데만 족히 30분은 걸린다"며 "일부 병원에서는 여전히 종이 기록으로 업무를 처리하는 상황에서 AI 활용을 논하는 건 어불성설"이라고 말했다. 영국 전역 의료 기관을 대표하는 NHS 공급자 협회(NHS Providers) 줄리안 하트레이 협회장도 "기본적인 IT 시스템을 개선하는 등 보다 현실성 있는 투자가 절실하다"고 토로했다.
인공지능은 IT 인프라 위에서 움직입니다. 전문가들이 지적했다시피 영국에는 인공지능을 굴릴 판이 깔리지 않았습니다. UN 전자정부평가 순위 자체는 낮은 편은 아니지만 2022년에는 10위권 밖으로 떨어진 주제에 이런 일을 추진하는 모양새가 마뜩하지 않습니다. (행정안전부 - 국제연합(UN), 2022년 유엔 전자정부평가 발표 https://www.mois.go.kr/frt/bbs/type010/commonSelectBoardArticle.do?bbsId=BBSMSTR_000000000008&nttId=95242) 더구나 의료 서비스 IT 인프라는 낙후한 상황입니다. 영국정부는 철길이 깔리지 않았는데 자기부상열차를 내세우고 공항이 없는데 최신여객기를 띄운다며 거짓말하는 셈입니다. 영국에 아직 남은 귀족에게 피해가 갈 가능성이 있으면 저런 짓을 벌이지 않았을 겁니다. 일반시민이 겪을 피해는 그러거나 말거나라고 자백한 거나 마찬가지입니다.
이런 일은 권력자가 근시안적이어도 비판 받지 않고 언론이 망가져서 정치 혐오만 판치는 나라에서는 언제든 벌어질 사달입니다. 제발 내가 사는 나라와 내가 속한 조직에서는 일어나지 않기를 바랍니다. 자연재해만으로도 인류가 지구에서 생존하기가 버겁습니다. 무책임하고 무성의한 인공지능까지 디스토피아를 일으키게 내버려 두지 말아야 하겠습니다. 우리 제발 무병장수는 몰라도 사는 날까지는 무탈하게 살도록 서로 도우며 격려합시다.
일본 원전서 방사성 물질 누출…동일본대지진 악몽 되풀이
https://n.news.naver.com/mnews/article/081/0003420926
송현서 서울신문 2024-01-02
'BI > 인공지능' 카테고리의 다른 글
| AI는 소유주가 의도하는 대로 동작하는가 (0) | 2024.01.20 |
|---|---|
| 미래를 버틸 수 있겠는가 묻는 '불타는 유토피아' (2) | 2023.12.31 |
| 우리 사회가 정말 변하고 있다는 '맥락과 우연' (1) | 2023.11.01 |
