정말 쉽게 다가오는 '박태웅의 AI 강의'

박태웅의 AI 강의

- 챗GPT의 실체부터 AI의 진화와 미래까지 인간의 뇌를 초월하는 새로운 지능의 모든 것

박태웅 (지은이) / 한빛비즈 / 2023-06-20

https://www.hanbit.co.kr/store/books/look.php?p_code=B7217842958

 

소셜 미디어에서 크게 인기를 끄는 '박태웅의 AI 강의'를 이제서야 읽었습니다. 저자가 ChatGPT가 나오지 않았으면 쓰지 않았을 거라고 인터뷰에서 밝힌 적이 있음에도, 인공지능의 원리를 설명하는 대목은 기초적인 원리부터 다룹니다. ChatGPT가 뭔데 사람들이 저러나 궁금하거나, 알파고 열풍 때에는 뭘 바둑갖고 저러는지 거들떠 보지 않았더라도 이제는 인공지능이 궁금해졌다면 교양서라는 관점을 지키는 이 책을 추천합니다.

 

이런 걸로 구구절절 설명하지 않습니다.

인공지능 개념과 원리를 다루는 책에서는 입문서가 아니어도 loss function이 어떻고 저떻고 batch 크기가 이러쿵 저러쿵 설명하느라 AI 업계에 종사하지 않는 비전문가 독자들이 머리를 쥐어뜯게 하는 일이 흔히 벌어집니다. 이 책은 다릅니다. 위와 같은 그림이 나오긴 하는데 인공지능이 학습하는 매개변수가 막대하다는 근거 정도로만 쓰고 산뜻하게 넘어갑니다.

 

인공지능이 동작하는 원리를 쉽게 설명하는 이유는 인공지능이 우리 사회에 끼칠 영향을 설명하기 위해서라고 봅니다. 다짜고짜 인공지능이불러오는 리스크가 크다고만 하면 넋두리나 잔소리일 수밖에 없습니다. 이 책은 기본 개념부터 시작하여 ChatGPT, GPT 모델이 그럴싸하게 동작하게 되는 원리를 설명하며 독자와 출발선을 맞춥니다. GPT와 비슷한 기술이 '요 며칠 새'에도 어마어마한 속도로 발전하는 중이라든가 할루시네이션이랍시며 얼마나 어이 없는 실수를 하는지 등 '비교적' 최근 트렌드까지 섭렵하고 나면 본론이 나옵니다.

 

일단은 성능에 감탄하고 있지만, 올바른 방식과 절차로 만들었는지 이대로 계속 인공지능이 발전해도 될지 우리 사회가 공감대를 이뤄나가야 할 사안을 다룹니다. 디스토피아가 온다며 설레발치지 않고, 우리가 같이 고민하며 대비할 사항에 대해 세계적인 석학과 공공은 어떻게 대응하는지 공유하고 대한민국은 어떻게 해야할지 제언하면서 마무리합니다. 이를 잘 소화하면 인공지능이 발전하며 세상에 일으키는 격랑에 대비할 마음가짐을 갖추게 될 겁니다.

 

책을 덮고 꽂아두기 전에 포스트잇을 붙여뒀던 부분을 다시 보며 저자가 견지하는 자세를 많이 참고해야겠다는 생각이 들었습니다. '당신이 생각하는 식으로 인류는 절멸하지 않는다'라는 글을 쓴 적이 있는데, 근본적으로는 오로지 사람 탓으로 인공지능이 인류에게 큰 해를 끼칠 거라는 내용입니다. 이 책에서도 인공지능을 잘못 활용하여 의료사고가 날 거라는 석학이 예상했다는 말을 인용했습니다만, 제가 썼던 글처럼 난리 난다며 꽹가리를 치는 게 아니라서, 독자가 불안해하지 않고 저자를 의지하며 귀를 더 기울일 거라고 생각했습니다. 가능한 한 세상을 널리 이롭게 해야겠다고 마음 먹었으니 기분에 못 이겨 말로, 글로 발산하지 않고 전달하는 방법을 고민하겠다고 반성했습니다.

---

반응형

머리말

1강 놀라움과 두려움 사이에서 등장하다: 챗GPT의 탄생
몬테카를로 알고리듬
고양이 사진을 가려내라
인공지능, 잠재된 패턴을 찾다
챗GPT의 정체
어려운 일은 잘하고, 쉬운 일은 못한다
할루시네이션, 멀쩡한 거짓말
견고하지 않은 인공지능
GPT-4

2강 우리는 왜 챗GPT에 열광하게 되었나?: 느닷없이 나타나는 능력, 인공일반지능(AGI)
우리는 왜 챗GPT에 열광하게 되었나?
생각의 연결고리 혹은 단계적 추론
다른 해석들
GPT-4는 인공일반지능의 시작이다
GPT에게 지능이 있을까?
왜 인공지능은 믿을 수 없을 정도로 똑똑하면서 충격적으로 멍청한가
말하기와 생각하기는 다르다
그것은 완전히 다른 형태의 지능이다
사람과 기계를 자연어로 이어주는 사상 최초의 유저 인터페이스
Welcome to OpenAI Universe!

 생각의 연결고리 프롬프트. 질문을 하기에 앞서 보여주는 예제. 카페테리아에서 사과가 23개 있었는데 점심을 만드는 데 20개를 사용하고 6개를 더 샀으면 몇 개냐는 질문에 ChatGPT는 27개라고 오답을 냈다. 질문에 앞서 비슷한 주제를 잘 풀어내는 예시를 들어주고 다시 질문하면 정답을 냈다.

 워싱턴 대학의 최예진 교수는 세상이 어떻게 돌아가는지에 관한 상식적인 이해를 가르치지 않고서는 인공지능이 제대로 작동할 수 없을 것이라고 단언했다.

 토론토대의 제프리 힌턴 교수는 "푸틴이 우크라이나 사람들을 죽일 목적으로 초지능 로봇을 만들진 않을 거라고 한순간도 생각하지 마세요"라고 그는 말합니다. "푸틴은 로봇을 세세하게 관리하기보다는 로봇이 스스로 어떻게 해야 하는지 알아내길 원할 것입니다"라고 덧붙이면서요. 

3강 열려버린 판도라의 상자: AI의 확산, 그리고 필연적으로 도래할 충격들
Open AI?
마이크로소프트, AI 윤리팀 해고
‘백화제방’의 시간이 시작되다
우리에겐 해자가 없다
게리 마커스의 다섯 가지 걱정
Don’t Look Up? 올려다보지 말라고?
오리지널의 실종
자연 독점
오염된 데이터, 오염된 결과
잘못된 학습, 차별의 재생산
잊힐 권리와 지적재산권 침해
미드저니 때문에… 모든 걸 잃었어요

 하버드대 물리학과 맥스 테그마크 교수는 인류가 절벽을 향해 달려가고 있지만 아직 절벽에 닿은 것은 아니며, 속도를 늦추고 경로를 변경해 추락을 피하고, 안전하고 정렬이 된 인공지능이 제공할 놀라운 혜택을 누릴 기회가 남아 있다고 말합니다. 그리고 이를 위해서는 절벽이 실제로 존재한다는 것, 그리고 절벽에서 떨어질 수 있다는 것을 인정해야 한다고 말합니다. 테그마크 교수는 이렇게 끝을 맺습니다. "올려다봐! Look up!"

No matter what kind of image I upload, ImageNet Roulette, which categorizes people based on an AI that knows 2500 tags, only sees me as Black, Black African, Negroid or Negro.

Some of the other possible tags, for example, are “Doctor,” “Parent” or “Handsome.” pic.twitter.com/wkjHPzl3kP

— Lil Uzi Hurt 🥺 (@lostblackboy) September 18, 2019

 

 

 Lil Uzi Hurt의 트윗: "내가 어떤 사진을 올리든 이미지넷은 나를 '흑인', '아프리카계 흑인', '깜둥이'로만 분류한다. '의사'라든가 '부모' 혹은 '잘생긴'과 같은 분류도 가능할 텐데."

 아마존은 2017년에 인공지능을 사용하여 지원자의 점수를 매기는 실험적인 채용 도구를 폐기했고, 그 개발팀도 해체했습니다. 이력서에 성별을 나타내는 항목을 넣지 않았음에도 불구하고 이 채용 시스템이 여성을 차별하는 것이 밝혀졌기 때문입니다. 애플과 비슷하게, 그전부터 이어져왔던 잘못된 채용 관습이 시스템에 배어 있었던 것입니다.

4강 몸에 대한 실험, 마음에 대한 실험: 미디어는 메시지다
몸에 대한 실험, 마음에 대한 실험
미디어는 메시지다: 새 미디어가 부를 거대한 변화
알고리듬 하나로 망가진 한국 언론
인공지능, 신이 될 것인가? 사탄이 될 것인가?

 페이스북과 인스타그램 내부에서는 장시간 스마트폰을 사용하며 소셜 미디어에서 시간을 보낸 그룹이 자살을 생각하거나 행동으로 옮길 확률이 높음을 알고 있었다. 페이스북은 자료 공개를 사실상 거부했다.

5강 인류는 어떻게 대응해야 하는가?: 신뢰할 수 있는 인공지능을 향하여
공론화: 독일의 녹서와 백서
신뢰할 수 있는 인공지능을 위하여
로마 교황청, 인공지능 윤리를 요청하다
유럽연합의 인공지능법
미국 알고리듬 책무법안 2022
한국은 어떻게 대응하고 있나?
정의를 내리지 않는 사회
대한민국 정부가 하지 말아야 할 일과 해야 할 일

 2016년 독일정부는 노동 4.0 녹서를 내놓고 독일 사회 전체를 대상으로 질문에 대답할 것을 요청합니다. 독일의 산업계, 노동계, 학계, 시민사회가 제각기 머리를 맞대고 토론해서 답을 냈고, 그것을 모아서 묶은 것이 바로 독일 정부의 '산업 4.0', '노동 4.0' 백서입니다. 한국 정보는 지난 2년간의 공론화는 제쳐두고 '산업 4.0' 백서만 냉큼 가져다 흉내를 냈습니다. '노동 4.0'은 언급하지도 않았고요. 그야말로 앙꼬없는 찐빵을 먹은 셈입니다.

 AI 관련 원칙 중 보편적인 핵심 주제: 프라이버시, 책임성, 안전과 보안, 투명성과 설명가능성, 공정성과 차별 금지, 인간의 기술 통제, 직업적 책임, 인간 가치 증진

 미국 정부가 정의한 공공데이터의 조건: FAIR. Findable, Accessible, Interoperable(호환성, 표준 준수), Reusable.

 포스코: 세계경제포럼이 선정한 국내 최초의 '등대공장'(세계 제조업의 미래를 혁신적으로 이끌 공장). AI 전문 중소기업인 '이씨마이너'와 협업하여 내부 데이터를 고유하고 포항공대와 손잡고 내부 각 분야의 우수 인재를 선발하여 인공지능 교육을 실시했습니다. 산학연 협업을 제대로 실행한 것입니다. (중략) 포스코는 원료를 하나도 추가 투입하지 않고도 하루 240톤의 쇳물을 더 생산하는 쾌거를 이뤘습니다.

맺음말: 가장 거대한 도전 앞에서
주