[책 리뷰 82편] 박태웅의 AI 강의
- 저자
- 박태웅
- 출판
- 한빛비즈
- 출판일
- 2023.06.20
82번째 책을 읽었다.
책을 읽고 난 후의 개인적인 점수는 10점 만점에 10점
오랜만에 10점 만점에 10점 짜리 책을 읽은 것 같다.
다 읽고 난 후 책이 짧아서 아쉬웠다는 마음이 들었는데 이 정도면 말 다한 것 같다.
정말 친절한 책이었다. 쉬운 단어 & 쉬운 문장 & 쉬운 예시 3콤보로 AI 기초에 관한 내용을 떠먹여준다. 게다가 관련 삽화나 논문의 짧은 내용, 그래프 등이 적절하게 등장해서 이해속도를 더욱 가속시켜줬다.
이 책은 AI의 기본 개념과 현 AI의 발전상태 리뷰 마지막으로 AI가 초래할 부정적인면과 가장 어두운 부분에 대한 이야기로 구성되어 있다.
인류는 왜 AI가 필요하게 되었는가?
사람들은 왜 챗GPT에 열광하는가?
인공지능의 특징은 규모의 법칙은 무엇인가?
인공지능 관련 학자들이 생각하는 인공지능이 인류를 멸종시킬 가능성은 얼마나 되는가?
이런 흥미로운 질문을 통해 독자의 호기심과 관심을 열어둔 채 이야기가 진행되니 과학교양 서적인데 지루할 틈이 없었다. 물론 저 질문에 대한 답도 초보자인 내게는 아주 만족스러웠다.
이 책을 읽다가 정말 많은 생각을 하게 하는 문장을 만났다.
제대로 된 질문을 찾지 못하면 올바른 답을 할 수가 없다
인공지능을 잘 알지 못하면 올바른 대처를 할 수 없을 것이라는 의미였지만 내 생활속에도 적용할 수 있는 문장임을 느꼈다.
지금 내게 발생하는 일들에 나는 제대로 질문을 한 적이 있었을까
왜 이렇게 되었나? 더 잘할 수는 없었나? 다른 방법은 없었을까? 아니면 애초에 문제 정의를 잘못 내린채 행동했을 수도 있다.
이제 모든 일을 하기 전 제대로 된 질문을 찾는 연습을 내 삶에 녹여봐야겠다라는 교훈도 이 책을 통해 얻을 수 있었다.
AI의 약자도 모르는 나같은 사람도 이 책을 읽고 이렇게 많은 내용을 얻었다.
내가 읽은 과학교양 서적 중 단연 1등이었다.
강력추천한다.
1강
놀라움과 두려움 사이에서 등장하다
- GPU는 그래픽 계산을 위해서 만들어졌는데, 뜻밖에 인공지능 시대에 빛을 발하게 되었다. 압도적인 병렬계산 능력 덕분에
→ GPU 시장은 사실상 엔비디아가 지배하고 있다
- 인공지능이 하는 일 중 많은 부분이 단순하게 더하기, 빼기를 하는 일이다. 단순한 막노동을 무자비한 속도로 하는 것이다.
- 인공지능이 하는 일 = 잠재된 패턴을 찾아내는 일
- 챗 GPT는 인류 역사상 가장 빠른 속도로 사용자를 모은 서비스다
- 토큰 = 단어에 숫자를 매긴 것
- 인공지능은 잠재된 패턴이 없는 곳, 확률이 필요하지 않은 분야에서는 어처구니 없이 약하다
→ EX) 단 하나의 명확한 사실이 존재하는 질문
- 지금의 AI는 블랙박스다. 왜 그렇게 작동하는지 구체적으로 설명할 수 없다. 그러니 부분만 고치는 건 할 수 없다. 전체를 다시 학습시킬 수 밖에 없다.
2강
우리는 왜 챗GPT에 열광하게 되었나
- 거대 인공지능의 특징은 '규모의 법칙'이다. 컴퓨팅 파워를 늘릴수록, 학습 데이터 양이 많을수록, 매개변수가 클수록 성능이 좋아진다
→ 인공지능 군비경쟁이라고 비유한다
- 사람에게 해롭지 않은 목표를 주었다고 해도 인공지능이 스스로 중간 목표를 정할 수 있다면 아주 위험해질 수 있다
- 우리가 챗 GPT에 열광하게 되는 이유는 이것이 사상 최초로 사람이 평소에 쓰는 말로 기계와 대화할 수 있게 만들어 주었기 때문이다
→ 많은 분야에서 일반인의 수준을 뛰어넘고 있다
- 다른 서비스들의 큰 고민거리 : 챗 GPT의 플러그인이 된다면 많은 사용자들을 가질 수 있지만 바깥에 있게 된다면 점점 사용자 수가 줄어들 위험이 있다. 반대로 챗 GPT의 플러그인이 되면 그 순간 내 브랜드의 존재감은 퇴색할 수 밖에 없다는 걸 감수해야 한다
3강
열려버린 판도라의 상자
- 게리 마커스의 다섯가지 우려
→ 어마어마한 허위정보가 생성되어 민주주의와 공존에 악영향을 끼칠 것
→ 잘못된 의료 정보가 형성될 것
→ 광고 클릭을 위해 사실과 상관없는 자극적인 내용들이 생산될 것
→ 챗 봇은 일부 사용자들에게 감적적인 고통을 유발할 것
→ 남용으로 인해 웹 사이트가 붕괴될 위험성(끝도 없는 자동 댓글 + 포스팅)
- 최근의 설문조사에서 인공지능 연구자의 절반이 "인공지능이 인류 멸종을 초래할 가능성이 10% 이상이다"라고 대답했다
→ 인공지능이 자율적으로 만든 보조 목표가 인간의 가치와 정렬되는지 확인할 방법이 없다
- 대규모 인공지능 모델을 구축하고 유지하는 데는 천문학적인 비용이 든다. GPU 클러스터를 구축한느 데만 수천억 원이 드는데, 전기료는 그것보다 더 필요하다
- 거대 언어모델은 학습 과정에서 인터넷 접근성이 낮고 온라인 영향력이 적은 국가의 언어와 규범을 포착하지 못할 것이다. 즉 거대언어모델들이 생성한 답들은 가장 부유한 국가들의 커뮤니티의 관행을 반영하여 동질화 될 수 밖에 없다
- 초창기 구글의 모토는 '악해지지 말자'였으나 구글은 이 모토를 없앴다
4강
몸에 대한 실험, 마음에 대한 실험
- 새로운 미디어는 그 특성에 따라 분명한 사회변화의 방향을 지시한다
- 의회가 페이스북과 인스타그램 플랫폼이 청소년의 정신건강에 미치는 영향에 관한 내부 연구 결과를 달라고 요청하였을 때 페이스북은 이를 거부했다
- 자신들의 이해가 걸린 일에서 인류의 가치를 생각하기는 아주 어렵다. 그러므로 이 일은 소수의 인공지능 전문가들에게만 맡겨두어선 안 된다
- 오픈 AI의 CEO 샘 알트먼이 한 말 : "우리가 아직 잘 이해하지 못하는 어떤 끔직한 일을 했다"
5강
인류는 어떻게 대응해야 하는가
- 제대로 된 질문을 찾지 못하면 올바른 답을 할 수가 없다
- 전 세계적으로 인공지능의 윤리와 관련하여 다루는 핵심주제 8가지
→ 프라이버시 / 책임성 / 안전과 보안 / 투명성과 설명 가능성 / 공정성과 차별금지 / 인간의 기술 통제 / 직업적 책임 / 인간가치 증진
- 최초의 인공지능 관련 법 = EU의 인공지능 법
- 우리나라 정부 자료들은 HWP, PDF인데 이것들은 컴퓨터가 자동으로 처리를 못한다. 정부가 인공지능 학습을 방해하고 있는 중이다
- 기초과학을 육성해야 한다. 인공지능 알고리즘은 수학을 모르고선 만들 도리가 없다.
- 정부의 연구개발 예산지원은 긴 호흡으로 해야한다. 성공 가능성이 낮지만 꼭 해야 할 분야에 들어가야 한다. 유행처럼 주제를 따라가지 말고 연구자를 육성하는게 목표가 되야 한다. 그래야 비록 실패하더라도 소중한 경험을 쌓은 연구자가 남기 때문이다
맺음말
- 1975년 아실로마 회의 = 최고의 유전학자들이 모여 DNA 재조합 실험이 갖는 위험성에 대한 의견을 모았고. 이듬해 미국국립보건원이 가이드라인을 발표할 때까지 6개월간 실제로 모든 실험을 멈췄다. 그 덕분에 생명공학은 인류 공동의 기준을 가질 수 있게 되었다.
- 인공지능의 적용은 인공지능 전문가와 각 산업 부문의 전문가들이 협업을 할 때 가장 잘 작동한다
- 등대공장 = 세계 제조업의 미래를 혁식전으로 이끌 공장(EX. 포스코)
- 지금 무슨 일이 일어나고 있는지를 먼저 이해해야 대응책도 찾을 수 있다