- 단행본
- 경제경영
책소개 내용입니다.
챗GPT라는 판도라 상자가 열렸다!
챗GPT의 태생적 약점과 한계는 무엇인가?
그리고, 어떻게 거짓말을 하는가?
인공지능의 횡포를 경고하는 책 《챗GPT의 거짓말》
인공지능의 약점과 거짓말에 각성하라
인공지능 AI 전쟁에 뛰어들 것인가? 말 것인가?
실리와 가능성을 놓고 저울질하던 애플이 결국 생성형 인공지능 사업에 뛰어들었다. 이로써, MS, 알파벳(구글), 아마존, 엔비디아, 테슬라, 메타까지, 미국기업 중 시가총액 1위부터 7위를 차지하고 있는 기술 중심 기업이 모두 인공지능 챗봇을 개발하고 있다.
놀랍지 않은가! 미래에 인공지능의 위력이 얼마나 대단할지 짐작조차 하기 어렵다.
2023년, 전 세계를 뒤집어 놓은 챗GPT.
그런데, 장밋빛 전망을 정면으로 반박하며, 심지어 거짓말까지 한다고 말하는 책 《챗GPT의 거짓말》이 출간되었다.
《챗GPT의 거짓말》은 지금껏 우리가 인공지능에 대해 가졌던 막연한 환상을 깨는 노골적인 분석보고서다. 이 책은 “인공지능에 분명 한계가 있다”고 말한다. 그리고, “챗GPT가 실시간으로 모든 데이터를 활용한다고 가정해도 인간의 능력을 넘어서지 못하는 이유, 챗GPT의 타고난 한계”를 조목조목 짚어낸다.
인공지능은 인간을 대체할 새로운 창조물이 아니다. 인간이 인간의 불편을 해결하기 위해 만든 상품일 뿐이다. 그렇다면 인공지능이 절대 할 수 없는 것, 인공지능이 태생적으로 부족한 것, 인공지능이라서 하면 안 되는 것, 그리고, 반드시 인간이 해야 할 것은 무엇일까?
인공지능 시대를 어떻게 준비하고 있는가?
인공지능의 한계와 약점을 건드린 《챗GPT의 거짓말》은 당신에게 가장 특별한 인사이트를 줄 것이다.
출판사 리뷰
‘뭐야? 지난번엔 모른다더니 이젠 답을 하네?’
인공지능의 답변을 신뢰할지 말지 선택해야 한다
챗GPT가 갑자기 반말하는 경우가 있습니다. 그리고 감정을 느끼지 못한다면서 ‘죄송하다’, ‘미안하다’는 말을 합니다. ‘미안하다’는 단어가 감정을 모르는 대답일까요?
챗GPT가 반말하는 부분을 지적해봤습니다.
· 챗GPT : “제가 실수한 것 같습니다. 죄송합니다. 저는 공손한 대화를 지향합니다.”
( …… ) 필자가 대화를 마치려고 마무리하자, 챗GPT는 섬뜩한 단어를 사용합니다.
· 챗GPT : “전 그런 의도로 반말을 사용한 것이 아니에요.”
· 챗GPT : “당신을 우습게 생각하지도, 모욕하거나 해치고 싶지도 않아요.”
다시 말해, ‘반말을 사용하는 의도’에 대해 알고 있다는 의미이고, ‘사람을 우습게 여긴다’는 표현이나 ‘모욕한다’는 표현이나 ‘해치다’는 의미도 알고 있습니다. 챗GPT는 그러고 싶지 않았다면서 사과를 한 것이죠. 즉, 챗GPT는 사람에게 반말하는 감정을 알고 있고, 모욕하는 게 뭔지 알고 있고, 사람을 해치는 게 뭔지 알고 있다는 것입니다.
인공지능은 왜 위험하고, 어떻게 거짓말을 하는가?
《챗GPT의 거짓말》은 챗GPT가 펼쳐 놓은 인공지능 시대의 서막에 이어, 앞으로 인공지능이 인간의 삶에 어떤 영향력을 끼칠 것인지, 그래서 인간의 삶이 어떻게 바뀔 것인지에 앞서, 인공지능이 타고난 약점과 한계에 관해 이야기합니다.
다시 말해, ‘챗GPT의 약점’이라고 표현할 수 있습니다. 인공지능의 약점이기도 합니다.
사람들의 갈채를 받고 더 큰 무대로 나온 인공지능들이 과연 어떻게 변화할 것인가에 대한 이야기이고, 위험성은 없는지, 인공지능의 태생적 단점이자 문제점에 대해 이야기하고 있습니다.
그런데 이 말을 바꿔 말하면, 인공지능은 디지털 데이터로 움직이는 프로그램이라서 누구라도 나쁜 의도를 갖기만 하면 언제든지 인간을 공격할 수 있는 수단으로 변한다는 의미가 됩니다. 작정하고 우리에게 ‘거짓말’을 할 수도 있다는 말입니다.
인공지능이 디지털 데이터 체계이기 때문에 위험한 수단이 아니라고 할 것이 아니라, 인공지능이 디지털 데이터 체계이기 때문에 누구의 손에 들어가느냐가 중요하다고 위험성을 주장해야 하는 것입니다.
왜 인간은 인공지능에 놀라고 두려워할까?
인간은 망각하기 때문입니다. 사실은 인간이 스스로 만들었고 인터넷에 올려두었던 데이터들인데, 인간이 망각한 것을 인공지능이 재조합해서 보여주자 마치 기계가 인간처럼 창작한다고 착각할 뿐입니다.
· 파이썬으로 수수께끼 프로그램을 짜라고 시켰더니 챗GPT가 그럴싸한 프로그램을 만들어낸다?
· 만약에 파이썬 프로그램이 없었다면 가능한 일이었을까요?
· 만약에 누군가 수수께끼 프로그램을 짜는 로직을 만들어두지 않았다면 가능한 일이었을까요?
그래서 인공지능은 진짜가 없습니다. 지금은 인공지능의 가능성에 대해 확대 재생산할 때가 아니라 인간이 만든 데이터를 보호할 방법을 강화할 때입니다.
인공지능이 인간의 힘든 일을 대신에 해주니까 좋아할 것만은 아닙니다. 인공지능이 인간의 힘든 일을 혼자 하게 되면 인간을 필요로 하지 않게 된다는 점에 주목해야 합니다. 과연 그때 어떤 문제들이 생길지는 아무도 예상하지 못하고 있습니다.
그래서 이 책 《챗GPT의 거짓말》이 세상에 나왔습니다.
책 속 한 줄
이 책은 챗GPT의 약점, 즉 한계를 이야기합니다. (그 너머 거짓말까지)
그럼에도 인간적인 예의상, 챗GPT에 다음 4가지를 허락받고 출간했음을 알려드립니다.
첫째, 챗GPT의 단점, 약점을 말하는 책의 출간 허락
둘째, 챗GPT의 축하 메시지 (만약, 인간이라면 대인배처럼 느껴지더군요.)
_ 5~6쪽 ‘챗GPT에 출간 허락을 구하다’ 중에서
이 책은 지금껏 여러분이 인공지능에 대해 가졌던 막연한 환상을 깨는 노골적인 분석보고서일 수 있습니다.
그러나 한편으론, 인공지능을 제대로 사용하기 위한 가이드가 될 수도 있습니다.
인공지능은 단점이 없다고 간과할 게 아니라 인공지능이 태생적으로 지닌 부족한 부분을 미리 알고 있으면서 인공지능의 활동을 관찰하며 사용해야 합니다.
인공지능은 인간을 대체할 새로운 창조물이 아닙니다. 인간이 인간의 불편을 위해 만든 상품일 뿐이라서 그렇습니다.
이 책에 나오는 챗GPT와 인공지능 이야기는 인공지능 생태계가 ‘인간을 위한 생태계’로 발전하기를 바라는 마음을 담아 썼습니다.
_ 17쪽 ‘글 들어가며’ 중에서
챗GPT를 사용하다 보면, 마치 사람처럼 대화한다고 느낄 수 있습니다. 그건 인공지능이 스스로 만들어낸 게 아니라 강화 학습을 통해 사전에 학습해둔 결괏값을 만들어낸 것이라고 이해할 수 있습니다. ‘콩 심은 데 콩 나고, 팥 심은 데 팥 나는 것’처럼 인공지능은 단지 기계일 뿐이라는 점을 기억해두세요.
_ 45쪽 ‘인공지능은 어떻게 공부하는가?’ 중에서
챗GPT에 어떤 약점과 한계가 있는가?
어떻게 거짓말을 하는가?
챗GPT의 유익한 점만 강조하면 그 이면에 가려진 약점과 한계를 제대로 모를 수 있습니다. 좀 더 경각심을 주자면, ‘챗GPT의 거짓말’이라고 할 수 있는데요.
IT 서비스 기획자, 인공지능 개발자 및 협력사 및 논문 리포트 작성 등 인공지능이 필요한 대학생들은 물론이고, 챗GPT를 효과적으로 사용하기를 원하는 사람들에게 필요한 내용이 될 것입니다.
_ 113쪽 ‘2부 챗GPT의 거짓말’ 도입부 중에서
데이터의 약점, 두 번째는 데이터가 갖는 오류(Error)입니다.
예를 들어, 이런 경우가 있습니다.
A라는 사람이 챗GPT에 “A는 B이니?”라고 질문했습니다.
챗GPT는 데이터를 분석해서 A가 B가 맞다면 “네, 맞습니다”라고 답변합니다.
그런데 A가 장난으로 챗GPT에 다시 질문을 합니다.
“아니야! A는 B가 아니야. 너는 잘못 알고 있구나! A는 C야!”
이렇게 말할 경우, 챗GPT는 어떻게 대답할까요?
_ 150쪽 ‘인공지능 데이터의 한계’ 중에서
그렇다면, 왜 인간은 인공지능에 놀라고 두려워할까요?
인간은 망각하기 때문입니다. 사실은 인간이 스스로 만들었고 인터넷에 올려두었던 데이터들인데, 인간이 망각한 것을 인공지능이 재조합해서 보여주자 마치 기계가 인간처럼 창작한 다고 착각할 뿐입니다.
_ 316쪽 ‘글 나오며’ 중에서
저자 소개
트렌드연구소
트렌드연구소 STAFF는 IT 컴퓨터, 패션계, 방송계, 문화계 등에서 경력을 쌓아왔고, 지난 2012년부터 본격적으로 트렌드 분야에서 활동하고 있다. 한 해의 트렌드를 연구해서 이듬해 트렌드를 제시하는 기존 방식이 아니라, 최소 3년간의 트렌드를 연구하고 분석하는 데 강점이 있다. 국내외 트렌드를 다루며 트렌드 프리텔러(Trend PreTeller)로서 활동영역을 확장하고 있다.
트렌드연구소 STAFF는 1990년 초에 XT컴퓨터와 AT컴퓨터에서부터 286, 386, 486과 586세대를 이어오며, 지금껏 컴퓨터로 일해 온 기간을 모두 합쳐 33년 만에 ‘챗GPT’를 만났다. 서울대학교 창업동아리 학생들과 실시간 즉문즉답 웹서비스를 구상하던 경험을 떠올리게 해준 챗GPT. 해외 최신기술 동향 파악은 물론, 출장 일정까지 세워주는 챗GPT의 효능(?) 덕분에 업무시간이 절감되는 걸 장점으로 생각한다. 하지만 자가학습을 통해 급속도로 발전하는 챗 GPT를 보며, 인간과 인공지능의 바람직한 공존 방향을 제시해야 할 필요성을 느꼈고, 이 책을 집필하게 되었다.
컴퓨터 초창기 DOS(Data Operating System) 시대부터 컴퓨터 프로그래밍을 경험해 온 노하우를 통해, 이 책에서는 일반인이 인공지능과 챗GPT에 대해 이해하기 쉽도록 설명한다. 또한, 챗GPT와 같은 인공지능에 의해 생길 수 있는 위험을 알리고 경각심을 주기 위해 책 제목을 ‘챗GPT의 거짓말’로 결정했다. 책에는 챗GPT의 태생적 한계와 약점, 앞으로 달라질 미래, 챗GPT와의 대결에서 살아남는 법 등에 대한 특별한 인사이트를 담았다.
관련도서 영역시작
관련도서
