AI 혁명, 그 속에 숨겨진 진실은?
요즘 ‘AI 혁명’이라는 슬로건이 너무나 익숙하죠. AI가 우리의 미래를 예측하고, 수많은 직업을 대체하며, 심지어 인류를 위협할 수 있다는 이야기는 이제 새롭지도 않습니다. 그런데 정말 그럴까요? AI 분야의 최고 권위자들이 수년간 실제 AI 시스템을 분석한 결과, 뜻밖의 진실을 발견했습니다. 바로 지금, AI 시장에 거대한 ‘버블’이 끼어 있다는 것입니다. 오늘 소개할 책 은 단순히 AI를 비판하는 것을 넘어, 예측형 AI부터 생성형 AI, 딥페이크, 그리고 AGI 공포에 이르기까지 우리가 정말 짚고 넘어가야 할 AI의 능력과 한계를 정확하게 다시 그립니다. 자극적인 이야기가 아닌, 현실적인 AI의 초상화를 함께 살펴보시죠!
예측형 AI: 공정함 뒤에 숨겨진 구조적 한계
먼저 ‘예측형 AI’는 개인의 미래 행동을 예측해 의사 결정에 활용하려는 시도입니다. 누가 대학을 중도 탈락할지, 재범할 가능성이 높은지, 심지어 어떤 환자에게 치료 자원을 우선 배정할지 등, AI가 더 공정하고 정확하게 해줄 것이라는 기대가 컸죠. 하지만 저자들은 예측형 AI가 실패하는 이유가 AI가 ‘멍청해서’가 아니라, 애초에 예측 불가능한 것을 예측하려 하기 때문이라고 지적합니다. 특히 의료 분야에서 이러한 문제가 극명하게 드러나는데요. 환자의 건강 상태 대신 ‘과거 의료비 지출’과 같은 대리 지표를 사용하면서, 경제적/제도적 문제로 의료비 지출이 적은 특정 계층 환자들이 실제로는 더 아픈데도 덜 아픈 것으로 분류되는 ‘프록시 문제’가 발생합니다. 이는 AI의 능력 부족이 아니라, 목표를 잘못된 지표로 대체하는 ‘하트 로(HART Law)’의 전형적인 사례입니다. 벤치마크 점수만 높이고 실사용 성능은 떨어지는 제품처럼, AI가 만든 숫자 뒤에 숨겨진 구조적 문제를 간과해서는 안 됩니다. 심지어 에픽사의 패혈증 예측 AI는 높은 홍보와 달리 실제 정확도가 동전 던지기 수준이라는 것이 밝혀지기도 했습니다.
생성형 AI의 ‘환각’과 딥페이크가 가져올 사회적 혼란
그렇다면 요즘 가장 뜨거운 ‘생성형 AI’는 어떨까요? 분명 많은 사람의 일을 돕고 있지만, 책은 ‘생성형 AI는 강력하지만 이해하지 않는다. 그럴듯하게 모방할 뿐이다’라고 말합니다. 기술적으로 볼 때, 이는 다음 단어를 확률적으로 예측하는 모델에 불과하며, 흔히 겪는 ‘환각(Hallucination)’ 현상은 버그가 아니라 애초에 그렇게 설계된 결과물입니다. 즉, ‘확률적 앵무새(Stochastic Parrot)’의 한계를 벗어나지 못했다는 것이죠. 더욱 심각한 사회적 문제는 ‘AI 딥페이크’ 기술에서 불거집니다. 사람들은 보통 가짜 영상에 속는 것을 걱정하지만, 저자들은 진짜 위험은 ‘진짜를 부정할 수 있게 되는 위험’, 즉 ‘거짓말쟁이의 배당금(Liar’s Dividend)’이라고 경고합니다. 딥페이크가 흔해지면 모든 영상에 대한 의심이 기본값이 되고, 이때 가장 큰 이익을 얻는 것은 가해자, 권력자 등 책임을 회피하고 싶은 이들입니다. 그들은 ‘그거 합성 아니야?’, ‘AI가 조작한 거겠지?’라고 주장하며 진짜 증거마저 무력화시킬 수 있기 때문입니다. 이는 기술 문제가 아닌 정보 이론적 신뢰 붕괴로 이어져, 우리 사회 발전을 저해할 수 있습니다. 페이스북의 ‘네이팜 소녀 사진 삭제 사건’ 역시 AI의 무지한 실수가 아닌, 특정 문화권의 엄격한 규범을 전 세계에 일괄 적용하려다 발생한 정책 설계의 실패였음을 책은 지적합니다.
AGI 공포 마케팅과 우리의 역할: AI 버블 시대, 기술 책임이 중요하다
최근 몇 년간 ‘AGI(일반 인공지능)가 인간을 지배하고 인류를 멸망시킬 수 있다’는 공포 담론이 확산되었습니다. 하지만 저자들은 ‘AI를 돌봄으로써 인류의 실존적 위험을 줄일 수 있다는 생각 자체가 잘못되었다’고 단호하게 말합니다. 인류의 진짜 위협은 민주주의 약화, 기후 변화, 팬데믹 등 이미 명확하며, AI가 핵심 원인이 아닙니다. 오히려 AGI 공포는 AI를 비판하는 척하면서 실제로는 AI를 더욱 강력하고 신비롭게 포장하는 마케팅 효과를 냅니다. 현실의 문제들, 즉 차별, 저작권, 노동 감시 등은 가려지고, 초능력 같은 AI 이미지가 강화되어 기업은 ‘우리 AI가 너무 강력해서 위험해요’라고 광고하며 이익을 취할 수 있다는 것이죠. 그렇다면 이 ‘AI 버블’ 시대에 우리는 어떻게 대처해야 할까요? 저자들은 AI의 지능보다 ‘우리가 어떤 제도를 만들고 어떤 질문을 던질까’가 더 중요하다고 강조합니다. AI를 두려워하거나 신격화할 필요도, 복잡한 내부 코드를 이해할 필요도 없습니다. 중요한 것은 단 하나, 이 AI 모델이 실제로 어떤 결정을 내리고 그 결정이 누구에게 어떤 영향을 주는지 우리가 끝까지 책임지게 만드는 제도와 시스템을 구축하는 것입니다. AI는 결국 인류가 만들어낸 기술이며, 우리 사회의 기존 문제들로부터 자유로울 수 없습니다. 과대광고와 공포를 넘어, AI의 진정한 능력과 한계를 이해하고 현명하게 대응하는 것이 바로 지금 우리에게 필요한 자세입니다.
