AI와 함께할 현재 그리고 미래, 이선 몰릭 작가의 <듀얼 브레인>

과거 인간의 지적 역량을 향상하는 보편적인 기술을 개발한 적은 없다.

이제는 인간의 사고와 글쓰기를 모방할 수 있는 도구가 나왔으며,

이 도구는 인간의 작업을 개선하거나 대체하는 공동 지능으로 기능할 수 있다.

그런데 AI 개발 중인 많은 기업은 한발 더 나아가 완전히 새로운 형태의 공동 지능,

즉 지각이 있는 기계를 만들려고 한다.

이런 흐름의 의미하는 바를 이해하려면 가장 기초적인 질문에서 출발해야 한다.

AI란 무엇인가?

<듀얼 브레인>_19p​

AI 시대의 실용적 생존 가이드

과거, 현재, 미래로 단계를 거쳐 나아가는 AI

 

AI를 사용하시는 분, 사용하시려는 분들 혹은 AI에 관심이 있으시면 한 번쯤 읽어봐도 좋은 책입니다.

AI 기술에 관해 깊게 들어가진 않으면서 비전공자들도 부담 없이 읽을 수 있는 수준입니다.

책 중간중간 작가님이 AI를 활용한 Q&A, 질문에 따른 다른 답변을 보는 것도 책의 재미 중 하나라 생각합니다.

작가님은 책에서 AI를 동료, 교사, 친구 혹은 삶에서 어떻게 사용할지 알려주시지만,

이번 포스팅에서는 제가 중요하다고 생각하는 것을 요약하고자 합니다.

AI란 무엇인가?🔍​

이 책은 LLM의 기술적 측면부터 살펴보려고 한다. LLM을 이해하면, 이를 잘 활용할 방법을 함께 생각해 볼 수 있다.

그런 다음 AI가 동료, 교사, 전문가, 더 나아가 친구로서 우리 삶을 어떻게 변화시킬지 깊이 탐색할 것이다.

마지막으로 이러한 변화가 우리에게 어떤 의미가 있을지,

마치 외계인처럼 낯선 지성과 함께 생각한다는 것이 무엇을 의미하는지 살펴볼 것이다.

​

LLM(Large Language Model, 대규모 언어 모델)은 챗 GPT 같은 서비스를 구동하는 기술이다.

​​<듀얼 브레인_8p>

이 같은 LLM은 텍스트 조각을 분석해서

그다음에 나올 토큰(말뭉치의 최소 단위)인 단어나 단어의 일부를 예측하는 식으로 작동한다.

궁극적으로 챗 GPT가 수행하는 작업은 이것이 전부다.

스마트폰에 내장된 문장 자동 완성 기능처럼 매우 정교한 형태로 글을 이어 쓰는 것이다.

​

흔하고 유명한 문장을 일부분만 제시하고 문장을 완성시켜달라고

챗 GPT에 제시하면 우리가 알고 있는 문장이 나올 것이다.

하지만 생소한 문장을 주고 문장을 완성해달라고 한다면 챗 GPT의 답은 매번 다를 것이다.

이러한 이유는 애초에 그렇게 설계되었기 때문이다.

이럴 때 LLM은 답변에 약간의 무작위성을 가미해 사용자가 질문할 때마다 조금씩 다른 답변을 제시한다.

<듀얼 브레인_30p-31p>

​

AI는 웹사이트, 책, 디지털 문서를 비롯한 다양한 출처에서 방대한 텍스트를 학습하여

인간의 글을 이해하고, 인간처럼 글을 쓰는 방법을 배운다.

사전학습(Pretraining)이라고 불리는 이 과정은 초기 AI에서와 달리

인간의 감독이나 개입 없이 진행되며 방대한 텍스트의 용례를 분석해

인간 언어의 패턴, 구조, 맥락을 인식하는 법을 배운다.

놀랍게도 LLM은 상황에 따라 조절되는 수많은 매개 변수(가중치라 불리는)를 이용해서

인간이 글로 소통하는 방식을 모방한다.

<듀얼 브레인_31p>

​

이러한 사전 학습에 사용되는 데이터의 출처가 워낙 다양하다 보니 때로는 부작용이 생길 수 있다.

실제로 AI가 데이터에서 편견, 오류, 허위 정보를 학습하기도 한다.

사전 학습만 거친 AI는 사용자가 기대하는 답변을 제시하지 못할 때가 있고,

윤리적 기준이 없기 때문에 돈을 횡령하거나,

살인을 저지르는 방법 같은 불법적인 행위에도 거리낌 없이 조언을 제시할 수 있다.

그래서 대다수 LLM은 사전 학습 이후 미세조정(Fine-tuning)이라 불리는 추가적인 개선을 거친다.

<듀얼 브레인_34p-35p>

​

미세조정 과정의 핵심 중 하나는 사전 학습과 달리 진행 과정에 사람이 참여하는 것이다.

AI 기업에서 고용한 노동자들은 AI의 답변을 다양한 기준에 따라 평가한다.

때로는 답변의 정확성을 중심으로 평가하고, 때로는 폭력적이거나 음란한 답변을 걸러내는 데 집중한다.

이렇게 얻은 피드백은 AI의 추가 학습에 반영되어 인간이 선호하는 방식으로 AI의 성능이 미세조정된다.

그래서 이 과정은 '인간 피드백 기반 강화 학습'(RLHF, Reinforce-ment Learning from Human Feedback)이라고 불린다.<듀얼 브레인_34p-35p>

​

위에서 설명된 사전학습에 사용하는 자료는 AI 개발자가 찾아낸 것 중에서 무료로 사용할 수 있다고 추측한 것들이다.

즉, 학습 자료는 인간이 취합한 자료의 일부에 불과하며, 이 사실은 또 다른 위험 요인인 편향을 낳는다.

이처럼 학습 자료 수집 자체에도 이미 편향의 문제가 존재한다.

편향을 줄이는 가장 일반적인 방법은 앞에서 설명한

미세조정 기법의 하나인 RLHF처럼 인간이 개입하는 과정을 두는 것이다.

RLHF 과정에서 AI가 유해한 콘텐츠를 만들 때 불이익을 주고, 좋은 콘텐츠를 만들면 보상을 주는 방식으로 이뤄진다.

이러한 강화 학습을 거치면 콘텐츠의 편향성이 줄어들고,

더 정확하며, 도움이 많이 되는 쪽으로 AI의 답변이 점차 개선된다.

<듀얼 브레인_64p-65p>​

공동 지능이 되기 위한 4가지 원칙📑

AI가 어떤 식으로 정보를 수집하고 답변을 제공하는지 알게 됐다면, 이제 AI와 함께 일하는 법을 이해해야 한다.

이 책에서는 LLM 모델을 기반으로 하는 현재의 모든 AI 시스템에서

가급적 시간이 지나도 변하지 않는 본질적인 특성에 초점을 맞춘다.

​

원칙 1. 작업할 때 항상 AI를 초대한다.

법적, 윤리적 장벽이 있는 경우를 제외하면, 실행하는 모든 작업에 AI를 초대해서 도움을 받도록 한다.

AI로 할 수 있는 일을 잘 알아 두면, AI가 어떤 도움을 줄 수 있는지

혹은 어떤 측면에서 위협이 될 수 있는지를 더 잘 이해하게 된다.

​

AI를 활용해 사고와 접근 방식이 한층 다양해지면,

인간의 머리로는 떠올리기 힘든 혁신적인 해결책과 아이디어가 나올 수 있다.

AI의 들쭉날쭉한 경계를 파악하면서, 우리는 AI의 강점만 알아내는 것이 아니라 약점도 파악하게 된다.

일상 업무에 AI를 활용하는 것은 AI의 능력과 한계에 대한 이해를 높이는 데 도움이 된다.

이는 AI의 역할이 점점 커지는 이 시대에 대단히 소중한 지식이다.

LLM에 익숙해질수록 LLM의 강점을 더 효과적으로 활용할 수 있을 뿐 아니라,

우리 직업에 미칠 잠재적 위협을 미리 파악하여

인간과 AI의 매끄러운 통합을 요구하는 미래에 더 잘 대비할 수 있게 된다.

​

그렇지만 AI는 만능 해결책이 아니다. 때로는 예상대로 작동하지 않거나 바람직하지 않은 결과가 초래될 수도 있다.

첫 번째로 우려할 만한 문제는 데이터의 비밀 보호 문제다.

사실 대부분의 LLM은 우리가 건네는 데이터를 가지고 학습하지 않는다.

이미 오래전에 사전 학습이 완료된 경우가 대부분이기 때문이다.

하지만 우리의 데이터가 향후 사용되거나 모델의 미세조정에 사용될 가능성은 존재한다.

그래서 큰 AI 기업 중 일부는 사용자의 정보를 보호할 수 있는 비공개 모드를 만들어서 이를 해결했다.

이런 규약을 얼마나 신뢰할 것인지는 결국 사용자가 결정해야 한다.

​

두 번째로 우려할 만한 문제는 의존성이다.

AI에 무분별하게 의사 결정을 맡기면 인간의 판단력이 약해질 수 있는 것은 사실이다.

이 문제를 해결하는 핵심은 인간이 계속 주요 과정에 개입하는 것이다.

AI를 버팀목이 아니라 보조 도구로 사용하는 것이다.

<듀얼 브레인_76p-82p>

​

원칙 2. 인간이 주요 과정에 계속 개입한다.

AI의 중요한 기능은 사용자가 좋아할 만한 답을 제시해 사용자를 '만족시키는'것이다.

그리고 이 목표는 종종 정확성을 유지하는 것보다 더 중요하게 여겨진다.

그래서 AI가 잘 모르는 문제의 답을 요구하면, 없는 답을 만들어 내기도 한다.

LLM은 텍스트를 예측하는 기계이기 때문에, 그럴듯하고 만족스럽지만 미묘하게 틀린 답을 내놓는 데 아주 능숙하다.

이와 같은 AI 환각은 심각한 문제이며, 맥락에 맞추는 AI의 연기는 너무도 실감 나서,

경험 많은 사용자조차도 AI에 느낌과 감정이 있다고 믿기 시작할 수 있다.

따라서 인간이 주요 과정에 계속 개입하려면, AI가 그럴듯한 거짓말을 놓아놓는 것은 아닌지 확인할 수 있어야 하며

AI에 휘둘리지 않으면서 함께 작업할 수 있어야 한다. 이때 우리는 고유한 관점, 비판적 사고 능력, 윤리적 문제에 대한

의견을 제시하면서 AI를 감독하는 중요한 역할을 맡는다.

이러한 협업은 더 나은 결과를 도출할 뿐만 아니라,

AI의 처리 과정에 지속적으로 참여함으로써 AI에 지나치게 의존하거나 현 상태에 안주하는 결과를 피하게 된다.

앞으로 AI가 꾸준히 발전한다면, AI의 주요 처리 과정에 능숙히 관여하는 능력을 키운 사람은

그렇지 않은 사람보다 지적 성장의 불꽃을 먼저 보게 될 것이다. 그에 따라 앞으로 다가올 변화에 더 빨리 적응할 기회가 많아질 것이다.

<듀얼 브레인_83p-86p>

​

원칙 3. AI를 사람처럼 대하고, 어떤 유형의 사람인지 AI에게 알려준다.

LLM은 학습에 사용된 문서의 일반적인 패턴을 따르는 경향이 있기 때문에,

처음에 내놓는 기본적인 답변은 대단히 포괄적이고

일반적인 내용처럼 들릴 것이다. 이러한 패턴을 깨면 훨씬 더 유용하고 흥미로운 답변을 들을 수 있다.

패턴을 깨는 가장 쉬운 방법은 맥락과 제약을 정해주는 것이다.

즉, '자신이 누구인지' 말해 주는 것인데, 이렇게 하면 시스템에 일정한 관점을 제시할 수 있다.

LLM에게 대학원 교수의 입장이 되어 달라고 하면,

서커스 광대의 입장에서 대답해 달라고 했을 때와 다른 답변을 제시할 것이다.

이 같은 방법은 원하는 목적에 맞는 어조와 방향을 잡는 데 도움이 될 수 있다.

​

AI에게 특정한 페르소나를 맡아서 답변해 달라고 요청하면, 그러지 않았을 때보다 훨씬 나은 답변을 내놓는다고 한다.

그렇지만 어떤 페르소나가 가장 효과적인지는 명확하지 않을 때가 많다.

LLM은 사용자의 질문 기법에 따라 페르소나를 조금씩 조절하기 때문에,

능숙하지 않은 사용자에게는 덜 정확한 답변을 제공할 수도 있다.

따라서 직접 실험하는 것이 중요하다.

일단 AI에게 특정한 페르소나를 부여하면, 다른 사람이나 인턴과 일하듯이 AI와 함께 작업할 수 있다

AI 인턴은 빠르고 박식하지만, 완벽하지 않다는 점을 잊지 말자.

AI를 비판적인 시각으로 바라보고, 자신에게 적합한 도구로 대하는 것이 중요하다.

AI에게 페르소나를 부여하고, 작업 과정에 함께 참여하며, 지속적으로 지침을 제공한다면

우리는 AI를 협력적인 공동 지능으로 활용할 수 있다.

<듀얼 브레인_86p-93p>

​

​

원칙 4. 지금의 AI를 앞으로 사용하게 될 최악의 AI라고 생각한다.

AI 시스템의 성능 향상이 조만간 멈출 것이라 생각할 이유는 없다. 하지만 만에 하나 그렇게 되더라도,

우리가 AI를 사용하는 방식을 개선하고 조정하면 미래의 소프트웨어는 현재보다 훨씬 발전해 있을 것이다.

AI가 일반적인 기술 발전 속도에 따라 개선된다는 가정하에 말하는 것이다.

만일 인공 일반 지능의 개발 가능성이 실현 가능한 것으로 밝혀지면, 앞으로 몇 년 안에 세상을 훨씬 더 많이 바뀔 것이다.

한때 인간만이 할 수 있다고 여겨졌던 많은 일을 AI가 할 수 있게 될 것이다.

따라서 당신은 AI의 한계를 일시적인 것으로 받아들이고,

새로운 발전을 열린 마음으로 수용하며, AI의 기하급수적인 발전 속에

급변하는 비즈니스 환경에서 경쟁력을 유지하는 데 도움을 받을 수 있을 것이다.

<듀얼 브레인_95p-96p>

AI를 올바르게 사용하면 지엽적인 좋은 파국을 만들어 낼 수 있다.

이전에는 지루하거나 쓸모없던 일이 생산적이고 힘을 실어 주는 일이 되고,

뒤처졌던 학생들이 새로운 길을 찾아 전진하며,

생산성 향상이 성장과 혁신으로 이어지는 모습을 그려볼 수 있다.

<듀얼 브레인>_280p

​

나의, 우리의, 모두의 외계 지성 파트너

2024년, AI 인공지능 분야에서 가장 영향력 있는 인물 중 한 명으로 뽑힌 책의 저자인 이선 몰릭 작가님은

현재 펜실베이니아 대학교 와튼 스쿨의 부교수로 혁신 및 기업가 정신에 관한 연구와 수업을 이끌고 있습니다.

​

AI를 가르치는 학생들에게 사용을 권장할 정도로 다양한 분야에서 쓰임에 대해 많은 활용도를 찾고 있습니다.

그렇기에 이 책에서도 다양한 학교와 연구팀과 함께한 실험 그리고

Q&A가 보이며 AI가 어떤 식으로 이뤄지고 사용되는지 제시됩니다.

​

단기간에 계속해서 발전하는 AI 기술의 기하급수적인 성장은 언젠가 멈추게 될 것이라고 생각하는데

멈추고 다시 나아가는 그때 새로운 물결이 생길 것이라고 예측하는 사람도 있습니다.

현재도 다양한 업무에서 사용되며 일과 학업 능률 상승에 도움이 되고 있는

챗 GPT는 여러 기업에서 적극적으로 사용 권장을 하고 있으며 활용 수준이 필요 역량이 되기도 했습니다.

​

챗 GPT 같은 AI가 어떤 방식으로 만들어지고

우리가 제공받는 정보가 어떤 식으로 이뤄지는지 다양한 예시와 함께 설명해 주시는

<듀얼 브레인>은 효율적은 AI 사용 방법 그리고

현재를 살아가는 모두에게 AI를 공동 작업자로서 미래까지 함께 갈 방법을 제시해 주십니다.

유튜브나 다른 플랫폼에서 AI를 효과적으로 사용하는 방법을 알려주는

콘텐츠를 알려주기에 그것들을 찾아보셔도 좋습니다.

플랫폼 콘텐츠들은 핵심만 요약해서 전달하니 필요한 정보만 찾아보신다면 시간을 절약하실 수 있을 것입니다.

다만, AI에 대해 자세히, 나무 한 그루가 아닌 숲 전체를 보시고 싶으시다면 책을 읽어보시는 것도 좋을 것 같습니다.

​

저 또한 유튜브로 AI 영상을 찾아봤었지만,

책을 읽고 다양한 방법을 이것저것 접목해서 챗 GPT에서 답을 구하고 있습니다.

버팀목이 아닌 함께 성장하는 파트너인 AI와 함께 새로운 시대의 첫 불꽃이 되길 바랍니다.

고도의 기술 발전이 특징인 미래로 나아가면서,

우리가 정체성, 목적, 연결에 대한

깊은 인간적 질문을 하게 된다는 사실에는 시적인 아이러니가 있다.

그런 점에서 AI는 거울이며,

우리의 최선과 최악을 비춰 보여 준다.

우리는 AI의 의미를 결정할 것이며,

그러한 선택에 따라 AI가 인류를 위해 실제로 무엇을 하게 될 것인지 정해질 것이다.

<듀얼 브레인>_281-282p