AI 시대 콘텐츠의 미래: 컨텐츠 신뢰성

아래의 자료는 Search engine journal에 개제된 에밀리 엡스타인의 컨텐츠 출처에 대한 인사이트와 컨텐츠 제작자의 경쟁력을 유지하는 방법에 관한 내용을 정리하였습니다.

 

에밀리 엡스타인(Emily Epstein)이 링크드인(LinkedIn)에서 “백과사전이 나왔다고 해서 사람들이 책 읽기를 그만두지 않았다”라는 관점을 공유했을 때, 이는 AI 중심 세상에서 1차 자료(Primary sources)의 미래에 대한 담론에 불을 지폈습니다.

 

이번 에피소드에서는 '서치 엔진 저널(Search Engine Journal)'의 편집장 케이티 모튼(Katie Morton)과 '시그마(Sigma)'의 전 콘텐츠 디렉터 에밀리 앤 엡스타인이 그녀의 게시물을 심층 분석합니다. 또한, AI 도구가 지식 습득의 지름길을 제공하게 된 지금, AI가 출판업자, 콘텐츠 제작자, 마케터에게 실제로 어떤 의미를 갖는지 파헤쳐 봅니다.

두 사람의 대화는 출처(Provenance)의 중요성, 온라인 지식 습득에 담긴 여러 계층, 그리고 더욱 투명한 편집 기준의 필요성을 강조합니다.

 

콘텐츠 제작자라면, 이 에피소드를 통해 '관심'을 얻기 위한 경쟁이 '신뢰'를 얻기 위한 경쟁으로 변해가는 과정에서 어떻게 가치를 제공할 수 있을지 통찰을 얻으실 수 있습니다.

 

 

케이티 모튼: 안녕하세요, 여러분. 저는 서치 엔진 저널(Search Engine Journal)의 편집장 케이티 모튼입니다. 오늘은 시그마(Sigma)의 전 콘텐츠 디렉터였던 에밀리 앤 엡스타인과 자리를 함께했습니다. 환영합니다, 에밀리.

 

에밀리: 정말 감사합니다. 이 자리에 오게 되어 기뻐요.

 

케이티: 저도요. 대화에 응해주셔서 감사합니다. 에밀리가 링크드인(LinkedIn)에 제 시선을 사로잡는 아주 훌륭한 글을 올렸는데요. 에밀리, 청중들을 위해 그 내용을 간략히 요약해 주시겠어요?

 

에밀리: 모두에게 충격적일 수도, 전혀 아닐 수도 있는 이야기인데요. 핵심은 "백과사전이 나왔다고 해서 사람들이 책 읽기를 그만두지는 않았다"는 것입니다. 이는 복잡한 상황을 요약하는 장치로서 AI 도구가 작동하는 방식에 대해 쏟아지는 세간의 히스테리에 대한 반응이기도 합니다. 즉, 지식을 습득하는 '지름길'이 생겼다고 해서 1차 자료와 독창적인 출처에 대한 필요성이 사라지는 것은 아니라는 뜻이죠.

이 두 가지 유형의 지식 습득 방식은 공존하며 서로 겹쳐집니다. 독후감을 쓸 때 백과사전이나 ChatGPT 검색으로 시작할 수는 있지만, 뒷받침할 근거가 없다면 거기서 찾은 내용은 중요하지 않습니다. 독후감에 "엔카르타(Encarta:MS의 멀티미디어 백과사전)에서 들었다"라고만 쓸 수는 없으니까요. 그 정보가 어디서 왔느냐가 중요합니다. 저는 이것이 검색의 패러다임을 바꿀 것이라고 생각합니다. 이제 검색에는 여러 개의 '층(layer)'이 생길 것입니다.

검색의 시작은 AI 도구로 할지 몰라도, 결국은 1차 자료를 정리하고, 더 깊은 분석을 제공하며, 지식이 형성되는 과정에서의 모순까지 보여주는 다른 곳에서 끝마쳐야 할 것입니다. 왜냐하면 AI가 요약한 내용 대부분은 현실에 대해 아주 차분하고 '중립적인' 관점을 제시하기 때문입니다. 하지만 우리는 그것이 사실이 아님을 알고 있습니다. 모든 지식은 '모든 것을 포함할 수 없기' 때문에 어떤 방식으로든 편향될 수밖에 없습니다.

 

 

출처(Provenance)의 중요성

 

케이티: 링크드인 포스트에서 언급하신 '출처(Provenance)'에 대해 이야기해보고 싶습니다. AI 지원 검색에서 "원천 자료를 보여달라"는 요구가 표준이 되려면 문화적, 편집적, 사회적으로 어떤 일이 일어나야 할까요? 위키피디아나 백과사전처럼, 이상적으로는 사람들이 여전히 원본 출처를 인용하고, 분석을 심화하며, "이 정보는 여기서 나왔다"라고 말할 수 있어야 하는데요. 사람들이 표면적인 요약만 훑어보고 그것을 절대적인 진리로 받아들이지 않게 하려면 어떻게 해야 할까요?

 

에밀리: 먼저, 사람들이 이러한 도구를 직접 사용해 보면서 그 도구가 얼마나 신뢰할 수 있는지에 대한 판단의 과정을 거쳐야 합니다. 출처를 생각한다는 것은 지식 습득을 '삼각 측정(Triangulation)'으로 생각하는 것을 의미합니다. 제가 기자였을 때를 예로 들면, 전문(hearsay), 직접적인 인용구, 보도 자료, 소셜 미디어를 모두 균형 있게 고려해야 했습니다.

다양한 출처를 통해 이야기를 만들어야만 그 중간 지점에 도달할 수 있고, 다층적인 진실과 현실을 설명할 수 있습니다. 이는 진실이 결코 선형적이지 않으며 현실은 파편화되어 있다는 이해에서 비롯됩니다.

AI는 여기서 더 나아가 개인화된 답변을 제공합니다. 사람마다 프롬프트를 다르게 입력하기 때문에, 우리는 각자 다른 정보 세트를 바탕으로 다른 답변을 얻게 됩니다. 현실이 이 정도로 파편화되면, 맥락 파악을 위해 정보가 어디서 왔는지, 즉 '출처'를 아는 것이 필수적이 됩니다.

그리고 '삼각 측정'은 기자들에게만 중요한 것이 아니라 모두에게 중요해질 것입니다. 사람들은 자신이 받는 정보를 바탕으로 의사결정을 내리기 때문입니다. 잘못된 정보가 입력되면 잘못된 결과가 나오고, 잘못된 결정을 내리게 되며, 이는 업무부터 주거 문제까지 모든 것에 영향을 미칩니다. 사람들은 처음 물어본 사람이나 도구가 제공하는 정보보다 더 정확한, 더 나은 버전의 현실을 삼각 측정해야 할 것입니다.

창작자: 관심 경쟁에서 신뢰 경쟁으로

 

케이티: 만약 AI가 정보 접근의 최상위 층이 되어 사용자를 자신의 생태계 안에만 머물게 하도록 설계된다면, 콘텐츠 제작자와 출판사들에게는 어떤 의미가 있을까요? 마치 그들이 만든 결과물을 AI가 자신의 것처럼 재포장하는 상품으로 만드는 것처럼 느껴집니다. 수익과 가시성 측면에서 제작자들에게 어떤 결과가 나타날까요?

 

에밀리: 제작자와 출판사는 관심(Attention)을 얻기 위해 경쟁하는 대신 신뢰(Trust)를 얻기 위해 경쟁하게 될 것입니다. 이는 편집 기준을 더 투명하게 만드는 것을 의미합니다. 자신들이 하고 있는 작업을 보여주어야 할 것입니다. 대부분의 AI 도구는 어떻게 작동하는지 알 수 없는 '블랙박스'와 같기 때문입니다.

하지만 제작자가 일종의 '블록체인'(정보 출처를 검증할 수 있는 장부) 역할을 하며 출처와 방법론을 투명하게 공개한다면, 그것이 바로 그들의 가치가 될 것입니다.

사진의 역사를 생각해 보세요. 처음 사진이 나왔을 때 사람들은 사진을 과학이라고 여겼고 순수한 사실이라고 믿었습니다. 하지만 암실 기술(닷징, 버닝)이나 다중 노출 등을 통해 사진도 거짓말을 할 수 있다는 것을 알게 되었습니다. 사진이 예술의 한 형태가 되었을 때, 사람들은 사진가의 역할이 '필터'를 제공하는 것임을 깨달았습니다. 지금의 AI도 마찬가지입니다. 우리가 받는 모든 정보에는 필터가 씌워져 있습니다.

그 필터를 투명하게 공개하는 조직이 더 성공할 것이며, 사람들은 그들을 다시 찾게 될 것입니다. 더 나은 정보를 얻고 출처를 알 수 있어야 더 나은 결정을 내리고 더 나은 삶을 살 수 있기 때문입니다.

 

AI 환각(Hallucinations)과 딥페이크

 

에밀리: 사진이 거짓말을 할 수 있다는 사실은 사진 역사에서 충격적인 순간이었습니다. 지금 우리가 처한 상황도 그렇습니다. 모두가 AI를 사용하고 있고 환각 현상이 있다는 것도 알지만, AI가 그 작업 과정을 투명하게 보여주지 않는 한 일반적으로 이 도구를 신뢰할 수 없다는 점을 이해해야 합니다.

 

케이티: 위험 요소도 실재합니다. 이미 제작자의 동의 없이 목소리를 흉내 내는 AI 음성이나 비디오 딥페이크가 나타나고 있으니까요.

 

사용자가 더 깊이 파고들도록 영감을 주는 법

 

케이티: 포스트 마지막에 "무엇이 충분한지 결정하는 작업은 여전히 사람의 몫"이라고 하셨습니다. 속도와 편의성이 강조되는 '관심 경제' 시대에 어떻게 하면 사람들이 더 깊이 파고들도록 도울 수 있을까요?

 

에밀리: 사람들이 깊이 파고드는 것을 원치 않는다는 생각은 '위키피디아의 늪(Wikipedia holes)' 현상만 봐도 틀렸다는 걸 알 수 있습니다. 사람들은 요약된 정보로 시작하지만, 인용구를 클릭하고, 더 멀리 나아가고, 다른 영상을 보고, 계속 파헤칩니다.

사람들은 자신이 원하는 것을 더 많이 원합니다. 매혹적인 정보라는 빵 부스러기를 던져주면 그 이상을 원하게 됩니다. 지식 습득에는 감정적인 면이 있습니다. "내가 찾아냈어, 이건 내 거야"라는 생각은 도파민을 분출하게 하죠.

콘텐츠 마케터로서 우리는 사람들에게 "와, 이 정보 덕분에 내가 더 똑똑해졌어. 이 브랜드가 내 지성과 발전에 투자하고 있구나"라는 느낌을 주는 가치를 제공해야 합니다. 콘텐츠 제작자들에게 이것은 최고의 목표(Gold star)가 되어야 합니다.