AI는 진실을 만드나, 현실을 조작하나(사진_AI이미지)

[굿모닝전북신문 9.15 창간특집] 8부 『조작사회』 - AI는 진실을 만드는가, 현실을 조작하는가

"내가 지금 보고 있는 것은 현실인가, 아니면 현실처럼 만들어진 것인가?“

프롤로그
인류는 오랫동안 거짓말을 해왔다.

 말로 거짓말을 했고, 글로 거짓말을 했으며, 사진으로 거짓말을 했다. 그리고 이제는 현실 자체를 만들어낼 수 있는 기술을 갖기 시작했다.
존재하지 않는 사람이 말한다. 존재하지 않는 사건이 영상으로 만들어진다. 실제로 하지 않은 말을 정치인이 한 것처럼 만들 수 있다. 죽은 사람의 목소리를 재현할 수도 있다. 누군가의 얼굴을 다른 사람의 얼굴과 합성할 수도 있다. 과거에는 거짓말을 하려면 사람을 설득해야 했다. 그러나 AI 시대에는 사람이 믿을 만한 증거처럼 보이는 것을 만들어낼 수 있다. 여기서 인류는 새로운 질문과 마주한다. "현실과 가짜를 구별하는 능력이 인간에게 남아 있는가?“

사진은 한때 진실의 증거였다 사진이 등장했을 때 사람들은 사진을 현실의 기록이라고 생각했다.
"사진에 찍혔다." 이 말은 실제로 존재했다는 강력한 증거처럼 받아들여졌다.

영상도 마찬가지였다. 하지만 디지털 기술은 이 믿음을 흔들었다. 사진은 편집될 수 있고, 영상은 잘라 붙일 수 있으며, 음성은 합성될 수 있다. 그리고 생성형 AI는 한 단계 더 나아갔다. 존재하지 않았던 장면 자체를 만들어낼 수 있게 된 것이다.

딥페이크 ― 얼굴을 훔치는 기술
딥페이크(Deepfake)는 AI를 이용해 사람의 얼굴이나 음성 등을 다른 사람처럼 합성하는 기술을 가리킨다. 기술 자체가 반드시 악한 것은 아니다. 영화, 교육, 번역, 접근성 기술, 디지털 복원 등 유용한 분야에서도 활용될 수 있다. 문제는그 기술이 인간의 신뢰를 공격할 때 발생한다. 누군가가 하지 않은 말을 했다고 만들고, 하지 않은 행동을 했다고 만들며, 존재하지 않는 사건을 실제 사건처럼 보여줄 수 있다.

이것은 단순한 가짜뉴스보다 훨씬 심각하다. 왜냐하면 눈으로 보고도 믿지 못하는 시대를 만들기 때문이다.

"보았으니 믿는다"는 시대의 종말
인간은 오랫동안 보는 것을 믿었다. 백 마디 말보다 사진 한 장이 강했다. 그러나 AI 시대에는 그 공식이 무너질 수 있다.
사진도 가짜일 수 있다. 영상도 가짜일 수 있다. 목소리도 가짜일 수 있다. 심지어 사람과 실시간으로 대화하는 것처럼 보이는 영상도 인공적으로 생성될 수 있다. 따라서 앞으로는 "봤다"는 사실만으로는 충분하지 않다.

우리는 이제 "누가 만들었는가?" "원본은 어디에 있는가?" "언제 만들어졌는가?" "어떤 경로로 전달되었는가?" 를 확인해야 한다.

AI가 만드는 거짓말은 왜 더 위험한가
전통적인 거짓말에는 흔적이 있었다. 문서가 필요했고, 사진을 조작해야 했으며, 여러 사람의 협조가 필요했다. 하지만 생성형 AI는 거짓 콘텐츠 제작의 비용과 시간을 크게 낮출 수 있다. 한 사람이 수많은 가짜 콘텐츠를 만들 수 있다. 그리고 그것을 서로 다른 계정과 채널을 통해 동시에 확산시킬 수도 있다.
이때 발생하는 위험은 단순한 허위정보가 아니다. '가짜의 대량생산'이다.

정치 ― AI는 유권자의 현실을 바꿀 수 있는가
정치에서 정보는 곧 권력이다. AI를 이용하면 정치인의 가짜 연설, 가짜 사진, 가짜 인터뷰, 가짜 지지자, 가짜 여론을 만들 수 있다. 특히 선거 직전처럼 시간이 부족한 상황에서 허위 콘텐츠가 빠르게 퍼진다면 사실 확인이 끝나기도 전에 유권자의 판단에 영향을 줄 가능성이 있다.

여기서 중요한 것은 AI가 선거를 '조작한다'고 단정하는 것이 아니다. 오히려 우리는 선거에서 AI 생성 콘텐츠가 어떤 방식으로 유권자의 판단 환경을 바꿀 수 있는가를 연구해야 한다.

금융 ― AI가 만드는 가짜 시장
금융시장 역시 정보에 민감하다. 기업의 실적, 경영진의 발언, 정부 정책, 전쟁, 금리, 국제정세. 이런 정보 하나가 주가를 움직일 수 있다. 그렇다면 존재하지 않는 기업 발표나 가짜 경영진 영상으로도 가능하다. 조작된 보고서, 합성된 음성이 등장한다면 어떻게 될까. AI 시대에는 허위정보가 금융시장의 가격 형성에 영향을 줄 가능성도 새로운 연구 대상이 된다. 제4부에서 다룬 "금융은 욕망을 설계한다" 라는 문제와 연결되는 지점이다.

수사 ― 증거의 시대가 흔들린다
제5부에서 우리는 수사가 진실을 찾는 과정이라고 이야기했다. 그런데 AI는 수사의 가장 중요한 도구인 영상, 음성, 문서, 사진을 모두 조작할 수 있는 가능성을 높인다. 그러면 새로운 질문이 생긴다. "증거를 조작할 수 있는 시대에 우리는 무엇을 증거라고 부를 것인가?" 앞으로 디지털포렌식은 단순히 삭제된 파일을 복구하는 기술을 넘어 콘텐츠의 생성과 변형 이력을 검증하는 기술까지 중요해질 가능성이 높다.

언론 ― 기자보다 AI가 먼저 뉴스를 만드는 시대
언론도 거대한 변화를 맞는다. AI는 기사를 요약하고, 번역하고, 영상 자막을 만들고, 자료를 분석할 수 있다. 그러나 동시에 가짜 기사도 순식간에 만들어낼 수 있다. 따라서 미래의 언론에서 가장 중요한 능력은 "빠르게 쓰는 능력"이 아닐 수 있다. 오히려 "빠르게 검증하는 능력"이 중요해진다. 속보의 시대에서
검증의 시대로. 이것은 언론의 생존과도 연결되는 문제다.

학문 ― AI가 만든 지식은 지식인가
제7부에서 우리는 학문과 권위의 문제를 살펴보았다. 이제 AI가 논문을 작성하고, 자료를 요약하고, 가설을 만들고, 코드를 작성한다. 그렇다면 AI가 만들어낸 연구 결과는 누구의 지식인가? 그리고 더 근본적인 질문 "AI가 만들어낸 지식을 인간이 검증하지 않는다면, 우리는 지식을 생산하는 것이 아니라 지식을 복제하는 것은 아닐까?" AI 시대의 학문에서 인간 연구자의 가장 중요한 역할은 질문하고 검증하는 것이 될 가능성이 높다.

AI 조작의 가장 무서운 단계
가짜뉴스는 사람에게 "거짓을 믿게" 만든다. 그러나 AI 시대의 더 큰 위험은 사람에게 "진실 자체를 믿지 못하게" 만드는 것일 수 있다. 실제로 존재했던 영상이 "AI로 만든 가짜다."라는 공격을 받을 수 있다. 진짜 사진도 "합성이다." 라고 주장할 수 있다. 실제 녹음도 "AI 음성이다." 라고 부정할 수 있다. 이 현상을 흔히 '거짓말쟁이의 배당금(Liar's Dividend)'이라는 개념으로 설명한다. 즉, AI가 가짜를 만드는 능력이 커질수록 오히려 실제 증거까지 부정하기 쉬워질 수 있다는 것이다. 이것은 매우 중요한 역설이다. AI는 거짓을 늘리는 것뿐만 아니라, 진실의 증거를 약화시킬 수도 있다.

현실보다 더 현실적인 가짜
인간은 완벽한 현실보다 자신이 믿고 싶은 현실을 더 쉽게 받아들인다. AI는 바로 그 지점을 파고들 수 있다. 정치적 성향, 종교적 믿음, 경제적 이해관계, 개인의 감정, 공포, 분노, 욕망. AI가 개인의 성향을 분석하고 그 사람에게 가장 설득력 있는 메시지를 만들어낸다면 조작은 대중을 향한 하나의 메시지가 아니라 개인 한 사람을 위한 맞춤형 조작으로 발전할 수 있다. 여기에서 제8부는 제4부 금융과 연결된다. 금융이 인간의 욕망을 설계한다면 AI는 이제 인간의 욕망을 분석하고 그 욕망에 맞춰 현실을 만들어 보여줄 가능성을 갖게 된다.

인간은 AI보다 똑똑해야 하는가
꼭 그런 것은 아니다. AI보다 모든 것을 잘할 필요는 없다. 하지만 한 가지 능력은 포기해서는 안 된다. 판단하는 능력이다. AI가 "이것이 사실입니다." 라고 말해도 질문할 수 있어야 한다. "근거는 무엇인가?" "원자료는 어디에 있는가?" "다른 자료에서도 확인되는가?" "누가 이 정보를 만들었는가?" "이 정보로 누가 이익을 얻는가?“ 이 다섯 질문은 AI 시대의 새로운 시민교육이 될 수 있다.

조작학 해설
AI 조작학(AI Manipulology) AI 조작학은 AI를 비난하는 학문이 아니다. AI를 이용한 정보 생산과 인간의 판단 사이에서 어떤 새로운 조작 구조가 발생하는지를 연구하는 분야다.

조작의 4단계 검증
① 생성(Generation) — 가짜의 원료를 만든다
생성 단계는 텍스트, 이미지, 음성, 영상을 실존 인물이나 사실처럼 보이게 만드는 기술적 조작이다. 2022년 우크라이나 대통령 젤렌스키가 병사들에게 항복을 지시하는 것처럼 조작된 딥페이크 영상이 트위터·페이스북·유튜브·러시아 VK에 동시 유포된 사건이 대표적 원형이다(유럽의회 EPRS 보고서). 2023년 슬로바키아 총선 48시간 전에는 진보정당 대표 미할 시메치카가 선거 조작을 논의하는 것처럼 들리는 가짜 음성이 페이스북에 퍼졌고(UNESCO 사례 연구), 최근에는 인도 봄베이증권거래소(BSE) CEO가 투자 조언을 하는 것처럼 조작된 딥페이크 영상까지 등장해 거래소가 투자자 경보를 발령했다(Arya.ai). 한국도 예외가 아니다. 21대 대선 때 이재명 후보가 배우자에게 욕설을 하는 것처럼 조작된 허위 영상물 논란이 있었고, 올해 6·3 지방선거를 앞두고는 한 예비후보가 해외 유력지가 자신을 선정했다는 내용의 AI 조작 영상을 스스로 제작·유포해 선관위에 고발당했다(다음 보도). 생성 단계의 위협은 "만드는 능력"이 더 이상 국가기관이나 전문가에게 국한되지 않는다는 점이다 — 생성형 AI 툴 하나로 개인도 정치인·언론사·거래소 CEO를 완벽하게 흉내낼 수 있다.

② 개인화(Personalization) — 취향에 맞춰 재단한다
생성된 콘텐츠를 특정 개인의 성향, 정치적 신념, 심리적 성향에 맞춰 최적화하는 단계다. 브리스톨대·PNAS 등의 연구에 따르면, LLM은 개인 프로필과 특정 캠페인 웹사이트를 입력값으로 넣으면 그 사람에게 가장 설득력 있는 방식으로 논지를 재구성한 이메일이나 광고 문구를 대규모로 자동 생성할 수 있다(PMC 연구, Sophos 분석). 흥미로운 점은, 최근 연구들이 개인화 자체의 설득력에 대해 엇갈린 결과를 내놓고 있다는 것이다. PNAS의 대규모 실험에서는 GPT-4가 만든 맞춤형(마이크로타겟팅) 메시지가 비맞춤형 메시지보다 통계적으로 더 설득력이 있다고 보기 어렵다는 결과가 나왔고(PNAS), 킹스칼리지런던의 최근 연구는 오히려 "얼마나 많은, 그럴듯해 보이는 정보량을 쏟아붓는가"가 설득력의 44%를 설명한다고 지적한다 — 즉 내용이 사실인지보다 그럴듯하게 들리는 정보의 '양'이 더 중요하다는 것이다(KCL 연구). 반대로 성격 프로필 기반 정치광고 연구들은 개인화된 광고가 비개인화 광고보다 실제로 더 효과적이라는 결과를 보여주며(Zarouali et al.), 특히 "당신은 지금 타겟팅되고 있다"는 경고 문구를 띄워도 설득 효과가 줄어들지 않는다는 점이 확인됐다(PMC 경고 실험). 즉 개인화 단계의 진짜 무기는 '이 사람이 무엇을 믿고 싶어하는가'를 알고리즘이 미리 계산해 그 틀에 맞는 이야기를 지어내는 능력이다.

③ 확산(Amplification) — 네트워크가 스스로 퍼뜨린다
일단 만들어지고 개인화된 콘텐츠는 추천 알고리즘과 소셜 네트워크의 구조 자체를 타고 기하급수적으로 확산된다. 2024년 미국 대선에서는 팀 월즈 후보를 둘러싼 딥페이크 성폭행 허위 영상이 X(트위터)의 한 익명 큐어논 계정을 통해 확산되며 삭제되기 전까지 430만 조회수를 기록했다(Incode 사례 분석). 러시아 연계 선전 조직 'Operation Overload'는 2025년 1~3월 사이 월스트리트저널, E!뉴스 등 80개 이상의 기관·매체 로고와 목소리를 도용해 가짜 뉴스를 조직적으로 퍼뜨렸다(EPRS 보고서). 이 확산이 가능한 이유는 알고리즘이 '진실 여부'가 아니라 '참여(클릭·체류시간)'를 최적화하도록 설계돼 있기 때문이다. 연구자들은 이를 "알고리즘은 선호를 만들어내는 것이 아니라 증폭시키는 존재(preference amplifier)"라고 표현하며, 이 증폭 구조가 필터버블·에코챔버를 통해 이념적 동질성을 구조적으로 강화한다고 지적한다(필터버블 연구). 한국 선관위 통계도 이를 뒷받침한다 — 올해 지방선거를 앞두고 선관위에 접수된 딥페이크 관련 허위 영상 삭제요청이 9,268건에 달했지만, 실제 X(트위터)의 삭제율은 30%대에 불과했다(경향신문, 다음 보도). 즉 콘텐츠 하나가 생성·개인화되고 나면, 그것을 걷어내는 속도보다 퍼뜨리는 속도가 구조적으로 훨씬 빠르다.

④ 현실화(Internalization) — 사람이 그것을 진실로 살아낸다
주장한 바 대로 이 단계가 전체 구조의 존재 이유다. 앞의 세 단계는 전부 이 마지막 단계를 위한 준비 과정에 불과합니다. 실제로 조작이 '완성'되는 순간은 누군가가 그 콘텐츠를 의심 없이 진짜라고 믿고, 그 믿음에 기반해 행동을 바꾸는 순간이다. 가장 극단적인 예는 2024년 홍콩에서 벌어진 사건이다 — 한 다국적기업 직원이 화상회의에서 만난 CFO와 동료 전원이 실시간 딥페이크였음을 전혀 의심하지 못한 채, 그 지시를 진짜라고 믿고 약 2,560만 달러(약 340억원)를 15차례에 걸쳐 실제로 송금했다(Adaptive Security, Authenticity Crisis). 이 사건에서 딥페이크 자체는 사실 아무것도 훔치지 않았다 — 훔친 것은 그 직원의 '믿음'이었고, 실제 돈을 이체한 손은 인간의 손이었다. 정치 영역에서도 같은 논리가 작동한다. 앞서 언급한 경고 문구 실험에서, 사람들은 "이 광고는 당신의 성격에 맞춰 타겟팅되었다"는 사실을 명시적으로 고지받아도 태도와 투표 의향이 그대로 흔들렸다(PMC) — 이는 조작이 '몰랐기 때문에' 통하는 게 아니라, 정보량과 반복 노출을 통해 사람의 인지 체계 자체에 그 서사가 이미 자리를 잡아버렸기 때문에 통한다는 뜻이다.

왜 ④번이 가장 중요한가
이 네 단계를 하나의 문장으로 압축하면, ①~③은 '얼마나 정교하게, 얼마나 멀리 퍼뜨릴 수 있는가'의 기술적 문제이지만, ④는 '사람의 인식과 행동을 실제로 바꿀 수 있는가'의 문제이다. 조작자의 최종 KPI는 조회수나 확산 범위가 아니라, 그 가짜를 접한 사람이 (1) 사실 검증 없이 그것을 현실로 받아들이고 (2) 그 믿음에 따라 투표하거나, 돈을 보내거나, 특정 정치인·집단에 대한 적대감을 실제 행동으로 표출하는지 여부다. 이 때문에 대응 전략도 ①~③(딥페이크 탐지 기술, 플랫폼 삭제 정책, 알고리즘 규제)에만 집중하면 구조적으로 뒤처질 수밖에 없다 — 탐지 기술이 발전하는 속도보다 생성 기술이 발전하는 속도가 항상 더 빠르고, 삭제율이 30%대에 머무는 현실이 이를 보여주기 때문이다. 오히려 마지막 단계, 즉 '수용자의 검증 습관과 비판적 해석 능력'을 겨냥한 미디어 리터러시와 사실 확인 인프라가 조작 구조 전체를 무력화할 수 있는 유일한 개입점이라는 것이 이 4단계 모델이 시사하는 결론이다.

조작의 진짜 위험은 콘텐츠 생성 자체보다 마지막 '현실화' 단계, 즉 사람들이 가짜를 진짜로 믿고 실제 행동(투표 포기, 금전 이체, 폭력적 집단행동 등)에 나서는 지점에 있다. 위 사례들 — 홍콩 340억원 사기, 가봉 쿠데타 시도, 미국 유권자 투표 거부 유도 전화 — 모두 이 4단계가 완결되어 실질적 피해로 이어진 경우다.

조작학 연구노트

핵심 개념
딥페이크 (Deepfake)
AI 딥러닝 기술로 특정 인물의 얼굴, 목소리, 움직임을 합성·재현해 실제처럼 보이는 가짜 영상·음성을 만드는 기술이다. 사례: 2024년 2월 홍콩에서 한 다국적기업 직원이 영국 본사 CFO를 사칭한 이메일을 받은 뒤, 여러 동료가 참석한 화상회의에서도 같은 지시를 받자 의심을 풀고 5개 계좌로 15차례에 걸쳐 총 2억 홍콩달러(약 340억원)를 송금했다. 화상회의에 등장한 CFO와 동료들 전원이 딥페이크로 재현된 가짜였으며, 홍콩 경찰은 관련자 6명을 검거했다 (중앙일보, 연합뉴스). 또한 2024년 1월 미국 뉴햄프셔 예비경선에서는 바이든 대통령의 목소리를 딥페이크로 복제해 투표 거부를 독려하는 전화가 약 2만 명에게 동시 유포된 사례도 있다.

생성형 AI (Generative AI)
텍스트, 이미지, 음성, 영상 등 기존에 없던 새로운 콘텐츠를 학습된 패턴을 기반으로 만들어내는 AI 기술이다. 
사례: 2024년 구글의 생성형 AI '제미나이'가 미국 건국자나 아인슈타인 같은 역사적 인물을 유색인종으로, 독일 나치군을 아시아인으로 묘사하는 등 사실과 다른 이미지를 만들어 논란이 일자 구글은 이미지 생성 기능을 일시 중단했다. xAI의 '그록-2'도 트럼프 전 대통령이 나치 군복을 입은 모습, 오바마 전 대통령이 바이든을 찌르는 모습 등 폭력적·자극적인 가짜 이미지를 무분별하게 생성해 문제가 됐다.

합성미디어 (Synthetic Media)
AI 등을 이용해 완전히 새로 만들거나 원본을 변형해 생성한 디지털 콘텐츠 전반을 가리키는 상위 개념으로, 딥페이크보다 넓은 범주다.
사례: 2023년 미드저니로 만든 영국 윌리엄·해리 왕자가 화해하며 포옹하는 가짜 사진 8장이 페이스북에서 7만 8천 개 이상의 '좋아요'를 받으며 확산됐고, 이는 사실이 아닌 합성 이미지였습니다. 최근에는 미국 워싱턴주 한 고등학교 주변에 노숙자가 배회한다는 SNS 게시물이 퍼졌지만 조사 결과 AI로 조작된 합성 이미지였음이 드러나기도 했습니다.

허위정보 (Misinformation)
사실과 다른 정보이지만, 만든 사람에게 반드시 남을 속이려는 고의가 있었던 것은 아닌 정보입니다. 오해, 착오, 맥락 누락 등으로 발생할 수 있습니다.
사례: 2020년 미국 대선 당시 '샤피게이트(SharpieGate)' 논란은 애리조나주에서 유성펜으로 투표용지를 작성하면 잉크가 번져 표가 무효 처리된다는 주장이 확산된 것으로, 조직적 기만보다는 잘못된 정보가 우려 속에서 퍼진 대표적 사례로 꼽힙니다.

의도적 허위정보 (Disinformation)
특정인이나 집단을 속이거나 여론에 영향을 미칠 목적으로 의도적으로 만들어 유포하는 허위정보입니다. '고의성'이 허위정보와의 핵심 차이입니다.
사례: 2023년 슬로바키아 대선 직전, 진보정당 대표 미할 시메치카가 기자와 부정선거를 논의하는 것처럼 들리는 음성 파일이 퍼졌으나 이는 실제 대화가 아닌 조작된 딥페이크로 확인됐습니다. 프랑스 정보기관 비지늠(Viginum)은 르몽드, 르피가로 등 언론사와 정부 웹사이트를 위장한 가짜 사이트를 만들어 친러시아 콘텐츠를 유포한 러시아의 조직적 허위정보 캠페인을 적발했습니다.

정보 오염 (Information Pollution)
사회의 정보 유통 환경 전반에 부정확하거나 오해를 유발하는 정보가 과도하게 쌓여, 무엇이 진짜인지 판별하기 어려워지는 현상입니다.
사례: 2024년 이후 AI 생성 이미지를 이용한 가짜 정보가 급증했는데, 테일러 스위프트의 얼굴에 성적인 이미지를 합성한 딥페이크가 SNS에 대량 유포되고, 트럼프 전 대통령이 체포되는 조작 사진이 함께 퍼지는 등 서로 다른 유형의 가짜 콘텐츠가 동시에 쏟아지며 정보환경 전체의 신뢰도를 떨어뜨린 사례가 보고됐습니다.

거짓말쟁이의 배당금 (Liar's Dividend)
법학자 Bobby Chesney와 Danielle Citron이 만든 용어로, 딥페이크가 흔해질수록 사람들이 '가짜일 수도 있다'는 것을 학습하게 되고, 그 결과 실제로 존재하는 진짜 증거조차 "그건 AI가 만든 가짜다"라고 부정하며 책임을 회피할 수 있게 되는 역설적 현상입니다. 즉 딥페이크에 대한 경각심이 높아질수록 오히려 거짓말쟁이가 이득을 보는 구조입니다.
사례: 2018년 가봉 대통령 알리 봉고가 몇 달간 공개석상에 나타나지 않다가 신년 연설 영상에 등장했는데, 표정이 부자연스러워 "이건 딥페이크이고 대통령은 이미 사망했다"는 소문이 퍼졌습니다. 실제로는 뇌졸중 후유증과 성형 시술 때문이었지만, 이 소문이 일주일 뒤 군부 쿠데타 시도의 촉발 요인이 됐습니다. 학술 연구에서도 정치인이 실제 스캔들 보도를 두고 "가짜뉴스·딥페이크다"라고 허위로 주장했을 때, 이런 대응이 침묵하거나 사과하는 것보다 오히려 지지율 유지에 더 효과적이라는 실증 결과가 확인됐습니다 (Cambridge University Press, Brookings). 미국에서는 테슬라 측이 일론 머스크의 과거 자율주행 안전성 발언을 법정에서 "딥페이크일 수 있다"며 증거로 채택하지 말 것을 주장한 사례, 1·6 국회의사당 폭동 관련자 변호인이 "제출된 영상 증거가 AI 생성물일 수 있다"고 주장한 사례도 이 개념의 실제 적용으로 꼽힙니다.

AI 시대의 새로운 검증법
앞으로는 "사진이 진짜인가?" 만 물어서는 부족하다. 우리는 다음을 확인해야 한다.
① 출처
누가 처음 만들었는가?
② 원본
최초 자료가 존재하는가?
③ 시간
언제 만들어졌는가?
④ 맥락
전체 장면과 연결되는가?
⑤ 교차검증
다른 독립적인 자료에서도 확인되는가?
⑥ 생성·변형 이력
콘텐츠가 어떤 과정을 거쳐 만들어졌는가?
⑦ 이해관계
누가 이 콘텐츠를 믿기를 원하는가?
이 일곱 가지 질문은 AI 시대의 '디지털 증거학'으로 발전시킬 수 있다.

조작학의 새로운 가설
지금까지의 조작은 정보의 조작이었다. 그러나 AI 시대의 조작은 현실 인식의 조작으로 발전할 수 있다. 이 차이는 매우 크다. 정보를 조작하면 사람은 잘못된 사실을 믿는다. 하지만 현실 인식을 조작하면 사람은 자신이 보고 있는 세계 자체를 다르게 이해한다. 이것이 AI 조작학이 연구해야 할 가장 중요한 문제 가운데 하나다.

에필로그
인류는 불을 발견했고, 문자를 만들었으며, 인쇄술을 발명했고, 전기를 사용했으며, 인터넷을 만들었다. 그리고 이제 현실을 생성하는 기술을 손에 넣기 시작했다. AI는 인류 역사상 가장 강력한 지식 도구가 될 수도 있다. 질병을 발견하고, 신약을 개발하고, 기후를 분석하고, 언어의 장벽을 낮추고, 교육의 기회를 넓힐 수도 있다. 그러나 같은 기술이 허위정보를 만들고, 사람을 사칭하고, 여론을 왜곡하고, 증거를 흔들고, 인간의 욕망을 정밀하게 자극하는 데 사용될 수도 있다. 따라서 문제는 AI가 선인가 악인가가 아니다. 문제는 "AI를 사용하는 인간이 어떤 사회적 규칙과 윤리, 검증 체계를 만들어낼 것인가?" 이다.

제8부의 마지막 정의
"인류는 이제 거짓말을 만들어내는 능력뿐 아니라, 현실처럼 보이는 거짓을 만들어내는 능력을 갖게 되었다. 따라서 AI 시대의 가장 중요한 능력은 더 많이 아는 것이 아니다. 무엇이 진짜인지 끝까지 확인하는 능력이다." 그리고 지금까지 우리가 함께 만든 문장이 다시 돌아온다. "진실은 정보를 많이 가진 사람에게 오는 것이 아니라, 정보를 가장 신중하게 검증하는 사람에게 다가온다.“

제9부 예고
「외교는 진실을 말하는가, 국가의 현실을 만드는가」
국가는 왜 자신의 약점을 숨기고, 상대국의 의도를 의심하게 만들며, 국민에게 특정한 적과 위협을 보여주는가. 외교에서 거짓말은 언제 전략이 되고, 선전은 언제 국가안보가 되며 정보전은 언제 전쟁이 되는가.

그리고 마지막에는 "국가도 조작하는가, 아니면 생존하기 위해 현실을 구성하는가?"라는 질문을 던지게 됩니다. 제9부에서는 외교·국가정보·선전·심리전·정보전·전쟁과 조작을 연결해 보겠습니다.

굿모닝전북신문 편집부