최근 한 달여 동안, AI의 지원을 받는 글쓰기가 화두가 되고 있습니다. 이 주제는 몇 년 전부터 있어 왔지만, 갑자기 관심이 급증한 것은 OpenAI(샘 알트만, 일론 머스크, 피터 틸 등이 공동창업한 인공지능 회사)의 GPT-3 (Generative Pretrained Transformer 3; 인공신경망 기반의 언어모델)에서 비롯된 것입니다.

[dropcap font=”arial” fontsize=”33″]GPT-3란?[/dropcap]

 

딥러닝 기술을 사용하여 개발된 최첨단 언어 모델입니다. 인터넷의 방대한 텍스트 데이터를 학습하여 기술 문서부터 창작 문서에 이르기까지 다양한 스타일과 장르의 텍스트를 생성할 수 있습니다. 질문에 답하고 텍스트를 번역하는 자연어 이해 작업과 이야기를 쓰고 시를 짓는 텍스트 생성 작업 등 다양한 언어 작업을 높은 정확도와 유창함으로 수행할 수 있는 것이 핵심 특징 중 하나입니다.”

예, 이 인용문은 자연어 대화를 통해 GPT-3가 생성한 것입니다. 편집하지도 않았습니다.

출처: OpenAI 홈페이지 중 ‘api’ 페이지에서 갈무리

기존 제품들과 비교했을 때 GPT-3는 놀라울 정도로 자연스러운 말을 만드는데 능숙합니다. 참고로 GPT-3는 ChatGPT(대화형 인공지능 서비스)라는 샌드박스를 통해 제공되고 있습니다. ‘민주주의에 대한 페이스북이 미치는 장단점에 대해 다섯 가지 요점으로 토론해 보세요’라고 요청하면, 적절한 설명을 제공합니다. 해당 주제에 대한 세 가지 논거를 개요로 제공하고 두 가지 논거를 더 제시하라고 요청하면, 처음에 시작한 내용을 자연스럽게 이어갑니다. 너무 자연스럽게 읽히기 때문에, 전 세계 교수들이 에세이 과제가 무의미해질 수 있다고 경각심을 불태웠을 정도입니다(참고로 이 글의 필자는 미국 대학에서 학생을 가르치고 있습니다. -편집자).

주목해야 할 두 가지 사항 

GPT-3 딥러닝 메커니즘으로, 방대한 양의 기존 텍스트를 학습하여 특정 단어와 단어가 연결되어 등장하는 경우들을 ‘의미’를 나타내는 토큰으로 변환합니다. 토큰에는 확률이 할당되어 자연어로서 다음에 나올 가능성이 가장 높은 다른 토큰을 산출합니다. 최종 결과를 얻을 때까지 이 과정을 반복합니다.

여기서 주목해야 할 두 가지 사항은 첫째, 출력은 학습된 데이터에 의해 제한된다는 것입니다. 데이터는 인터넷에 있는 수천억 개의 단어로 이루어진 텍스트라고 합니다. 하지만 한계점은 2021년으로, 그 이후의 모든 정보는 반영되지 않습니다. 둘째, 인공지능이라고 계속 불리고 있지만, 사실 이 도구는 ‘언어 시뮬레이션’ 전용입니다. 증거의 적합성을 따지거나, 어떤 아이디어가 미칠 결과에 대한 사회적 시뮬레이션을 수행하거나, 자신 또는 사회를 위한 대의 같은 것은 추구하지 습니다.

GPT 딥러닝 메커니즘에서 주목할 두 가지 사항이 있습니다. 1) 2021년까지의 정보를 대상으로 한다는 점. 2) (인간이라면 당연히 고려할) 증거의 적합성, 아이디어의 결과, 사회적 대의와 같은 고려하지 않는다는 것.

글쓰기 과제에 AI 도구 사용하기? 

세부 사항은 수업마다 다를 수 있지만, 수업에서 글쓰기의 일반적인 목적은 다음과 같은 기술에 대한 훈련을 받는 것입니다:

  • 다른 사람의 아이디어를 비판적으로 검토하고, 그 아이디어가 나온 맥락이해하며, 아이디어가 우리 상황에 적용되었을 때 어떻게 작동할지를 파악하기.
  • 문제에 대한 이해를 바탕으로, 그래서 무엇을 해야 할지에 대한 논리적 아이디어로 전환하기.
  • 사실성, 당위성, 실현 가능성(및 기타 여러 기준)을 검토하여 근거와 가능한 방향성을 비판적으로 평가하기.

단순히 글쓰기 작업을 쉽게 끝내겠다고 이런 과정을 자동화하려는 시도는, 마치 수영 강습에 제트스키를 가져오는 것과 같습니다. 여러분은 A 지점에서 B 지점까지 순항하기 위해 온 것이 아니라, 수영하는 법을 배우러 온 것입니다. 게다가 수영을 할 줄 모르는 상태에서 제트스키를 조작하는 것은 말려야 할 일이죠.

글쓰기 과정에서 우리가 배우려는 것은 자동화를 통해서는 학습할 수는 없습니다. 그것은 수영 강습에 제트스키를 가져오는 것과 마찬가지죠.

글쓰기와 AI: 유용한 경우 vs. 재앙인 경우 

언어 AI의 작동 방식 및 수업 중 글쓰기라는 것의 본질이라는 두 가지를 고려하면, AI가 도움이 되는 경우와 그렇지 않은 경우의 목록이 나옵니다.

AI 도구는 다음과 같은 경우에 유용합니다.

  1. 문장 쓰기 지원: 그러니까, 적절한 단어나 문형 찾기 등. 문장을 어떻게 시작하고 끝낼지 헛갈릴 때.
  2. ‘기본’ 구조와의 비교: 일반적으로 기대되는 내용 구조에서, 누락된 것이 있는지 확인.
  3. 품질 점검: 같은 소재 안에서, 내 글이 인공지능으로 뽑은 것보다 더 나아 보이는지 점검.

설명을 요약하거나, 최적의 문장 구조를 찾아야 하는 글쓰기 과제라면, AI는 놀라운 능력을 발휘합니다. 올바른 프롬프트만 골라내면, 좋은 언어로 매끄럽게 작성된 글이 나올 수 있습니다. 이것이 바로 ChatGPT가 컴퓨터 코드나 논문 요약 등을 작성하는 데 탁월한 이유입니다.

AI 도구는 다음 경우에는 재앙입니다.

  1. 아이디어 개발: 도구의 기본 구동 방식 때문에, GPT3가 만든 결과물은 대다수 사람에게 널리 받아들여질만한 어떤 ‘평범함’으로 수렴합니다. 이런 메커니즘은 방대한 기존 텍스트에서 학습한 그럴듯함을 활용하기 때문에, 극단주의를 피하는 데에는 꽤 능숙합니다(적어도 이전의 다른 많은 AI보다 낫습니다). 하지만 마찬가지로, 창조적인 발상도 피합니다. 나아가 정치적 결정과 관련된 대부분의 질문은, 기본적으로 회피합니다.
  2. 증거에 대한 사실 확인: AI 글쓰기 도구는 증거를 찾는 것이 아니라 언어를 시뮬레이션합니다. 때로는 자신의 주장이 자연스럽게 들리게 하기 위해, 그냥 증거를 생성(즉, 조작)하기도 합니다.
  3. 아이디어와 증거의 출처를 맥락화하기: AI는 학습한 말들을 새로운 언어로 바꿔 표현하는 식으로 작동합니다. 원래의 자료가 어디에서 왔는지는 기억하지 못합니다.
  4. 개성: 물론 ChatGPT는 문체를 흉내내는 데 능숙합니다. 하지만 배울 수 있는 참고 자료가 많았을 때만 가능합니다. 아마도 정작 여러분 자신의 논리, 전개 방식, 미학 스타일은 딱히 배우지 못했을 것입니다.

요컨대, 글쓰기 과제가 어떤 현상을 비판적으로 분석하고 더 나은 방향으로 개선하기 위한 아이디어를 제안하는 것이라면, ChatGPT는 평범하고 얄팍한 훈계질, 수많은 가짜 근거, 출처 미표시로 인한 사실상의 표절 행위, 그리고 그저그런 평범한 문체로 채워넣은 결과물이나 내놓을 것입니다. 설상가상으로, 그 글은 마치 사람이 쓴 것처럼 보일 것입니다. 바로 여러분이 쓴 것 처럼요.

우리가 글을 쓰는 목적은 무엇입니까?

현명한 도구 사용

이 도구를 어떻게 써야할까요? 아직 모범 사례는 없습니다. 하지만 몇가지 상상은 가능합니다.

  • 주어진 주제에 대해 기존에 논의된 내용이나 논의 가능한 방향을 찾아봅니다(AI 유용).
  • 그런 다음 아직 없는 내용, 더 집중해야 할 내용, 더 심층적으로 검토해야 할 내용을 분석합니다(AI는 사용하지 마세요).
  • 핵심 사실을 조사하고 검증합니다 (AI 금물).
  • 그 함의를 염두에 두고 주요 논거를 고안하고(AI는 안 됨),
  • 문장 구조를 다듬습니다 (AI 유용).
  • 그런 다음 AI에게 글의 요약을 요청하여, 여러분의 주요 아이디어들이 AI도 알아먹을 정도로 논리적으로 작성되어 있는지 확인합니다(AI 유용).

어떤 사람들은 이런 속도로 발전이 계속된다면, 조만간 우리는 특이점에 도달할 것이라고 주장합니다. 하지만 우리가 사용하는 도구가 여전히 ‘언어 모델’인 한은, 한계점들이 비교적 동일하게 유지될 것입니다. 따라서 당분간은, 좋은 글쓰기를 통해 비판적 사고 능력을 계속 연마하세요.

관련 글