AI는 (아이도 나도) 처음이라

📙 청소년과 빅테크 문제를 취재해 온 임지선 기자의 『빅테크가 대체 뭔데』
📘 AI 기술의 최전선에서 일하며 교육의 미래를 고민해 온 컴퓨터과학자 주한나·정은진의 『AI시대 아이와 나』

이 두 책이 비슷한 시기에 출간된 것은 우연이 아닐 것입니다. 전쟁 중 피란길에서도 자녀 교육만큼은 놓지 않았다는 우리 사회의 오랜 관심이 AI 시대를 맞아 더욱 뜨거워지고 있습니다.

AI는 배움과 교육을 어떻게 바꿀까요? 학교는 무엇을 준비해야 하고, 아이들은 무엇을 배워야 할까요? 우리는 AI 시대에 아이들을 어떻게 이끌어야 할까요? 디케 오픈포럼의 첫 번째 행사에서는 이러한 물음을 중심으로, 사전 신청자 160여 명이 보내온 질문 52건을 토대로 대담을 나누었습니다.

행사는 김유향 디케 입법정책연구원장의 ‘AI와 교육’ 발제로 시작해, 이서윤 사법연수원 교수의 사회로 임지선·주한나·정은진 저자의 대담이 이어졌습니다. 전체 진행은 김보라미 변호사가 맡았습니다.

이날의 발제와 대담 내용을 정리해 ‘AI와 교육’을 주제로 열린 디케 오픈포럼의 이모저모를 소개합니다.

AI 시대, 교육은 무엇을 지켜야 하는가

• 김유향(디케입법정책연구원장)

2022년 11월 챗GPT가 등장한 뒤, AI와 교육을 둘러싼 사건 가운데 두 가지가 특히 기억에 남는다. 하나는 AI를 주제로 한 대학 수업에서 생성형 AI를 이용한 부정행위가 발생한 일이다. 다른 하나는 야심 차게 추진됐지만 기대만큼 교실에 자리 잡지 못한 AI 디지털 교과서다. 나는 이를 각각 AI 활용 윤리의 취약성과 기술 도입 정책의 한계를 보여 준 사례로 본다. AI 디지털 교과서 도입에는 처음부터 반대했다.

그사이 AI는 학교가 문을 열어 주기를 기다리지 않았다. 학생들은 이미 과제를 하고 정보를 찾을 때 AI를 쓰고 있다. 이제 물어야 할 것은 AI를 학교에 들일 것인가가 아니라, 이미 교실에 들어온 AI를 교육적으로 어떻게 다룰 것인가다.

생성형 AI는 이전의 디지털 기술과 다르다. 인터넷이 지식에 접근하는 길을 넓혔다면, 생성형 AI는 글과 답을 만들어 지식의 생산 과정에도 참여한다. 이 변화 속에서 지식의 희소성에 기대던 교사의 권위는 약해진다. 대신 교사는 배움을 설계하고 학생의 판단을 돕는 역할을 더 많이 맡게 된다. AI를 쓸 줄 아는 것뿐 아니라, 언제 쓰지 않아야 하는지 판단하는 일도 중요해진다.

평가도 흔들린다. 나 역시 대학에서 학생의 보고서를 읽으며 묻게 된다. 지금 평가하는 것은 학생의 능력을 측정하는 것인가, AI의 능력을 측정하는 것인가. 매끈한 보고서가 학생이 더 많이 배웠다는 증거는 아니다. 그렇다면 최종 답뿐 아니라 그 답을 어떻게 만들고 검증했는지도 살펴야 한다.

교육 격차의 모습도 달라진다. 같은 AI를 쓰더라도 어떤 학생은 답만 받아 적고, 어떤 학생은 반론을 요구하며, 또 다른 학생은 답의 근거를 확인하고 문제를 새로 정의한다. 접근할 수 있느냐 못지않게 어떻게 활용하느냐가 중요해진 것이다. 그렇다고 이 차이를 학생 개인의 능력 탓으로만 돌려서는 안 된다. 질문하고 검증하는 법을 배울 기회를 학교가 마련해야 한다.

교육이 지켜야 할 것은 결국 인지적 자율성이다. 질문하고, 판단하고, 반박하고, 자기 판단에 책임지는 힘이다. 이는 교육을 넘어 민주주의의 문제이기도 하다. AI의 답을 빠르게 받아들이는 사람보다, 그 답을 의심하고 비교하고 토론해 자기 생각을 형성하는 시민이 필요하기 때문이다.

교사는 AI를 허용할 때와 허용하지 않을 때를 구분하고, 결과뿐 아니라 과정과 근거를 평가해야 한다. 부모는 사용 시간을 묻는 데서 그치지 않고 “AI는 뭐라고 했니? 너는 왜 그 말을 믿었니?”라고 물을 수 있다. 학생은 AI를 답안 작성자가 아니라 자기 생각을 시험하는 상대로 삼을 수 있다. 전문가 역시 AI가 내놓은 결과를 판단할 자신의 전문성을 놓아서는 안 된다.

AI 리터러시도 프롬프트를 잘 쓰는 요령에 머물러서는 안 된다. 답변의 근거와 한계는 무엇인지, 누가 시스템을 만들었고 누구에게 이익이 되는지, 오류나 차별에 어떻게 이의를 제기할지 물어야 한다. 학생의 개인정보와 학습 기록을 어떻게 보호할지, AI의 판단을 거부할 수 있어야 하는지도 논의해야 한다.

AI가 할 수 있으니 인간은 배울 필요가 없다는 말과, AI를 막으면 예전 교육을 지킬 수 있다는 말은 모두 충분한 답이 아니다. 기술을 사용하면서도 판단을 넘겨주지 않는 사람을 어떻게 기를 것인가. AI가 교육에 던진 질문은 결국 이것이다. 우리는 무엇을, 왜 배우는가.

답인 척하는 기계 앞에서, 출처를 묻는 아이로

• 임지선(한겨레 기자, 디케입법정책연구원 운영위원 『빅테크가 대체 뭔데』 저자)

나는 인터넷보다 먼저 태어났다. 밤 9시 뉴스를 텔레비전으로 보던 시절에서 출발해 포털과 유튜브가 일상의 매체가 되는 과정을 지켜봤다. 그 사이 뉴스를 만나는 경로는 편리해졌지만, 이용자가 원래의 출처를 알아보는 일은 더 어려워졌다. “그 기사 어느 신문에서 봤어?”라는 질문에 “네이버에서 봤어”라는 답이 돌아오고, 이제는 “유튜브에서 봤어”가 자연스럽다.

생성형 인공지능은 여기서 한 걸음 더 나아간다. 여러 곳에서 온 정보를 하나의 매끈한 답처럼 내놓는다. 아이에게 “AI 말만 믿으면 안 돼”라고 말하는 것만으로는 부족하다. 왜 믿어서는 안 되는지, 답의 출처를 어떻게 확인하는지 함께 살펴야 한다.

생성형 인공지능이 레시피를 알려 줬다고 하자. 요리책을 참고했을까, 개인 블로그의 경험담을 바탕으로 했을까, 어느 기관의 보도자료를 옮긴 기사를 참고했을까. 답을 접했을 때 원래의 자료와 작성자, 그 자료가 만들어진 경위를 거슬러 올라가 보는 힘이 필요하다. 출처를 찾을 수 없다면 그 한계도 알아야 한다. 신뢰할 만한 정보와 그렇지 않은 정보를 가르는 일은 그렇게 시작된다. 내가 빅테크를 설명하는 청소년 책을 쓴 이유도 아이들이 자신이 만나는 매체의 구조를 이해했으면 해서다.

플랫폼의 구조 역시 이야기해야 한다. 추천 영상과 끝없이 이어지는 화면은 이용자의 ‘주의력’을 오래 붙들어 두는 방향으로 설계된다. 아이에게 그저 “꺼”라고만 하면 “엄마도 보잖아”라는 대답이 돌아온다. 어른도 쉽게 벗어나지 못하는 구조라면, 개인의 의지만 탓하기보다 그것이 어떻게 작동하는지 함께 들여다봐야 한다.

생성형 인공지능에는 또 다른 유혹이 있다. 초안을 맡기는 유혹이다. 글쓰기를 좋아했던 초등학생 시절, 학원은 하나만 다닐 수 있다는 엄마 말에 나는 글짓기 학원 다음으로 컴퓨터 학원을 골랐다. 글을 구성하는 일과 프로그래밍은 비슷한 일로 느껴졌다. 특히 순서도 짜는 일이 좋았다. 어른보다 간결한 순서도를 그렸다고 생각했을 때의 기쁨이 아직도 기억난다.

글의 개요를 짜든 프로그램의 순서를 짜든, 처음부터 구조를 세우는 일에는 생각이 필요하다. 그런데 AI에게 초안을 맡기면 그 어려운 시간을 건너뛸 수 있다. 어른인 나도 조금만 고쳐 내 글로 삼고 싶은 유혹을 떨치기 어렵다. 아이에게 유혹을 경계하라고 말하기 전에, 그 마음을 어른도 안다고 이야기하고 싶다.

학교 현실도 빼놓을 수 없다. 아이들에게 책을 읽으라고 권하기 전에, 방과후 학원과 학원 숙제에 지친 아이들에게 읽을 시간과 힘이 남아 있는지 묻고 싶다. 아이들은 보상처럼 짜투리 시간에 숏폼을 넘긴다. 읽을 시간 자체가 부족한 아이들, 두꺼운 책이 버거운 아이에게는 책 한 권을 끝내라고 하기보다 “서문부터 끝까지 읽어 보자”고 권할 수도 있다.

인공지능 교과서를 논하지만 사실 학교 현장에는 코비드 시절부터 디지털 교육 자료와 플랫폼이 턱없이 부족하고 일선 교사에게만 내맡겨져 있다. AI를 수업에서 어떻게 쓸지까지 교사 한 사람의 판단과 책임으로만 미뤄서는 안된다. 교육 당국과 학교가 기준과 자료를 함께 만들어야 한다.

인공지능은 양극화를 가속할 것이다. 교육 격차 또한 커질 것이다. 과거 정보화 시대에 들어서며 격차를 없앤다고 소외계층에 중고 컴퓨터를 나눠주던 시절, 기기를 받았지만 그것을 배움에 활용하도록 도와줄 여건은 부족한 현장을 취재한 적이 있다. 아이들이 어두운 방에 앉아 하루 종일 게임을 했다. AI도 마찬가지일 수 있다. 도구만 건네고 사용법과 판단의 기준을 함께 가르치지 않으면, 도움을 받을 곳이 적은 아이일수록 답에 더 쉽게 의존할 수 있다.

그래서 아이에게 필요한 질문은 “AI를 썼니?” 하나가 아니다. “그 답은 어디서 왔니?”, “확인해 볼 수 있을까?”, “너는 어떻게 생각하니?”를 함께 물어야 한다. 출처를 묻는 힘은 AI 시대에도 아이가 자기 판단을 갖도록 돕는다.

알고리즘과 싸워 이길 수 있다는 착각

• 주한나 aka 양파 (전 MS 시니어 데이터 사이언티스트, 디케입법정책연구원 운영위원, 『AI 시대, 아이와 나』 공저자)

테크 회사의 AI 팀에 있을 때 동료들과 농담을 나눈 적이 있다. “우리 무덤을 우리가 파고 있는 것 같지 않아?” 웃으며 한 말이었지만, 기술이 일과 생활을 빠르게 바꾸는 모습을 보면서 그 농담을 가볍게만 듣기는 어려워졌다.

사람들은 내게 AI 시대에 아이가 무엇을 해야 하느냐고 묻는다. 하지만 남의 아이에게 정답을 줄 수는 없다. 나부터 숏폼을 보다 시간이 훌쩍 지나간 뒤에야 화면을 끌 때가 있다. 아이에게 쓰지 말라고 하기 전에 어른인 나도 이 기술 앞에서 얼마나 흔들리는지 인정해야 한다. 아이와 함께 방법을 찾아보자는 마음으로 책을 썼다.

내가 집에서 구분하려는 것은 찾아보는 일과 배움을 대신시키는 일이다. 궁금한 것을 AI로 찾아볼 수는 있다. 다만 아이가 익혀야 할 생각과 연습을 건너뛰고 결과만 가져오려 한다면 멈춰 보게 한다. 아이가 AI의 답을 가져오면 “네가 나한테 설명해 줘. 엄마는 눈이 아파”라고 말한다. 설명하려면 한 번 더 읽고 자기 말로 바꾸어야 한다. 때로는 다른 경우도 물어보게 한다. 답을 받는 데서 끝내지 않는 것이다.

숙제도 마찬가지다. 선생님이 과제를 내는 까닭은 결과물을 받기 위해서만이 아니다. 학생이 그 단원을 이해하고 다음 단계로 나아갔는지 확인하려는 것이다. 허용되지 않은 방식으로 답안을 AI에 통째로 맡기면 제출은 할 수 있어도 배움은 남지 않는다. 반대로 허용된 범위에서 자료를 찾거나 자기 풀이를 검토받는 일까지 모두 같은 부정행위로 취급해서도 안 된다. 학교가 과제마다 기준을 분명히 알려 주어야 아이도 “나만 안 쓰면 뒤처진다”는 불안을 덜 수 있다.

싫어하는 과목의 숙제를 내야 할 때는 AI 를 적극적으로 쓰려고 하는 아이지만, 자신이 좋아하는 일에서는 다른 모습도 보인다. 자신이 원하는 이야기를 쓰고 게임을 만들고 싶을 때는 AI 로 생성하기보다는 직접 해 보려 한다. 그림을 좋아하는 아이가 생성형 AI를 거부할 때 억지로 쓰게 할 이유는 없다고 생각한다. 아이가 자기 손으로 쌓고 싶은 것을 존중하면서, 필요할 때 다른 영역의 도구로 활용할 여지를 열어 두면 된다.

알고리즘을 대하는 일에는 어른의 의지만으로 부족하다. 2011년 게임 회사에서 일할 때 회의에서는 노출, 이용자의 참여, 수익화를 거듭 이야기했다. 화면의 작은 요소와 이용자가 머무는 시간을 살피는 일이 서비스의 성과와 연결됐다. 지금의 플랫폼도 이용자의 관심을 붙드는 여러 장치를 사용한다. 그 앞에서 “나는 원하면 언제든 멈출 수 있다”고 장담하기는 어렵다.

그래서 우리 집에서는 유튜브를 하루 30분 정도로 제한하고, 글쓰기처럼 아이가 스스로 무언가 만들 수 있는 앱은 사용할 수 있게 해 둔다. 이것이 모든 가정의 정답이라는 뜻은 아니다. 다만 화면을 더 오래 보지 않으면 무엇을 할 수 있을지, 아이가 심심한 시간을 어떻게 보낼지 생각해 볼 여백을 만들고 싶다.

AI를 무조건 막을 수도, 모든 과정을 맡길 수도 없다. 무엇을 아이 손에 남겨 둘지 먼저 정해야 한다. 알고리즘과의 싸움을 아이 개인의 의지에만 맡기지 않는 것, 그리고 아이에게 직접 해 보고 때로는 심심해할 시간을 남겨 주는 것. 내가 지키고 싶은 기준은 거기에 있다.

허술해도 자기 생각이 담긴 숙제가 이긴다

정은진(샌프란시스코대 교수, 『AI 시대, 아이와 나』 공저자)

몇 년 전부터 학생을 가르치는 일이 어려워졌다. 숙제는 잘해 오는데 수업 시간에 이유를 물으면 답하지 못하고, 시험에서는 스스로 풀어야 할 문제 앞에 멈추는 경우가 있었다. 과제를 마치는 동안 자연스럽게 일어나던 배움이 AI에 맡겨질 수 있다는 뜻이다. 그렇다고 학생들에게 AI를 쓰지 말라고만 할 수도 없다. 일을 시작하면 AI가 이미 도구인 곳이 많다. 무엇을 직접 익히고 무엇을 도구에 맡길지 가르쳐야 한다.

내 기준은 소박하다. AI 없이도 할 수 있기를 바라는 일은 AI 없이 해 본다. 가끔 내비게이션을 끄고 길을 찾아가고, 중요한 전화번호 몇 개를 외우려 한다. 만들어진 음식을 사 먹는 편이 편할 때도 있지만 직접 재료를 고르고 요리한다. 결과가 더 훌륭해서가 아니다. 그 일을 하는 동안 길을 익히고 선택하고 실수하는 과정이 내게 남기 때문이다. 아이에게도 기초 연산이나 글씨 쓰기처럼 직접 해 보아야 익힐 수 있는 일은 가능한 한 스스로 하게 한다.

부모는 걱정한다. 다른 아이들은 다 AI를 쓰는데 우리 아이만 뒤처지는 것 아니냐고. 평가하는 사람의 입장에서 보면, 반들반들한 과제가 언제나 더 나은 과제는 아니다. 조금 허술해도 학생이 무엇을 생각했고 어디서 막혔는지가 보이는 글은 가르칠 단서를 준다. 완성도만 높고 학생의 이해를 확인할 수 없는 글보다 오래 들여다보게 된다.

그래서 “몇 살부터 써야 뒤처지지 않을까?”보다는 “어떤 일을 스스로 할 수 있을 때 도구를 보탤까?”를 묻고 싶다. 어린아이라면 보호자와 함께 질문하고 답을 살펴보는 것부터 시작할 수 있다. 조금 자라면 먼저 자기 힘으로 과제를 해 본 뒤 AI를 검토와 피드백에 활용할 수 있다. 나이가 들수록 재량을 넓히되, 학교와 과제의 기준을 확인하는 일은 빼놓지 말아야 한다.

우리 집에서는 AI의 대답이 대화의 끝이 되지 않도록 한다. AI가 무언가를 알려 주면 내가 내 말로 다시 설명하고, 아이와 다른 자료도 찾아본다. 친구들끼리 먼저 무엇을 물을지 의논한 다음 AI에게 물어보는 방법도 시도해 볼 만하다. 중요한 것은 질문을 기계에 넘기기 전에 사람이 먼저 질문을 만들어 보는 것이다.

코딩도 목적에 따라 방법이 달라진다. 아이디어를 간단한 앱으로 만들어 보는 경험을 주고 싶다면 AI에게 말로 지시해 코드를 만드는 바이브 코딩이 즐거운 출발점이 될 수 있다. 반면 순서를 짜고 오류를 찾아내는 힘을 기르고 싶다면, 컴퓨터 없이 종이와 연필로 문제의 절차를 설계하는 활동도 필요하다. 바이브 코딩을 해 보았다고 코딩을 저절로 배우는 것은 아니다. 만들어진 결과가 왜 작동하는지 이해할 기회를 따로 마련해야 한다.

한 어머니가 AI 시대에 아이에게 정직을 어떻게 가르쳐야 하느냐고 물었다. 보안을 공부한 나는 ‘인티그리티’라는 말을 들으면 정보가 임의로 훼손되거나 변경되지 않았다는 뜻의 ‘무결성’을 떠올린다. 교육에서의 정직성은 그와 다른 맥락이지만, 자신이 한 일과 AI에 맡긴 일을 사실대로 드러낸다는 점에서 맞닿아 있다.

문제는 허용 범위가 과제마다 다르다는 것이다. 어떤 일에서는 AI를 쓰는 것이 당연하지만, 어떤 숙제에서는 학생이 처음부터 끝까지 직접 해 보기를 기대한다. 그러니 아이에게 모든 상황에 통하는 한 줄짜리 규칙을 주기는 어렵다. 과제 안내를 읽고 사용 범위를 확인하게 하자. 모호하면 선생님께 물어보고, 친구들이 모두 한다는 이유만으로 따라 하지는 말자고 이야기할 수 있다.

AI가 교육 격차를 저절로 메워 줄 것이라는 기대에도 나는 신중하다. 밤늦게까지 일한 뒤 지친 몸으로 과제를 하는 학생에게 AI는 당장의 마감을 돕는다. 그러나 그 학생에게 부족한 공부 시간을 만들어 주지는 못한다. 기술에 접근할 기회와 함께 배울 시간, 도움을 청할 사람, 실패해도 다시 해 볼 여건이 필요하다. AI를 어떻게 쓸지 묻는 일은 결국 아이와 학생에게 어떤 배움의 조건을 마련해 줄지 묻는 일이기도 하다.