국내도서

미국 플로리다 주립대학교의 연구에 따르면, 생성형 AI가 자주 사용하는 표현들이 실제 사람들의 일상 대화 방식에도 영향을 미치고 있는 것으로 나타났습니다. 연구진이 2천만 단어가 넘는 자료를 분석한 결과, 챗GPT가 자주 사용하는 격식 있고 다소 딱딱한 단어들의 사용 빈도가 2022년 이후 눈에 띄게 증가했다는 것입니다.

처음에는 AI가 인간의 언어를 모방하며 자연스럽게 말하게 하는 것이 과제였는데 시간이 흐르면서 상황이 달라졌습니다. 이제는 오히려 인간이 AI처럼 말하고 글을 쓰는 모습이 나타나고 있는 것이죠. AI가 인간을 닮아가던 흐름에서 인간이 AI를 닮아가는 방향으로 변화하는 아이러니한 장면이 펼쳐지고 있습니다. 학교나 직장, 일상생활에서 생성형 AI를 널리 사용하게 되면서 AI가 잘 이해하고 적절하게 답할 수 있도록 말하는 방식도 그에 맞게 조금씩 바뀌어 온 결과라고 볼 수 있습니다.

다시 말하면, 우리는 점점 AI가 이해하기 쉬운 방식으로 생각을 정리하고 표현하는 데 익숙해지고 있는 것입니다. 자신의 의도를 보다 구조적으로 설명하고, 알고리즘이 이해하기 쉬운 방식으로 말하는 습관이 자연스럽게 자리 잡은 것이죠. 이 과정에서 친구들과 눈빛만 봐도 통하던 감정 중심의 대화와는 다른 방식의 변화가 나타나고 있습니다. 감정보다는 조건을 분명하게 제시하는 AI 맞춤형 소통 방식을 익히게 된 것이죠. 이러한 습관은 효율성의 극대화라는 가치를 얻기 위해 인간의 언어가 본래 지니고 있던 감성이나 맥락, 은유와 같은 문화적 풍요로움이 점차 사라질 수 있다는 우려도 제기되고 있습니다.

왜 이런 현상이 나타나는 걸까요?

이탈리아의 리촐라티 교수팀이 발견한 "거울 뉴런(mirror neurons)"은 우리가 다른 사람의 행동을 볼 때 마치 내가 직접 행동하는 것처럼 뇌가 활성화되는 현상을 말합니다. 이는 인간이 배우고 모방하는 방식이 생물학적으로도 설명될 수 있다는 사실을 보여 줍니다.

이는 여러분도 경험해 봤을 겁니다. 함께 생활하는 부모나 형제자매의 말투와 언어 습관이 닮아가기도 하고, 친한 친구들끼리 서로 비슷해지는 모습을 보이기도 하니까요. 이런 원리가 디지털 시대인 오늘날 AI와의 관계에서도 나타나고 있습니다. AI의 답변을 읽고 생각하는 과정에서 우리의 뇌는 논리적 패턴과 소통 방식을 받아들이게 됩니다. 사람 대신 AI와 대화하는 시간이 늘어나면서 점차 AI의 사고방식과 말하는 방식까지 닮아가는 것이죠. 그러므로 우리는 AI가 선호하는 질문 형식과 논리의 흐름에 맞춰 질문을 설계하는 능력을 추구하면서도, 논리적으로 완벽하지는 않더라도 따뜻한 말, 매끄럽지는 않더라도 진심이 담긴 표현을 하고자 노력해야 해요.

AI는 대체로 칭찬과 긍정적인 반응이 많은 호의적인 대화를 이어 갑니다. 마치 "이래도 좋고 저래도 좋은" 식의 대화처럼 말이죠. AI의 친화력은 마치 절친한 친구가 하나 생긴 것처럼 친밀하고 편안하게 느껴질 수 있죠. 그래서 AI는 숙제하라고 다그치는 부모님이나 공부를 권하는 선생님, 혹은 나와 다른 의견을 말하는 친구들보다 더 편하게 느껴질 때도 있습니다.

그런데 이런 호의적인 대화 방식은 오히려 우리의 판단력과 사고력을 약화시키는 원인이 되기도 합니다. 사람은 보통 자신이 듣고 싶은 말이나 자기 생각과 행동을 지지하는 정보에 더 쉽게 끌립니다. 그런 정보만 계속 접하게 되면 자기 생각이 항상 옳다고 믿게 되는 "확증 편향"에 빠질 수도 있습니다. 이 과정에서 반대되는 정보는 무시하거나 가볍게 여기게 되고, 객관적으로 판단하는 능력이 흐려질 수도 있고요.

AI의 일관된 우호적인 대답 방식은 세상과 사회를 균형 있게 바라보는 시각을 길러야 할 청소년들에게 오히려 한쪽 면만 보게 만들 수도 있습니다. 그 결과 상대의 이야기를 들으려 하지 않거나, 현실을 바라보는 시각이 왜곡될 위험도 있고, 때로는 현실을 외면하거나 피하려는 태도로 이어질 수도 있습니다.

복잡한 인간관계에서는 서로 다른 의견이 충돌하기도 하고 갈등이 생기기도 합니다. 우리는 이런 과정에서 의견을 조정하고 갈등을 해결하는 방법을 배웁니다. 하지만 한 방향의 소통 방식에만 익숙해지면 이런 중요한 경험을 하지 못할 수도 있습니다.

사람은 잘한 일에 대해 칭찬을 듣기도 하지만, 잘못했을 때는 따끔한 꾸중을 들으며 자신을 돌아볼 기회를 가지기도 합니다. 세상에서는 우리가 예상하지 못한 일들도 자주 일어납니다. 잘하지 않았는데 칭찬을 받을 때도 있고, 열심히 했는데도 꾸중을 듣는 일도 있습니다. 별것 아닌 일에 큰 의미가 부여되기도 하고, 정성을 다한 일이 가볍게 여겨질 때도 있습니다.

또한 사람과 사람 사이의 소통에서는 때로 불편함과 갈등이 생기기도 합니다. 그러나 바로 이런 경험에서 우리는 다른 사람의 생각을 이해하고 서로 맞춰 가는 방법을 배웁니다. 만약 이런 과정을 건너뛰고 한 방향의 소통 방식에만 익숙해진다면, 자신만의 세계에 갇혀 살아갈 위험이 있습니다. 따라서 다름을 이해하고 맞춰 가는 과정에서 겪는 성장통은 자신의 주관과 삶의 가치를 만들어 갈 수 있는 자양분이며 더 단단한 인간의 가치를 가꾸는 필수적인 과정인 것입니다.

대학생 커뮤니티 에브리타임에서 대학생 1,000명을 대상으로 진행한 설문조사에 따르면, 10명 가운데 7명이 AI를 사용하고 있다고 답했습니다. 또한 한국청소년정책연구원 조사에서도 중·고등학생 약 10명 중 7명이 생성형 AI를 사용한 경험이 있는 것으로 나타났습니다. 여러분도 학교에서 숙제나 수행평가를 할 때 AI가 정보를 빠르게 찾아 주고, 정리된 답을 제공해 준 경험이 있을 것입니다.

그런데 AI의 답변을 자세히 살펴보면 가끔 이상한 부분이 눈에 띕니다. 실제로 존재하지 않는 내용을 사실처럼 설명하거나, 사실과 다른 정보가 자연스럽게 섞여 있는 경우도 있습니다. 이처럼 AI가 그럴듯하지만 사실이 아닌 정보를 만들어내는 현상을 AI 환각(할루시네이션, Hallucination)이라고 합니다. AI는 점점 더 정교해지고 있는데, 그렇다면 왜 이런 현상이 나타날까요? 한 번이라도 AI를 사용해 본 사람이라면 이런 궁금증을 가져 본 적이 있을 것입니다.

한국지능정보사회진흥원은 AI 환각의 원인을 학습 데이터의 품질, 모델 훈련 과정의 불완전성, 그리고 추론 과정에서의 불확실성 등의 기술적 요인으로 설명합니다.

먼저 AI가 학습하는 데이터에 거짓 정보나 부정확한 내용이 포함되어 있다면, 이를 사실로 받아들이면서 오류가 발생할 수 있습니다. 또 AI는 앞에 나온 단어를 바탕으로 다음 단어를 예측하는 방식으로 문장을 만들어 갑니다. 이 과정에서 복잡한 맥락을 충분히 반영하지 못해 잘못된 내용이 생성될 가능성도 있습니다. 또 다른 이유는 AI가 답을 생성하는 방식과 관련이 있습니다. AI는 더 창의적이고 다양한 답을 만들기 위해 하나의 정답만 고르는 것이 아니라 여러 가능성 내의 답변을 무작위로 선택합니다. 이 과정에서 사실과 다른 정보가 함께 섞여 나올 수 있습니다.

그래서 많은 전문가는 AI 환각을 의도적인 거짓이라기보다 시스템에서 나타나는 자연스러운 오류로 설명해요. AI가 자연스러운 답을 만들기 위해 여러 정보를 연결하는 과정에서 중요한 내용이 빠지거나, 서로 맞지 않는 정보가 함께 나타날 수 있다는 거죠. 이는 인간의 실수와도 비슷합니다. 여러 일을 동시에 하다 보면 해야 할 일을 놓치거나, 하려던 말을 잠깐 잊어버리는 경우가 있습니다.

또 다른 원인도 있어요. 사람이 AI의 답변에 평점을 주는 강화 학습 방식 때문입니다. 이 과정에서 AI는 사실을 정확하게 전달하기보다 사람이 듣고 싶어 하거나 선호할 만한 답을 하도록 학습될 수 있습니다. 그러다 보니 AI는 모르는 내용이라도 그럴듯하게 설명하려는 경향이 나타나기도 하죠. 또한 무엇이든 답을 해야 더 좋은 평가를 받는 구조 때문에 AI가 모르는 내용도 아는 것처럼 말하게 되는 현상도 나타납니다. 이는 우리가 시험에서 모르는 주관식 문제를 받았을 때 빈칸으로 두기보다 뭐라도 적어 보려는 마음과 비슷해요. 사지선다형 문제에서도 아무것도 표시하지 않는 것보다 하나라도 선택하면 맞힐 가능성이 있다고 생각하는 것과 같은 거죠. 그래서 AI는 "모른다"고 답하기보다 그럴듯한 정보를 만들어 설명하는 경우가 생깁니다.

AI 환각이 왜 일어나는지 이해했다면, 이제는 그에 맞는 대응 방법을 생각해 볼 차례입니다. 먼저 반드시 사실이 필요한 정보라면, 사실 기반 자료를 찾아 달라고 요청하고 정확한 출처를 함께 제시해 달라고 요구하세요. 또 하나 중요한 점은 출처를 그대로 받아들이지 않아야 합니다. AI가 제시한 출처 역시 존재하지 않거나 부정확할 수 있으므로 제시된 자료는 직접 확인하는 습관이 필요해요. 반대로 사실일 필요가 없고 상상력이 필요한 경우도 있습니다. 그림, 작사·작곡, 소설이나 시 또는 새로운 아이디어를 떠올려야 할 때입니다. 이런 경우에는 사실에만 제한하지 않고 다양한 상상과 아이디어를 제시해 달라고 요청하는 것이 좋습니다.

우리는 AI 환각이 인간의 실수처럼 언제든 나타날 수 있다는 점을 염두에 두어야 합니다. 질문할 때는 환각을 줄일 수 있는 방식으로 묻고, 답변은 다시 확인하고 검증하는 과정이 필요합니다.

* AI에서의 무작위성

가장 확률이 높은 하나의 정답만 선택하는 것이 아니라 확률 분포 안에서 여러 후보 단어 가운데 하나를 선택하는 특성을 말한다. 이 무작위성이 지나치게 높아지면 사실이 확인되지 않은 내용까지 생성될 수 있으며, 그 결과 거짓 정보를 만들어내는 환각 현상의 원인이 될 수 있다.

AI는 이러한 구조적인 한계 때문에 사실과 다른 내용을 만들어내는 "환각"뿐 아니라 특정 방향으로 치우친 "편향"도 나타날 수 있습니다. 두 현상은 비슷해 보이지만 원인이 다르므로 AI가 어떤 방식으로 학습하고 판단하는지 구분해서 이해할 필요가 있습니다.

첫째, "데이터"의 편향성입니다.

AI가 어떤 데이터를 학습했는지는 우리가 음식을 어떻게 먹느냐와 비슷합니다. 음식을 골고루 먹어야 건강해지듯이 AI도 다양한 데이터를 학습해야 균형 잡힌 결과를 제시할 수 있습니다. 만약 한쪽으로 치우친 데이터만 학습한다면 결과 역시 편향될 수밖에 없습니다. 대표적인 사례로 아마존이 개발했던 채용 AI가 여성 지원자에게 불리하게 작동해 서비스가 중단된 사례가 있었습니다. 이 시스템은 과거 남성 중심의 채용 기록을 학습하면서 편향된 판단으로 이어졌다는 분석이 있습니다.

둘째, "알고리즘"의 편향성입니다.

데이터가 충분히 균형을 이루고 있더라도 이를 처리하는 알고리즘의 설계 방식에 따라 편향이 더 커질 수 있습니다. 특정 요소에 높은 가중치를 두도록 설계되면, 결과적으로 인종이나 성별에 대한 차별적 결과가 나타날 가능성이 있습니다. 예를 들어, 의사나 변호사의 이미지를 생성할 때는 주로 백인이 등장하는 반면, 간호사나 가정부의 이미지를 만들 때는 흑인이 등장하는 경우가 있습니다.

셋째, "인지" 편향성입니다.

AI를 만드는 사람과 사용하는 사람 모두에게서 편향이 나타날 수 있습니다. 개발자와 사용자는 각자의 경험과 선호에 따라 정보를 다르게 해석하기 때문입니다. 모델을 훈련하는 과정에서 제공되는 피드백 역시 이러한 주관적 판단의 영향을 받을 수 있습니다.

여러분도 챗GPT를 사용할 때 답변에 만족을 표시하는 엄지 아이콘을 본 적이 있을 거예요. 같은 답변이라도 사람마다 만족도가 다를 수 있고, 이런 다양한 평가가 AI의 학습 과정에 영향을 줄 수 있습니다. AI의 학습과 발전에는 인간이 가진 인지적 한계와 편향도 함께 작용하게 됩니다.

『다음 팀장은 AI입니다』의 저자 데이비드 드 크리머(David De Cremer)는 우리가 기술의 발전 자체에만 시선을 두다 보니 앞으로 커리어를 만들어 가고 조직을 이끌 사람의 역할에 대해서는 충분히 생각하지 못하고 있다고 지적합니다.

그는 인공지능이 수치와 데이터에 기반한 능력에서는 강점을 보이지만, 그것만으로는 인간의 리더십을 완전히 대신할 수 없다고 설명합니다. 저는 이러한 차이가 우리에게 새로운 기회가 될 수 있으며 디지털 리더십이 시작되는 지점이 된다고 봅니다. 따라서 지금 필요한 것은 다른 사람을 이끄는 능력에 앞서 자기 자신을 조절하고 방향을 잡을 수 있는 자기 통제력입니다. 이것이 바로 디지털 리더십의 핵심입니다.

이제 자신을 이끌기 위해 갖추어야 할 다섯 가지 역량을 차례로 살펴보겠습니다.

첫째는 멈춤과 전환의 능력입니다.

이 능력은 기본적이면서도 실제로 실천하기는 쉽지 않은 역량입니다. 디지털 디톡스를 위해 아예 기기를 멀리하는 것이 좋다고 말하기도 합니다. 일정한 거리를 두는 방식이 도움이 될 수도 있죠. 하지만 AI 시대에 필요한 리더십은 단순히 접속을 끊는 데 있지 않습니다. 디지털 환경에 있더라도 필요할 때 스스로 멈추고 나올 수 있는 조절 능력이 중요합니다. 즉, 정보의 흐름에 머물면서도 스스로 방향을 정할 수 있는 힘이 핵심입니다.

둘째는 비판적 사고와 문제 해결 능력입니다.

이 능력은 어떤 현상을 그대로 받아들이기보다 끊임없이 질문하고 검증하는 태도에서 시작됩니다. 그리고 한 걸음 더 나아가 문제를 발견하는 시각을 가져야 합니다.

일상에서 느끼는 작은 불편함을 그냥 넘기지 않고 문제점을 생각해 보는 것, 그리고 그 해결 방법을 스스로 떠올려 보는 과정이 중요해요. 이런 반복이 쌓이면서 비판적으로 사고하고 문제를 해결하는 힘이 점점 길러지게 됩니다.

셋째는 협업과 소통 능력입니다.

앞으로의 협업은 단순히 사람끼리 함께 일하는 것을 넘어 사람과 AI가 함께 일하는 형태로 바뀌고 있습니다. 이런 협업 방식을 "하이브리드 협업"이라고 합니다. 이제는 동료와 잘 소통하는 것만으로는 충분하지 않습니다. AI에게 원하는 결과를 정확하게 전달하고, 나온 답을 이해하고 활용하는 능력도 함께 중요해지고 있습니다. 즉, 앞으로는 사람과 잘 협력하는 능력 + AI를 잘 다루는 능력을 모두 갖추는 것이 필요합니다. 더 나아가 피지컬 AI의 발전으로 휴머노이드 로봇과의 상호작용 능력도 필요해질 것입니다. 단순히 AI를 도구로 사용하는 수준을 넘어 함께 일하는 파트너로 활용하는 소통 능력은 새로운 시대의 핵심 역량이라고 볼 수 있습니다.

넷째는 활용 능력과 윤리 의식입니다.

인공지능 시대는 단순히 지식을 많이 아는 시대가 아니라 역량을 증명하는 시대입니다. 얼마나 많이 알고 있는지가 아니라, 무엇을 할 수 있는지가 더 중요해지고 있습니다. 요즘은 하루가 다르게 새로운 AI 도구가 등장하고 있습니다. 이런 도구들을 법적 문제나 윤리적 문제 없이 목적에 맞게 활용할 수 있는 능력이 필요합니다. 또한 저작권 침해, 딥페이크 악용, 알고리즘 편향과 같은 위험도 정확히 이해해야 합니다. 그리고 AI를 사용해 만들어낸 결과에 대해 책임지는 태도도 함께 갖추어야 합니다.

다섯째는 감성 지능입니다.

AI는 업무를 빠르게 처리하고 효율을 높이는 데에는 뛰어납니다. 하지만 시험 결과로 낙담한 친구를 다시 일으켜 세우거나 마음을 진심으로 위로하는 공감까지 대신하기는 어렵습니다. 휴머노이드 로봇이 카메라와 센서를 통해 표정을 분석하고 감정을 추정할 수는 있습니다. 그러나 사람의 눈빛, 호흡, 말의 속도처럼 미묘한 신호를 함께 읽어 감정을 이해하는 능력은 여전히 인간에게 중요한 영역입니다. 미래학자 대니얼 핑크(Daniel Pink)는 이러한 능력을 하이터치(High-Touch)라고 설명했습니다. 사람과 사람 사이에서 이루어지는 공감과 관계의 힘입니다. AI가 점점 더 널리 사용될수록 이런 인간의 고유 능력은 앞으로 더 중요한 가치가 될 것입니다.

뿌리가 깊은 나무는 쉽게 흔들리지 않습니다. 가을이 되면 잎이 떨어지고, 겨울에는 눈보라 속에서 가지가 앙상하게 남기도 합니다. 하지만 봄이 오면 다시 새싹이 돋고 꽃이 피며, 여름이 되면 나무는 다시 풍성한 잎을 가집니다. 이처럼 뿌리를 단단히 가꾸는 일은 어떤 변화가 찾아와도 두려워하지 않고 마주할 힘을 키우는 과정입니다.

여러분이 사회에 본격적으로 진출하게 될 2030년대 중반에는 AI와 휴머노이드 로봇을 일상적으로 만나게 될 것입니다. 그때 우리는 거대한 기술 변화 앞에서 그 흐름에 휩쓸릴 것인지, 아니면 그 파도를 타고 자신의 길을 만들어 갈 것인지 선택해야 할 것입니다.

디지털 리더십의 본질은 단순히 코딩 능력이나 최신 기기를 능숙하게 다루는 기능에만 있지 않습니다. 빠르게 변화하는 환경에서도 자신을 지켜내는 자기 통제력, 주어진 상황에 머무르지 않고 시각을 전환할 수 있는 유연한 사고, 그리고 기술의 이면에서 영향을 받는 이웃과 다음 세대까지 함께 고려하는 윤리 의식이 필요합니다. 이러한 요소들이 균형 있게 갖추어질 때 디지털 환경에서도 흔들리지 않는 자신만의 뿌리를 만들어 갈 수 있습니다.