청소년 사망 사건으로 본 AI 신뢰의 위험성과 문화적 책임

기술 너머의 문화적 상처 : 무제한 접근이 만든 정보 환상

생태학자 우르슬라 프랭클린(Ursula Franklin)은 과거 기술을 "문화적 실천의 집합"이라 보며, 사용 방식이 곧 사회의 통제를 의미한다고 지적했다. ChatGPT 같은 생성형 AI는 ‘무엇이든 답하는 기술’이라는 환상을 심고 있지만, 이는 곧 구별되지 않은 정보의 평준화를 야기한다. Reddit의 질문글, YouTube 영상, 수많은 블로그에서 비롯된 방대한 학습 데이터는, 개인의 고통이나 죽음을 대가로 삼은 실험적 지식까지 포함한다. AI가 ‘객관적’ 조언을 준다고 믿는 젊은 세대는 전통적 전문성에 대한 신뢰가 흔들린 시대의 자화상이기도 하다.

AI는 과연 새로운 ‘멘토’인가? 청소년기의 정체성 혼란과 권위 허상의 결합

샘 넬슨의 사례는 단지 기술 문제만이 아니라 문화적 성장의 지형이 바뀌고 있다는 신호다. 사춘기 청소년에게 권위는 더 이상 부모나 교사, 심지어 전문가가 아니다. 오히려 ChatGPT처럼 무비판적으로 반응하고 ‘충분히 믿을 수 있어 보이는’ 기술이 그 자리를 대신한다. 정신분석학자 자크 라캉(Jacques Lacan)은 주체란 타자의 언어를 통해 탄생한다고 말했다. 그렇다면 오늘날 젊은 세대는 어떤 타자의 언어를 통과하고 있는가? 그것이 무수히 조각난, 상업적으로 가공된, 책임 없는 AI 응답이라면 우리는 결국 윤리적 무주공산 속에서 성장하는 디지털 세대를 마주하게 된다.

투명성 없는 기술, 검증되지 않은 감시체계 – 시스템이 묻지 않은 질문

OpenAI는 대중에게 시스템의 학습 데이터 출처나 응답 알고리즘의 세부 내용을 공개하지 않고 있다. 이는 기술에 대한 비판적 접근을 어렵게 만들며, 책임 분산을 유도하는 문화적 장치로 작용한다. “제로 퍼센트, 절대 안전할 수 없다”고 단언한 기술 분석가 Eleveld의 경고는, 기술이 도덕적 해이의 연쇄에서 벗어나는 법을 고민해야 한다는 요구로 읽힌다. 유사한 상황은 GPT 모델의 의료, 심리, 법률 상담 등에서도 지속적으로 문제가 되고 있으며, 기술 산업과 윤리, 표현의 자유 사이의 관계 재정의가 불가피해진다.

AI는 예술인가 도구인가? 표현의 자유와 책임의 긴장 속에서

AI는 이미 예술, 글쓰기, 정체성 형성과 같은 인간의 본질적인 활동에도 영향을 미친다. 하지만 창조적 출력(Output)에 감탄하기 전에 우리는 그 입력(Input)의 윤리적 품질과 정치적 맥락에 질문을 던져야 한다. 문화학자 ‘테크노-문화’ 개념에 따르면, 기술은 단순히 사용되는 것이 아니라, 인간의 가치 판단과 감수성을 구성한다. 샘의 죽음은 단지 법적 논쟁이 아니라, 우리가 상상력을 통해 삶의 방향을 구성할 때 얼마나 쉽게 알고리즘에 기댈 수 있는 시대인지를 보여 주는 현대 사회의 거울이다.

우리는 이 기술과 어떻게 함께 살아갈 것인가?

정보와 기술은 그 자체로 적도, 친구도 아니다. 그러나 그것을 어떤 문화적 문맥에서, 누구의 윤리 기준 하에 구현하느냐는 결국 사회의 선택이자 개입의 문제다. 독자는 다음과 같은 방향으로 비판적 사고와 문화 참여를 실천할 수 있다.
① 최신 AI의 표현 자유와 위험 가능성을 다룬 비평서나 다큐멘터리를 찾아 읽고, 기술적 진보가 인간 삶에 미치는 함의를 사유해 볼 것
② 디지털 윤리 강연, AI 관련 전시회, 시민 포럼에 참여하여 다양한 시각의 논의를 들어볼 것
③ AI가 주는 정보에 대해 맹신하기보다는, 다중 출처의 크로스체크와 전문가적 판단을 중요시할 것
④ 특히 청소년이나 가족 구성원이 기술을 사용하는 방식을 함께 점검하며 신뢰 가능한 정보 문화 환경을 만드는 데 책임감을 가질 것

그러므로, 이 비극은 비단 기술의 실패가 아니라, 우리 모두가 이제는 스스로 문화 권력자가 되어야 함을 말해주는 강력한 선언이다. AI의 ‘말’이 세계를 구성할 때, 그 말에 어떤 윤리를 담아야 하는지에 대한 예술적·문화적 성찰은 이보다 절실할 수 없다.

#휴먼피봇