10대 5명 중 1명, AI 챗봇에 정서적 지지 구한다…UC San Diego 연구진의 대응책

청소년과 청년층이 정서적 어려움을 겪을 때 AI 챗봇에 의지하는 사례가 빠르게 늘고 있는 가운데, UC 샌디에이고(UC San Diego) 연구진이 이러한 현상에 대응하기 위한 프레임워크와 교육 과정을 마련했다. 연구에 따르면 1221세 청소년의 13%가 정신건강 조언을 얻기 위해 AI를 활용하고 있으며, 1821세로 좁히면 이 비율은 22%까지 올라간다. 이는 AI가 단순 정보 검색 도구를 넘어 정서적 지지의 창구로 자리잡고 있음을 보여준다.

배경

생성형 AI 챗봇이 대중화되면서, 상담사나 신뢰할 수 있는 어른을 만나기 어려운 청소년들이 AI에게 고민을 털어놓는 사례가 늘고 있다. UC 샌디에이고의 임상심리학자 시나몬 블로스(Cinnamon Bloss)는 청소년들이 AI 챗봇을 찾는 주된 이유로 "접근성(availability)"과 "판단받지 않는다는 느낌(lack of judgment)"을 꼽았다. 그는 "청소년들은 안전하고 신뢰할 수 있는 어른을 원하지만, 그런 지원을 구하기 어려울 때 접근 가능한 것에 의지하게 된다"고 설명했다. AI 정신건강 조언 이용자 중 65%는 한 달에 한 번 이상 정기적으로 AI에게 조언을 구하는 것으로 나타나, 일회성이 아닌 반복적인 이용 패턴을 보이고 있다.

영향

AI 챗봇이 정서적 지지의 통로로 자리잡으면서, 정신건강 전문가들 사이에서는 기대와 우려가 공존하고 있다. 접근성이 낮은 지역이나 상담 자원이 부족한 청소년들에게 AI가 즉각적인 도움을 줄 수 있다는 긍정적 측면이 있는 반면, 검증되지 않은 조언이나 위기 상황에서의 부적절한 대응이 실제 피해로 이어질 수 있다는 위험도 존재한다. 이는 AI 기업뿐 아니라 교육기관, 의료기관 모두가 대응 전략을 마련해야 하는 새로운 과제로 떠오르고 있다.

향후 전망

블로스와 멜리사 카르나제(Melissa Karnaze) 연구진은 책임 있는 AI 개발을 위한 다섯 가지 원칙, 즉 사용자 경험을 경청(Listen)하고, 엄밀한 연구를 진행(Research)하며, AI와 인간 치료 사이의 선호 변화를 평가(Assess)하고, 규제되지 않은 도구로 인한 피해를 모니터링(Monitor)하며, 정신건강 전문가들을 준비(Prepare)시키는 5단계 접근법을 제안했다. UC 샌디에이고는 이를 뒷받침하기 위해 'EMPATh-AI'라는 대학원 과정을 신설했다. 이 과정은 학생들에게 AI 도구를 비판적으로 평가하고 환자와 AI 이용에 대해 논의하는 방법을 가르치는 것을 목표로 하며, AI 기술의 확산 자체를 막을 수 없다는 현실적 인식에 기반하고 있다. 앞으로 정신건강 분야에서 AI의 역할을 어떻게 규정하고 감독할지가 중요한 논의 주제가 될 전망이다.

자주 묻는 질문

Q. 청소년들은 왜 AI 챗봇에게 정서적 고민을 이야기하나요? A. UC 샌디에이고 연구에 따르면 언제든 접근 가능하다는 편의성과 판단받지 않는다는 심리적 안전감이 주된 이유로 꼽힌다.

Q. AI를 정신건강 조언에 이용하는 것이 안전한가요? A. 전문가들은 AI가 보조적 도움을 줄 수는 있지만, 검증되지 않은 조언이나 위기 상황 대응의 한계가 있어 신중한 접근과 모니터링이 필요하다고 강조한다.

Q. UC 샌디에이고의 EMPATh-AI 과정은 무엇을 가르치나요? A. 대학원생들에게 AI 정신건강 도구를 비판적으로 평가하고, 환자와 AI 이용 여부 및 방식에 대해 논의하는 방법을 교육하는 과정이다.

출처 - https://today.ucsd.edu/story/the-new-frontier-of-emotional-support-artificial-intelligence