OpenAI, 자해 위험 대화 감지 시 '신뢰 연락처' 알림 기능 도입

OpenAI가 ChatGPT 사용자가 자해나 자살 관련 대화를 나눌 경우 사전에 지정한 '신뢰 연락처(Trusted Contact)'에게 알림을 보내는 새로운 안전장치를 도입했다. 이는 AI 챗봇의 정신 건강 관련 위험 대응 역량을 강화하려는 적극적인 시도다.

대화형 AI가 수억 명의 일상에 깊숙이 자리잡으면서, AI와 나누는 개인적이고 민감한 대화가 급증하고 있다. 특히 고립감을 느끼는 사용자들이 AI를 감정적 지지 창구로 활용하는 경우가 늘고 있으며, 이에 따른 책임 문제도 부각되어 왔다. OpenAI는 이미 위기 상황에서 전문 상담 리소스를 안내하는 기능을 운영 중이었으나, 이번에는 한 발 더 나아가 사전 지정한 연락처를 통한 실시간 개입을 가능하게 했다.

이번 기능은 AI 기업의 사회적 책임과 안전 의무를 구체적인 제품 기능으로 구현한 의미 있는 사례다. 위기 상황에서 AI가 실질적인 도움의 다리 역할을 할 수 있음을 보여주는 동시에, 개인 대화 내용 기반의 알림 기능이 프라이버시와 어떻게 균형을 맞출지에 대한 논의도 불러일으킬 것이다. 사용자의 동의와 데이터 보호가 핵심 과제로 남는다.

AI 플랫폼의 정신 건강 안전망 강화는 앞으로 업계 표준이 될 가능성이 높다. 규제 당국과 사회가 AI의 심리적 영향에 주목하는 가운데, 다른 AI 기업들도 유사한 안전장치를 도입할지 주목된다.

출처 - https://techcrunch.com/2026/05/07/openai-introduces-new-trusted-contact-safeguard-for-cases-of-possible-self-harm/