안녕하세요, 유유테이진 건강지킴이입니다.

혼자 지내는 고령자가 대화형 AI를 사용할 때 보호자가 가장 먼저 확인할 점은 ‘대화를 나눌 수 있는가’가 아니라, 위기 표현이 나왔을 때 누가 어떤 방법으로 사람에게 연결되는가입니다. 대화형 AI의 공감 문구나 안부 기능이 위기 평가, 응급 신고, 구조 요청을 대신한다고 가정해서는 안 됩니다.

특히 “살고 싶지 않다”, “누군가 나를 해친다”, “지금 너무 위험하다”처럼 안전 우려가 담긴 말은 서비스의 자동 응답만 기다릴 사안이 아닐 수 있습니다. 도입 전에는 이용자의 의사를 존중하면서도 보호자와 돌봄기관이 실제로 실행할 수 있는 연락·대응 경로를 미리 정해 두어야 합니다.

TL;DR

• 고령자용 대화형 AI가 위기 표현을 인식·분류·알림·신고하는지는 기능 설명, 이용 조건, 안전 정책을 각각 확인해야 합니다.
• AI의 알림은 위기 여부를 확정하거나 응급 대응을 보장하는 기능이 아닙니다. 사람의 확인 담당자와 연락 순서를 별도로 정해야 합니다.
• 즉각적인 긴급 대응이 필요하면 AI 화면이나 알림을 기다리지 말고 119에 신고할 수 있습니다.
• 자살 위험 표현이나 관련 위기 상담이 필요할 때에는 보건복지부가 안내하는 자살예방 상담전화 109를 확인표에 포함할 수 있습니다.

먼저 구분할 것: 대화 지원과 위기 대응은 다릅니다

대화형 AI는 말벗, 안내, 질문 응답 등 정서적 상호작용을 보조하는 기능으로 활용될 수 있습니다. 그러나 이러한 기능만으로 사용자의 위험 상태를 정확히 판단하거나, 실제 현장에 도움을 보내거나, 보호자에게 반드시 연락한다고 볼 수는 없습니다.

서비스 소개에 ‘안심’, ‘정서 지원’, ‘위험 단어 대응’ 같은 표현이 있더라도 다음 내용을 구분해 확인해야 합니다.

• 위기 관련 문장을 인식한다는 뜻인지
• 인식한 내용을 특정 기준으로 분류한다는 뜻인지
• 이용자에게 안내 문구를 표시하는 데 그치는지
• 지정 보호자나 기관에 알림하는지
• 외부 긴급기관에 자동으로 연결 또는 신고하는지
• 음성·텍스트 대화가 없을 때도 위험을 판단한다고 설명하는지

공개 문서에서 확인되지 않은 기능은 제공된다고 전제하지 않는 것이 안전합니다. 표현 방식, 말의 맥락, 통신 상태, 기기 작동 상태 등에 따라 AI가 위기 신호를 놓치거나 필요 이상으로 경고할 가능성도 고려해야 합니다.

보호자와 돌봄기관을 위한 위기 대응 확인표

1. 이용자와 먼저 합의할 항목

고령자 본인이 서비스 사용 목적과 한계를 이해했는지 확인합니다. 보호자에게 어떤 상황에서 어떤 내용이 전달될 수 있는지 설명하고, 이용자의 의사를 확인해야 합니다. 돌봄기관이라면 담당자 교체나 야간·휴일에도 이 확인 내용이 이어지는지 점검하는 것이 좋습니다.

이용자가 보호자 연락이나 의료기관 이송에 대해 어떤 의사를 밝혔는지 기록 방법과 재확인 시점도 정해 둘 필요가 있습니다. 「119구조·구급에 관한 법률 시행령」 제21조는 응급환자 또는 보호자가 의료기관 이송을 거부하는 경우와, 즉시 응급처치를 받지 않으면 생명 보존 또는 심신에 중대한 위해가 발생할 상당한 이유가 있는 경우의 이송 관련 기준을 두고 있습니다. 개별 상황의 판단과 조치는 구급대와 의료진의 역할임을 전제로 해야 합니다.

2. AI 서비스 문서에서 확인할 항목

제조사 또는 서비스 운영 주체의 공식 설명에서 다음 질문에 대한 답을 찾습니다.

• 위기 표현 대응 기능이 실제로 제공되는가? 제공된다면 적용 범위는 무엇인가?
• 알림을 받는 사람은 누구이며, 연락처 변경·해제는 어떻게 하는가?
• 알림이 전송되지 않거나 서비스가 중단될 때 이용자와 보호자에게 어떤 안내가 제공되는가?
• AI 응답 외에 사람 상담원, 보호자, 돌봄 담당자에게 연결되는 절차가 있는가?
• 대화 내용, 음성 기록, 연락처 등 개인정보는 어떤 목적으로 수집·이용·보관되는가?
• 접근 권한, 계정 관리, 기기 분실 시 보호 조치 등 보안 정책은 마련되어 있는가?
• 서비스가 의료 목적의 판단·진단·치료 지원을 표방하는가? 그렇다면 허가된 사용 목적, 규제상 지위, 근거 문서를 확인할 수 있는가?

식품의약품안전처는 생성형 인공지능 의료기기 허가·심사 가이드라인과 인공지능기술이 적용된 디지털의료기기의 허가·심사 및 임상시험방법 설계 안내서를 게시하고 있습니다. 의료기기 기능을 내세우는 대화형 AI라면 단순 홍보 문구가 아니라 허가된 사용 목적과 공식 문서를 확인할 필요가 있습니다. 반대로 의료기기임이 명확히 확인되지 않는 서비스에 의료적 판단이나 응급 감시 역할을 기대해서는 안 됩니다.

3. 사람의 연락망을 실제로 작동하게 만들기

연락처를 등록하는 것만으로는 충분하지 않습니다. 아래 순서를 종이와 디지털 방식으로 모두 정리해 두세요.

1. 보호자 1순위와 2순위의 연락 가능 시간, 대체 연락 방법
2. 돌봄기관 담당자 또는 이웃 등 현장 확인이 가능한 사람
3. 즉시 위험하거나 긴급 대응이 필요할 때 119 신고
4. 자살 위험 표현, 극심한 절망감 등으로 상담과 연계가 필요할 때 자살예방 상담전화 109

보건복지부는 109를 자살예방 상담전화로 통합 운영하며, 필요 시 112 등 긴급 출동 및 정신건강복지센터 연계를 수행한다고 안내합니다. 다만 AI가 109 또는 119에 자동 연결·신고한다고 추정하지 말고, 해당 서비스의 공식 기능 설명과 이용 조건을 확인해야 합니다. 「119긴급신고의 관리 및 운영에 관한 법률」은 위급한 상황이 발생했거나 발생할 것이 예상되어 긴급 대응이 필요한 경우 119긴급신고로 신속한 대응을 요청할 수 있도록 정하고 있습니다.

사용을 멈추고 사람에게 연결해야 할 때

AI가 반복해서 부적절한 답을 하거나, 위기 표현에 대한 안내가 불명확하거나, 알림 설정이 확인되지 않거나, 이용자가 서비스 때문에 더 불안해한다면 사용을 중단하고 보호자 또는 돌봄 담당자가 직접 상태를 확인해야 합니다.

자해 위험, 학대 의심, 의식 변화 등 긴급성이 의심되는 상황에서는 대화형 AI를 평가 도구로 사용하지 말고 공적 긴급 대응 체계에 도움을 요청해야 합니다. 대화형 AI의 답변은 의료적 진단이나 처방을 대신하지 않습니다. 정서적 어려움, 안전 우려, 건강 상태 변화가 있다면 전문의 또는 담당 의사와 상담하고, 긴급한 상황에서는 119 등 적절한 공적 대응 체계를 이용하세요.

자주 묻는 질문(FAQ)

Q. AI가 위기 표현에 공감하는 답을 하면 보호자 확인은 필요 없나요?

아닙니다. 공감 문구는 실제 위험도 평가나 현장 대응을 뜻하지 않습니다. 보호자 또는 돌봄 담당자의 확인 경로와 긴급 연락 체계가 별도로 필요합니다.

Q. 보호자 알림 기능이 있으면 자동 신고도 되는 건가요?

그렇지 않습니다. 알림, 상담 안내, 긴급기관 연결, 신고는 서로 다른 기능입니다. 자동 신고 여부와 작동 조건은 서비스의 공식 문서에서 개별적으로 확인해야 합니다.

Q. AI가 대화 내용을 저장한다면 무엇을 확인해야 하나요?

음성·텍스트 대화의 저장 여부, 보관 기간, 제3자 제공 여부, 보호자의 열람 범위, 삭제 방법 등을 개인정보 처리방침과 이용 약관에서 확인해야 합니다. 이용자의 동의 절차와 계정·기기 보안 관리 방법도 함께 살펴보는 것이 좋습니다.

Q. 의료기기라고 소개하는 생성형 AI는 무엇을 확인해야 하나요?

식품의약품안전처의 허가·심사 관련 자료를 참고해 제품이 내세우는 의료 목적, 허가된 사용 목적, 사용상 제한 및 근거 문서를 확인하세요. 허가 또는 안내 문서가 있다고 해서 모든 위기 상황을 판별하거나 즉시 대응한다는 의미는 아닙니다.

본문에 언급된 타사 의료 AI 제품·서비스는 정보 제공 목적의 사례이며, 유유테이진의 판매·임대·상담 대상이 아닙니다. 제품·도입 문의는 해당 제조사·공식 판매처 또는 의료기관에 확인해 주세요.