안녕하세요, 유유테이진 건강지킴이입니다.

인지 기능이 저하된 고령자가 대화형 정서지원 AI를 이용할 때 가족이나 돌봄기관은 “보호자가 동의하면 되는가”를 먼저 묻게 됩니다. 그러나 가족의 돌봄 역할과 개인정보 처리·이용 계약에서의 법적 대리권은 같은 의미가 아닐 수 있습니다. 이용자의 의사와 이해 정도를 가능한 범위에서 확인하고, 보호자 관여의 근거·범위·기간을 분명히 정하는 과정이 필요합니다.

TL;DR

• 인지저하가 있다고 해서 보호자에게 대화형 AI 이용 동의권이나 대화기록 열람권이 자동으로 생기는 것은 아닙니다.
• 의료법의 설명·서면동의 규정과 연명의료결정 절차는 각각 정해진 의료 상황의 제도이므로, 정서지원 AI 이용에 그대로 적용하면 안 됩니다.
• 대화 내용에는 감정 표현과 개인적 사정이 포함될 수 있습니다. 수집 항목, 열람 권한, 삭제·처리정지 요청 방법을 이용 전에 구체적으로 확인해야 합니다.
• 위기 표현에 대한 자동 응답만으로 긴급한 안전 판단을 맡길 수 없습니다. 기관과 보호자는 사람의 확인 및 의료진 연결 기준을 별도로 마련해야 합니다.

‘보호자 동의’라는 표현부터 구분하기

가족이 이용을 돕는다는 사실만으로 모든 법적 권한이 생기는 것은 아닙니다. 보건복지부의 치매공공후견사업 안내에 따르면, 질병·노령 등으로 사무 처리에 도움이 필요한 성인은 가정법원 결정 또는 후견계약에 따라 선임된 후견인에게 재산관리·신상보호 관련 지원을 받을 수 있습니다. 즉, 일상에서 돌봄을 제공하는 보호자와 법적으로 선임된 성년후견인은 구분해 살펴볼 필요가 있습니다.

개인정보 보호법은 만 14세 미만 아동의 개인정보 처리와 관련해 법정대리인 동의를 명시하고 있습니다. 이 규정만으로 고령의 인지저하자에 대해 가족에게 개인정보 동의 권한이 자동으로 부여된다고 보기는 어렵습니다. 서비스 제공자와 기관은 ‘누가 이용에 동의하는지’, ‘누가 어떤 범위에서 기록을 볼 수 있는지’를 별도 항목으로 확인해야 합니다.

또한 의료법 제24조의2는 수술·수혈·전신마취 등 생명·신체에 중대한 위해가 발생할 우려가 있는 의료행위의 설명과 서면동의를 다룹니다. 이를 정서지원 목적의 대화형 AI 이용 전반에 대한 보호자 동의 근거로 일반화해서는 안 됩니다. 연명의료결정제도 역시 임종과정의 연명의료 유보·중단에 관한 특정 절차이므로, 일반적인 AI 이용 동의 방식으로 그대로 적용할 수 없습니다.

이용 전 문서에 담아야 할 네 가지

1. 이용 목적을 짧고 이해하기 쉽게 설명하기

“대화를 통해 정서적 지원을 제공하는 서비스인지”, “의료진의 진단·치료를 위한 도구인지”를 구분해 설명해야 합니다. 식품의약품안전처의 생성형 인공지능 의료기기 허가·심사 가이드라인은 생성형 AI가 의료기기로 개발·허가되는 경우를 다룹니다.

개별 대화형 AI가 의료기기에 해당하는지, 어떤 목적으로 사용되는지는 제품의 의도된 사용목적과 공식 안내를 통해 별도로 확인해야 합니다. 정서지원 기능이 있다고 해서 의료적 판단, 진단, 치료 또는 위기 대응을 대신한다고 이해해서는 안 됩니다.

2. 본인의 의사를 확인하고 기록하기

인지저하가 있더라도 이용자가 설명을 듣고 의사를 표현할 수 있는지, 어떤 도움을 원하는지를 확인하는 절차를 생략하지 않는 것이 중요합니다. 설명을 한 번 제공한 뒤 끝내기보다 이용 시작 후에도 이해 정도와 의사 표현을 다시 확인하는 기준을 정해 두는 편이 좋습니다.

다만 의사결정 능력이나 대리권의 판단은 개별 사정에 따라 달라질 수 있습니다. 기관은 필요한 경우 적절한 법률·복지 제도와 상담해 확인해야 하며, 정서·인지 상태 변화나 안전 문제가 우려될 때에는 담당 의사 또는 전문의와 상담해야 합니다.

3. 대화기록의 열람 권한을 분리하기

개인정보 보호 분야별 표준 개인정보 보호지침은 정보주체가 열람·정정·삭제·처리정지 등의 요구를 법정대리인 또는 위임한 자에게 대리하게 할 수 있고, 개인정보처리자는 요구자가 본인 또는 정당한 대리인인지 확인하도록 안내합니다. 따라서 가족관계만으로 대화기록을 공유하기보다 본인의 위임 여부 또는 정당한 대리권을 확인해야 합니다.

도입 전에는 다음 사항을 문서로 확인해 두는 것이 좋습니다.

• 어떤 대화 내용과 계정 정보가 수집되는지
• 기록을 누가, 어느 기간까지 열람할 수 있는지
• 보호자에게 알릴 정보와 알리지 않을 정보는 무엇인지
• 정정·삭제·처리정지 요구는 어떻게 하는지
• 이용자 의사와 보호자 요청이 다를 때 누구에게 확인할지
• 서비스 제공자의 보관 기간, 접근 통제, 보안 조치가 어떻게 안내되는지

4. 중단 기준과 위기 대응에서 사람의 역할 정하기

슬픔, 불안, 고립감 같은 표현은 대화 중 나타날 수 있지만, AI의 응답만으로 이용자의 상태나 위험을 확정할 수는 없습니다. 서비스가 특정 표현을 감지하거나 안내를 제시하더라도 이를 진단·처방 또는 응급 대응의 대체 수단으로 사용해서는 안 됩니다.

기관은 반복적인 불편 호소, 원치 않는 기록 공유, 이용자의 거부 의사, 보호자와 이용자 사이의 권한 다툼처럼 사용을 재검토할 상황을 정해 두는 것이 좋습니다. 긴급한 안전 우려가 있거나 정서·인지 상태 변화가 걱정되면 AI 대화에 의존하지 말고 의료기관의 의사 또는 전문의에게 상담해야 합니다.

기관 도입 담당자를 위한 확인 질문

1. 이용자에게 제공하는 설명문이 의료적 효과를 단정하지 않는가?
2. 본인 동의, 위임, 성년후견 등 보호자 관여의 근거를 구분하는가?
3. 보호자 계정에 보이는 기록의 범위와 변경 절차가 정해져 있는가?
4. 이용자가 동의를 철회하거나 사용 중단을 원할 때 기록과 계정을 어떻게 처리하는가?
5. 위기 표현이 나타났을 때 AI가 아닌 담당 직원이 확인하고 의료진에게 연결하는 절차가 있는가?

자주 묻는 질문

Q. 자녀가 비용을 내거나 돌봄을 맡고 있으면 대화기록을 모두 볼 수 있나요?

아닙니다. 개인정보 처리 요구의 대리에는 본인의 위임 또는 정당한 대리인인지에 대한 확인이 필요합니다. 가족관계와 기록 열람 권한은 구분해 서비스 약관, 동의 내용, 위임·대리권 확인 절차를 살펴봐야 합니다.

Q. 인지저하가 있으면 본인에게 설명하지 않고 보호자에게만 설명해도 되나요?

일률적으로 정할 수 없습니다. 이용자가 이해하고 의사를 표현할 수 있는 범위를 확인하면서, 가능한 방식으로 이용 목적·기록 처리·중단 방법을 설명하는 것이 필요합니다. 구체적인 대리권이나 후견 관련 판단이 필요하면 관련 제도와 전문가에게 확인해야 합니다.

Q. 정서지원 AI가 의료기기라면 보호자 동의만으로 충분한가요?

그렇지 않습니다. 의료기기 여부, 개인정보 처리, 이용 동의의 주체는 각각 확인해야 할 문제입니다. 제품의 의도된 사용목적과 공식 안내를 확인하고, 개별 이용자의 상태와 적절한 활용 방식은 의료진 또는 전문의와 상담하세요.

Q. AI가 위기 표현을 감지하면 기관은 바로 안심해도 되나요?

아닙니다. 자동 감지나 안내 기능은 보조 수단일 뿐이며, 실제 위험 여부를 판단하거나 응급 상황에 대응하는 역할을 대신할 수 없습니다. 기관은 담당 직원의 확인, 보호자 연락 기준, 의료기관 또는 응급체계 연결 절차를 별도로 마련해야 합니다.

대화형 AI는 돌봄 대화를 보조할 수 있어도 의료적 진단이나 처방을 대신하지 않습니다. 인지저하 고령자의 정서 변화, 안전 문제, 의사결정 지원이 필요할 때에는 담당 의사 또는 전문의와 상담해 개별 상황에 맞는 지원 방식을 정해야 합니다.

본문에 언급된 타사 의료 AI 제품·서비스는 정보 제공 목적의 사례이며, 유유테이진의 판매·임대·상담 대상이 아닙니다. 제품·도입 문의는 해당 제조사·공식 판매처 또는 의료기관에 확인해 주세요.