안녕하세요, 유유테이진 건강지킴이입니다.

의료 AI의 평균 성능이 높다는 설명만으로 고령자, 장애인, 디지털 기기 사용이 익숙하지 않은 사람에게도 같은 수준의 결과와 사용 편의성이 보장되는 것은 아닙니다. 제품의 임상 근거와 사용자 안내서를 볼 때는 ‘전체 성능’뿐 아니라 연구 참여자와 실제 사용자가 얼마나 닮았는지, 필요한 접근성 지원이 제공되는지를 함께 확인해야 합니다.

TL;DR

• 의료 AI의 성능은 학습·검증 데이터에 포함된 사람과 사용 환경의 영향을 받을 수 있습니다.
• 고령자, 보조기기 사용자, 장애가 있는 사람의 사용 적합성은 전체 정확도만으로 판단하기 어렵습니다.
• 임상 자료에서는 연령 분포, 하위집단별 결과, 제외 기준을 확인하고, 안내서에서는 자막·화면낭독·대체 입력 등 필요한 지원 여부를 확인하는 것이 좋습니다.
• AI 결과는 의료진의 판단을 대신하지 않습니다. 개인의 상태와 사용 적합성은 담당 의사 등 의료진과 상의해야 합니다.

왜 ‘평균 성능’만 보면 부족할까요?

세계보건기구(WHO)는 보건의료 AI가 진단, 치료, 보건 기능에 기여할 가능성이 있지만, 설계·배치·사용 과정의 중심에 윤리와 인권을 두어야 한다고 안내합니다. 이는 기술이 작동하는지뿐 아니라 누구에게 어떤 불이익이나 이용 장벽이 생길 수 있는지도 살펴야 한다는 뜻입니다.

미국 식품의약국(FDA) 역시 의료기기 임상연구에서 의도된 사용 인구에 맞춰 연령 하위집단 등을 포함한 다양한 집단을 등록하는 전략을 권고합니다. 고령자가 실제 주요 사용자라면 연구 참여자 중 고령자의 비중과 별도 성능 분석 여부가 중요한 확인 항목이 됩니다.

FDA의 AI·머신러닝 기반 의료기기 투명성 원칙은 제품 정보에 편향 가능성, 신뢰구간, 데이터 특성화의 공백 등 한계를 포함할 수 있도록 제시합니다. 즉, ‘정확도’라는 숫자 하나보다 어떤 데이터에서 평가했는지, 누구에게 결과가 덜 안정적일 수 있는지까지 공개하는 태도가 중요합니다.

임상 근거에서 확인할 질문 5가지

제품 설명자료, 임상연구 요약, 제조사의 공개 문서를 비교하며 다음 질문을 확인해 보세요.

1. 연구 참여자의 연령 분포는 공개돼 있나요?
   전체 참여자 수만 보기보다 실제 이용하려는 연령대가 포함됐는지 확인합니다. 고령 사용자가 대상이라면 해당 연령층의 결과가 따로 제시됐는지도 확인할 수 있습니다.

2. 연령대별 성능 차이를 분석했나요?
   전체 결과가 좋아도 특정 연령대에서 같은 성능이 나오는지는 별도 문제입니다. 예를 들어 흉부 X선 판독문용 자연어처리 도구를 평가한 연구에서는 전체 정확도가 높아 보이는 상황에서도 고령 환자군의 성능이 더 낮게 보고된 바 있습니다. 이는 특정 도구에 대한 일반적 결론이 아니라, 하위집단 분석이 필요한 이유를 보여주는 사례입니다.

3. 누가 연구에서 제외됐나요?
   인지·감각·운동 기능의 특성, 보조기기 사용, 디지털 기기 조작의 어려움 등을 이유로 제외된 사람이 있는지 확인할 필요가 있습니다. 제외 기준은 실제 사용 대상과 연구 대상 사이의 간극을 판단하는 단서가 됩니다.

4. 보조기기 사용자가 검증에 포함됐나요?
   휠체어, 보행 보조기, 보청기, 시각 보조기술 등을 사용하는 상황이 제품의 입력 방식이나 결과 해석에 영향을 줄 수 있는지 제조사 또는 의료기관에 확인합니다. 포함 여부가 공개되지 않았다면 적용 가능성을 단정하지 않는 편이 안전합니다.

5. 사용 환경이 실제 현장과 유사했나요?
   의료기관, 재활·돌봄기관, 가정 등 어느 환경에서 평가했는지와 사용자가 혼자 조작했는지, 보조자가 함께했는지를 확인합니다. FDA는 사용자·환경·업무흐름을 이해하는 인간중심 설계의 중요성을 설명합니다.

사용자 안내서에서 확인할 접근성 질문 5가지

성능 자료가 적합해 보여도 인터페이스를 사용할 수 없다면 안전한 활용이 어렵습니다. 도입 담당자와 보호자는 시연 또는 안내서를 통해 아래 항목을 점검할 수 있습니다.

1. 화면 정보가 글자 크기 조절, 충분한 대비, 명확한 오류 안내로 제공되는가?
2. 청각 정보가 자막이나 시각적 신호로도 전달되는가?
3. 화면낭독 프로그램을 사용하는 사람이 주요 안내와 결과를 파악할 수 있는가?
4. 손의 움직임이 제한된 사용자를 위한 대체 입력 방법이 있는가?
5. 오류, 경고, 연결 중단이 발생했을 때 사용자가 이해할 수 있는 안내와 의료진 연결 절차가 있는가?

이 질문은 모든 제품에 동일한 기능이 반드시 있어야 한다는 뜻은 아닙니다. 사용 목적과 이용자 특성에 비추어 필요한 지원이 실제로 제공되는지 확인하기 위한 기준입니다.

편향은 ‘AI만의 문제’가 아닙니다

FDA 워크숍 자료는 AI 결과가 정확해 보이더라도, 학습 데이터가 나온 환자집단의 다양성이 부족하면 편향을 반영할 수 있다고 설명합니다. 환자 데이터는 사회적 건강결정요인, 의료의 질, 의료 제공 방식의 차이로도 한쪽에 치우칠 수 있습니다.

따라서 “AI가 객관적이니 사람보다 공정하다”라고 단정하기보다 데이터의 출처와 대표성, 공개된 한계, 실제 사용자의 경험을 함께 살펴야 합니다. 문제가 의심될 때는 결과 화면만 반복해서 확인하기보다 사용을 중단하거나 보류하고, 의료진과 제조사·의료기관의 공식 지원 체계에 알리는 절차를 미리 정해두는 것이 좋습니다.

자주 묻는 질문

Q. 고령자 대상 연구가 없으면 사용할 수 없나요?

A. 연구에 해당 연령층이 없다는 사실만으로 사용 가능 여부를 일률적으로 결론낼 수는 없습니다. 다만 그 집단에서의 성능과 사용성에 불확실성이 있을 수 있으므로, 공개 자료와 제품의 사용 목적·주의사항을 확인하고 의료진과 개별 상황을 상담해야 합니다.

Q. 장애인 접근성 기능이 있으면 AI 편향 문제도 해결되나요?

A. 아닙니다. 자막, 화면낭독, 대체 입력은 이용 장벽을 낮추는 사용성 지원입니다. 반면 데이터 편향은 학습·검증 집단과 성능 평가에 관한 문제입니다. 두 영역을 각각 확인해야 합니다.

Q. AI가 낸 결과가 평소 상태와 다르면 어떻게 해야 하나요?

A. AI 결과만으로 자가 진단하거나 치료를 변경하지 마세요. 결과의 해석 주체, 오류 가능성, 사용 중단 기준을 의료진에게 확인하고, 증상이나 건강상 우려가 있으면 담당 의사 등 전문의와 상담해야 합니다.

의료 AI는 의료진의 진단·처방을 대체하지 않으며, 개인의 건강 상태에 대한 판단은 전문의 또는 담당 의료진의 진료와 상담을 바탕으로 해야 합니다.

본문에 언급된 타사 의료 AI 제품·서비스는 정보 제공 목적의 사례이며, 유유테이진의 판매·임대·상담 대상이 아닙니다. 제품·도입 문의는 해당 제조사·공식 판매처 또는 의료기관에 확인해 주세요.