안녕하세요, 유유테이진 건강지킴이입니다.

피부 사진을 분석하는 의료 AI를 검토할 때 전체 성능 수치만으로 모든 사람에게 같은 수준으로 작동한다고 판단하기는 어렵습니다. 피부색, 촬영기기, 조명, 사진 선명도, 의료기관과 자택 등 촬영 환경이 달라지면 입력 이미지의 특성도 달라질 수 있기 때문입니다. 특히 피부색별 데이터가 충분히 포함됐는지, 각 집단의 결과가 별도로 공개됐는지는 환자·보호자와 의료진이 함께 살펴볼 안전성 항목입니다.

TL;DR

• 피부 사진 의료 AI의 성능 자료는 전체 결과뿐 아니라 피부색 구간별 표본 수와 성능이 함께 제시됐는지 확인합니다.
• 피부색 분류에 어떤 척도를 사용했는지, 누가 어떤 방식으로 분류했는지도 중요합니다. Fitzpatrick 척도만으로 피부색 다양성을 충분히 설명하기 어려울 수 있습니다.
• 학습에 사용하지 않은 기관·지역·촬영기기·환자집단의 사진으로 별도 평가했는지 확인합니다.
• 흐림, 불충분한 조명, 카메라 차이는 결과에 영향을 줄 수 있습니다. AI 결과만으로 자가 판단하거나 진료를 미루지 말고 의사와 상담해야 합니다.

왜 피부색별 자료를 따로 봐야 할까

세계보건기구(WHO)는 대표성이 부족한 데이터로 개발된 건강 관련 AI가 데이터에서 배제된 집단에서 부정확하거나 관련성이 낮은 결과를 낼 수 있다고 설명합니다. 따라서 개발 단계의 데이터에 누구의 사진이 포함됐는지, 실제 사용 과정에서도 포용성과 형평성을 평가하는지가 중요합니다.

피부 영상에서는 이 문제가 더 구체적으로 드러납니다. 2022년에 공개된 Diverse Dermatology Images(DDI) 연구는 병리로 확인된 이미지 656장을 이용해 기존 피부 병변 AI 3종을 비교했습니다. 이 자료는 Fitzpatrick I–II 208장, III–IV 241장, V–VI 207장으로 구성됐습니다. 연구진은 시험한 알고리즘이 어두운 피부색과 드문 질환에서 제한점을 보였다고 보고했습니다.

이 결과가 모든 피부 사진 AI에 같은 문제가 있다는 뜻은 아닙니다. 다만 제품 또는 연구 자료를 읽을 때 ‘전체 정확도’ 하나만 보기보다 피부색 구간별 평가가 공개됐는지 확인할 필요가 있다는 점을 보여줍니다.

검증 자료에서 확인할 5가지

1. 피부색 구간별 표본 수와 결과가 함께 있는가

먼저 학습용·검증용·시험용 이미지에서 각 피부색 구간이 몇 장인지 확인합니다. 이어서 구간별 성능 결과가 별도로 제시됐는지도 봅니다. 특정 집단의 사진 수가 적거나 하위집단별 성능이 공개되지 않았다면, 해당 집단에서 결과를 어느 정도 신뢰할 수 있는지 판단하기 어렵습니다.

2. 피부색은 어떤 방식으로 분류했는가

국제피부영상협력기구 인공지능 작업그룹의 CLEAR Derm 합의문은 피부색, 인종·민족, 연령, 성별, 환자 유래 기관·지역 같은 메타데이터를 기술하도록 제시합니다. 또한 피부색 평가 척도와 대면 평가인지 사진 기반 평가인지도 밝히도록 권고합니다.

특히 Fitzpatrick 척도는 널리 사용되지만 사람의 피부색 다양성을 모두 포착하지 못할 수 있습니다. 따라서 “Fitzpatrick 분류를 사용했다”는 설명만으로 대표성이 확보됐다고 보기보다, 분류 과정과 한계를 함께 설명했는지 확인하는 편이 좋습니다.

3. 다른 환경의 사진으로도 평가했는가

학습에 사용한 사진과 비슷한 환경에서만 좋은 결과가 나올 수 있습니다. CLEAR Derm은 독립 시험세트가 학습·검증 데이터와 같은 분포인지, 다른 분포의 표본을 포함하는지 밝히도록 제시합니다.

여기서 살필 차이는 기관과 지역, 환자집단, 촬영기기, 영상 인공물입니다. 예를 들어 개발에 사용하지 않은 기관에서 얻은 사진이나 다른 카메라로 촬영한 사진을 이용한 평가가 공개됐다면, 실제 환경으로 결과를 일반화할 수 있는지 검토하는 데 도움이 됩니다. 다만 외부 평가가 있다는 사실만으로 모든 환경에서 같은 성능이 보장되는 것은 아닙니다.

4. 사진 품질과 촬영 조건의 제한이 적혀 있는가

피부과 AI 관련 문헌고찰에서는 스마트폰·전문 카메라·더모스코프처럼 기기가 다르고, 자택과 의료기관처럼 촬영 장소와 촬영자가 달라지면 이미지 품질이 달라질 수 있다고 정리합니다. 흐린 사진이나 조명이 좋지 않은 사진은 AI 모델 성능에 부정적인 영향을 줄 수 있습니다.

따라서 결과 화면보다 먼저 촬영 안내를 확인하는 것이 좋습니다. 어떤 기기와 촬영 조건에서 평가했는지, 흐림·빛 반사·초점 문제 등 이미지 품질 저하 상황을 어떻게 다루는지, 판독이 어려운 사진에서 결과를 보류하거나 재촬영을 안내하는지 확인할 필요가 있습니다.

5. ‘정답’은 무엇을 기준으로 정했는가

성능 비교에서 AI의 답과 대조한 진단 라벨이 어떤 근거로 만들어졌는지도 중요합니다. DDI 연구는 기존 피부 AI 연구에서 피부과 전문의가 사진만 보고 합의해 붙인 라벨이 사용되는 경우가 많으며, 악성 병변의 시각적 판단에는 병리 확인 등이 필요할 수 있다고 설명합니다.

자료에 병리 결과, 추적관찰, 전문의 판독 중 어떤 방식으로 정답을 정했는지 제시됐는지 살펴보세요. 라벨 생성 방법은 AI가 무엇을 얼마나 정확히 구분했는지 해석하는 전제가 됩니다.

환자·의료진이 함께 물어볼 질문

• 제 피부색 구간 또는 유사한 환자집단의 사진이 평가 자료에 포함됐나요?
• 해당 집단의 사진 수와 별도 성능 결과가 공개돼 있나요?
• 사진은 자택 촬영, 의료기관 촬영, 특정 카메라 등 어떤 조건에서 수집됐나요?
• 다른 기관·지역·기기로 촬영한 독립 자료에서도 평가했나요?
• 사진이 흐리거나 조명이 좋지 않을 때 결과를 제한하거나 재촬영을 안내하나요?
• AI 결과와 비교한 진단의 기준은 병리, 추적관찰, 전문의 판독 중 무엇인가요?

미국 식품의약국(FDA)의 DermaSensor De Novo 검토 문서처럼, 규제 검토 자료나 제품 문서에 특정 피부색 집단의 표본·성능 근거가 제한적인 이유가 표시되는 경우도 있습니다. 공개 자료에서 이러한 한계가 명시되는지 확인하는 것은 단점을 찾기 위한 절차만이 아니라, 결과를 적절한 범위에서 해석하기 위한 과정입니다.

자주 묻는 질문

Q. 피부색별 성능표가 없으면 사용할 수 없다는 뜻인가요?

그렇게 단정할 수는 없습니다. 다만 피부색별 표본 수와 결과가 없으면 특정 집단에서의 성능 차이나 불확실성을 확인하기 어렵습니다. 사용 목적, 사진 조건, 결과의 해석 주체와 함께 의료진에게 자료 확인을 요청하는 것이 좋습니다.

Q. 사진을 더 선명하게 찍으면 AI 결과를 믿어도 되나요?

사진 품질은 중요한 요소이지만, 선명한 사진만으로 결과의 정확성이 보장되지는 않습니다. AI가 검토한 대상과 실제 피부 상태의 차이, 피부색별 자료의 공백 등도 함께 고려해야 합니다.

Q. AI가 낮은 위험으로 표시하면 진료가 필요 없나요?

아닙니다. 피부 사진 AI의 결과는 의료적 진단이나 처방을 대신하지 않습니다. 변화가 있거나 걱정되는 피부 증상이 있다면 AI 결과와 관계없이 피부과 전문의 또는 담당 의사와 상담하세요. 의료진은 사진 외의 진찰 정보와 필요 시 추가 평가를 종합해 판단합니다.

본문에 언급된 타사 의료 AI 제품·서비스는 정보 제공 목적의 사례이며, 유유테이진의 판매·임대·상담 대상이 아닙니다. 제품·도입 문의는 해당 제조사·공식 판매처 또는 의료기관에 확인해 주세요.