안녕하세요, 유유테이진 건강지킴이입니다.

생성형 AI는 어려운 의학 용어를 쉬운 문장으로 바꾸고 안내문 초안을 정리하는 데 활용될 수 있습니다. 그러나 자연스럽고 친절한 문장이라는 이유만으로 환자에게 맞는 의학 정보라고 볼 수는 없습니다. 특히 퇴원 후 복약, 예약, 상처 관리처럼 환자의 행동에 직접 영향을 주는 문구는 초안 작성과 환자 전달 사이에 의료진의 임상적 확인이 필요합니다.

TL;DR

• AI가 만든 환자 안내문은 읽기 쉬울 수 있지만, 정확성·최신성·개인별 적용 가능성은 별도로 검토해야 합니다.
• 환자 행동을 바꾸는 복약·추적 진료·위험 신호 관련 문구는 원 진료기록 및 의료진의 지시와 대조한 뒤 최종 승인하는 절차가 중요합니다.
• AI 활용 여부, 검토자, 수정 이력, 환자가 의료진에게 연락해야 하는 상황을 안내문에 분명히 남기는 방식을 검토할 수 있습니다.

읽기 쉬운 문장과 안전한 안내문은 다릅니다

환자교육 자료는 이해하기 쉬워야 하지만, 쉬운 표현으로 바꾸는 과정에서 조건이나 예외가 빠지면 의미가 달라질 수 있습니다. 방사선과 환자교육 자료를 대상으로 한 연구에서는 ChatGPT-4와 Gemini가 문서의 읽기 수준을 낮추는 데 활용될 가능성을 보였습니다. 동시에 연구진은 정확성과 적합성을 유지하려면 지속적인 전문가 검토가 필요하다고 설명했습니다.

즉, AI가 “이해하기 쉽게” 고친 문장도 다음 사항을 확인해야 합니다.

• 원래 의료진 지시의 용량, 기간, 일정, 검사·예약 내용이 바뀌지 않았는가
• 일반적인 설명이 특정 환자의 상태에 적용되는 것처럼 표현되지 않았는가
• 증상 악화나 우려되는 상황에서 환자가 의료진에게 연락하도록 안내하는가
• 불확실한 내용을 단정하거나 자가 판단·자가치료를 유도하지 않는가

특히 환자의 질문에 대화형으로 답하는 AI는 사람처럼 자연스러운 표현 때문에 실제보다 신뢰할 수 있다고 느껴질 수 있습니다. FDA 디지털헬스자문위원회 관련 자료에서도 사람처럼 보이는 생성형 AI의 제시 방식이 사용자의 과신으로 이어질 수 있다는 점이 논의됐습니다. 안내문이 AI 초안을 바탕으로 작성됐다면, 환자가 이를 의료진의 개별 진료지시와 혼동하지 않도록 표현을 설계할 필요가 있습니다.

의료진 검토는 ‘맞춤법 확인’보다 넓어야 합니다

FDA는 생성형 AI가 환자 대상 정보를 제공할 때 환자가 출력의 오류와 한계를 파악하고, 이를 자신의 임상정보와 함께 해석하기 어려울 수 있다고 지적했습니다. 잘못된 출력에 의존하면 필요한 진료가 늦어지거나 부적절한 자가치료로 이어질 가능성도 고려해야 합니다.

따라서 검토자는 문장 품질뿐 아니라 환자 안전에 영향을 주는 내용을 확인해야 합니다. 실무에서는 아래와 같은 순서로 점검할 수 있습니다.

1. 초안의 근거 범위를 정합니다

AI가 어떤 자료를 바탕으로 문서를 작성했는지 확인합니다. 진료기록, 퇴원요약, 병원 내부 교육자료, 최신 진료지침 중 무엇을 참조했는지 불명확하다면 결과 문구를 그대로 사용하지 않는 편이 안전합니다.

검색증강생성(RAG)은 AI가 답변을 만들 때 지정된 문서나 데이터베이스를 함께 검색·참조하는 방식입니다. 일부 연구에서는 일반 대규모언어모델보다 정확성·완전성·가독성을 개선할 가능성이 제시됐습니다. 다만 환자 상황이 지침과 다르거나 자료가 최신이 아닐 경우 정확성이 낮아지고 개인별 필요를 충분히 반영하지 못할 수 있습니다.

2. 환자 행동을 바꾸는 문구를 원자료와 대조합니다

복약, 예약, 상처 관리, 추적 관찰처럼 행동 지침이 포함된 부분은 원 진료기록과 직접 대조합니다. 퇴원요약을 바탕으로 AI가 만든 환자 중심 안내문을 분석한 연구에서는 잠재적 위해와 관련된 안전 문제가 확인됐으며, 환각이나 기존 기록에 없던 약물 정보 추가 사례도 보고됐습니다.

이러한 오류는 문장이 자연스럽더라도 환자 안전에 영향을 줄 수 있습니다. 약물 이름, 용량, 복용 시점, 검사 일정, 응급 상황에서의 연락 기준은 담당 의사 또는 전문의의 지시와 일치하는지 반드시 확인해야 합니다.

3. 최종 승인자와 수정 이력을 남깁니다

누가 어떤 자료를 기준으로 검토하고 최종 승인했는지, AI 초안에서 무엇을 수정했는지 기록하는 절차를 마련할 수 있습니다. 이는 특정 문구가 환자에게 전달된 경위를 확인하고, 이후 오류가 발견됐을 때 정정 범위를 판단하는 데 도움이 됩니다.

다만 구체적인 기록 방식, 개인정보 접근 권한, 책임 체계는 기관의 진료 환경과 내부 정책에 맞춰 검토해야 합니다. AI 입력 단계에서 환자식별정보가 불필요하게 외부 서비스로 전송되지 않도록 개인정보 및 보안 관리 기준도 함께 확인할 필요가 있습니다.

4. 환자용 안내에 확인 경로를 넣습니다

안내문에는 AI가 진단이나 처방을 대신하지 않으며, 개인별 복약·검사·치료 결정은 담당 의료진의 지시를 우선한다는 점을 명시하는 것이 중요합니다. 또한 증상 변화가 있거나 안내 내용을 이해하기 어렵고 진료실 설명과 다른 부분이 있을 때, 어느 의료진 또는 의료기관에 확인할지 안내해야 합니다.

글쓰기 도구와 의료기기 기능을 구분해 확인하기

AI가 단순히 문장 초안을 작성하는 경우와 환자에게 건강·의료 정보를 제공하는 기능이 의료기기 사용목적과 결합된 경우는 같은 방식으로 판단하기 어렵습니다. 식품의약품안전처의 2026년 업무계획에는 생성형 AI 활용 의료기기에 특화한 허가기준을 2026년 6월 마련하는 계획이 제시돼 있습니다.

병원은 도입 전 해당 기능이 단순 문서 작성 보조인지, 환자에게 직접 의료적 판단으로 받아들여질 수 있는 정보를 제공하는지 구분해 살펴볼 필요가 있습니다. 의료기기 해당 여부, 허가 상태, 임상 근거, 개인정보 처리 및 보안 관리 사항은 제조사의 공식 설명과 식품의약품안전처의 관련 정보를 통해 별도로 확인해야 합니다.

자주 묻는 질문(FAQ)

Q. AI가 근거자료를 찾아 작성했다면 의료진 검토를 줄여도 되나요?

아닙니다. RAG 방식이 일부 평가 항목을 개선할 수는 있지만, 환자 상태가 진료지침과 다르거나 입력자료가 불완전한 경우 정확성이 낮아질 수 있습니다. 근거자료 연결 여부와 별개로 해당 환자에게 적용 가능한 내용인지 담당 의사 또는 전문의가 확인해야 합니다.

Q. 환자가 받은 안내문에서 약 이름이나 복용 방법이 진료실 설명과 다르면 어떻게 해야 하나요?

안내문만으로 약을 새로 시작·중단·변경하지 말고, 처방한 의사 또는 의료기관에 확인해야 합니다. AI가 작성했는지와 무관하게 개인별 진료지시와 다른 정보는 의료진의 확인이 필요합니다.

Q. 환자에게 AI 사용 사실을 알려야 하나요?

환자가 자료의 성격과 확인 필요성을 이해할 수 있도록 AI가 초안 작성에 활용됐는지, 의료진 검토가 이뤄졌는지를 알리는 방식을 검토할 수 있습니다. 다만 안내 문구는 기관 정책과 실제 검토 절차에 부합해야 합니다.

생성형 AI 환자 안내문은 의료진의 설명을 보조할 수 있으나 의학적 진단·처방·치료 결정을 대신할 수 없습니다. 환자와 보호자는 증상, 약물, 검사, 치료와 관련한 판단을 안내문만으로 내리지 말고 담당 의사 또는 전문의와 상담해 확인해야 합니다.

본문에 언급된 타사 의료 AI 제품·서비스는 정보 제공 목적의 사례이며, 유유테이진의 판매·임대·상담 대상이 아닙니다. 제품·도입 문의는 해당 제조사·공식 판매처 또는 의료기관에 확인해 주세요.