다양한 분야에 걸쳐 인공지능이 빠르게 통합되면서 효율성과 시간 관리 측면에서 눈에 띄는 변화가 나타났습니다.특히 의료 분야에서는 AI 도구가 운영 효율화에 널리 활용되고 있습니다.이러한 혁신 중 하나는 FDA가 개발한 생성형 AI인 엘사(Elsa)로, 의약품 및 의료기기 승인 관련 업무 흐름 개선을 목표로 합니다.그러나 최근 피드백에 따르면 이 시스템은 기대에 부응하지 못한 것으로 나타났습니다.과거와 현재 FDA 직원들의 수많은 증언에서 엘사의 신뢰성, 특히 환각과 합법적 연구의 허위 진술 사례가 지적되고 있습니다.
FDA의 엘사 AI에 대한 문제점은 기술이 아니라 인간의 감독인가?
의료 및 규제 프로세스에 생성 AI가 도입되는 것은 전 세계적으로 진행되고 있는 광범위한 기술 발전을 반영합니다.엘사는 관료적 병목 현상을 완화하고 행정적 부담을 줄여 의약품 및 의료기기 승인을 신속하게 처리하기 위해 처음 설계되었지만, 중요한 진전으로 평가받았습니다.하지만 안타깝게도 엘사의 기대 효과와 현실 사이에는 극명한 차이가 있으며, 도구의 정확성에 대한 우려와 인간의 감독으로 인해 이러한 문제가 악화될 가능성에 대한 우려가 커지고 있습니다.
생명을 구하는 치료법에 대한 신속한 평가가 이론적으로 유리하다는 점에도 불구하고, FDA 내부 관계자들은 생성 AI가 잘못된 결과를 생성할 수 있다는 점에 대해 경고의 목소리를 높였습니다.CNN 보도에 따르면, 수많은 직원들이 엘사가 잘못된 요약을 작성하고 심지어 존재하지도 않는 연구를 언급하며 임상 연구를 조작한 심각한 사례들을 언급하며 제보를 했습니다.이러한 부정확성은 엘사의 본래 목적이 효율성 향상이라는 점을 고려할 때 특히 우려스러운데, 이러한 결과는 중요한 의료 결정에서 위험한 실수가 될 수 있습니다.
엘사를 둘러싼 우려에 대해 FDA 경영진은 긴박감을 보이지 않았습니다. FDA 경영진은 엘사 사용에 대한 직원 참여가 의무 사항이 아니며, 엘사 교육은 선택 사항이라고 강조했습니다.이러한 접근 방식은 기관 전체에서 AI가 효과적이고 안전하게 활용되도록 보장하는 체계적인 감독이나 지침이 부재하다는 의문을 제기합니다.
AI 시스템에서 특히 업데이트나 수정 과정에서 오류가 발생하는 것은 드문 일이 아니지만, 의료 분야에서는 그 위험성이 훨씬 더 높습니다.진정한 과제는 단순히 기술적 오류뿐만 아니라, 정확성이 무엇보다 중요한 상황에서 적절한 인적 모니터링 없이 AI를 구축하는 데 있습니다.사소한 오류도 치명적인 결과로 이어질 수 있는 환경에서는 강력한 감독 메커니즘이 필수적입니다.
답글 남기기