OpenEvidence가 의사들이 실제로 신뢰하는 의료 AI를 만든 방법
Avalara의 최고 전략·제품 책임자(Chief Strategy and Product Officer) Jayme Fishman에게 Avalara 혁신의 출발점은 개발 방식을 바꾸는 것이었다.
Andy Yoon은 평소처럼 Slack을 훑어보다 한 메시지를 발견했다. OpenEvidence가 TikTok에서 바이럴을 탔다는 소식이었다.
단순히 "관심을 끌기 시작했다"는 수준이 아니었다. 진짜 바이럴이었다. 일주일도 안 돼 조회수가 약 200만 회에 달했다.
보통 이런 상황이면 팀원을 긴급 소집하고, 서버 용량을 급하게 늘리고, 정말 하고 싶지 않았던 전화를 이곳저곳에 돌려야 한다.
하지만 리드 프론트엔드 엔지니어 Andy는 그중 어떤 것도 하지 않았다.
그는 그저 수치가 올라가는 걸 지켜봤다. 로그를 확인했더니 전부 정상이었다. 응답 시간은 여전히 빨랐고, 오류율은 거의 0에 가까웠다. 그는 고칠 게 아무것도 없었기에, 하던 일로 돌아갔다.
"Vercel이 트래픽 증가에 맞춰 완벽하게 스케일링해 줬습니다"라고 그는 말한다. "용량 문제로 서비스가 다운된 적도 없고, 추가로 프로비저닝해야 할 것도 없었어요. 신경 쓸 필요조차 없을 만큼 믿을 수 있다는 게 정말 놀랍습니다."
이는 대부분의 헬스케어 테크 기업이 아직 풀지 못한 문제를 OpenEvidence가 해결했다는 증거였다. 바로 스타트업의 속도로 움직이면서도 병원급 안정성 기준을 충족하는 것이다.
실패가 허용되지 않는 곳
OpenEvidence 같은 기업에게 걸린 것은 차원이 다르다. 제품이 오작동하면 누군가 잘못된 의료 판단을 내릴 수 있기 때문이다.
OpenEvidence는 미국 임상의 사이에서 가장 널리 사용되는 임상 의사결정 지원 플랫폼으로, 2026년 1월 기준 2,000만 건 이상의 임상 상담을 지원했다. 지난해에는 1억 명 이상의 미국인이 OpenEvidence를 활용하는 의사에게 진료를 받았다.
범용 모델은 틀려도 괜찮지만, 임상 도구는 그럴 수 없다. 의사들은 빠른 응답을 기대하지만, 동시에 안정성과 명확성, 그리고 신뢰를 요구한다.
이 압박은 OpenEvidence의 모든 기술적 의사결정 위에 늘 자리 잡고 있다. 언제나, 반드시 작동해야 한다.
프론트엔드 엔지니어 한 명과 Python 개발자들로 이루어진 팀
약 3년 전 OpenEvidence에 합류한 Andy는 대부분의 프론트엔드 엔지니어라면 긴장할 만한 사실을 알게 됐다. 프론트엔드 담당이 사실상 자기 혼자라는 것이었다.
"저희 팀에서 실제 프론트엔드 출신 엔지니어는 저 하나뿐이었습니다"라고 그는 말한다. "나머지 팀원 대부분은 Python과 머신러닝을 다루고 있었죠."
끊임없이 돌봐야 하는 인프라를 운영할 여유가 없었다. 그냥 작동하는 환경이 필요했다. 코드를 배포하면 바로 반영되고, 트래픽이 늘면 알아서 확장되는 그런 것 말이다.
그래서 OpenEvidence는 하이브리드 아키텍처를 채택했다. 백엔드는 Python으로 구축하여 Google Cloud Platform에서 운영하며, 데이터 수집, 모델 오케스트레이션, 핵심 비즈니스 로직을 처리한다. 프론트엔드는 Next.js로 만들어 Vercel에 배포하고 있다.
"우리 엔지니어링 팀의 구성을 고려하면, Vercel 덕분에 프론트엔드가 정말 잘 확장될 수 있었습니다"라고 Andy는 설명한다.
커밋할 때마다 자동으로 배포가 이루어지고, 프로덕션 배포는 5분이면 끝난다. 모든 브랜치에 프리뷰 URL이 생성된다. 미국 전체 의사의 거의 절반을 대상으로 매일 수백만 건의 의료 상담을 지원하는 소규모 팀에게, 이 환경은 없어서는 안 될 존재였다.
빠른 속도로 프로토타이핑하기
지금의 OpenEvidence가 되기 전, 이 제품은 수십 가지 다른 모습을 거쳤다. 각각의 개념 검증(PoC)은 별도의 Vercel 프로젝트로 배포되었고, 커스텀 도메인이 연결됐다.
Vercel 덕분에 이 과정은 간단했다. 새 프로젝트를 생성하고, 커스텀 도메인을 연결하고, 코드를 푸시하면 프로덕션 환경처럼 보이는 결과물이 바로 만들어졌다. 이해관계자들은 직접 클릭하며 워크플로를 테스트할 수 있었다.
몇 분 만에 프로젝트를 띄울 수 있는 이 능력 덕분에 팀은 제품-시장 적합성(Product-Market Fit)을 찾을 수 있었다. 초기 엔터프라이즈 파트너십을 확보하는 데도 큰 도움이 됐다.
새로운 기능을 개발할 때는 프리뷰 배포를 통해 라이브 데모용 공유 링크를 만들 수 있다. 필요하면 즉시 롤백할 수 있어 변경 사항을 안전하게 배포할 수 있다.
90% 절감이라는 놀라운 결과
OpenEvidence가 1,000배 성장하는 동안, 리드 인프라 엔지니어 Micah Smith는 컴퓨팅 비용을 예의주시하고 있었다. Vercel이 Fluid compute를 도입하면서 서버리스 워크로드의 작동 방식이 달라졌다. 온디맨드 실행에 서버급 효율성을 결합하여 지연 시간을 줄이고, 부하 상태에서의 성능을 개선한 것이다.
팀이 Fluid compute를 활성화해 보니, 서버리스 비용이 90%나 줄었다. 안정성은 그대로였고, 속도는 더 빨라졌으며, 콜드 스타트도 줄어들었다.
"동일한 성능을 유지하면서 서버리스 비용을 90% 절감했습니다. 1,000배 성장한 지금도 Vercel은 전체 인프라 비용의 5% 미만입니다." —Micah Smith, VP Engineering
인프라가 거의 눈에 보이지 않는 수준이 되면서, 서버 프로비저닝이나 도구 디버깅 대신 제품 경험에 더 많은 시간을 쏟을 수 있게 됐다.
바늘구멍 통과하기
"많은 의사와 의료 전문가들은 정말 낡은 소프트웨어에 익숙합니다"라고 Andy는 말한다.
틀린 말이 아니다. 병원 소프트웨어는 90년대에 설계된 것처럼 보이는 경우가 많다. 하지만 그런 도구들은 안정적이다. OpenEvidence는 바늘구멍을 통과해야 한다. 현대적인 솔루션을 만들면서도 그 수준의 안정성을 유지해야 하는 것이다.
바이럴 순간은 플랫폼이 갑작스러운 트래픽 급증 속에서도 병원급 안정성을 유지할 수 있는지를 증명하는 시험대였다.
결과는 합격이었다.
출시 이후 OpenEvidence는 미국 의사의 40% 이상이 사용하는 서비스로 성장했다. 프론트엔드 팀은 여전히 소규모이고, 인프라는 여전히 알아서 잘 돌아간다.
OpenEvidence 소개: OpenEvidence는 미국에서 가장 빠르게 성장하는 임상 의사결정 지원 플랫폼이자, 미국 임상의 사이에서 가장 널리 사용되는 의료 검색 엔진이다. 수십만 명의 인증된 의료 전문가가 진료 현장에서 고위험 임상 결정을 내릴 때 OpenEvidence를 신뢰하며, 제공되는 정보는 동료 심사를 거친 의학 문헌에 기반해 출처가 명시되고 인용이 포함되어 있다. 의사가 생명을 구하고 환자 치료를 개선하도록 돕겠다는 사명 아래 설립된 OpenEvidence는 현재 미국 의사의 40% 이상이 매일 활발히 사용하고 있으며, 전국 10,000곳 이상의 병원과 의료 센터에서 활용되고 있다. 자세한 내용은 openevidence.com에서 확인할 수 있다.