웨이모, 2억 마일의 자율주행 데이터를 바탕으로 한 10가지 AI 교훈 발표

웨이모의 2억 마일 자율주행 기록 뒤에 숨겨진 불편한 교훈

모든 자율주행차 기업은 결국 구매자나 규제 당국으로부터 다음과 같은 불편한 질문을 받게 마련이다. “시스템이 시연에서 보여준 만큼 성능이 뛰어나다면, 왜 한 도시에서 다른 도시로 서비스를 확장하는 데 몇 달이 아닌 몇 년이나 걸리는가?” 웨이모는 수요일 게시된 블로그 글을 통해 평소 공개적인 메시지보다 더 직접적으로 이 질문에 답했으며, 해당 분야 기업 중 현재 가장 방대한 실제 주행 데이터셋인 2억 마일 이상의 완전 자율 주행 데이터를 바탕으로 도출한 10가지 구체적인 엔지니어링 원칙을 공개했다. 이 10가지 원칙 모두에 담긴 답은 구매자들이 듣기 싫어하는 바로 그 내용이다: 어려운 부분은 데모에서 차량이 스스로 주행할 수 있음을 증명하는 것이 결코 아니었으며, 안전 운전자를 영구적으로 제거할 수 있을 만큼 회사에 확신을 주는 다층적인 검증 및 거버넌스 시스템을 구축하는 것이었습니다.

알파벳(Alphabet)의 자율주행 자회사인 웨이모(Waymo)는 미국 내 여러 대도시권에서 완전 무인 로봇택시 서비스를 운영 중이며, 이번 주 유럽연합(EU) 내 첫 시장으로 뮌헨에 진출한다고 밝혔다. 이러한 세부 사항은 방법론에 초점을 맞춘 이번 게시물의 시점에 순수한 사상 리더십을 넘어서는 전략적 중요성을 부여한다. 새로운 규제 관할 구역으로 사업을 확장하는 기업은, 자사의 확장 결정이 특정 도시의 운영 실적에서 비롯된 자신감에 기반한 것이 아니라, 반복 가능하고 감사 가능한 프로세스에 근거한다는 점을 공개적으로, 그리고 기술적 세부 사항까지 포함해 입증할 분명한 동기를 가지고 있다. 이러한 사업 확장과 함께 볼 때, 이 10가지 교훈은 일반 대중을 위한 해설 자료라기보다는, 웨이모가 초기 실적을 쌓아온 미국 시장 밖에서도 안전성이 입증될지 평가하는 규제 당국, 보험사, 기업 파트너들을 대상으로 한 기술적 신뢰성 입증 문서의 역할을 더 많이 수행합니다.

센서 중복성은 설계 철학이지, 자재 명세서의 항목이 아니다

웨이모의 첫 번째이자 대중에게 가장 잘 알려진

이 원칙은 카메라만으로는 불충분하며, 라이더, 레이더, 카메라를 함께 사용해야만 안전이 최우선인 시스템에 필요한 중복성과 상호 보완적인 감지 기능을 제공할 수 있다는 것입니다. 이러한 주장은 새로운 것이 아닙니다. 웨이모는 수년 동안 카메라만 사용하는 경쟁사들을 상대로 이 점을 주장해 왔지만, 이번 주 회사가 제시한 설명은 단순한 감지 정확도보다는 고장 모드 대응 범위에 더 명확하게 초점을 맞추고 있습니다: 각 센서 유형은 조건에 따라 서로 다른 방식으로 성능이 저하됩니다. 저조도나 눈부심 환경에서는 카메라가, 밀집된 장애물 환경에서는 레이더가, 폭우 환경에서는 라이더가 성능이 저하되는데, 이 세 가지를 융합한 시스템은 환경적 요인으로 인해 전체 인식 상황을 한 번에 은밀하게 저하시킬 수 있는 단일 실패 지점이 없습니다. 로보택시 플랫폼이든 안전과 관련된 결정을 내리는 산업용 AMR이든, 자율주행 시스템을 평가하는 구매자에게 실질적인 교훈은 센서 중복성에 대한 주장을 단순히 ‘다중 센서’라는 일반적인 체크박스로 받아들이기보다는, 고장 모드 수준에서 면밀히 검토해야 한다는 점입니다. 즉, 구체적으로 어떤 조건에서 어떤 유형의 센서 성능이 저하되는지 질문해야 합니다.

두 번째 원칙, 즉 고해상도 지도가 웨이모(Waymo)가 “정신적 기억(mental memory)” 계층이라고 부르는 것으로 여전히 의미 있는 가치를 제공한다는 점은, 종단 간 학습 주행이 결국 상세한 사전 지도를 불필요하게 만들 것이라는 업계의 상반된 주장과 대립한다. Waymo의 입장은 지도가 실시간 인식이 가장 신뢰할 수 없는 상황—시야가 불량한 경우, 비정상적인 교차로 구조, 혼란스러운 임시 표지판이 있는 공사 구역 등—에서 특히 도움이 된다는 것이다. 지도는 차량이 맹목적으로 따르는 경직된 스크립트가 아니라, 실시간 감지 시스템이 이를 기준으로 검증할 수 있는 사전 기대치로 기능한다. 이는 순수한 종단 간(end-to-end) 접근 방식과는 의미 있게 다른 설계 철학이며, 웨이모의 도시별 확장 속도가 지도 없는 접근 방식이 허용하는 수준보다 역사적으로 더 느렸던 이유를 부분적으로 설명해 줍니다. 즉, 새로운 운영 지역마다 이러한 사전 지도 데이터를 구축하고 유지하는 것 자체가 상당한 규모의 지속적인 엔지니어링 투자가 필요하며, 이는

일회성 비용이 아니라 지리적 범위를 확보하는 것.

모듈성보다 통합성, 그리고 모델을 맹신하지 않는 태도

Waymo의 세 번째 원칙, 즉 규모가 작고 특화된 모델들을 모듈식으로 조합한 것보다 수가 적고 규모가 큰 통합 기반 모델이 대규모 환경에서 더 우수한 성능을 발휘한다는 주장은, 어려운 문제를 더 작고 독립적으로 검증 가능한 조각들로 나누는 것이 더 안전하고 디버깅하기 쉬울 것이라는 직관적인 공학적 본능과는 상반된다. 웨이모의 주장은, 통합을 통해 모듈식 파이프라인이 각 인계 경계에서 잃어버리는 도메인 간 맥락을 포착할 수 있다는 것이다. 별도로 구축되고 검증된 인식 모듈과 계획 모듈은 각각 독립적으로 잘 작동할 수 있지만, 두 모듈 간의 상호작용에서만 오류가 발생하기 때문에 어느 모듈의 자체 테스트 스위트도 포착하지 못하는 안전하지 않은 결합된 동작을 만들어낼 수 있다.

이러한 통합 방식은 ‘블랙박스 시스템은 용납될 수 없으며 모든 주행 결정에는 독립적인 검증 계층이 필요하다’는 네 번째 원칙을, 완전히 모듈화된 아키텍처에서 구현하는 것보다 훨씬 더 어렵게 만듭니다. 그리고 웨이모가 이러한 추가적인 엔지니어링 부담을 기꺼이 감수하려는 태도는 이 게시물에서 특히 주목할 만한 세부 사항 중 하나입니다. 이 회사는 통합 모델의 출력을 생성한 모델과 독립적으로 물리법칙 및 교통법규 제약 조건에 따라 검증하는 모니터링 계층을 설명하고 있는데, 이는 단순히 검증된 모델의 출력을 신뢰하는 것과는 본질적으로 다르며 비용도 더 많이 드는 안전 아키텍처입니다. 로봇 공학을 비롯한 AI 기반 물리적 시스템을 평가하는 모든 조달 팀에게 있어, 주 의사결정 모델과 고장 모드를 공유하지 않는 독립적인 검증 계층의 유무는 주 모델 자체의 정교함보다 더 의미 있는 안전 차별화 요소입니다. 왜냐하면 아무리 능력이 뛰어나더라도, 잘 훈련된 단일 모델은 이러한 검증 계층이 없으면 여전히 단일 고장 지점이 되기 때문입니다.

시뮬레이션, 비판, 그리고 제도적 규율

회의주의

다섯 번째와 여섯 번째 원칙인, 시뮬레이션된 교통 상황이 차량 자체의 행동에 반응하는 폐쇄형 루프 시뮬레이션과, 그리고 수백만 마일의 주행 데이터를 지속적으로 분석하여 사고를 유발하기 전에 바람직하지 않은 패턴을 찾아내는 자동화된 ‘AI 비평가’ 시스템은, 차량 군이 축적한 경험을 회사가 주기적으로 재검토하는 정적인 훈련 데이터 세트가 아닌 지속적인 감사 자료로 활용하는 안전 검증 접근 방식을 설명합니다. 이러한 차이는 운영상 중요한 의미를 갖습니다. 예정된 재훈련 간격에 맞춰 데이터로부터만 학습하는 시스템은 집계된 통계에서 누군가가 이를 알아차리기 전까지 수개월 동안 잠재적인 오류 패턴을 품고 있을 수 있는 반면, 지속적인 자동 비평 시스템은 훨씬 더 짧은 기간 내에 동일한 패턴을 포착하도록 설계되었기 때문입니다. Waymo는 이러한 지속적인 검토를 폐쇄형 시뮬레이션과 결합하고 있는데, 이 시뮬레이션 환경은 고정된 사전 녹화된 시나리오를 재현하는 대신 시뮬레이션 환경이 차량에 현실적으로 반응하게 함으로써, 회사는 수백만 마일을 주행해야 한 번 발생할지 모르는 사건에 대해 통계적으로 유의미한 표본을 확보할 때까지 실제 주행 거리를 기다릴 필요 없이, 드문 오류 모드에 대한 가설을 스트레스 테스트할 수 있습니다.

일곱 번째 원칙은, 비전-언어 모델이 내부적으로 ‘빠르고 느린(fast-and-slow) 아키텍처’라고 불리는 센서 융합과 결합될 때 추론 능력을 추가한다는 것으로, 10가지 원칙 중 개념적으로 가장 야심 찬 원칙이자, 파운데이션 모델 기반 주행 시스템을 향한 업계 전반의 추세와 가장 직접적으로 연결된 원칙이다. 이 ‘패스트-앤-슬로우(fast-and-slow)’ 프레임워크는 의도적으로 이중 과정 인지 이론에서 차용한 것이다. 즉, 빠르고 반사적인 계층은 실시간 제어에 필요한 속도로 일상적인 주행 결정을 처리하는 반면, 더 느리고 신중한 추론 계층은 언어 모델이 모호한 시나리오를 처리하는 방식에 더 가깝게, 순수하게 반응적인 시스템만으로는 안전하게 처리하기 어려운 진정으로 새로운 상황에 대응한다. 이 아키텍처는

웨이모는 주행 중인 차량의 일상적인 제어에 필요한 결정론적이고 지연 시간이 짧은 응답 성능을 희생하지 않으면서도, 다른 분야에서 대형 모델이 보여준 일반화 이점을 확보하려 시도하고 있다. 이는 웨이모가 확실히 해결했다고 주장하는 문제가 아니라, 자율주행차 업계 전반에서 여전히 활발히 논의되고 있는 균형 문제이다.

기술이 아닌 거버넌스가 진정한 병목 지점

8번째와 9번째 원칙에서 웨이모의 게시물은 일반적인 기술 독자를 대상으로 한 글이라기보다 규제 당국과 기업 파트너들에게 보내는 메시지로 가장 명확하게 드러난다. 웨이모는 확장 결정, 안전 운전자의 철수, 새로운 도시 진입, 또는 운영 설계 영역 확장을 진행하기 전에 시스템이 충분한 준비 상태를 입증했는지 평가하는 공식적이고 정량적인 거버넌스 프레임워크와, 주기적인 프로젝트가 아닌 상시 운영 프로세스로 데이터 수집, 라벨링, 재훈련, 검증의 순환을 반복하는 지속적인 “데이터 플라이휠”을 설명한다. 이 두 원칙을 종합해 보면, 해당 조직은 순수한 기술적 신뢰도만을 기준으로 삼기보다는 거버넌스 심사 절차를 중심으로 확장 속도를 결정하고 있음을 알 수 있습니다. 이는 유럽연합(EU)과 같은 새로운 규제 관할 구역에 진입할 때, 순수하게 기술적인 안전 논거만 제시하는 것보다 훨씬 더 설득력 있는 입장입니다. 새로운 기술을 평가하는 규제 당국은 일반적으로 독립적으로 검증할 수단이 제한적인 순수한 성능 통계보다, 실증되고 반복 가능한 의사결정 과정에 더 설득을 받기 마련이며, 순수한 성능 통계만으로는 독립적으로 검증할 수단이 제한적이기 때문이다.

열 번째이자 마지막 원칙, 즉 진정한 자율성을 대체할 수 있는 것은 없으며, 업그레이드된 운전자 보조 시스템이 진정한 레벨 4 성숙도를 대신할 수 없다는 점은 웨이모의 가장 날카롭고 경쟁적인 주장이며, 점차 더 뛰어난 운전자 보조 제품을 통해 완전한 자율성을 단계적으로 구축해 나가는 경쟁사들에 대한 암묵적인 반박이다. 웨이모의 주장은, 인간 운전자가 여전히 대기하고 있다는 가정 하에 설계된 시스템은

폴백이 있는 시스템은 처음부터 인간의 개입이 전혀 없는 시스템과는 다른 엔지니어링 관행을 형성하며, 안전 아키텍처에 서로 다른 잠재적 가정을 내포하고 있는데, 이러한 차이점은 운전자 보조 시스템의 성능 통계가 진정한 자율주행 시스템의 수준에 근접한다고 해서 단순히 사라지는 것이 아닙니다. 이 주장이 타당한지에 대해서는 점진적 접근 방식을 추구하는 경쟁사들이 이의를 제기할 가능성이 높지만, 이는 단순한 마케팅 주장이 아닌 일관되고 검증 가능한 입장이며, 경쟁하는 자율주행 공급업체들을 평가하는 구매자들에게 다음과 같은 구체적인 아키텍처 관련 질문을 던지게 한다. ‘이 시스템은 처음부터 인간의 안전망 없이 설계된 것인가, 아니면 원래 안전망을 중심으로 구축된 시스템에 나중에 완전 자율주행 기능이 추가된 것인가?’

뮌헨으로 가져가야 할 시사점

웨이모가 새로운 유럽 시장 진출을 확정한 바로 그 주에 이 정도의 엔지니어링 세부 사항을 공개하기로 한 결정은 우연이 아니다. 2억 마일의 운행 기록은 10대 원칙 프레임워크가 규제 당국과 대중이 인간의 백업 없이도 신뢰할 수 있는 시스템을 만들어낸다는 점을 입증하는 이 회사가 제시할 수 있는 가장 강력한 증거이며, 또한 그 프레임워크를 안전 통계 뒤에 암묵적인 주장으로 남겨두지 않고 명시적으로 밝힌 것은, 기술적 투명성이 블랙박스식 안전 기록만으로는 불가능한 속도로 새로운 규제 승인 절차를 통과할 것이라는 신중한 내기입니다. 이 이야기가 기록되지 않았을 경우를 상상해 보라. 해질녘 젖은 뮌헨의 교차로를 주행하던 웨이모 차량 앞에 트램이 가로막고, 매핑 팀이 완전히 모델링하지 못한 자전거 도로에서 자전거 운전자가 합류하는 상황에서, 주 모델이 놓친 부분을 독립적인 검증 계층이 포착하여 이 사건이 내년 안전 보고서의 각주가 아닌 헤드라인이 되는 것을 막는 장면 말이다. 또 다른 주행 거리 달성 같은 이정표가 아니라, 바로 그 화려하지도 않고 눈에 띄지도 않는 오류 포착이야말로, 10가지 원칙 모두가 실제로 보장하기 위해 마련된 것입니다.

면책 조항: 이 기사는 일반적인 정보 제공을 목적으로 하며, 다음을 구성하지 않습니다.

투자, 법률 또는 조달 관련 조언이 아닙니다. 독자들은 비즈니스 결정을 내리기 전에 직접 출처를 통해 세부 사항을 확인해야 합니다.