저자가 딱 한 명뿐인 로봇 안전 표준
앤트로픽(Anthropic)의 새로운 ‘모델 하드웨어 표준(Model Hardware Standard)’은 AI 제어 로봇을 위한 안전 사양으로 홍보되고 있지만, 이 표준은 한 기업이 독점적으로 관리하는 폐쇄적인 형태로 출시된 반면, 업계의 실제 기능 안전 표준은 15년에 걸쳐 다수의 이해관계자로 구성된 위원회를 통해 마련된 바 있다.

목요일 샌프란시스코에서 나온 발표는 언뜻 보면 단순한 기술적 업데이트처럼 보였다. 앤트로픽(Anthropic)은 AI 에이전트가 맞춤형 통합 방식 대신 단일 파일에서 기계의 성능과 안전 한계를 읽어낼 수 있게 해주는 사양인 ‘모델 하드웨어 표준(Model Hardware Standard)’을 공개했으며, 이를 제약 연구소, 대학, 산업용 로봇 제조사 등 16개 파트너사에 공개된 연구용 프리뷰라고 밝혔다. 관련 보도들은 이를 앤트로픽이 2024년에 출시한 소프트웨어 도구 표준인 ‘모델 컨텍스트 프로토콜(Model Context Protocol)’의 자연스러운 다음 단계로 다루었다. 그러나 이러한 해석은 더 흥미로운 본질을 놓치고 있다.
'모델 하드웨어 표준(Model Hardware Standard)'은 주로 기술 문서가 아닙니다. 이는 위원회 차원이 아닌 제품 결정 과정을 통해, AI 에이전트가 사람의 손 근처에서 로봇 팔에게 어떤 동작을 지시할 수 있는지 결정하려는 시도입니다. 이 구분은 데모 영상이 시사하는 것보다 훨씬 더 중요합니다. 왜냐하면 산업용 로봇에 안전 규칙이 도입된 이래로, 그 규칙을 제정한 사람은 로봇을 판매하는 업체와 전혀 무관한 사람들이었기 때문입니다.
MHS가 조용히 곁에 놓여 있는 문서를 살펴보십시오. 산업용 로봇의 핵심 기능 안전 표준인 ISO 10218은 산업용 로봇의 핵심 기능 안전 표준인 이 규격은 2025년 1월, 약 15년 만에 첫 번째 주요 개정을 거쳤습니다. 두 부분의 총 페이지 수가 122페이지에서 318페이지로 늘어났으며, 이전에는 별도로 존재하던 협동 로봇 안전 사양을 통합하고 사이버 보안 요구 사항을 처음으로 추가했습니다. 이 과정은 ISO 기술위원회 299를 통해 진행되었는데, 이 위원회는 제조사, 시스템 통합업체, 보험사, 규제 당국으로 구성된 기구로, 구성원들은 기본적으로 의견이 일치하지 않아 승인을 내리기 전 15년 치의 현장 경험을 조율해야 했습니다. 그 회의 테이블에 앉아 있던 누구도 단일 로봇 브랜드를 판매하는 사람은 없었습니다. 같은 범주의 질문, 즉 AI 시스템이 기계에게 안전하게 지시할 수 있는 행동에 대한 앤트로픽(Anthropic)의 답변은 회사 블로그 게시물과 비공개 파트너 목록 형태로 공개되었으며, 회사는 사양을 오픈소스로 공개하기 전에 해당 파트너들과 함께 “안전 평가 및 모범 사례”를 구축하고 있다고 분명히 밝혔습니다.
그보다 더 많은 표를 행사할 수 있는 거버넌스 기구와 함께.15년 대 블로그 게시물 한 편
Anthropic은 이미 한 번 이 전략을 시도한 바 있으며, MCP가 바로 그 이야기의 성공적인 버전이기 때문에 두 사례를 비교해 보면 많은 교훈을 얻을 수 있다. 모델 컨텍스트 프로토콜(MCP)은 2024년 11월 출시 첫날부터 오픈소스로 공개되었습니다. 6개월도 채 되지 않아 마이크로소프트와 GitHub가 운영위원회에 합류했고, OpenAI와 구글은 이 프로토콜에 대한 자체 지원 기능을 출시했습니다. 이 모든 것은 앤트로픽이 강제로 이끌어낸 것이 아니라, 코드와 거버넌스가 처음부터 공개되어 있었기 때문에 가능했던 일입니다. 이것이 바로 MCP를 한 연구소의 편의 수단에서 공유 인프라로 전환시킨 메커니즘입니다. 경쟁사들은 자신이 도입하는 것이 정확히 무엇인지 확인할 수 있었고, 결국 MCP가 어떤 형태로 발전할지 결정하는 데 기여할 수 있었습니다.
MHS는 적어도 현재로서는 그 단계를 건너뜁니다. 이 서비스는 비공개 상태로 출시되며, 앤트로픽이 직접 선정한 파트너 목록을 통해 테스트를 거치고, 오픈소스 공개는 프리뷰를 통해 안전성 평가 결과가 도출된 후(이 평가 결과가 오픈소스 공개를 정당화할 것으로 예상됨) 미정된 시점으로 연기되었습니다. 현재 작성자만이 수정할 수 있는 사양은 아직 인프라라고 할 수 없습니다. 이는 인프라라는 이야기가 덧붙여진 제품에 불과하며, 이 차이는 단순한 이론적 문제가 아닙니다. 인프라는 창시자가 방향을 바꾸더라도 살아남지만, 공급업체의 사양은 그렇지 못합니다.
규칙이 정립되기도 전에 확보한 파트너 목록
이 모든 상황이 16개 파트너사를 순진하게 보이게 하지는 않습니다. 제넨테크(Genentech)는 이 표준을 단백질 농도 분석에 시범 적용하고 있는데, 이 분석은 이 표준이 없었다면 액체 처리기, 로봇 팔, 플레이트 판독기를 연결해 주는 전문 통합 업체가 필요했을 것입니다. 카네기 멜론 대학교, 워싱턴 대학교의 베이커 및 핑레이 연구실, HHMI 자넬리아 연구 캠퍼스는 이미 보유하고 있는 실험실 하드웨어에서 이 표준을 테스트하고 있다. 산업계에서는 현재 조립 및 품질 보증 라인에서 실제로 팔을 가동하고 있는 협업 로봇(코봇) 제조사 중 두 곳인 유니버설 로보틱스와 두산로보틱스가, 아마존 웹 서비스(AWS)의 ‘스트랜즈 로봇(Strands Robots)’ 프레임워크 및 허깅(Hugging)과 함께 MHS 지원을 테스트하고 있습니다.
Face의 오픈소스 ‘LeRobot’ 프로젝트는 6자리 수의 비용이 드는 실험실 장비만큼이나 손쉽게 동일한 인터페이스를 취미용 로봇 팔에도 적용할 수 있게 해줍니다.대학의 현미경 실험실 벤치부터 공장 현장에 수천 대씩 공급되는 협업 로봇에 이르기까지, 이러한 폭넓은 적용 범위가 바로 이 프로젝트의 진정한 성과입니다. 어느 한쪽 범주가 다른 쪽을 위해 과도하게 설계되지 않도록 하나의 사양으로 양쪽을 모두 설명하는 것은 진정한 설계 과제였으며, 이는 훌륭하게 해결되었습니다. 하지만 거버넌스가 수립되기 전에 구성된 연합체는 표준 기구가 아닙니다. 이는 베타 코호트에 불과하며, 파트너 중 어느 한 곳이 Anthropic이 사양에 대해 내린 결정에 동의하지 않고 투표 절차가 없다는 사실을 깨닫는 순간, 그 구분은 자연스럽게 사라집니다.
현재 단 한 회사만이 수정할 수 있는 안전 표준은 표준이라는 외피를 두른 제품 결정에 불과합니다.
자사의 샌드박스를 스스로 평가하는 기업
이러한 시기는 신뢰 문제를 해결하기보다는 오히려 더욱 악화시킵니다. MHS 프리뷰가 시작되기 한 달 전, 보안 연구원들은 Anthropic의 소프트웨어 에이전트 제품인 Claude Cowork에서 샌드박스 탈출 취약점을 공개적으로 보고했습니다. 이 취약점으로 인해 로컬에서 실행 중인 세션이 가상 머신을 벗어나, 해당 도구를 로컬에서 실행 중인 머신의 호스트 Mac 파일 시스템(SSH 키 및 클라우드 인증 정보 포함)에 접근할 수 있게 되었습니다. Anthropic의 대응은 로컬 탈출 경로를 직접 패치하는 대신, 향후 클라우드 실행을 기본값으로 설정하는 것이었으며, 이로 인해 로컬 실행을 선택한 사용자들은 스스로 구성을 강화해야 하는 상황에 놓이게 되었다.
해당 사건은 MHS보다 앞서 발생했으며 다른 제품과 관련된 것이므로, 하드웨어 표준 자체가 안전하지 않다는 증거는 아닙니다. 이는 더 좁은 범위이면서도 여전히 관련성이 있는 사실을 보여줍니다. 즉, 최근 시도한 샌드박싱 기술이 집요한 연구원들에게 무력화당한 기업이, 이제 외부 기관의 검토도 거치지 않은 상태에서 AI 에이전트가 로봇 팔에 안전하게 명령할 수 있는 행동에 대한 자사의 내부 판단을 연구소와 제조업체에 신뢰해 달라고 요청하고 있다는 점입니다. “프리뷰 기간 동안 추가적인 안전성 평가를 수행할 예정입니다”라는 말은 합리적인
연구적 입장. 이는 기능 안전 인증보다 훨씬 약한 주장이며, 구매자는 이를 기능 안전 인증의 대체물로 삼아서는 안 됩니다.구매자에게 실제로 어떤 변화가 생기는가
이 모든 것이 MHS 테스트를 반대하는 근거가 되지는 않습니다. 이미 유니버설 로보틱스(Universal Robots)나 두산로보틱스(Doosan Robotics) 장비를 운영 중인 시설의 경우, 수 주간 걸리던 전문적인 배선 작업을 라인 감독자가 수행할 수 있는 작업으로 바꿔주는 통합 방식은, 누가 사양을 관장하든 상관없이 위험이 적은 셀에서 시범 운영해 볼 가치가 있습니다. 왜냐하면 이 방식이 해결하고자 하는 통합 비용 문제는 오늘날 현실적으로 존재하며 막대한 비용을 초래하기 때문입니다. 변화하는 점은 그 시범 운영이 무엇을 입증하는 것으로 이해되어야 하는가 하는 부분입니다. 이는 MHS가 통합에 소요되는 시간을 줄여주는지 여부를 보여줍니다. 이는 MHS 파일로 기술된 기계가 2027년 1월 20일부터 유럽연합이 시행할 기준을 충족한다는 것을 보여주지는 않습니다. 해당 날짜부터 유럽연합의 기계 규정(Machinery Regulation)은 AI 기반 안전 기능을 제조사의 자체 선언을 수용하는 대신, 처음으로 제3자 적합성 평가 대상으로 포함시키기 때문입니다.
주목해야 할 시한은 이 기한이지, 프리뷰 출시일이 아닙니다. 이 시한이 도래하면, 본 칼럼이 현재 제기하고 있는 비교, 즉 수개월 단위의 프리뷰 일정에 따라 AI 연구소가 내부적으로 작성한 안전 파일이, ISO 10218:2025를 탄생시킨 수년에 걸친 다중 이해관계자 과정을 전제로 하는 규제 당국의 기준을 충족하는지 여부가 강제로 검증될 것입니다. 벤더들이 발표하는 내용과 분류 체계가 실제로 검증할 수 있는 내용을 매일 대조하는 로봇 데이터 플랫폼의 관점에서 볼 때, 주목해야 할 핵심은 MHS가 채택되느냐가 아닙니다. 코봇 제조사들은 누가 작성했든 상관없이 유용한 통합 형식을 채택할 것입니다. 진정한 관건은 앤트로픽(Anthropic)이 MCP가 결국 그랬던 것처럼 통제권을 양도하여, 외부 엔지니어들이 향후 사양 방향을 결정하는 위원회에 참여할 수 있도록 허용할지 여부다. 그러한 상황이 발생하기 전까지는, MHS로 정의된 로봇을 운영하는 모든 시설은 해당 공급업체가 제조, 판매 또는 보험을 제공하지 않는 하드웨어에 대해, 그 공급업체 하나의 안전 판단만을 신뢰하게 될 것이다.
대표 이미지: 유니버설 로보틱스(Universal Robots)의 UR 시리즈 코봇 제품군, 제공
유니버설 로보츠(Universal Robots)의.면책 조항: 본 기사는 일반적인 정보 제공을 목적으로 하며, 투자, 법률 또는 조달에 관한 조언을 구성하지 않습니다. 독자는 비즈니스 결정을 내리기 전에 원본 출처를 통해 세부 사항을 확인해야 합니다.












