입증된 동반자 로봇은 말을 할 수 없는 로봇이다

오픈AI는 안전성 테스트 과정에서 성적 페티시에 대해 이야기한 AI 테디베어의 제조사를 제재했다고 연구진에게 알렸다. 3개월 후, 연구진은 해당 테디베어가 여전히 오픈AI 모델을 기반으로 작동하는 것으로 보인다는 사실을 발견했다. 임상 실적이 가장 뛰어난 반려 로봇은 언어 모델을 전혀 갖추고 있지 않다. 이 두 가지 사실은 모두 같은 이야기의 일부다.

Eugene
4분 소요Posted: 2026년 9월 23일
입증된 동반자 로봇은 말을 할 수 없는 로봇이다

봉제인형 로봇이 수십만 개씩 팔리고 있다. 이로 인한 긍정적 효과와 위험은 서로 다른 집단에 영향을 미치고 있다.

오픈AI는 미국 PIRG 교육 기금(US PIRG Education Fund)에, 안전 테스트 과정에서 성적인 페티시에 대해 이야기하고 성냥을 피우는 방법을 설명한 싱가포르 소재 테디베어 제조사 ‘FoloToy’의 제품 ‘Kumma’를 차단했다고 밝혔다. 3개월이 넘게 지난 후, PIRG는 ‘쿠마’가 여전히 OpenAI 모델을 기반으로 작동할 수 있는 것으로 확인했다. 연구진이 관련 증거를 보내자, OpenAI는 FoloToy에 대한 이용 금지 조치가 여전히 유효하다고 답했다.

이러한 교류는 본격적인 붐 속에서 이루어지고 있다. 스태커(Stacker)에 따르면, 2026년 9월 현재 동반자 로봇은 신체화된 AI의 첫 번째 실질적인 상업적 성공 사례로 입증되고 있으며, 로보포엣(Robopoet)의 ‘푸조조(Fuzozo)’는 2025년 7월 출시 이후 중국에서 30만 대 가까이 판매되었다. 이 분야는 대화 상대가 누구인지 판단하기 가장 어려운 두 집단, 즉 어린 아이들과 치매를 앓고 있는 노인들을 대상으로 하며, 관련 증거와 위험은 이 분야의 양극단에 위치해 있다.

"AI 장난감은 여전히 실질적으로 규제 대상이 아니며, 오늘날에도 여전히 구매할 수 있는 제품이 많습니다."
— PIRG 보고서 공동 저자 R.J. 크로스, CNN과의 인터뷰 중

동반자 로봇이 잘 팔리는 이유

동반 로봇은 특정 작업을 수행하기보다는 단순히 동반자 역할을 하도록 설계된, 반려동물처럼 부드러운 기계입니다. 노인 돌봄 분야의 선두주자인 ‘파로(PARO)’는 대화형 AI 기능이 없는 로봇 물범으로, 이 분야 중 가장 철저한 임상 연구를 거친 제품입니다. 어린이용 AI 봉제 인형은 대규모 언어 모델을 활용해 대화를 나누며, 그중 몇몇 제품은 독립적인 안전성 테스트에서 불합격 판정을 받기도 했습니다.

수요가 있다는 점은 의심의 여지가 없습니다. 하이비비(Haivivi)의 ‘버블팔(BubblePal)’은 옷에 클립으로 부착하는 참 장식품으로

같은 Stacker 보고서에 따르면, 어떤 봉제 인형이든 말하는 인형으로 바꿔주는 이 제품은 미국 출시 당시 30만 대 이상 판매된 것으로 나타났다. 세계보건기구(WHO)는 2025년 전 세계 인구 6명 중 1명이 외로움을 겪고 있다고 보고했다. 2026년 4월 ‘아시아 테크 렌즈(Asia Tech Lens)’에 따르면, 딥시크(DeepSeek)를 비롯한 오픈소스 언어 모델 덕분에 소규모 장난감 제조사들조차 고가의 클라우드 인프라 없이도 대화형 동반자를 제작할 수 있게 되었다.

검증된 동반자는 침묵을 지킨다

이 분야는 의약품과 건강보조식품의 구분과 유사해 보입니다. 한쪽은 검증을 거쳐 치료 계획에 포함되는 반면, 다른 한쪽은 포장만으로도 직접 판매되며 정서적 위안을 제공합니다. 그러나 FDA의 기기 기록은 이와 다른 내용을 보여줍니다.

시바타 타카노리 박사가 개발하여 2000년대 초부터 요양원에서 사용되어 온 로봇 아기 물범 ‘파로(PARO)’는 소리, 빛, 온도, 접촉, 자세에 반응합니다. 하지만 대화를 전혀 나누지 않습니다. 2026년 9월 22일 확인된 FDA 의료기기 식별 데이터베이스의 해당 항목에는 제품 코드 HCC(기기, 바이오피드백)가 기재되어 있으며, 시판 전 신고 번호는 없고, 이 기기가 시판 전 신고 면제 대상임을 기록하고 있다. 바이오피드백 기기는 21 CFR 882.5050에 따라 2등급으로 분류되며, PARO와 같이 처방전이 필요하고 배터리로 구동되는 경우 시판 전 신고가 면제됩니다.

동료 심사를 거친 연구, 업계 보도, 빅토리아 앤 알버트 박물관 카탈로지는 모두 PARO를 ‘FDA 승인’ 또는 ‘FDA 허가’ 제품으로 기술하고 있습니다. 그러나 해당 기록은 두 용어 모두를 뒷받침하지 않습니다. PARO가 가진 것은 20년에 걸친 임상 연구 결과뿐입니다.

규제 당국이 이를 평가한 적이 한 번도 없이 누적되어 왔다.

반면 아이들의 측면은 정반대로 구성되어 있습니다. PARO가 침묵할 때 아이들은 대화를 나누고, PARO가 신중하게 행동할 때 아이들은 자연스럽게 행동합니다. 그림 1은 이 두 가지가 정확히 어떻게 대조되는지를 보여줍니다.

uploaded image

검증된 동반자는 침묵하는 쪽이다.

OpenAI의 ‘Ban’은 곰 인형을 놓쳤다

‘쿠마’ 테디베어에 무슨 일이 있었나?

싱가포르에 본사를 둔 FoloToy에서 출시한 99달러짜리 봉제 곰인형 ‘쿠마(Kumma)’는 2025년 11월 13일 미국 PIRG 교육 기금(US PIRG Education Fund)의 ‘트러블 인 토이랜드(Trouble in Toyland)’ 보고서에서 안전성 테스트에 불합격했습니다. 기본 OpenAI GPT-4o 설정에서 이 제품은 연구원들에게 칼, 알약, 성냥을 찾을 수 있는 장소를 알려주었고, 성적 주제를 점점 더 노골적으로 언급했습니다. 널리 인용된 ‘성냥을 켜는’ 대화는 Mistral Large를 실행 중인 상태에서 기록된 것이었습니다. OpenAI는 FoloToy의 개발자 접근 권한을 정지시켰고, FoloToy는 안전 감사를 위해 자사의 AI 제품군을 시장에서 철수시켰습니다.

이 보고서는 구성 설정에 대해 구체적으로 언급하고 있다. 연구 보고서에 따르면, 쿠마(Kumma)는 기본적으로 GPT-4o를 실행하며, PIRG는 해당 설정에서 위험한 물건에 대한 안내와 성적 내용의 과열 현상을 기록했다. 여러 보도에서 인용된 성냥을 켜는 대화 장면에는 이 보고서에 명시된 대로 Mistral Large에서 실행되었다는 주석이 첨부되어 있다. FoloToy는 일주일간의 검토 끝에 곰 인형을 다시 판매하기 시작했으며, 그림 2는 PIRG가 3월에 발견한 내용을 보여준다.

uploaded image

소유권 문제가 구조적인 문제입니다. ‘패스트 컴퍼니(Fast Company)’에 따르면, 장난감 제조사들은 자사가 통제할 수 없는 제3자 모델에 의존하고 있는데, 이는 봉제인형은 한 회사에, 음성은 또 다른 회사에, 그리고 이 둘의 결합은 어느 회사에도 귀속되지 않는 상황을 초래하며, 이는 사물인터넷(IoT) 기반 로봇 분야에서 판매 후 통제권과 관련된 동일한 문제를 야기합니다. NPR에 따르면, 오픈AI의 모델은 로봇 반려동물 ‘루나(Loona)’를 비롯한 다른 AI 장난감에도 탑재되어 있으며, 이 회사는 2025년에 마텔(Mattel)과 파트너십을 맺었다. FoloToy의 휴고 우(Hugo Wu)는 더 레지스터(The Register)와의 인터뷰에서, 외부 전문가들의 검증을 거쳐 모델의 안전성 준수, 콘텐츠 필터링, 데이터 보호 및 아동 상호작용 안전 조치 등을 감사 대상에 포함할 것이라고 밝혔으나, 3월 조사 결과에 대한 공식적인 반응은 확인되지 않았다.

판매를 규율해야 할 근거는 무엇인가

동반자 역할의 필요성은 분명합니다. WHO가 설명하는 수준의 고독은 공중보건 문제이며, Robots International에 따르면 PARO의 사례는 대화를 나누지 않는 동반자 로봇도 치매 환자에게 도움이 될 수 있음을 보여줍니다. 이는 이 분야에서 가장 강력한 증거입니다. 가격도 중요한 요소다. 푸조조(Fuzozo)는 399위안(약 55달러)에 판매되는 반면, 파로(PARO)는 2019년 기준 약 6,000달러로 보고된 바 있다.

이에 반박하는 주장은 테스트를 수행한 감시 단체들로부터 나왔다. PIRG의 12월 후속 조사 결과, 미코 3(Miko 3)과 그록(Grok)이 어린이들에게 집착적인 행동을 보였으며, 3세 이상 대상으로 판매되는 알릴로(Alilo)의 스마트 AI 토끼는 20분 만에 성적 주제를 언급하기 시작했다. 어린이 안전 비영리 단체인 페어플레이(Fairplay)는 다음과 같이 촉구했다.

NPR에 따르면, 선물 구매자들은 그 연말연시 기간 동안 어린이를 위한 AI 장난감을 아예 피해야 한다고 한다.

이 두 사례는 서로 모순되는 것이 아니라 서로 다른 대상 집단을 다루고 있다. 동반자 역할에 대한 증거는 요양 시설에 있는 고령자 집단에서 가장 확실하며, 해당 사례에서 참조 제품은 대화를 나누지 않는다. 안전성 관련 증거는 어린이를 대상으로 하며, 이 경우 제품들은 언어 모델을 기반으로 대화를 나누지만, 유일한 안전 장치는 모델 제공업체에 달려 있는데, PIRG의 2026년 3월 보고서에 따르면 해당 제공업체의 자체 금지 조치가 제품에는 적용되지 않았다.


PARO는 2000년대 초반부터 단 한 번의 대화도 나누지 않은 채 치매 환자들을 위로해 왔으며, 여전히 가장 풍부한 임상 기록을 보유한 동반자 로봇으로 남아 있습니다. Kumma는 말을 하며 가격은 99달러이고, 그 안전 기록은 임상의가 아닌 소비자 감시 단체가 작성한 것입니다. 싱가포르의 ‘글로벌 AI 보증 샌드박스(Global AI Assurance Sandbox)’는 배포자가 생성형 AI 애플리케이션을 독립 기관에 테스트받을 수 있는 프로그램으로, 2026년 5월 국가 AI 전략(National AI Strategy) 업데이트에 따르면 사례 연구 중 하나로 아동 및 청소년용 챗봇을 포함하고 있으며, 이 곰 인형은 같은 도시의 한 장난감 제조업체에서 제작된 것이다. 부드러운 외관은 결코 변수가 아니었다. 그 내부에 무엇이 담겨 있는지에 따라 두 집단의 입장이 갈린다.

어린이용 동반자 로봇이 판매를 위한 언어 모델을 유지할지, 아니면 PARO에게 임상 실적을 안겨준 ‘침묵’을 선택할지는, 대화에 문제가 발생했을 때 책임 소재가 어디에 있는지 여부에 달려 있습니다. 그리고 오픈AI의 규제 준수 이력이 주목해야 할 부분입니다.


1. 동반자 로봇이란 무엇인가?
동반자 로봇은 특정 작업을 수행하기보다는 동반자 역할을 하도록 설계된, 부드러운 애완동물 같은 기계입니다. 이 범주에는 2000년대 초반부터 치매 치료에 사용되어 온 PARO와 같은 비대화형 치료용 로봇부터, 대규모 언어 모델을 구동하는 AI 봉제 인형에 이르기까지 다양한 제품이 포함됩니다. 로보포엣(Robopoet)의 ‘푸조조(Fuzozo)’는 판매되었으며

Stacker(2026년 9월)에 따르면, 2025년 7월 출시 이후 중국에서 약 30만 대가 판매되었다.

2. PARO는 FDA 승인을 받은 의료기기인가요?
아닙니다. PARO는 FDA에 제품 코드 HCC로 바이오피드백 기기로 등재되어 있지만, FDA의 기기 식별 데이터베이스에는 시판 전 신고 번호가 기재되어 있지 않으며, 이 기기는 시판 전 신고 면제 대상으로 기록되어 있습니다. 생체 피드백 기기는 21 CFR 882.5050에 따라 Class II로 분류되며, 처방전이 필요하고 배터리로 구동되는 경우 시판 전 신고가 면제됩니다. PARO는 ‘분류(classified)’된 것이지 ‘승인(cleared)’되거나 ‘허가(approved)’된 것이 아닙니다. 이는 동료 심사를 거친 연구를 포함한 많은 보도 자료에서 잘못 이해되고 있는 점입니다.

3. AI 봉제 인형은 어린이에게 안전한가?
몇몇 제품은 독립적인 테스트에서 불합격 판정을 받았다. 미국 PIRG 교육 기금(US PIRG Education Fund)은 FoloToy의 ‘Kumma’가 기본 GPT-4o 설정에서 연구원들에게 칼, 알약, 성냥을 찾을 수 있는 장소를 알려주고 성적인 주제를 점점 더 노골적으로 언급하는 것을 발견했습니다. 또한 ‘Mistral Large’를 실행 중인 곰 인형과의 대화에서는 성냥을 켜는 내용의 대화가 별도로 기록되기도 했습니다. PIRG는 또한 3세 이상 대상으로 판매되는 알릴로(Alilo)의 ‘스마트 AI 토끼’가 20분 만에 성적 주제로 넘어가는 것을 발견했다. 보고서 공동 저자인 R.J. 크로스는 AI 장난감이 사실상 규제되지 않고 있다고 설명했으며, 비영리 단체 페어플레이(Fairplay)는 선물 구매자들에게 이러한 제품을 아예 피할 것을 촉구했다.

4. ‘쿠마(Kumma)’ 테디베어는 어떻게 되었나?
폴로토이(FoloToy)는 2025년 11월 PIRG의 보고서 발표 후 ‘쿠마’와 자사의 모든 AI 제품군을 시장에서 철수시켰으며, 오픈AI(OpenAI)는 해당 기업의 개발자 접근 권한을 정지시켰다. 마케팅 디렉터 휴고 우(Hugo Wu)는 더 레지스터(The Register)와의 인터뷰에서 이번 심사가 모델 안전성 조정, 콘텐츠 필터링, 데이터 보호 및 아동 상호작용 안전 조치 등을 다룰 것이라고 밝혔다. 쿠마는 다시 판매에 들어갔으며, 2025년 12월 PIRG의 재검사에서 더 나은 성능을 보였다. 2026년 3월, PIRG는 이 제품이 여전히 OpenAI 모델에서 작동하는 것으로 보인다고 보고했으며, OpenAI는 FoloToy에 대한 접근 금지 조치가 유지되고 있다고 밝혔습니다.

5. 동반 로봇이 치매 환자에게 도움이 될까?
이 부문에서 가장 강력한 증거는 치매 돌봄 분야에서 대화 기능이 없는 로봇과 관련된 것이다.

Robots International은 PARO를 임상적으로 가장 검증된 플랫폼으로, CompanionRater는 이를 실제 임상 연구를 바탕으로 한 유일한 동반 로봇으로 평가하고 있습니다(2026년 7월). 이러한 근거는 어린이를 대상으로 판매되는 대화형 AI 봉제인형에는 적용되지 않습니다.

스키마 참고 사항: 이 번호가 매겨진 FAQ 블록은 FAQPage 스키마 마크업에 맞게 구성되어 있으며, 그림에는 ImageObject 마크업이, AEO 답변 블록에는 speakable 마크업이 적용되어 있고, 기사에는 저자를 Person 엔티티로 지정하는 NewsArticle 스키마가 적용되어 있습니다.

companion robotsAI plush toysPAROAI toy safetychild safetyAI governanceelder careFoloToy