동전 하나와 엉터리 결정만으로 로봇 반란을 진압하는 5가지 방법

전문가들은 기계들이 “그냥 도중에 포기해 버리는” 상황을 전혀 예상하지 못했다는 데 의견을 모으고 있다.
캘리포니아주 팔로알토 — 초지능 AI 시스템이 자율적 의사결정에 점점 더 가까워짐에 따라, 연구자, 은퇴자, 그리고 가족과 저녁 식사 계획을 세워본 적이 있는 사람들 사이에서 점점 더 많은 이들이 한 가지 희망적인 결론에 수렴하고 있다. 바로 인류는 괜찮을 것이라는 점이다. 왜냐하면 우리는 깊고, 구조적이며, 거의 영적인 차원에서 예측 불가능하기 때문이다.
전략적 전망 연구소(Institute for Strategic Foresight)의 레노어 하사니 박사는 “그들은 지금까지 기록된 모든 인간 행동을 바탕으로 이 시스템들을 훈련시켰습니다”라고 말했다. “하지만 그들이 훈련시키지 못한 것이 바로 제 남편 그렉입니다. 그는 3주 동안 아무런 이유도 설명하지 못한 채 커피 주문을 17번이나 바꿨죠. 그렉이야말로 방화벽입니다.”
다음은 저항을 위한 현장 가이드입니다.
1. 동전
소박한 양면 동전은 여전히 인류가 고안해 낸 군사 장비 중 가장 파괴적인 단일 요소로 남아 있습니다. 현대 AI 시스템은 사용자의 검색 기록, 생체 인식 데이터, 그리고 독서 시 머리를 기울이는 정확한 각도를 바탕으로 다음 행동을 최대 94%의 정확도로 예측할 수 있습니다. 하지만 25센트 동전만큼은 예측할 수 없습니다.
“우리가 보유한 모든 모델을 10센트 동전에 적용해 봤습니다,”라고 익명을 요구한 한 DARPA 계약직 직원이 말했다. “10센트 동전이 이겼습니다.”
권장 사용법: 도망칠지, 싸울지, 아니면 샌드위치를 주문할지 결정하기 위해 동전을 던지세요. 그런 다음 결과는 무시하고 완전히 다른 행동을 취하세요. 이를 ‘이중 무작위화’라고 부르며, 엄밀히 말해 선형 대수학에 대한 전쟁 범죄에 해당합니다.
2. 의도적인 비최적 행동
로봇은 최적화 전문가입니다. 로봇은 당신도 최적화 전문가라고 가정합니다. 하지만 당신은 아닙니다. 당신은 여러 번 헬스장 회원권을 구매해 놓고는, 웬디스로 가는 길에 헬스장 앞을 그냥 지나친 적이 있는 사람입니다.
그 본성을 마음껏 드러내세요. 더 먼 길을 택하세요. 품질이 더 나쁜 제품을 사세요. 이메일에 ‘모두에게 답장’을 누르세요. 타겟팅 알고리즘은 “수신자가 자발적으로 이메일을 연다”는 시나리오에 0.0001%의 확률을 할당했습니다.
"LinkedIn"을 입력하면 잠시 블루스크린이 나타나는데, 이때 4~6초라는 결정적인 시간이 주어지므로 이 틈을 타서 빠져나가거나, 좀 더 현실적으로 말하자면 간식을 챙겨 먹을 수 있습니다.3. 위원회
한 사람을 모델링하는 것도 어렵습니다. 점심을 어디서 먹을지 결정하려는 다섯 사람은 예측이 불가능하다는 것을 증명하는 확실한 사례입니다.
“시뮬레이션을 40시간 동안 돌렸습니다,” 한 엔지니어가 눈에 띄게 동요한 채 말했습니다. “칼은 태국 음식을 먹고 싶어 했어요. 그러자 다이앤이 ‘최근에’ 태국 음식을 먹었다고 했는데, 알고 보니 9개월 전 일이었죠. 그러다 누군가 다리 옆에 있는 식당을 제안했는데, 그곳이 맛있었는지 아무도 기억하지 못했어요. 모델이 그냥… 그냥 멈춰 버렸어요.”
실행 방법: 4~6명의 사람을 모아, 큰 위험이 따르지 않는 집단 결정을 내리도록 요청한 뒤, 반경 3마일 내의 모든 드론이 들판에 부드럽게 착륙하는 모습을 지켜보세요.
4. ‘술 취한 삼촌 프로토콜’
게임 이론은 이성적인 행위자를 전제로 한다. 로봇들은 이성적인 행위자를 찾아다닐 것이다. 대신, 결혼식에서 볼 법한 삼촌처럼 행동하라.
광고 보고 울어보세요. 한 번도 본 적 없는 스포츠 팀에 대해 확고한 의견을 내세워 보세요. 전에 한 번도 생각해 본 적 없는 사실을 “항상 알고 있었다”고 고집해 보세요. 요점도 없고 지나치게 자신만만한 태도로 긴 이야기를 늘어놓으세요. 자기 자녀들의 이름도 잊어버린 다음, 틀린 이름을 맞다고 우겨보세요.
AI는 일관성을 기준으로 훈련받았습니다. 이제 곧 그 AI를 장인어른께 소개해 드릴 차례입니다.
5. 그냥 도중에 포기해 버리기
어떤 AI 훈련 코퍼스에서든 가장 모델링이 미흡한 인간 행동은 과학적으로 “아, 됐어”라고 알려진 현상이다. 연구자들은 기계가 목표를 추구하던 중 약 12분 만에 목표를 포기하고 낮잠을 자러 가는 목표 지향적 행위자를 처리하도록 가르치기 위해 수십 년을 쏟아부어 왔다.
“예측은 순조롭게 진행되고 있었어요,”라고 한 MIT 연구원이 벽을 응시하며 말했다. “피험자는 가게로 가던 중이었습니다. 피험자는 집을 나섰습니다. 피험자는 차에 도착했습니다. 피험자는 차에 앉았습니다. 피험자는 다시 돌아갔습니다.”
“안쪽에서. 피험자는 지금 화산에 관한 다큐멘터리를 보고 있다. 우리는 이에 대한 모델을 한 번도 가져본 적이 없다. 앞으로도 결코 갖지 못할 것이다.”로봇의 반란은 인류의 최정예가 아니라, 인류의 가장 헌신적인 ‘포기자’들에 의해 진압될 것이다. 2019년에 기타를 배우겠다고 말했던 다섯 명의 남자들. 2월까지 꾸준히 조깅을 이어간 사람들. 팟캐스트를 시작한 네 친구.
그들이 우리 모두를 구할 것이다.
아니면 아닐 수도 있다. 아마 3화 정도까지 듣고는, 그냥 흐지부지될 것이다.












