コイン1枚と愚かな判断だけでロボットの反乱を打ち破る5つの方法

専門家たちは、機械が「中途半端に諦めてしまう」という事態を予期していなかったという点で一致している。
カリフォルニア州パロアルト発――超知能AIシステムが自律的な意思決定に一歩ずつ近づく中、研究者や退職者、そして家族との夕食の計画を立てたことのある人々からなる声が高まり、一つの希望に満ちた結論へと収束しつつある。それは、「人類は大丈夫だ」という結論だ。なぜなら、私たちは深く、構造的に、そしてほとんど精神的なレベルで予測不可能な存在だからである。
「彼らは、これまでに記録されたあらゆる人間の行動に基づいて、これらのシステムを訓練してきました」と、戦略的フォアサイト研究所のレノア・ハッサーニ博士は語った。「しかし、彼らが訓練していないのが私の夫グレッグです。彼は、自分でも説明できない理由で、3週間の間にコーヒーの注文を17回も変えました。グレッグこそがファイアウォールなのです」
以下に、抵抗勢力のフィールドガイドを掲載する。
1. コイン
この地味な両面コインは、これまでに考案された軍事装備の中で、依然として最も破壊力のある単一の兵器である。現代のAIシステムは、検索履歴、生体認証データ、そして読書中に頭を傾ける正確な角度に基づいて、あなたの次の行動を最大94%の精度で予測できる。しかし、25セント硬貨の行動だけは予測できない。
「手持ちのあらゆるモデルを10セント硬貨に対して走らせた」と、匿名を希望するあるDARPAの請負業者は語った。「10セント硬貨が勝った。」
推奨される運用法:逃げるか、戦うか、それともサンドイッチを注文するかを決めるためにコインを投げる。そして、その結果を無視して、まったく別の行動を取る。これは「二重ランダム化」と呼ばれ、厳密に言えば、線形代数に対する戦争犯罪にあたる。
2. 意図的な非最適行動
ロボットは最適化を追求する存在だ。彼らは、あなたもまた最適化を追求する存在だと想定している。だが、あなたはそうではない。あなたは、何度もジムの会員費を支払ったにもかかわらず、ウェンディーズに向かう途中でジムの前を通り過ぎてしまうような人間なのだ。
その性質を活かしましょう。遠回りをしてください。質の悪い商品を買ってください。メールには全員に返信してください。ターゲティングアルゴリズムは、「件名:自発的に開封する」というケースに0.0001%の確率を割り当てています。
「LinkedIn」と入力すると、一瞬画面が青くなり、4~6秒という重要な猶予時間が与えられます。その間に逃げ出すか、あるいはもっと現実的には、軽食を摂ることもできます。3. 委員会
たった一人の人間をモデル化することさえ難しい。5人の人間が昼食をどこで食べるか決めようとしている様子は、予測が不可能であることを示す決定的な証拠だ。
「シミュレーションを40時間実行していたんです」と、あるエンジニアは明らかに動揺した様子で語った。「カールはタイ料理が食べたいと言いました。するとダイアンが『最近』タイ料理を食べたと言いましたが、それが9ヶ月前のことだと判明しました。その後、誰かが橋のそばの店を提案しましたが、それが美味しかったかどうか誰も思い出せませんでした。 モデルは……ただ、止まってしまったんです。」
導入方法:4~6人の人間を集め、リスクの低い集団決定を行わせれば、半径3マイル圏内のすべてのドローンが野原に静かに着陸する様子を目の当たりにできるだろう。
4. 「酔っ払った叔父」プロトコル
ゲーム理論は、行動主体が合理的であることを前提としている。ロボットたちは合理的な行動主体を探し求めるだろう。それどころか、結婚式に出席している叔父さんのように振る舞うのだ。
CMを見て泣く。一度も観たことのないスポーツチームについて強い意見を持つ。今まで考えたこともないことについて、「ずっと前から知っていた」と主張する。要点がなく、過剰な自信に満ちた長い話を語る。自分の子供の名前を忘れ、間違った名前を正しいと主張する。
AIは一貫性を重視するように訓練されている。あなたは今、そのAIに義父を紹介しようとしているのだ。
5. 中途半端に諦めてしまうこと
あらゆるAIトレーニングコーパスにおいて、最もモデル化が不十分な人間の行動は、科学的に「えー、まあいいや」として知られる現象だ。研究者たちは数十年にわたり、目標指向型のエージェントが、開始からおよそ12分後に目標を放棄して昼寝をし始めるような状況に対処できるよう、機械に教え込もうと試みてきた。
「予測は順調に進んでいたんです」と、あるMITの研究者は壁を見つめながら語った。「被験者は店へ向かっていた。被験者は家を出た。被験者は車までたどり着いた。被験者は車に座った。被験者は引き返した……」
「中だ。被験者は今、火山に関するドキュメンタリーを見ている。これに関するモデルはこれまで一度もなかった。これからも決してモデルはできないだろう。」ロボットの反乱を打ち破るのは、人類の精鋭たちではなく、人類の中で最も献身的な「諦め屋」たちだ。2019年に「ギターを習う」と宣言した5人の男たち。2月まで走り続けたジョギング仲間たち。ポッドキャストを始めたあなたの友人。
彼らこそが、私たち全員を救うのだ。
あるいは、そうならないかもしれない。たぶん、第3話あたりまで続いた後、そのまま自然消滅してしまうだろう。












