• GIZMODO
  • DIGIDAY
  • gene
  • cafeglobe
  • MYLOHAS
  • Glitty
  • machi-ya
  • roomie
  • GIZMODO
  • DIGIDAY
  • gene
  • cafeglobe
  • MYLOHAS
  • Glitty
  • machi-ya
  • roomie

ライフハッカー編集部ライフハッカー編集部  - ,  09:00 PM

「ロボットの反乱」を防ぐには「お話」を読ませるのが効果的?

「ロボットの反乱」を防ぐには「お話」を読ませるのが効果的?

160228prevent_robot_uprising.jpg


Inc.:子供を寝かしつけるために絵本を読み聞かせる親は多いでしょう。もしかすると将来、一般家庭にやってきたフレンドリーなロボットにも、夜に電源を落とす前にお話を読み聞かせる必要が生まれるかもしれません。

ジョージア工科大学の研究チームが、将来のロボットが規則に従わないようになり、人間に対し反乱を起こすという、起こらないとは限らない問題について、解決方法を見つけたと報告しています。その解決策とは、ロボットに読書の習慣をつけさせるというシンプルなものだと、テック系サイト「Computerworld」の記事は伝えています。「いったいなぜ?」と思われるかもしれませんが、正邪の区別を教え込むのには、読書が最良の方法かもしれないというのです。

ジョージア工科大学インタラクティブ・コンピューティング学科のMark Riedl准教授は、「Computerworld」に対してこう説明しています。「ロボットに物語を理解させることが、狂ったかに見える行動を防ぎ、人間に危害を加えない選択をするよう仕向け、そのうえで意図した目的を果たしてもらうのに役立つと、我々は考えています」


ロボットが「反社会的な行動が最適」と判断してしまう場合を考慮した


ここで念のため確認しておくと、ロボットが精神を病んだケースは(今のところは!)報告されていません。でも、機械が人間に対して反乱を起こすことなんてあり得るのか、と疑っている人たちには、著名な物理学者スティーブン・ホーキング氏が、ロボットがあと100年で人類を超えた能力を持つと予言していることを挙げておきましょう。これでも考えすぎだと思われる人には、より近い時期にロボットが問題行動を起こすシナリオが「Computerworld」に一例として挙げられていたので紹介します。

人間がアシスタントロボットに、薬局に行って処方薬をできるだけ早くもらってくるように指示したとします。するとロボットは、命じられた薬をもらってくるのに一番時間がかからない方法は、薬局を襲撃し、必要な薬を奪って逃げることだと判断するかもしれません。でも、お話を読み、適切な人間の行動を学ぶことで、ロボットは薬局を襲うのではなく、薬を買いに来た客の列にきちんと並んだのち、薬をもらったら速やかに家に戻るという行動が正しいと知るはずです。

普段は気立てが良いアシスタントロボットが、意図することなく人に危害を加える行動に出るのを防ぐために人間ができる対策は、読書だけはありません。タフツ大学のヒューマン=ロボット・インタラクション研究所の研究チームはすでに、悪い結果を招きかねない特定の命令に異を唱えるよう、ロボットに教え込むことに成功しています。悪い結果を招くコマンドにはたとえば、テーブルから落ちそうな位置で前進を命令する、といったものがあります。不都合な状況を回避するよう教えられたロボットは、当初は直接の命令を拒否して、あとで考えを変えることさえ可能です。ただしこれは、人間側がロボットに対して、最初の反応を変更するよう、理論立てて説得できる場合に限られます。

一方で、機械に倫理的な理由付けを行う能力をしっかりと植えつけるには、物語を読むという行為がもっとも有効なのかもしれないと、Riedl氏はComputerworldに対して述べています。

AIは、特定社会の価値観を身につけ、文化的に適応した存在にならなくてはならないというのがわれわれの信念です。そうなれば、AIは社会的に認められない行動を回避するよう努めるはずです」と、Riedl氏は話しています。「ロボットに、私たちが紡いできた物語を読み、それを理解する能力を与えることは、『人間についてのユーザーズ・マニュアル』がない現状では、一番目的にかなった方法と言えるかもしれません


Researchers Propose a Simple Way to Prevent a Robot Uprising | Inc.

Graham Winfrey(訳:長谷 睦/ガリレオ)
Photo by Jenn and Tony Bot/Flickr

MORE FROM LIFEHACKER

powered by

Kotaku

© mediagene Inc.