newzz

話題のニュースをゆるーくまとめる

グーグル、人工知能の反逆を抑止する「非常停止ボタン」開発



   

グーグル、人工知能の反逆を抑止する「非常停止ボタン」開発

1 名前:リサとギャスパール ★:2016/06/08(水) 18:50:58.28 ID:CAP_USER9.net

1米グーグルが高度に発達した人工知能(AI)が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。AIをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するAIの悪用への懸念や社会の不安に応える狙いがありそうだ。

今年3月に世界トップクラスのプロ棋士を破った囲碁AI「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。このほどネット上で論文を公表した。

具体的には「割り込みポリシー」と呼ぶプログラムをAIに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。

研究グループによると、現存するいくつかのAIは安全に停止できるものの、「すべてのAIを安全かつ簡単に停止できるかは不透明」だとしている。ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にするなど、AIの暴走リスクには自覚的なことで知られている。

http://www.nikkei.com/article/DGXLASGM08H7Z_Y6A600C1000000/

続きを読む


ツイッターでひまつぶしてる人見てみて

 - 未分類

  関連記事

no image
【悲報】ラブライブのavの件ついに地上波で放映される・・・もうアカン・・・(※画像)

【悲報】ラブライブのavの件ついに地上波で放映される・・・もうアカン・・・(※画 …

藤原紀香ちゃん(46)が濡れ場で生乳揉みしだかれてて抜けると話題に

藤原紀香ちゃん(46)が濡れ場で生乳揉みしだかれてて抜けると話題に 女優の藤原紀 …

D2Cブランド『with』人気モデルみちょぱがプロデュースした商品を限定リリース

D2Cブランド『with』人気モデルみちょぱがプロデュースした商品を限定リリース …

【ダイエット 朝食】ダイエットにおすすめ! かんたん朝ごはんレシピ♪

【ダイエット 朝食】ダイエットにおすすめ! かんたん朝ごはんレシピ♪ 朝食の健康 …

ツイッターで話題になってる「猫の十戒」wwwwwwwwwwwwwwwww

ツイッターで話題になってる「猫の十戒」wwwwwwwwwwwwwwwww 1: …

PREV
【画像あり】ロールハッシャテストしたんだけどこれ何に見える?
NEXT
このルックス85点のショートヘア美女にガチ告白されたらどうする?