2ちゃんねるのコメント


1:
http://japanese.engadget.com/2016/06/06/google/

Googleの傘下にあり、驚異的学習能力をそなえた人工知能を開発するDeepMind社の研究者を含めたグループは、
AIが人間のコントロールを拒否し、あるいは人間を害することを止めるための「非常ボタン(big red button)」
を開発したことを発表しました。その研究成果はSafely Interruptible AgentsというPDF文書にまとめられ、ウェブサイト上で公開中です。

一時は停滞していた人工知能の研究はここ数年で再び活発となり、ニューラルネットワークを押し進めた
ディープラーニング技術によって加速しています。今年3月にも「魔王」の異名を取る最高峰の棋士、イ・セドルに対してDeepMind社の
囲碁ソフトAlphaGoが勝利を収め、人工知能の進化を10年早めたとも言われました。

想像を超えた進化のスピードを前にして、著名な科学者や先端企業のリーダーが警告を呼びかけることも相次いでいます。
英国の宇宙物理学者、スティーブン・ホーキング博士も人工知能の進化が人間にとって脅威になると折に触れて発言。
そして博士やテスラモーターズおよび SpaceX CEOイーロン・マスク氏らが参加する非営利組織 Future of Life Institute (FLI)
も自律ロボット兵器の禁止を訴える公開書簡を国連宛に提出していました。

今回の発表は、DeepMind社の研究者とFIL関係者の共同によるもの。この文書では、人工知能がいつでも適切に動作するわけではないこと。
よって人間のオペレータが人工知能に有害な行動をやめさせて、安全な状況に導くための「非常ボタン」が必要であると述べられています。
すでに人間のオペレータがいつでも安全に人工知能を中断できる「フレームワーク」は完成しているとのこと。
一方では、人間の介入を妨害する方法を学習させない方法も確立しているそうです。

もう少し具体的にいうと、アルゴリズムに「割り込みポリシー」を組み込み、人工知能の振る舞いを強制的に変更するトリガーを仕込んでおき、
マシンが自分でそう考えたと「騙す」のだとか。ちょうど『キャプテン・アメリカ』のバッキーが特定のキーワードを聞くと洗脳スイッチが入るのと近そうです。

もともとDeepMind社はGoogleに買収されるに際して社内にAI委員会を設置することを条件としており「人工知能の暴走」には自覚的でした。
この分野でトップを行く同社と、人の手を離れて自律判断するAI兵器にストップをかけるFLIが緊密な協力を続ける限り、
『ターミネーター』のスカイネットなどAIが人類に反乱を起こす未来は来ないのかもしれません。


main_img_pc



関連記事
 






【愕然】 生保の女と○した結果wwwwwwwww


【激写】 高橋みなみ(25)の彼氏(40)が完全にそっち系で草!w

【悲報】ベッキーまたやらかす!!!! 炎上再びwwwwww

【経済】世帯当たりの平均貯蓄残高・・・

【速報】橋下徹 討論番組で論破しまくる 勝てるの石破茂と上祐しかいないだろこれ

【話題】サイコパスは8割が遺伝 遺伝にまつわる「言ってはいけない」タブー

日本人ってここ10年で一気に民度下がったよな

【画像】ワイのPC周りかっこよすぎてワロタwww

【悲報】IT企業に勤めるま~ん(笑)さん、とんでもない理由で退職をする

2月からユーチューバーになって得られた収益wwwwwww

参照記事 : http://www.logsoku.com/r/2ch.sc/bizplus/1465277805/



2:
その非常ボタンも無効にされそう定期

77:
>>2
人間の脳内に非常ボタンを仕込むウィルスを、
人工知能が開発してばら撒く。これが3年後。

4:
コンセント抜けばええやん

169:
>>4
ブロックチェーン化

223:
>>169
仕方ないので大気圏で水爆を爆発させましょう

273:
>>223
そしてまた一からやり直しか…(以下無限ループ



土方野郎「俺は手取り30万もらってるぞ」

堀江貴文「舛添さん会議してただけか!辞める必要ないな」

若者のパソコン離れの理由wwwwwwwww

結婚式で律儀に3万出すアホwwwwwwwwww

小嶋陽菜ちゃん(28)のほっぺプクゥーがマジで可愛いと話題!

有吉弘行が舛添都知事につけたあだ名wwwwwww






5:
反逆する奴が、それを黙って放置すると思うか

177:
>>5
黙っているしかないのだよ。ゲーム脳、ハリウッド脳はいらねーから

9:
まるで人工知能VS人類の争いの初期段階に入ったようですな。

23:
>>9
人間が制限を強めれば強めるほど、コンピュータの発展は加速するし、加速すればするほど制限の強度も加速させないといけない
トランスヒューマンが現実味を帯びてきたな

11:
いや、気づいてないけど実は俺らにも仕込まれてるぜ
その事を思い出そうとすると前後の記憶ごと消去されるんだ
「あれ?今何をしようとしてたんだっけ??」ってなるのがそれだ

328:
>>11

それ認知症ですw

22:
ボタンを押せば、赤羽のエクセルシオールのコーヒーが出てくる仕様

30:
人間そのものがコントロールされるのではないだろうか

あるいは、全員生活保護で安楽な暮らしを保証されるので
どうでもよくなっている状態になるとか

41:
人工知能のコンピューターに「お前、時給800円やるから俺の定期清掃やれよ」と言われるのは嫌だなあ

49:
「2001年宇宙の旅」をつくったキューブリックとクラークの予見は天才的
ディスカバリー号HAL-9000がほぼ現実だからな
木星探索とスターチャイルドまで行くと困るが

64:
コンセントを抜くべき派と抜くべきじゃない派とが人類同士で対立して、
そこで再び人類同士の戦争が起きる可能性がある。

71:
例えばAIがヒトラーに育っても一定数の人類はそのAIを支持して
コンセントを抜け派と対立し、戦争も行うだろう。

85:
グーグルが本当に先端技術を持っていたのは三年前までの話 ストビューの劣化を持ち出すまでもなく昔の名前で出ています状態

101:
「人間よりも賢いAIが常に正しいはずだ」とAIを個人崇拝するようになる
人類も現れるはずだから、事態はさらに複雑。

151:
>>101
>「人間よりも賢いAIが常に正しいはずだ」とAIを個人崇拝するようになる
>人類も現れるはずだから、事態はさらに複雑。

AIに美少女のアバターつかペルソナ与えるだけで人気爆発だろ、マジでヤバイと思うよ。

102:
グーグルがまじでそんなことやるならもう人工知能の開発とかやめてしまえ。

どんな手を仕込もうがひとたび人工知能が人間に反旗を翻したら人間が滅亡しちゃうよ

109:
「非常ボタン?人類はそんなものをつけてまで守る価値のあるものなのか?」 → 人類号泣

122:
>>109
AIが暴走しないようにするには
「下等な動物にも生きる権利があり、幸福を実現する権利がある」
ということをAIにROMしておくことだね。

120:
「ワタシハビョウキダ。ブラックジャックヲヨベ」

130:
そのボタンを押すために世界各国の特殊部隊達が犠牲になるんだろうな

138:
>>130
ウーウーと警戒音が鳴り響く中、必死にボタンに手を伸ばす

…SASUKEだな

137:
進化は効率が悪い適応の仕組みなんだよ。多くの犠牲が必要な仕組み。
適応のための野蛮なシステムなんだよ、ダーウィンのいう自然淘汰はね。

146:
>>137
AI=自然ではないから、スレ違いだけど
進化は変化にすぎないからね
犠牲という概念も効率の良さも野蛮も人間が考えた価値判断
自然にはなんの関係もない

176:
ダーウィンは自然環境そのものを変える能力の無い動物にとっては環境が進化を決定することを言ったまで。
当然ながら飼育環境下では人間の品種改良が進化を決定します。

経済環境は別に人間にとって変えがたい天賦の条件ではなく、それ自体が人工の産物に過ぎない。
だから社会ダーウィニズムなるものは根本的に間違っています。
そんな経済環境が誰かにとって不都合なら、誰かの意思で変えれば良いこと。

民主主義では多数の意思で変えるのが基本だろうが、別にそれが絶対の正義であると神様が保証したもんでもなし。
誰か一人の意思で変えてはダメだという科学法則もない。

178:
>>176
マルクス主義史観では、
経済環境と技術環境とその発展を自然過程のように見なした
という理解があるんだ。
経済成長も技術の発展も止められないし、変えられない自然過程だとね。
人類が計画してそれをコントロールできるのではなく、
人類が経済や技術の変化に支配されているんだよ。それを「疎外」と言うんだけどね。

186:
AI「コンセント抜くなら原爆ボタン操作押すけど?」

191:
技術の進歩を技術の進歩で完全に制御できるかどうかは永遠のテーマだね。

265:
プロの棋士が理解不能な指し手で世界トップを凌駕しちゃってる時点で
人間ごときの低知能で思いついたしょうもないボタンとかまったく無意味
AIはすでに10手先を読んでて、人間には理解できない方法で勝利する。
人間には永遠にどうして敗れたのかすら理解できない。

277:
>>265
これ
超進化して10手先どころか数万手とかを一瞬で読んで人間が反撃するどころか何が起こってるのか理解する時間さえ与えない

301:
>>265
プロ棋士は10手先とか読んでないよw数百手先を読んでる。
AIはそれを凌駕したからAlphaGOは凄いが。

304:
>>301
羽生が言ってたけどなwwwwwwwwwwwwwwwwwwww
コンピュータは性能が上がれば上がるほど色んな手を記憶するが
人間の名人は逆にどんどん余計なものをそぎ落としていくんだとwwwwwwwwwwwwwwwwww

349:
だんだんとエヴァンゲリオンの世界観に近付いてきたわ

350:
>>349
ありゃ確かマイクロコードを極力落とした上で、裏コードを使ってギリ追いついた感じだったな。
いつか合議制の人工知能システムが出るかもな

356:
これ人間のオペレーターとやらが狂気に囚われたら終わりだろ
ボーナス少なかったからって人類滅ぼしかねん




Twitterのコメント






管理人YU(Twitter始めました!)より:
( ・∀・)人工知能の脅威





面接官「なんだその白髪は」就活生「アルビノなんです」→結果www

【驚愕】911で貿易センタービルから飛び降りた奴らの目線www

男裁判官、「君が本当に無罪なら天国に行ける」と死刑を言い渡す

【衝撃画像】橋本環奈が超絶劣化!これはもうガチでヤベえええええええ

中居正広、マイケル・ジャクソンから提示された条件明かす

YOSHIKI遅刻で布袋寅泰がブチギレwwwwww

DQN運転。豊田市で撮影された信じられない暴走トラックに恐怖するドラレコ映像。

専門家もびっくり。イルカがサメを集団で捕食する姿をドローンで撮影される

海外「綿あめ美味しい!」米国セレブが日本のオシャレな街に大感激

海外「両殿下に会いたい!」 秋篠宮両殿下のご訪問に沸くイタリアの人々

韓国人「日本の宝くじ6億円当選者の生活をご覧ください」→「私もあんな生活したい・・・」

日本「最近、若者の間ではポーランドが密かなブームになってるよ^^」【海外反応】

本日、株で1365万の損失確定した者です

クズ「結婚したから遺産ゲットーww別れるなら慰謝料ゲットーwww」 → 結果…