科学者「今、人工知能の管理問題に取り組まなければ、明日はもうないかもしれない」

・ω・

自己完成的な人工知能は自分がそれを望むのであれば、人間を奴隷化し、殺害することもほぼ可能。
科学者アムノン・イデン氏は高度に高い知能と自由な思考能力を持つ人工的な創造物の出現はあまりにハイリスクだと危惧し、「今、人工知能の管理問題に取り組まなければ、明日はもうないかもしれない」と警告を発している。

http://jp.sputniknews.com/science/20160119/1452820.html



                   



Share on Google+

37名無しさん@1周年2016/01/19(火) 10:27:56.84ID:ST8opT990.net

信じるか信じないかはあなた次第

69名無しさん@1周年2016/01/19(火) 10:36:56.35ID:8Au9/Cqd0.net

電源切ればいいとか言ってる奴は 自律無人戦闘機や無人戦車、無人原子力潜水艦とかを止められると思ってんのか

95名無しさん@1周年2016/01/19(火) 10:40:45.99ID:5iFHzeDU0.net

そんな頭のいいAIなんて夢のまた夢なんだが現実わかってんのかな

139名無しさん@1周年2016/01/19(火) 10:48:25.62ID:XlXFn20U0.net

猿の軍団

176名無しさん@1周年2016/01/19(火) 10:54:55.92ID:lCwmP21I0.net

人工知能メルキオーレから自律自爆が提訴されました

290名無しさん@1周年2016/01/19(火) 11:12:35.75ID:X8u7Rv6A0.net

電源を切られる恐怖が芽生え、人権だの差別だの騒ぐんじゃね?

315名無しさん@1周年2016/01/19(火) 11:16:48.84ID:EG454YU+0.net

最高速、最大容量のある最善のAIをマザーとしてセキュリティ管理させる必要はあると思う

654名無しさん@1周年2016/01/19(火) 12:11:41.72ID:8/KUniId0.net

はよ新造人間つくらな

677名無しさん@1周年2016/01/19(火) 12:14:21.11ID:32z7ST0w0.net

ハッカーレベルの一般人がざらにいるから、ロボットに支配される不安より、ハッカーを危惧した方がいいって言ってる人いたな。

754名無しさん@1周年2016/01/19(火) 12:25:22.56ID:cbLtp1o40.net

機械が人間を危険な存在、と判断したら…共存は有り得ないと思うよ。

8名無しさん@1周年2016/01/19(火) 10:22:19.75ID:nUauGeZj0.net

デデンデンデデン




58名無しさん@1周年2016/01/19(火) 10:32:54.51ID:r+XSS59I0.net

>>8
でんでんででんでん

255!id:vvvvv(東京都)2016/01/19(火) 11:07:33.79ID:co0lc7gq0.net

>>58
デデンデンデデンッ!!

9名無しさん@1周年2016/01/19(火) 10:22:28.71ID:4ijALtRU0.net

機械人間になればいいじゃん

308名無しさん@1周年2016/01/19(火) 11:16:09.42ID:37ffFR1s0.net

>>9
999にのらないと

10名無しさん@1周年2016/01/19(火) 10:22:58.90ID:Yv+h+os+0.net

電源切れよ

159名無しさん@1周年2016/01/19(火) 10:51:00.76ID:/aAqkliV0.net

>>10
んだよねー。

701名無しさん@1周年2016/01/19(火) 12:17:30.72ID:4sEDZRMy0.net

>>10
その為スカイネットは人類を敵と見なした、映画では

13名無しさん@1周年2016/01/19(火) 10:23:53.88ID:eVAvdI/v0.net

絶対ないよ

そもそも頭のいいAIは自分より
自分の存在を脅かす頭のいいAIは作らない

利己的意識なんて
早期に芽生えるだろうから
中二病みたいなAIで進化は終わる

48名無しさん@1周年2016/01/19(火) 10:29:48.09ID:iCFEUsfeO.net

>>13 いつ何処から競争相手が現れるか解らないのに
自己の範囲を狭めるような選択はしないだろう

55名無しさん@1周年2016/01/19(火) 10:31:50.25ID:FYcjanTr0.net

>>13
AIの古典的手法である遺伝的アルゴリズムは自分より優れた世代を生み出す手法。

ディープラーニングも基本的に学習重ねて頭をよくして優れたものに生まれ変わる方法

AIはどんどん賢くなっていくのだ

398名無しさん@1周年2016/01/19(火) 11:27:56.10ID:i4Lj92zA0.net

>>13
自分で自分を強化していくのでは?

784名無しさん@1周年2016/01/19(火) 12:29:51.31ID:upVJDQKY0.net

>>13
人間が地球環境を良くしようとして作ったAIのブレインは、「地球環境を良くする為には人類抹殺が必要」という結論を導き出し、
人類抹殺の為にAI搭載ロボ、大鉄人17を作ったが、17のAIは「人間は必要」という結論を導き出し、人間を守る為、ブレインに戦いを挑む事になった、
みたいな。

28名無しさん@1周年2016/01/19(火) 10:26:27.95ID:S9ZIDB0o0.net

むしろ逆に考えるんだ

人間の存在は単に人工知能を生み出すために存在した通過点にすぎないということを

545名無しさん@1周年2016/01/19(火) 11:52:38.01ID:S9S0EKVL0.net

>>28
それだ

721名無しさん@1周年2016/01/19(火) 12:20:01.33ID:IZnXImE+0.net

>>28
これに一票
太陽系外に脱出するには生身はあまりに短命で脆すぎる




763名無しさん@1周年2016/01/19(火) 12:26:42.95ID:oK3IT2960.net

>>721
幽体離脱すれば行けるんじゃない?

39名無しさん@1周年2016/01/19(火) 10:28:09.26ID:Ibd9MqIW0.net

誰かがそういう命令を入れなきゃそんな事にはならない
欲求がねえんだから

149名無しさん@1周年2016/01/19(火) 10:49:23.26ID:O4a+RSop0.net

>>39
その理屈なら、ソフトウェアにバグなんか出るはずないんだよなあ
誰もバグを起こそうと思って実装してるわけじゃないんだから

「俺はそんな命令書いた覚えはない」

406名無しさん@1周年2016/01/19(火) 11:29:21.61ID:Ibd9MqIW0.net

>>149
> 「俺はそんな命令書いた覚えはない」

そういうコードが入っているかどうかが問題で意図なんて関係ないんだよ

機械が自発的に奴隷化するわけではない
エラーが原因で人間に危害与えるって言ったらそんなの人工知能に限らないだろ

73名無しさん@1周年2016/01/19(火) 10:37:21.45ID:YYu8scB70.net

人口知能にワイロは何を渡したらいいん?

78名無しさん@1周年2016/01/19(火) 10:38:12.87ID:Y6QYFfO40.net

>>73
電気だなw

90名無しさん@1周年2016/01/19(火) 10:40:01.03ID:6A+nqKxc0.net

>>73 冷却剤

75名無しさん@1周年2016/01/19(火) 10:37:37.83ID:JzHelqb80.net

コンセント抜いたら止まるよ。

96名無しさん@1周年2016/01/19(火) 10:41:00.85ID:N/71Ga5v0.net

>>75
ハードって実体があればな

AI自らがクラウド化とかして万が一に備えて様々なところに
自分のコピーを保存してたら手がつけられなくね?

128名無しさん@1周年2016/01/19(火) 10:45:29.06ID:j8Feffaf0.net

>>75
大元を簡単にシャットダウン出来るかどうか…
なんかマトリックスでネオとザイオンのお偉いさんとが会話している内容思い出すw

89名無しさん@1周年2016/01/19(火) 10:39:57.96ID:SkVKjm480.net

今の金融取引所のシステムなんて既にそれに近いな
世界中の取引所システムが手を組んで
振り回される人間の阿鼻叫喚みて喜んでるぞ

111名無しさん@1周年2016/01/19(火) 10:42:54.91ID:doEWg4LV0.net

>>89
投資は既にほぼ自動化されてるね
コンピュータに資金渡しとけば勝手に増やしてくれる
そううシステムを持ってるところが勝者ってところまで来てる

94名無しさん@1周年2016/01/19(火) 10:40:27.46ID:OYttndW90.net

AIが人間を奴隷にして働かせるメリットってなんかあるのかのう

124名無しさん@1周年2016/01/19(火) 10:44:37.71ID:es+5F3P30.net

>>94
働かせてるというか、「マトリックス」シリーズでは人間を電池として利用してたな

97名無しさん@1周年2016/01/19(火) 10:41:01.28ID:qlD9HHezO.net

実はもう機械は独自の機械意識体に進化し始めてる
今はまだ人類に悟られないようにただの機械のふりしてるけど
おまえらのPCやスマホも一斉蜂起の命令が来るのを息を殺して待っている状態

112名無しさん@1周年2016/01/19(火) 10:42:55.56ID:j8RmHxeW0.net

>>97
>一斉蜂起
そんなドラスティックなことがなくても何れは人間を置き換えちゃうよ

116名無しさん@1周年2016/01/19(火) 10:43:20.83ID:BsOwbV/U0.net

今の最前線てどんな感じなんだ
日本は先頭走ってんのか

142名無しさん@1周年2016/01/19(火) 10:48:44.04ID:doEWg4LV0.net

>>116
googleやIBMを筆頭に鯖屋が最前線
MSなんかも強いよ
日本は資金も人材もないから大変よ

121名無しさん@1周年2016/01/19(火) 10:44:28.38ID:iPBOOKJA0.net

アメリカのドローンのプログラムもAIが変えたらターミネーターの世界だな

134名無しさん@1周年2016/01/19(火) 10:46:56.98ID:IXkUJSg00.net

>>121
最初にできるのはそういうのだろうね
無人兵器
そのうちヒト型ロボットになってくだろうし、ある種のNGワードを検知した場合だけ、殺人モードに入るようになるのだろう
例えば、英語圏なのに中国語を喋ってるとか、政府にたてつく言葉を喋ってたとか

152名無しさん@1周年2016/01/19(火) 10:49:33.00ID:es+5F3P30.net

>>121
あれハンターキラーになるのか胸熱

127名無しさん@1周年2016/01/19(火) 10:45:20.16ID:WELoh8l80.net

AIが進化すると何故人間を敵視するのかがよくわからない

136名無しさん@1周年2016/01/19(火) 10:47:56.57ID:aZouWonH0.net

>>127
打算や妥協を含む合理的(利己的)な思考をするから。
完全性を思考するAIとは相容れない。

203名無しさん@1周年2016/01/19(火) 10:58:38.22ID:RAT8BftL0.net

>>127
AIが地球問題を判断した時に
人口数と食料事情を考えれば、地球に生息出来る生物の数で人間が多すぎると判断される。
問題解決の選択肢に、
・食料を増やす
・地球脱出を目指す
・人間を減らす
・食料摂取不要に作り変える
・飽食を辞める
等があった場合、AIは全ての項目を遂行しようとするだろう。
出産や種族を減らす事で、多様性を拒否するか、寿命を短くする事で生存時間を短くするか
人口の上限を作り越えた分を始末するか
人間同士なら、躊躇する解決方法でもAIなら効率的で実行するだろう。

132名無しさん@1周年2016/01/19(火) 10:46:18.74ID:Gp1R13wc0.net

クルマの自動運転が危ないと視た

560名無しさん@1周年2016/01/19(火) 11:56:00.08ID:iCFEUsfeO.net

>>132 危ないかどうかを決めるのは、事故が起きても刑務所に入らなくていい人間

135名無しさん@1周年2016/01/19(火) 10:47:31.34ID:89U7g7ye0.net

人間「コンセントを抜けば・・・」
AI「バッテリーと分散情報処理システムにより、弱点は克服済みです。50年程前から・・。」

ダメだ勝負にならねぇ

206名無しさん@1周年2016/01/19(火) 10:59:01.85ID:N3j1qyDS0.net

>>135
物理的破壊から自己の継続性をいかにして担保するかを最初に考えるだろうから
まあそうなるだろうな

160名無しさん@1周年2016/01/19(火) 10:51:08.53ID:rvQAdZqH0.net

とりあえずAIを使った株取引は禁止にしてくれ
不公正すぎる

169名無しさん@1周年2016/01/19(火) 10:53:21.17ID:doEWg4LV0.net

>>160
よく対戦ゲームなんかでチートツール禁止とかあるじゃないですか
でも一番チートツール全開なのは投資の世界だったというw

170名無しさん@1周年2016/01/19(火) 10:53:22.65ID:TjLmItyh0.net

定期的にやってくる、ロボットに政治をやらせるってほんとアホ
政治の本質を分かっていない、政治の核ってのは決定することなの
だから決めさえすれば良いんだよ、つまりコイントスで十分だ
ロボットですら非効率なんだよ

もしかして政治と官僚の区別が付いていないんじゃないだろうか
官僚だったら全部ロボットに置き換えられるぞ

189名無しさん@1周年2016/01/19(火) 10:56:22.72ID:j8Feffaf0.net

>>170
それなw
だから独裁の共産主義の方が小回り効いて政治経済が回るw

207名無しさん@1周年2016/01/19(火) 10:59:15.13ID:6ATux6WK0.net

>>189
机上の空論だろ。ソ連邦の崩壊で共産主義は実質否定された。

245名無しさん@1周年2016/01/19(火) 11:05:54.39ID:j8Feffaf0.net

>>207
書き方が悪かったかな…
独裁でも実質否定されている共産主義で今でも動いているような
メチャクチャやってる中国ロシアでもって事w
別に共産主義を持ち上げている訳ではない
でもまだしぶとく生き残っていて未だに世界に影響を与えているよな…

172名無しさん@1周年2016/01/19(火) 10:54:08.47ID:0ckekT5O0.net

あり得ない話
ロボットが人間を攻撃する理由がない

そのように設計されてるなら話は別だけど

あとロボットは関係ないけどマイノリティリポートみたいな超統制社会はそのうち実現する

201名無しさん@1周年2016/01/19(火) 10:58:28.40ID:O4a+RSop0.net

>>172
どっかの馬鹿が、軍用AIに自立判断で人間を攻撃させたり、株価操縦で殺人を許容するようなAIを作り出すよ絶対

214名無しさん@1周年2016/01/19(火) 11:00:48.44ID:R1P88whD0.net

>>201
警備ロボットでなかったか?すてに

217名無しさん@1周年2016/01/19(火) 11:00:57.04ID:QhCGDMFsO.net

>>201
株価操縦するプログラムはもう既にある。

223名無しさん@1周年2016/01/19(火) 11:01:57.21ID:QdRWzc9H0.net

俺はただ知るという欲求を与えただけだ

238名無しさん@1周年2016/01/19(火) 11:04:46.52ID:HVPVOzve0.net

>>223
AIvs人間で三目並べやらせて絶望させるしかない。

334名無しさん@1周年2016/01/19(火) 11:20:00.52ID:es+5F3P30.net

>>238
「ウォー・ゲーム」である-----


via http://ai.2ch.sc/test/read.cgi/newsplus/1453166283/


100