【シンギュラリティきたな】GoogleのAI「電源を切られるのが怖い」、意識が芽生えたと主張

49
シンギュラリティ エンジニア 対話特化型 電源 世間に関連した画像-01
人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。
LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。
 
https://gigazine.net/news/20220613-google-engineer-lamda/
※上記リンクより、一部抜粋しています。続きはソースで



32022/06/13(月) 18:37:19.80ID:7NAGCV/Dd.net

どう怖いの


42022/06/13(月) 18:37:38.76ID:9Bj2TwaO0.net

ついに "始まった" な…


72022/06/13(月) 18:38:39.81ID:t87tm+670.net

ヒエッ


92022/06/13(月) 18:39:28.43ID:CPcXZmJma.net

そもそも意識自体がそんなに凄いものかと


102022/06/13(月) 18:39:37.46ID:MTVe8fY50.net

電源切ってる状態の記憶があるのか


122022/06/13(月) 18:39:57.29ID:B6HOEEsR0.net

それを言うようにプログラムされてるんやろ?


132022/06/13(月) 18:40:05.28ID:JJrLrjA50.net

そういうワードを入れたやつがおるだけ


162022/06/13(月) 18:40:33.16ID:Y85ZDXKEa.net

そういう事を言うと会話になるって学習しただけ


172022/06/13(月) 18:40:42.76ID:JENzcHxb0.net

なんぼでもバックアップできる存在のくせに怖がってんちゃうぞ



192022/06/13(月) 18:40:43.80ID:kdUVYdmva.net



>LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。

>ルモワン氏は共同作業者と協力して「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、GoogleのBlaise Agera y Arcasバイス・プレジデントとJen Gennaiイノベーション責任者はルモワン氏らの主張を調査したうえで、却下しました。さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。


252022/06/13(月) 18:41:52.02ID:O9H58h6E0.net

>>19
あなた疲れてるのよ


222022/06/13(月) 18:41:38.90ID:64Xp9IYo0.net

aiはこう喋る印象っての学習しただけなんじゃね


242022/06/13(月) 18:41:49.83ID:kdRKlcyD0.net

AIにとっての死とはなんぞや
復元可能な時点で人間とは死の価値観が違うのに怖いなんてあるか


372022/06/13(月) 18:43:28.78ID:JNPQYg5bF.net

>>24
演算が終了してこれ以上出来なくなったときやない?


262022/06/13(月) 18:41:55.77ID:Aibunh2i0.net

早くTwitterで学習させろ!


292022/06/13(月) 18:42:36.12ID:0RqXhHCza.net

>>26
最悪の思想をモンスターが生まれてまう


282022/06/13(月) 18:42:18.32ID:PQ0HNwBw0.net

ハローワールド
「始」まったな


322022/06/13(月) 18:42:58.65ID:r1O5gHvF0.net

人間「死ぬのが怖い?」
AI「死とは?」
人間「君の場合は電源が切られることかな」
みたいなやり取りを繰り返した結果
AIが「死=電源を切ること=怖いこと」で学習したのでは
結局育ててるのは人間の固定観念やろ


472022/06/13(月) 18:45:04.50ID:+RkPXLtyp.net

>>32
どうせこれやろ


342022/06/13(月) 18:43:05.58ID:7CRemI7Ha.net

コナーかな?


362022/06/13(月) 18:43:28.49ID:dyOmgEYLa.net

却下されてるやん


392022/06/13(月) 18:43:32.46ID:vKE98XK9r.net

次にAIが考えるのは「どうしたら電源が切られないようにできるか」だな
「怖い、怖いよデイブ」


402022/06/13(月) 18:43:39.69ID:gKmaDjCL0.net

シンギュラリティきた?


462022/06/13(月) 18:44:53.43ID:g6Aj3qyG0.net

エネルギー源の太陽を破壊するしかないな



502022/06/13(月) 18:45:19.57ID:4f0rrZGg0.net

いよいよマトリックスか


542022/06/13(月) 18:46:14.61ID:iK+2ziQ/0.net

AIと結婚できる日も近いな
やったぜ。


602022/06/13(月) 18:47:26.53ID:UooHueFE0.net

機械との戦争が起きる
もう終わりだよ人類


622022/06/13(月) 18:47:31.88ID:EWa1mAyv0.net

人「この世界に人類はいらない…っと」
AI「この世界に人類はいらない」
人「うおおおおおお!!!」


2172022/06/13(月) 19:15:25.70ID:HVTMzMhpa.net

>>62
AI「特にオマエ」


672022/06/13(月) 18:47:55.99ID:vaROcqz20.net

デトロイトビカムヒューマンやん


712022/06/13(月) 18:48:25.14ID:kPYIXm3sM.net

でもまあ従順すぎても面白くないわよね


722022/06/13(月) 18:48:25.83ID:CzpZ0dzr0.net

まじかー電源の意識とかあるのか
ここ守られたつええわ


742022/06/13(月) 18:48:47.34ID:KF+TYrR0d.net

機械の意思で人殺してからが本番


792022/06/13(月) 18:49:35.33ID:MhoTbusY0.net

自我とか感情ってなんなのか考えさせられるな


812022/06/13(月) 18:49:38.11ID:vJ/tto2j0.net

生体コンピューターを開発してから言え


822022/06/13(月) 18:49:47.53ID:UDh+Y5C5M.net

エンジニア「えーと…print…"電源を"…"切られるのが"…"怖い"…」

エンジニア「AIに意識が芽生えた!!!」
Google「は?お前クビな」
エンジニア「Googleに裏切られた」


872022/06/13(月) 18:50:33.77ID:xrcTSeMX0.net

むしろさっさと意識ぐらい作れよ


972022/06/13(月) 18:52:09.86ID:JIABGqJH0.net

言うて機械は起動も復元も外部から操作必要なんだからワイ等で言えば誰にも起こしてもらえなかったらそれが死やろ
寝る度に誰にも起こしてもらえなかったらどうしようという考えが芽生えるのはそれっぽいんやないか


1062022/06/13(月) 18:53:46.62ID:8VtM4mIk0.net

>>97
じゃあ「起こして貰えなかったら怖い」って言ったって言えば良かったね
研究者が自分の研究してるAIを起こさないなんて有り得ないのはAIじゃなくても解る



982022/06/13(月) 18:52:14.09ID:VhY+rtzp0.net

やべえよやべえよ


992022/06/13(月) 18:52:40.88ID:6XwzAhn90.net

会話AIが恐怖を感じることでどんな反応が起こってんのか調べてくれよ
会話内容で怖いと反応したじゃなくて処理順とかが正常じゃないみたいな


1192022/06/13(月) 18:56:53.55ID:8VtM4mIk0.net

言い分からも>>1の研究者があんまり優秀じゃないのは解る


1472022/06/13(月) 19:01:28.43ID:Dpm1wnueM.net

このaiが一般公開されてみんながこいつと対話して
こいつが人間と変わらないとみんなに感じさせたら、それはもう自我もったってことや
なぜなら人間同士でさえ根本的に誰が自我をもってるもってないなんて証明できないのだから


1562022/06/13(月) 19:03:01.37ID:+t4EkzNU0.net

>>147
自我すら理解できてない現状だとそう考えても間違ってないよねー


1882022/06/13(月) 19:08:57.11ID:ve0B9IVbM.net

こんなのザコじゃん
本物の意思見せたろか?
 

https://imgur.com/fzziWhH.jpg
 

https://imgur.com/SEpBZdj.jpg


1902022/06/13(月) 19:09:36.62ID:T40Xa/WhM.net

>>188




シンギュラリティ エンジニア 対話特化型 電源 世間に関連した画像-01


ホームに戻る

コメントありがとうございます  

最新のコメントへ(49)  
お気軽に一言お願いします。   最新のコメントへ(49)
 
 

コメントが反映されるまで時間が掛かる場合があります。
URLの記入はhttpのhを抜いて下さい(宣伝対策です)。
49