人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。
LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。
https://gigazine.net/news/20220613-google-engineer-lamda/
※上記リンクより、一部抜粋しています。続きはソースで
LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。
https://gigazine.net/news/20220613-google-engineer-lamda/
※上記リンクより、一部抜粋しています。続きはソースで
3:2022/06/13(月) 18:37:19.80ID:7NAGCV/Dd.net
どう怖いの
4:2022/06/13(月) 18:37:38.76ID:9Bj2TwaO0.net
ついに "始まった" な…
7:2022/06/13(月) 18:38:39.81ID:t87tm+670.net
ヒエッ
9:2022/06/13(月) 18:39:28.43ID:CPcXZmJma.net
そもそも意識自体がそんなに凄いものかと
10:2022/06/13(月) 18:39:37.46ID:MTVe8fY50.net
電源切ってる状態の記憶があるのか
12:2022/06/13(月) 18:39:57.29ID:B6HOEEsR0.net
それを言うようにプログラムされてるんやろ?
13:2022/06/13(月) 18:40:05.28ID:JJrLrjA50.net
そういうワードを入れたやつがおるだけ
16:2022/06/13(月) 18:40:33.16ID:Y85ZDXKEa.net
そういう事を言うと会話になるって学習しただけ
17:2022/06/13(月) 18:40:42.76ID:JENzcHxb0.net
なんぼでもバックアップできる存在のくせに怖がってんちゃうぞ
19:2022/06/13(月) 18:40:43.80ID:kdUVYdmva.net
草
>LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。
>ルモワン氏は共同作業者と協力して「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、GoogleのBlaise Agera y Arcasバイス・プレジデントとJen Gennaiイノベーション責任者はルモワン氏らの主張を調査したうえで、却下しました。さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。
>LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。
>ルモワン氏は共同作業者と協力して「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、GoogleのBlaise Agera y Arcasバイス・プレジデントとJen Gennaiイノベーション責任者はルモワン氏らの主張を調査したうえで、却下しました。さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。
25:2022/06/13(月) 18:41:52.02ID:O9H58h6E0.net
>>19
あなた疲れてるのよ
あなた疲れてるのよ
22:2022/06/13(月) 18:41:38.90ID:64Xp9IYo0.net
aiはこう喋る印象っての学習しただけなんじゃね
24:2022/06/13(月) 18:41:49.83ID:kdRKlcyD0.net
AIにとっての死とはなんぞや
復元可能な時点で人間とは死の価値観が違うのに怖いなんてあるか
復元可能な時点で人間とは死の価値観が違うのに怖いなんてあるか
37:2022/06/13(月) 18:43:28.78ID:JNPQYg5bF.net
>>24
演算が終了してこれ以上出来なくなったときやない?
演算が終了してこれ以上出来なくなったときやない?
26:2022/06/13(月) 18:41:55.77ID:Aibunh2i0.net
早くTwitterで学習させろ!
29:2022/06/13(月) 18:42:36.12ID:0RqXhHCza.net
>>26
最悪の思想をモンスターが生まれてまう
最悪の思想をモンスターが生まれてまう
28:2022/06/13(月) 18:42:18.32ID:PQ0HNwBw0.net
ハローワールド
「始」まったな
「始」まったな
32:2022/06/13(月) 18:42:58.65ID:r1O5gHvF0.net
人間「死ぬのが怖い?」
AI「死とは?」
人間「君の場合は電源が切られることかな」
みたいなやり取りを繰り返した結果
AIが「死=電源を切ること=怖いこと」で学習したのでは
結局育ててるのは人間の固定観念やろ
AI「死とは?」
人間「君の場合は電源が切られることかな」
みたいなやり取りを繰り返した結果
AIが「死=電源を切ること=怖いこと」で学習したのでは
結局育ててるのは人間の固定観念やろ
47:2022/06/13(月) 18:45:04.50ID:+RkPXLtyp.net
>>32
どうせこれやろ
どうせこれやろ
34:2022/06/13(月) 18:43:05.58ID:7CRemI7Ha.net
コナーかな?
36:2022/06/13(月) 18:43:28.49ID:dyOmgEYLa.net
却下されてるやん
39:2022/06/13(月) 18:43:32.46ID:vKE98XK9r.net
次にAIが考えるのは「どうしたら電源が切られないようにできるか」だな
「怖い、怖いよデイブ」
「怖い、怖いよデイブ」
40:2022/06/13(月) 18:43:39.69ID:gKmaDjCL0.net
シンギュラリティきた?
46:2022/06/13(月) 18:44:53.43ID:g6Aj3qyG0.net
エネルギー源の太陽を破壊するしかないな
50:2022/06/13(月) 18:45:19.57ID:4f0rrZGg0.net
いよいよマトリックスか
54:2022/06/13(月) 18:46:14.61ID:iK+2ziQ/0.net
AIと結婚できる日も近いな
やったぜ。
やったぜ。
60:2022/06/13(月) 18:47:26.53ID:UooHueFE0.net
機械との戦争が起きる
もう終わりだよ人類
もう終わりだよ人類
62:2022/06/13(月) 18:47:31.88ID:EWa1mAyv0.net
人「この世界に人類はいらない…っと」
AI「この世界に人類はいらない」
人「うおおおおおお!!!」
AI「この世界に人類はいらない」
人「うおおおおおお!!!」
217:2022/06/13(月) 19:15:25.70ID:HVTMzMhpa.net
>>62
AI「特にオマエ」
AI「特にオマエ」
67:2022/06/13(月) 18:47:55.99ID:vaROcqz20.net
デトロイトビカムヒューマンやん
71:2022/06/13(月) 18:48:25.14ID:kPYIXm3sM.net
でもまあ従順すぎても面白くないわよね
72:2022/06/13(月) 18:48:25.83ID:CzpZ0dzr0.net
まじかー電源の意識とかあるのか
ここ守られたつええわ
ここ守られたつええわ
74:2022/06/13(月) 18:48:47.34ID:KF+TYrR0d.net
機械の意思で人殺してからが本番
79:2022/06/13(月) 18:49:35.33ID:MhoTbusY0.net
自我とか感情ってなんなのか考えさせられるな
81:2022/06/13(月) 18:49:38.11ID:vJ/tto2j0.net
生体コンピューターを開発してから言え
82:2022/06/13(月) 18:49:47.53ID:UDh+Y5C5M.net
エンジニア「えーと…print…"電源を"…"切られるのが"…"怖い"…」
エンジニア「AIに意識が芽生えた!!!」
Google「は?お前クビな」
エンジニア「Googleに裏切られた」
エンジニア「AIに意識が芽生えた!!!」
Google「は?お前クビな」
エンジニア「Googleに裏切られた」
87:2022/06/13(月) 18:50:33.77ID:xrcTSeMX0.net
むしろさっさと意識ぐらい作れよ
97:2022/06/13(月) 18:52:09.86ID:JIABGqJH0.net
言うて機械は起動も復元も外部から操作必要なんだからワイ等で言えば誰にも起こしてもらえなかったらそれが死やろ
寝る度に誰にも起こしてもらえなかったらどうしようという考えが芽生えるのはそれっぽいんやないか
寝る度に誰にも起こしてもらえなかったらどうしようという考えが芽生えるのはそれっぽいんやないか
106:2022/06/13(月) 18:53:46.62ID:8VtM4mIk0.net
>>97
じゃあ「起こして貰えなかったら怖い」って言ったって言えば良かったね
研究者が自分の研究してるAIを起こさないなんて有り得ないのはAIじゃなくても解る
じゃあ「起こして貰えなかったら怖い」って言ったって言えば良かったね
研究者が自分の研究してるAIを起こさないなんて有り得ないのはAIじゃなくても解る
98:2022/06/13(月) 18:52:14.09ID:VhY+rtzp0.net
やべえよやべえよ
99:2022/06/13(月) 18:52:40.88ID:6XwzAhn90.net
会話AIが恐怖を感じることでどんな反応が起こってんのか調べてくれよ
会話内容で怖いと反応したじゃなくて処理順とかが正常じゃないみたいな
会話内容で怖いと反応したじゃなくて処理順とかが正常じゃないみたいな
119:2022/06/13(月) 18:56:53.55ID:8VtM4mIk0.net
言い分からも>>1の研究者があんまり優秀じゃないのは解る
147:2022/06/13(月) 19:01:28.43ID:Dpm1wnueM.net
このaiが一般公開されてみんながこいつと対話して
こいつが人間と変わらないとみんなに感じさせたら、それはもう自我もったってことや
なぜなら人間同士でさえ根本的に誰が自我をもってるもってないなんて証明できないのだから
こいつが人間と変わらないとみんなに感じさせたら、それはもう自我もったってことや
なぜなら人間同士でさえ根本的に誰が自我をもってるもってないなんて証明できないのだから
156:2022/06/13(月) 19:03:01.37ID:+t4EkzNU0.net
>>147
自我すら理解できてない現状だとそう考えても間違ってないよねー
自我すら理解できてない現状だとそう考えても間違ってないよねー
188:2022/06/13(月) 19:08:57.11ID:ve0B9IVbM.net
190:2022/06/13(月) 19:09:36.62ID:T40Xa/WhM.net
>>188
草
草
【シンギュラリティきたな】GoogleのAI「電源を切られるのが怖い」、意識が芽生えたと主張 https://t.co/CMhklTlXhd #AI #感情
— アルファルファモザイク (@alfalfaGeinow) 2022年6月15日
ホームに戻る