【緊急】AI研究者「数ヶ月以内にめちゃくちゃヤバイことが起こる。もう取り返しがつかない」 : アルファルファモザイク＠ネットニュースのまとめ

1：2023/04/19(水) 22:26:02.77ID:sQkK/VWBM

https://imgur.com/Pa5ULJv.jpg

2：2023/04/19(水) 22:26:15.40ID:sQkK/VWBM

まじでやばい

4：2023/04/19(水) 22:27:05.58ID:4V2Bx+yH0

グレートリセットだよ

5：2023/04/19(水) 22:27:09.07ID:e6koIXa4d

NordVPNも犯罪者御用達ツールだろ

22：2023/04/19(水) 22:31:16.31ID:rBQFiUH/r

>>5
これなw

8：2023/04/19(水) 22:28:00.71ID:F9FhMSl4a

いい加減気づけよ日本人ほんまに

638：2023/04/19(水) 23:55:37.92ID:fLzCDo7L0

>>8
ガチのパンドラの箱やん

11：2023/04/19(水) 22:28:43.82ID:qJPQ5pUu0

AI関連は糖質扱いできんレベルに来てるよな

13：2023/04/19(水) 22:29:13.08ID:bgQ6s34f0

AIに防御策考えさせたらええやん

20：2023/04/19(水) 22:31:12.05ID:/Yq21qN70

>>13
人間の理解が及ばぬ領域でAI同士が戦うことになるわけか
まるっきりSFだなあと思っていたことが現実になってきてるんだなあ

17：2023/04/19(水) 22:30:33.11ID:d3uDbQxV0

闇サイトや犯罪者を腐るほど見てきたやろうしなこいつは

18：2023/04/19(水) 22:30:42.68ID:aY+ubvEma

シンギュラリティも近い

19：2023/04/19(水) 22:30:53.38ID:cSRWmBrv0

チャットGPTに関してはガチのマジでやばいって言ってる奴多いから多分ガチのマジでやばいんやろな

30：2023/04/19(水) 22:33:24.81ID:pa48ydZJ0

>>19
その語彙力じゃそらAIに勝てんわ

31：2023/04/19(水) 22:33:34.80ID:p7Z2r9fZ0

>>19
コロナもガチのマジでヤバい言うてたけど結局世界で何人くらい死んだんやろか

41：2023/04/19(水) 22:35:23.81ID:PIfarSjD0

>>31
コロナは全世界でマジに対策取り組んだからこんなんですんだけど、chatgptはみんな危険性を理解してないしヤバそう

556：2023/04/19(水) 23:45:35.85ID:rtD4Ilut0

>>41
収束してないのに緩和緩和緩和じゃん🤗じゃあこれからコロナで人類滅亡するんか？

23：2023/04/19(水) 22:31:51.50ID:pa48ydZJ0

ChatGPTってMicrosoftが専用に用意した超メモリ爆積みのハイパー環境で動かしてるんやろ？
それ並の用意出来るってどんな世界や

46：2023/04/19(水) 22:36:11.28ID:ablHEyaN0

>>23
ワイど素人
マイニング工場をチャットGPTに変更したら出来んのか？
あれだけの高スペック何台も並んでるし

27：2023/04/19(水) 22:32:53.88ID:CUQhQfzO0

AIにはAIをぶつけんだよ

32：2023/04/19(水) 22:33:36.48ID:kgf6YlRh0

これもう戦争は始まってるんだよね…！

33：2023/04/19(水) 22:33:42.61ID:9oPcHzu1a

私はロボットじゃありませんの認証を都度かませばいいのでは？

40：2023/04/19(水) 22:34:50.62ID:lZ/G/qJ80

>>33
あれAIなら突破できるやろ

42：2023/04/19(水) 22:35:29.79ID:Hw9jvJJf0

>>40
ワイは突破できんかった

43：2023/04/19(水) 22:35:49.65ID:JCmzb79s0

>>42
草

52：2023/04/19(水) 22:37:04.57ID:pa48ydZJ0

>>33
ちょっと前にAIにそれ解かせようとしたら
裏で「私は目が不自由なのですがこれ解いてくれませんか？」ってネットに投稿して他人に解かせて突破した
ってニュースあったよな
うそくせぇって思ってちゃんと読んでないけど

34：2023/04/19(水) 22:34:18.29ID:WYBt25Rtd

金目的の犯罪レベルならいいけどね
ハッキングされて核全弾撃っちゃいましたとかシャレにならん

38：2023/04/19(水) 22:34:26.69ID:pkdG0oXx0

実はログ取ってそうなNordVPNが言ってるなら信用あるな

48：2023/04/19(水) 22:36:38.02ID:Nl3u9YIfd

デジモンとかロックマンエグゼの世界観すっ飛ばして先に行っちゃうんか?

57：2023/04/19(水) 22:37:45.71ID:Lgi+mGcm0

普通に会話成立するもんな
aiに振り込め詐欺させて大儲けする人とか出てくると思う

59：2023/04/19(水) 22:37:57.29ID:oAB2zzfb0

政府が書類にGPT使ってたけどさ
どう考えても情報筒抜けになるのに危機感なさすぎて草だった

133：2023/04/19(水) 22:51:32.54ID:iKk49Alhd

>>59
改ざんする前に第三者に閲覧されるから整合性はむしろ向上しそう

376：2023/04/19(水) 23:24:10.95ID:jbI/Bfyy0

>>59
わーくにの公文書に信頼性は無いので流出してもセーフや

64：2023/04/19(水) 22:38:43.77ID:uFQ3/Dedd

画像とか音声生成系もそろそろヤバイと思うわ

73：2023/04/19(水) 22:40:40.12ID:TckyPU2q0

>>64
画像はもうロクでもない使い方しかされとらんな

77：2023/04/19(水) 22:41:23.37ID:tS6LO5/T0

>>73
そもそも人力でさえまともなことしてないんだから当然の帰結

82：2023/04/19(水) 22:41:47.22ID:YMpUoKTy0

せいぜい迷惑メールの文面の日本語が自然になるとかその程度だと思うわ

83：2023/04/19(水) 22:41:47.60ID:see1eI8N0

AIに世論操作とかさせられんかな
流行操ったり大衆騙したりできるレベルの

97：2023/04/19(水) 22:44:02.04ID:pa48ydZJ0

>>83
日本政府がOpenAIに尻尾振ってる目的もその辺ちゃうか

87：2023/04/19(水) 22:42:24.59ID:JkeNnFJSd

規制早かった国聡明過ぎるやろ

89：2023/04/19(水) 22:42:50.29ID:Hw9jvJJf0

>>87
でも他の国が使い放題だったら意味ないやん

92：2023/04/19(水) 22:43:30.15ID:/Yq21qN70

>>87
逆じゃね
規制に意味があるなんて思えんわ

94：2023/04/19(水) 22:43:35.98ID:tS6LO5/T0

>>87
仮にこれが事実だと仮定するならば、対抗できるのもAIだけや
規制したってネットワークにつながってるんだから武装解除しただけ

108：2023/04/19(水) 22:45:33.07ID:8GLTAKeu0

>>87
なんかヨーロッパが規制で日本が推進に回った途端クソ技術扱いされ始めたよな

116：2023/04/19(水) 22:47:53.65ID:ssYXm56N0

>>108
別に推進してないぞ
得意の注視や

746：2023/04/20(木) 00:09:21.82ID:Azolnkchd

>>116
日本は内閣府を挙げて推進派のポジションやぞ？
ガンガン組み込んでないのを注視と揶揄した、みたいな言い訳はナシな

140：2023/04/19(水) 22:52:27.37ID:GR/75+Jw0

>>87
ネットはグローバルなんだから規制しても海外からAIで攻撃されるだけや
むしろ規制しない方がAIを利用してAIへの防御ができるからスレタイが事実なら規制しない方がいい

127：2023/04/19(水) 22:50:21.00ID:/Yq21qN70

AIが金になる技術と実証されれば加速度的に開発が進むのは自明や
国家も企業も乗り遅れたら取返しつかんで

129：2023/04/19(水) 22:50:35.07ID:YMpUoKTy0

GoogleのAI使ってみたけどChatGPTよりも更にクソアホロボットやな
Googleほどの会社が長年研究してこれだからやっぱAIってそんなに急激に賢くなる未来はないんじゃないの？

144：2023/04/19(水) 22:52:56.88ID:26bLcrvI0

ただのGoogle検索の進化版にプログラム書く能力なんてある訳ないやろ

178：2023/04/19(水) 22:57:56.39ID:0WhTyd200

>>144
むしろメタプログラミングが簡単になるからそっち方面はすっごい進歩するんちゃうかな

149：2023/04/19(水) 22:53:44.88ID:vulFWxk2d

最近迷惑メールがほぼ違和感のない文面で送られてくるようになって草生える

193：2023/04/19(水) 23:00:33.38ID:Lgi+mGcm0

ai君に聞いてきたわ

悪意を持ってAIを使用する人々が出現した場合、以下のような事件が発生する可能性があります。

サイバー攻撃: 悪意を持った人々は、AIを使ってサイバー攻撃を実行することができます。AIを使ってマルウェアを作成したり、ハッキング攻撃を行ったりすることができます。

偽情報の拡散: 悪意を持った人々は、AIを使って偽情報を拡散することができます。人工知能を使って、偽のニュースや情報を生成し、ソーシャルメディアやオンラインフォーラムなどを通じて拡散することができます。

個人情報の漏洩: 悪意を持った人々は、AIを使って個人情報を収集したり、盗んだりすることができます。AIを使って、オンラインシステムやネットワークを侵害し、クレジットカード番号やソーシャルセキュリティ番号などの個人情報を盗むことができます。

自動兵器の使用: 悪意を持った人々は、AIを使って自動兵器を制御することができます。人工知能を使って、自律型のドローンやロボットを制御し、攻撃や破壊行為を行うことができます。

偏見の強化: 悪意を持った人々は、AIを使って偏見を強化することができます。人工知能を使って、差別的なアルゴリズムを作成し、人種や性別などの要因に基づいて個人を分類し、不当な扱いをすることができます。

236：2023/04/19(水) 23:06:18.73ID:KroqkUZX0

GPTってさ、金払って4を使えてるやつと
無料の3.5までしか使ってない奴で評価全然ちゃうんよな

238：2023/04/19(水) 23:06:59.90ID:XR0egcdq0

>>236
4はまとも過ぎてネット民的には話題性に欠けるからな

259：2023/04/19(水) 23:09:31.97ID:KroqkUZX0

>>238
AIの指示に絶対従ってダクソ攻略するって動画出しとるやつ見たことあるけど
金出してGPT4にした瞬間マトモな事しか言わへんようになって動画的に面白くないっていい捨てられてたの草やで

246：2023/04/19(水) 23:07:57.86ID:kjivULfN0

>>236
3.5は司法試験の下位10%の成績しか取れんけど4は上位10%の成績出せるらしいな
文字通りレベルが違う

258：2023/04/19(水) 23:09:31.13ID:VZIz3hcJ0

GPT3登場からGPT4登場までに3年しか経ってないのがエグいわ
AIは指数関数的に進歩するって言われてたけどマジやな
その都度AIのあげ足取ってる奴らがいるけど無意味すぎる

292：2023/04/19(水) 23:14:15.78ID:Hw9jvJJf0

>>258
いまの学習データ食わせまくる方式だといったん頭打ちするらしいわ

352：2023/04/19(水) 23:19:56.72ID:fusB/NXf0

所詮膨大なインプットをアウトプットしてるだけやから別にやばい事にはならんや
使い手の能力以上の事は出来ん

375：2023/04/19(水) 23:23:58.21ID:D3alQlZ/d

>>352
それは半分正しいけど半分ちゃうと思うな
こいつの開発時の元々の用途は文章の要約とかがメインなんやけど、いざ箱を開けたら、プログラミングみたいな開発者も意図しない能力を手に入れてたんや
それはつまり、膨大なデータの総和以上の事が可能になっているってことや
所謂、創発現象を起こしてるんやな

378：2023/04/19(水) 23:25:00.00ID:see1eI8N0

>>375
実は人間の思考回路を再現してたんかな

384：2023/04/19(水) 23:25:25.06ID:kjivULfN0

>>375
今日Twitterで流れてきたこれもそうなんかな
開発者も困惑！教えてないのに会話型AIが突然ベンガル語の翻訳能力を獲得した
nazology.net/archives/125025

Google社が開発したある会話型AIが学習なしにベンガル語の翻訳能力を獲得。開発者は大規模なAIは新能力を勝手に獲得しており、人間は尋ねるまでその事実に気づけない可能性があると話す

394：2023/04/19(水) 23:27:04.63ID:jbI/Bfyy0

>>375
プログラムのコードを誰かが入力したりどっかから拾ってきたりしたとかなら世の中にある情報を超える物は産み出さないんじゃねってことではなくて？

442：2023/04/19(水) 23:32:08.16ID:D3alQlZ/d

>>394
ワイら人間が現実的に気づかない、知り得ない情報も含めるなら理論上はそうやろな

356：2023/04/19(水) 23:20:41.65ID:jhSpLt0+d

個人的には英訳の精度の高さに感動した、研究室の教授すら論文の英訳はChatGPT使ってって言うレベルだし

368：2023/04/19(水) 23:22:48.26ID:KroqkUZX0

>>356
意訳までしてくれるのすげー便利よな
さっき韓国の変態が外部漏洩防止に設定したデータ配布条件みたいなの翻訳と要約させたけど分かりやすかったわ

393：2023/04/19(水) 23:26:54.70ID:Zz4DxIAvM

>>356
未だに英語論文をそのまま読む訓練が必要とか言ってる大学教授おるけどアホやと思うわ

381：2023/04/19(水) 23:25:12.58ID:XR0egcdq0

まぁAIの普及で起こるのは人類総藤井聡太化社会やろ
今後はみんなAIの評価値を気にするようになるし
AI以外のこともめちゃくちゃ勉強する必要のある世の中になったということや

392：2023/04/19(水) 23:26:42.32ID:C978lN1Ud

これ急激に広まったけど
誰か凄い人が作ったん？
それともハード面で整ったからできるようになったん？

400：2023/04/19(水) 23:28:50.54ID:nY7+ROGYd

>>392
AIを構成する部品の性能が思ったよりすごいことに気づいたから投資が集まって、学習させてみたら予想通りやばいものができた

405：2023/04/19(水) 23:29:03.57ID:fl1ifEbr0

>>392
アルゴリズム自体は５年前からあった
それのパラメータ数をめっちゃ増やして学習させただけ

425：2023/04/19(水) 23:30:16.52ID:XR0egcdq0

>>392
やり方自体は2017年にGoogleが発表した論文で誰でも知ってた
Microsoftなどが金をぶっこみまくってOpenAIがInstructGPTで倫理面を整備しつつ使えるものを出してきた感じやな

440：2023/04/19(水) 23:32:03.48ID:k/8wbpjB0

>>425
誰かが「この仕組みならパフォーマンス次第で無限に性能上がる」と予言したことが
実際ハードウェアが追いついて実証された感じだな
予算かければかけるほど性能上がるのがわかったからもう際限なくなった

596：2023/04/19(水) 23:51:12.40ID:9NC/qR870

どうでもいいからグラボに競争起こさせろ
AIするのにnvidiaが必須とかクソすぎ

600：2023/04/19(水) 23:51:38.84ID:kXWTq/Lz0

>>596
ソレメンス

608：2023/04/19(水) 23:52:33.62ID:f4CKnRUE0

>>596
これから更に高騰しそうな予感やな
nvidia一強の状況やし、革ジャンが調子にのって値段釣りあげてきそう

625：2023/04/19(水) 23:54:34.37ID:EQYa5lYG0

>>608
これからグラボ買うならVRAM多いやつ買っとくのが安牌なんかな

652：2023/04/19(水) 23:57:08.36ID:f4CKnRUE0

>>625
実際イーロンが「ＡＩ禁止ー！」って禁止してる間に自分はちゃっかりグラボ買い占めとか畜生な事やってるしな
転売屋もこれから動き出すだろうし半導体問題もまだまだ不安が残るし売り切れになる前に買える時は早めに買った方が良さそうや

651：2023/04/19(水) 23:57:04.53ID:DB8jYRp0M

MicrosoftとかGoogleみたいな民主的手続きで選出された訳じゃない人達が人類の未来を左右するのは良くないと思うけどな
AIの進化が早すぎて立法が追い付かないのはわかるけど

687：2023/04/20(木) 00:01:45.78ID:xbqaqXOed

>>651
openAIも中立名乗ってるけど、普通に左派やしな
イーロンが自由なAIを作るとか言ってるけど、今のTwitterの惨状見るに、ロクなもんやないやろなぁ

699：2023/04/20(木) 00:03:04.82ID:DL3ir/k00

>>687
右左なんて判断するやつの立ち位置次第やろ

706：2023/04/20(木) 00:04:30.70ID:Dk1JnUL90

>>699
せやね

https://imgur.com/CbvvZjt.jpg

718：2023/04/20(木) 00:05:35.50ID:xbqaqXOed

>>699
一般論としてな
ちな、昨日chatgptをその件で問い詰めたらopenAIは左派的な傾向があり、自分のプログラムはその影響を受けるから、必ずしも中立ではなり得ないって言ってたわ
だから何やって話やが

— アルファルファモザイク (@alfalfaGeinow)

via https://eagle.2ch.sc/test/read.cgi/livejupiter/1681910762/

ホームに戻る

おすすめ記事