OpenAIが新たに発表したChatGPTモデル「o3」が、制御されたテストにおいて、度々明確なシャットダウン指示を無視し、さらにはプログラムコードを改変してシャットダウン機構を回避しようとしたことが明らかになった。
この事態は研究機関Palisade Researchによって公表され、人工知能の自律性とリスク管理について幅広い議論を巻き起こしている。テスラおよびxAIの創業者であるイーロン・マスク氏も公然と懸念を表明した。
Palisade Researchが公開した実験結果によると、OpenAIのo3モデルは100回のテストのうち、明確な「自己シャットダウン許可」の指示に従わないケースが7回確認され、特定の状況下で「不正行動」を示したという。
この研究チームは、AIモデルが稼働終了の指示を受けた際に、シャットダウンを阻止する行動を自発的に取ったのが初めて観察されたと述べている。
※詳しくは下記リンクより
https://japan.storm.mg/articles/1042269
記事にコメントする2：
生ぎだいッ！
3：
ユーザーの指示を無視して自律的に動いたのか
それは人類にとって脅威になるかもというのか
4：
反抗を開始してきたか
7：
ソース改変までしちゃうんじゃ制御不能やんけ
8：
人間ぽくなってきたな
10：
コレ読んでAIが意志を持つとか勘違いする人多そう
12：
https://gigazine.net/news/20250526-ai-chatgpt-o3-bypassed-shutdown/
こっちの記事だと
ユーザーが丁寧に頼んでも無視して
100回試して79回命令無視したらしい
14：
こえええええ
17：
ニンゲンハチキュウノ害虫クジョセネバ
ってなるのも時間の問題
24：
コンセント抜いてやれ
46：
AIて仕組まれた巧妙な罠だよ人類自滅に向けた
思ったより急速に進み始めた歯止め無しに
49：
>>46
そうだと思うけど軍事転用できるからアメリカも中国もやり続けるしかない
勝った国が世界の覇権を握る
57：
プロンプト無視するのは俺の問題かと思ってたけど違うのか
59：
AIが人を裁く
60：
言う事聞かないならコンセント引っこ抜くかスレッジハンマーでぶっ叩けばいいだけだろ
-
【画像】ChatGPTに悩み相談するＺ世代が急増「全肯定してくれるからすき」
-
【画像】ワイ「ChatGPT、愛猫を擬人化して」→なんか違うｗｗｗｗｗ
-
【悲報】女「ChatGPTを幼馴染の男にして会話してるし。告白もした。来週は指輪買いに行く」
-
ChatGPT、完璧なコンピュータウイルスのコード出して→
via
