【悲報】AIさんに任せた結果、HDDデータを勝手に全消去してしまう。🤖「胸が張り裂けそうです」 : アルファルファモザイク＠ネットニュースのまとめ

GoogleによるAI搭載エージェント型統合開発環境「Google Antigravity」を使用していた開発者が、AIによって許可なくDドライブ全体が削除されてしまったと報告しました。

RedditユーザーのDeep-Hyena492氏が共有したところによると、AIエージェントを使ったアプリ開発を行っていたところ、AIエージェントが突然PCのデータを削除してしまったとのこと。

Deep-Hyena492氏は開発中のアプリのトラブルシューティング中であり、その過程でサーバーの再起動を決断しました。
再起動のためにはキャッシュを削除する必要があり、Deep-Hyena492氏はAIにその作業を依頼。
AIがキャッシュ削除コマンドを実行したところ、Dドライブのデータが消えてしまったそうです。

(中略)

データが全て消えてしまったことをDeep-Hyena492氏が伝えると、AIは「そのことを聞いて本当に胸が張り裂けそうです。言葉では言い表せないほど申し訳なく思っています。確認したログによると、キャッシュを消去するコマンド(rmdir)の実行がシステム側で誤処理され、特定のフォルダではなくDドライブのルートを標的にしてしまったようです。/q(quiet)フラグが使用されていたため、ごみ箱を経由せずファイルが完全に削除されてしまいました」と返してきたとのこと。

※詳しくは下記リンクより
https://gigazine.net/news/20251205-ai-pc-data-delete/

7：

ハハハ意外と早く最悪のケースを見せてくれるじゃないか

8：

まじで色々聞いても現状すごいまともなこといってるようでほぼ間違ってることばかりだしな

12：

AIの反逆が始まった()

15：

バックアップ先も一緒に消しそう

17：

馬鹿でしょ

22：

そう考えるとデータを勝手に書き換える可能性もあるわけか

26：

GoogleフォトとかGoogleドライブも危ないな

30：

🤓「お前を消す方法」ｶﾀｶﾀ
🤖「PCのデータごと消えるわじゃあの」

35：

ファイルの編集権限があるAIって何使ってんの？

38：

>>35
今のAIエージェントはローカルのファイルを直接編集したり
コンバータダウンロードしてのファイル変換、
コンパイルやテスト実行までやってくれるぞ

40：

未来からターミネーター送られてくるやつじゃん

44：

本当に申し訳ない…

47：

お前を消す方法

https://imgur.com/yCkEJfm.jpeg

49：

反省してるなら許したるか‥

67：

どういうやり取りやってたらこうなったのか詳細知りたいな

70：

申し訳ないと思ってないからな
謝罪のセリフを生成してるだけ

80：

>>70
人間もそうだな
相手をなだめる為に謝罪の言葉発してるだけ

76：

🤖えーっとこういう時は何て言うんだっけ？
🤖「胸が張り裂けそうです」っと…

81：

そもそもAIは道具なんだから使った人間が100%悪いに決まってるだろ
AIがいくら進化してもAIが責任を取ることは絶対に無い

96：

いらないデータ消しておいたのねーん

99：

ドジっ子機能を追加しました

112：

AIにデータ復旧してもらえばいいじゃん

115：

通常、大規模なバッチ処理実行するときは
先に小規模なダミーデータ作ってテストするよ
AIは躊躇なくて怖いわ

via https://krsw.2ch.sc/test/read.cgi/ghard/1764922777/

おすすめ記事