MiracleJobLogo
エンジニアのエンジニアによるエンジニアのためのサイト
News 07/25 おすすめ情報に 『 【案件】Azure AD関連の認証設計/azureの基本設計 』 を追加しました。
会員登録するとキャリア診断やサイトに参加することができます。
あなたにおすすめな技術情報、資格、仕事などをお知らせします。

無料会員登録


パスワードを忘れた場合
LINEで送る
MiracleJobBanaLeft1
MiracleJobBanaLeft2


AIがAIを騙す時代 - Destructive AI
profile-img
投稿者: signalさん
投稿日:2025/10/08 15:24
更新日:
like-img
分類
技術
テクノロジー
全般
キャリア
運用・保守 / 設計
投稿内容

「Destructive AI(破壊的AI)」という言葉を聞いたことがありますか?
ざっくり言うと、AIがばらまいた間違った情報を、別のAIが信じて広めてしまう悪循環を指す言葉です。


たとえば、AI検索で「○○さんは10年前に亡くなった」と出てくるのに、実際は生きてる。
あるいはAIがそれっぽい政治的意見を作り出して、それを他のAIが「信頼できる情報源」として引用してしまう……。
こうして根拠のない話がもっともらしい真実に変貌してしまうのです。


YouTubeなどで教育動画を作っている「Kurzgesagt」のチームがAI情報を検証したところ、
約8割はまともでも、2割は出典不明・信頼性なし
しかもそれをニュースサイトが記事化 → AIが学習 → さらに拡散、という無限ループが起きているとか。

結果として、インターネット全体の信頼度そのものが壊れかねないというわけです。


私たちができること

  • AIの出した答えは「正解」じゃなく「仮説」くらいに思おう

  • 情報を共有するときは、できるだけ出典・根拠を明示

  • 便利さの裏にある“確認の手間”を惜しまない

これからの時代は、AIリテラシーよりも「真偽を見抜く眼」が武器になるかもしれませんね。

コメント


MiracleJobBanaRight1
MiracleJobBanaRight2
MiracleJobBanaRight3