OpenAIは、AIで生成した記事を十数の媒体に掲載したイランの影響工作を摘発したと発表しました。偽の署名記事が地元紙に掲載される事例も含まれていました。
何が起きたのか
The Vergeによると、OpenAIは、AIで生成した記事を十数の媒体に掲載したイランの影響工作を摘発しました。ChatGPTで書かれた記事の一つは、偽の署名でフロリダの地元紙に掲載されたと報じられています。OpenAIはあわせて、偽の「シンクタンク」に関連するロシアのアカウントも禁止しました。
なぜ生成AIが悪用されるのか
大量の文章を低コストで作れるため、影響工作のコスト構造が変わりました。複数の署名を使い分ければ、外部からは複数の人物が書いているように見えます。
| 従来 | 生成AI活用時 |
|---|---|
| 人手で記事を作成 | 大量生成が容易 |
| 署名も人手 | 複数の偽署名を量産 |
利用者・媒体にとっての意味
情報の出所を確かめる重要性が増しています。ChatGPTやPerplexityのようなツールは情報収集を助けますが、出典の確認は利用者の責任です。Claudeを含む各サービスも、悪用の検知と対処を進めています。
検知はいたちごっこ
悪用の手法は高度化します。提供者側の対策と検知は継続的に更新が必要です。
まとめ
生成AIの普及は、情報空間の信頼性という新しい課題を突きつけています。出所を確かめる習慣が、これまで以上に重要になっています。
受け手に求められる姿勢
違和感を覚えたら出所をたどる、一次情報に当たる、複数の情報源で確かめる——こうした基本動作が、AI時代の情報リテラシーです。便利な要約に頼りきらず、根拠を確認する習慣が、偽情報への耐性を高めます。媒体側にも、AI生成が疑われる寄稿の検証を強めることが求められています。
メールマガジン
最新のAI情報をメールで受け取る
新着のAIツール比較・ランキング・ニュースを、まとめてお届けします。
ご登録後、確認メールをお送りします。配信停止はいつでも可能です。