業界・業務から探す
導入目的・課題から探す
データ・AIについて学ぶ
News
Hakkyについて
ウェビナーコラム
◆トップ【ニュース】
Yahoo!知恵袋、AI回答機能にAnthropicのClaude 3を追加アドビ、Acrobat AI Assistantの日本展開について一部情報を明らかにAI inside、DX SuiteとHeylixでデータ入力業務を支援CAIO(最高AI責任者)の役割とスキル解説Gartner予測:2024年にAI半導体の売り上げが33%増加、約710億米ドルに達する見込み政府、AI分野の競争力強化と安全・安心の確保を柱に統合イノベーション戦略2024の原案を発表山梨大学の研究グループが開発したぶどうの実数推定アプリ「粒羅」のテスト版が公開iOS 18のAI機能の噂とは?Siriの新機能や自動生成機能の詳細を紹介KDDI、シャープ、データセクションとNVIDIAのAIデータセンター構築に向け協議開始米メタ・プラットフォームズ、フェイスブックとインスタグラムでAI生成のコンテンツを発見オープンAI、生成AIによる世論操作の最新報告書2024年AIモデル競争の行方と企業利用の展望Google、ChromeOS M125を発表 AI機能やハードウェア接続の改善を実施NTTコミュニケーションズ、ドラッグストアへのデジタルヒューマン接客システム導入を計画エヌビディアとAMD、AI主導権賭けて対決OpenAI、グーグル、マイクロソフトが大規模なAIアップデートを発表The Simulation、AIを使ったテレビ番組作成プラットフォーム「Showrunner」を発表トムソン・ロイターのSupantha氏がAIと5Gに特化した報道をリードAIエンジニア、SF作家の安野貴博氏、東京都知事選へ立候補表明生成AIの表現力・構成力を引き出す言葉の選び方AI, FASHION 最新の生成AIは、ファッション業界をどう変えるのか?中国のSNS「快手」がテキストから動画生成モデル「可灵」を開発Microsoftの新機能「Recall」にセキュリティ上の問題が浮上
AI

執筆者:Hakky AI

オープンAI、生成AIによる世論操作の最新報告書

ニュースの要点

info
3行まとめ
  • オープンAIがAIによる世論操作の報告書を発表
  • ロシア、中国、イラン、イスラエルの5つのグループが生成AIを利用
  • 生成AIはSNSのアカウントや文章作成、翻訳に使用された

ニュース詳細

オープンAIは30日、AIによる世論操作をめぐる最新の傾向についての報告書を発表しました。それによりますと、ロシアや中国、イラン、それにイスラエルを拠点とする合わせて5つのグループが、秘密裏に自社の生成AIを世論操作に利用していたということです。

生成AIは、SNSのアカウントや投稿する文章の作成、外国語への翻訳などに利用され、投稿の内容は、ロシアによるウクライナへの軍事侵攻や、ガザ地区でのイスラエルとイスラム組織ハマスの戦闘のほか、アメリカの政治情勢など、多岐にわたっていたとしています。このうち、中国を拠点とするグループは、東京電力福島第一原子力発電所の処理水の放出を非難する文章を英語や日本語などでインターネット上に投稿していたということです。

報告書は、アメリカ大統領選挙などを前に生成AIによる世論操作の危険性を示しています。

生成AI、ChatGPTを手がけるアメリカの企業オープンAIは、ロシアや中国などを拠点とする5つのグループが自社の生成AIを世論の操作に利用していたと発表しました。日本に関する情報の拡散にも利用されたとされ、アメリカ大統領選挙などを前に生成AIによる世論操作の危険性を示しています。

報告書では、ロシア、中国、イラン、それにイスラエルに関係する5つのグループが、オープンAIの生成AIを使い、世論操作を行っていたとしています。また生成AIは文章や画像だけでなく、プログラミングにも使用されていたと分析しています。このうちロシアの「ドッペルゲンガー」と名付けられた活動ではウクライナ、アメリカ、EU=ヨーロッパ連合などを否定的に、ロシアを肯定的に描いたコンテンツを公開し、ウクライナは弱く、腐敗しており、敗北寸前だとした内容を投稿しているとしています。また、中国の「スパムフラージュ」と名付けられた活動では中国政府を称賛したり、反体制派やアメリカ政府、IT大手マイクロソフトを批判したりするコンテンツを、主に中国語で作成していたとしています。中国語だけでなく、日本語や英語、それに韓国語で書かれたものもあったということです。日本語で書かれたものについて報告書では、2023年後半に日本が東京電力福島第一原子力発電所からの処理水放出で海洋環境を破壊していると非難する記事を作成したと紹介していて、こうした記事は日本の大手ブログサービスにも投稿されていたということです。

オープンAIの報告書で指摘された不自然なブログなどの投稿は、東京電力福島第一原子力発電所の処理水の海洋放出が始まった時期の去年9月から10月にかけて複数出されていました。特に中国側からの反発を反映したものと同様の内容になっており、日本語だけでなく英語や韓国語、ロシア語でも発信されていました。さらに、生成AIによる文章の特徴がある同じ文言で、「日本の漁業関係者」が処理水の放出に反対しているとする投稿が複数のブログサイトなどで見られました。

インターネットで広がるフェイク情報に詳しい桜美林大学の平和博教授は「生成AIのメリットである自動化と効率化が中国やロシアなどの影響工作で用いられているようになってきている。今のところ、大きな影響力を持つところまではきていないが、今後、生成AIがさらに高度化していく中で人間とのやり取りと区別がつかないようになる可能性もある。そうした状況も見据え、AIの開発企業がしっかりとした安全対策を行う必要がある」と話しています。東京電力福島第一原子力発電所の処理水の海洋放出をめぐって、平教授は中国側からの反発を反映したような同様の文言による投稿が日本の複数のブログで見られたことを確認したということで、「オープンAIが指摘しているような生成AIを使った自動化による投稿とみられる。生成AIの翻訳機能を試したような形跡がうかがわれる状況も確認できた」と述べました。そのうえで平教授は「一般のユーザーがコンテンツそのものの真偽を判断することはより難しくなってくるので、発信元が確かなものか、まず気をつけて判断をしていくことが大事になってくる。影響工作は国境やSNSなどのプラットフォームを超える形で展開されるので、関係する国や機関が連携しながら対応していくことが重要だ」と指摘しました。

出典

2025年06月12日に最終更新
読み込み中...