業界・業務から探す
導入目的・課題から探す
データ・AIについて学ぶ
News
Hakkyについて
ウェビナーコラム
◆トップ【ニュース】
AI/機械学習の進化によるセキュリティの変化とChatGPTのモニタリング2024年の生成AI予測:海外トップVCの見解病状をAI分析、救急隊支援アプリに全国切符 八幡平の企業開発<AIと創造力 表現者編>新たな表現が照らす人間らしさ生成AIが主役の2023年、法的・経済的な課題が残るAIによる「ドゥームスクロール」が悪化する可能性AIの進化から医療のブレイクスルーまで 2023年の科学ニュース10選英語学習におけるAIツールの活用方法米政治家のAI活用、2024年選挙に懸念の声AI活用で仕事効率化!生成AIの活用方法とは?ビル・ゲイツ氏、AIによる地球規模の医療改善に期待AIの成長による懸念と注目脳とAIをつなぐことで実現する7つのことコアテック、CGキャラクターを活用した自然な対話のためのインタロボット開発ディープフェイクの脅威と対策 - 東工大准教授に聞く生成AIリスクの研究拠点 新設方針亡き妻の声、生成AIで曲を作り出す男性メタ、AIに心理学を応用した「本当に求められている応答を生成する」技術を開発AI技術による動画編集ツールの台頭と需要増加生成AIの急速普及、2024年の展望は?宿題の意義を問う「学校の宿題」の意義AGIの実現可能性と議論の最新動向AI企業の高品質データ争奪戦2024年は生成AIで「データ」が変わる年に:11の予測スマホでAI検知、道路の白線早期補修へAI「人類存続に脅威」 国連諮問機関が規範訴えアサヒ飲料の新商品、AI予測で収益拡大大型AIモデルが小型AIモデルを構築...「自己進化するAIに向けた第一歩だ」明治安田、営業に生成AI 25年度、最適な保険提案NEJMグループ、医療分野に特化したAI/機械学習専門誌「NEJM AI」を創刊小説家とAIが競作した物語ラウンドアップ:生成AIの台頭と影響STEM偏向は「自滅の種」、ノーベル賞経済学者がAI台頭で警告ローコードで使える「Copilot Studio」とは? AIアシスタントを独自作成地域の足維持のキーワードはAI 大館で定額制乗り合いサービス、実証進む(対談)AI・言語・思考 今井むつみさん×瀬名秀明さん生成AI、混沌の時代の先にAI思考のノウハウを教える『AI思考は武器になる』発売!大型AIモデルが自動的に小型AIツールを構築、自己進化するAIへの第一歩仕事始め式で市長の画像が生成AIで動き出す!出席者を驚かせる米マイクロソフト、パソコンにAI起動キーを追加PathlightのAIエージェントが顧客との会話を100%分析、その真価とは?中小企業の生成AI導入、プロンプトのテンプレート化で後押し——豪Relevance AI、14.5億円を調達生成AIの活用が企業に広がるAIがビジネス成果に結実する「AI Everywhereな世界」au三太郎シリーズ、生成AIでリメイクしたお正月CMを放映DMM英会話のAI英会話サービス「DMM英会話 AI」の成功の秘訣と今後の展望
AI

執筆者:Hakky AI

ディープフェイクの脅威と対策 - 東工大准教授に聞く

ニュースの要点

info
3行まとめ
  • 岸田首相の偽動画をはじめ、ディープフェイク動画が問題になっている。
  • 目にするもの全てがAI由来かもしれない時代に、複数の情報源を確かめるなど慎重な対応が求められる。
  • プラットフォーム側が生成AIを使ったことを明示する取り組みが必要であり、政府の促進も必要。

ニュース詳細

ディープフェイクとは、AIが作り出す偽情報のまん延が問題となっている。岸田首相の偽動画をはじめ、国内外でディープフェイク動画が問題になっている。東京工業大学の笹原和俊准教授に、ディープフェイクにどう向き合えばいいのかなどを聞いた。

目にするもの全てがAI由来かもしれない時代に、複数の情報源を確かめるなど慎重な対応が求められる。見ている情報は正確ではなく、人間が書いたものでないかもしれないと頭の片隅に常に意識しなければならない。だまされないようにするためには、複数の情報源を確かめるなど慎重な対応が求められる。また、生成AIなど便利なツールを使うに当たり、生成されたものが誰にどんな影響を与えるかまで想像力を働かせることが必要である。交流サイト(SNS)で拡散されると、人を傷つけるかもしれないが、それでも本当に投稿するのか、というところまで思いを至らせるには、デジタル時代特有のより強いモラル意識が大切だ。

ディープフェイクがまん延した背景には、動画を作ることが格段に容易となり、「AIツールの民主化」が進行したことがある。軽い気持ちで作ったものがSNSで広く拡散して事件などにつながることがあり、風刺やパロディーでも世間を騒がせてしまう。既存のツールで一定のレベルの偽動画ができることが知れ渡ったことも大きい。また、偽動画と相性が良いのはポルノとプロパガンダであり、プロパガンダの偽動画はその国の指導者に悪い印象を植え付けるようなものが多い。受け取る側もウソと分かっていても、ネガティブなニュースは記憶に残る。そのため、プロパガンダを流す側は成功だと言える。

プラットフォーム側が生成AIを使ったことを明示するなどの取り組みが必要であり、政府の促進も必要である。ユーチューブやインスタグラムなどを運営するプラットフォーム側が、生成AIを使ったことを明示するなどの取り組みは出てきているが、対策を任せておくと後手後手になる。プラットフォームが自ら対策に動き出すよう、政府が促す必要がある。また、プラットフォームの「場所を貸すだけで、コンテンツの責任は負わない」とのスタンスは、以前から変わらない。ポルノなどの不適切なものが拡散され、野放しにならないように監視する体制が重要だ。最終的には人力でやる必要があるが、技術でできる部分はAIを活用するべきだ。

出典

2025年06月14日に最終更新
読み込み中...