ネット偽情報 検知から真偽判定まで行う総合的システム開発へ
2024年10月16日 15時33分
インターネット上の偽情報が課題となる中、大手メーカーや大学などが連携して、偽情報の検知から真偽の判定までを総合的に行うシステムを共同で開発することになりました。
システムの開発は、富士通やNECのほか、慶應義塾大学や国立情報学研究所などが参加する予定で、16日、記者会見を開いて公表しました。
システムは、企業や大学などでそれぞれ研究開発していた技術を統合して、偽情報の検知から情報の分析や真偽の判定までを行うとしています。
この中では、関連したニュースや第三者による画像なども含めて分析するほか、偽の画像や映像を作成する「ディープフェイク」の生成の手法なども学習して解析するとしています。
また、過去の偽情報の類似度や拡散の速度から社会への影響も分析するとしていて、来年度末までにシステムを構築するとしています。
記者会見で、富士通の「データ&セキュリティ研究所」の山本大さんは「部分的にみると判定できないものでも、情報を集めて統合的に分析すれば判定できるようになってくると思う」と話していました。
生成AIの利用が広がる中、インターネット上で偽情報が拡散する懸念も高まっていて、企業や大学などで偽情報の対策に向けた開発の動きが相次いでいます。
偽情報や誤情報が拡散 対策のシステム開発の背景は
今回の取り組みの背景には、SNSなどで偽の情報や誤った情報が広く拡散され、社会に悪影響を与えていることがあります。
ことし1月の能登半島地震の際には、実在しない住所などを記載した偽の救助要請の投稿が、旧ツイッター、「X」で多く拡散されました。
ことし7月には、能登半島地震の被災者を装ってSNS上で救助を求めるうその投稿を繰り返し、警察などの捜索活動を妨害したとして、埼玉県の会社員が偽計業務妨害の疑いで逮捕される事態も起きました。
さらに、ことし8月に南海トラフ地震への注意を呼びかける臨時情報が出された際にも、特定の日にちを挙げて「南海トラフは起こる」などとする科学的な根拠のない投稿が3500万回以上見られるなど、災害のたびに偽情報や不安をあおるような情報が広がる状況になっています。
また、選挙をめぐっても偽情報や誤った情報が広く拡散することが多くなっています。
アメリカ大統領選挙では、ハリス副大統領やトランプ前大統領が実際には話していない内容を話したかのように見せる偽の動画も拡散しました。
こうした偽の動画は生成AIを使ってつくられたとみられ、「ディープフェイク」と呼ばれています。
今回のシステムでは、大手メーカーや大学などがそれぞれの得意とする技術を持ち寄って、偽情報かどうかの判定やその根拠となる情報を統合的に分析・評価することがポイントです。
16日の会見で、生成AIによる動画や画像の分析を担当する国立情報学研究所の山岸順一教授は「生成AIで作られた動画を検知する技術では改ざんの可能性を示すもので、すぐに偽情報と判断できるわけではない。判定にはコンテクストが重要で、複合的に考える必要がある」と指摘しています。
https://www3.nhk.or.jp/news/html/20241016/k10014610951000.html