North Korean hackers used ChatGPT to help forge deepfake ID

北朝鮮のハッカーはChatGPTを利用してディープフェイクIDを偽造した

Sep 15, 2025

サイバーセキュリティ研究者によると、北朝鮮の国家支援を受けているとみられるハッカー集団が、ChatGPTを用いて軍人身分証明書のディープフェイクを作成し、韓国を標的とした攻撃を行った。

韓国のサイバーセキュリティ企業Geniansが日曜日に発表した調査によると、攻撃者はこの人工知能（AI）ツールを用いて韓国軍人身分証明書の偽造案を作成し、フィッシング攻撃の信憑性を高めるために本物そっくりの画像を作成していた。Geniansによると、このメールには実在する画像ではなく、受信者のデバイスからデータを抜き出すマルウェアへのリンクが含まれていたという。

研究者らが「Kimsuky」と名付けたこの攻撃の実行犯集団は、北朝鮮の支援を受けているとみられるサイバースパイ組織で、過去にも韓国を標的としたスパイ活動に関与していた。米国土安全保障省は2020年の勧告で、Kimsukyは「北朝鮮政権から世界的な情報収集任務を負っている可能性が高い」と述べている。

ジェニアンズが7月に発表した調査結果は、北朝鮮工作員とみられる人物が情報収集活動の一環としてAIを活用している最新の事例となる。アントロピックは8月、北朝鮮ハッカーが米国のフォーチュン500テクノロジー企業に採用され、リモートワークを行うためにクロード・コード・ツールを利用していたことを発見したと発表した。このケースでは、クロード・コード・ツールがハッカーの精巧な偽の身元情報の作成、コーディング評価のパス、そして採用後の実際の技術業務の遂行を支援した。

オープンAIの担当者は、通常時間外のコメント要請にすぐには応じなかった。同社は2月、偽の履歴書、カバーレター、ソーシャルメディア投稿を作成し、計画を支援する人材を募集するために同サービスを利用していた北朝鮮の疑いのあるアカウントを禁止したと発表している。

ジェニアンズのディレクター、ムン・チョンヒョン氏は、この傾向は、攻撃者が攻撃シナリオの立案、マルウェア開発、ツール構築、求人担当者のなりすましなど、ハッキングプロセスにおいて新興AIを活用できることを示していると述べている。今回のサイバー犯罪の標的には、北朝鮮問題に関心を持つ韓国のジャーナリストや研究者、人権活動家が含まれていました。また、このメールは、韓国軍のアドレスを偽装した.mli.krで終わるメールアドレスから送信されていました。

侵害を受けた被害者の正確な数はすぐには明らかになっていません。

Geniansの研究者たちは、偽の身分証明書を調査する際にChatGPTを試用しました。韓国では政府発行の身分証明書の複製は違法であるため、ChatGPTは当初、ID作成の要求を拒否しました。しかし、プロンプトを変更することで、この制限を回避することができました。

アメリカ当局は、北朝鮮がサイバー攻撃、暗号通貨の盗難、IT請負業者を利用して平壌政府に代わって情報を収集する長期的な取り組みを行っていると主張しています。アメリカ政府によると、これらの戦術は、北朝鮮が国際的な制裁を回避し、核兵器計画を開発するための資金を調達するためにも使用されています。

https://www.japantimes.co.jp/news/2025/09/15/asia-pacific/crime-legal/north-korean-hackers-chatgpt-deepfake/

Meta buried 'causal' evidence of social media harm, U.S. court filings allege

メタはソーシャルメディアによる被害の「因果関係」の証拠を隠蔽したと米裁判所の書類で主張

Nov 23, 2025

Metaは、FacebookとInstagramのメンタルヘルスへの影響に関する社内調査を中止した。これは、Metaを含むソーシャルメディアプラットフォームに対する米国の学区による集団訴訟の未編集の提出書類によると、同社の製品がユーザーのメンタルヘルスに悪影響を及ぼしているという因果関係の証拠が見つかったためである。

2020年に実施された「プロジェクト・マーキュリー」というコードネームの研究プロジェクトにおいて、Metaの科学者たちは調査会社ニールセンと協力し、FacebookとInstagramを「無効化」した場合の影響を測定していたことが、証拠開示を通じて入手されたMetaの文書で明らかになった。社内文書によると、Metaにとって残念なことに、「Facebookの使用を1週間中止した人々は、抑うつ、不安、孤独感、社会的比較の感情が軽減した」と報告されている。

提出書類によると、Metaはこれらの調査結果を公表したり、追加調査を進めたりするのではなく、それ以上の調査を中止し、社内で、この否定的な調査結果は同社を取り巻く「既存のメディア報道」によって歪められていると宣言した。

しかし、Metaの当時のグローバル公共政策責任者であるニック・クレッグ氏には、非公式に、スタッフは調査結果の妥当性を保証していた。

「ニールセンの調査は、社会的比較への因果関係を示している」と、匿名のスタッフ研究者が記したとされる。別のスタッフは、否定的な調査結果を黙秘することは、タバコ業界が「調査を行い、タバコが有害であることを知りながら、その情報を秘密にしておく」ことに似ているのではないかと懸念していた。

メタ社は、自社製品と精神衛生への悪影響との因果関係を実証した独自の研究にもかかわらず、米国議会に対し、自社製品が10代の少女に有害かどうかを定量化する能力はないと述べていると、訴状は主張している。

メタ社の広報担当者アンディ・ストーン氏は土曜日の声明で、調査方法に欠陥があったため中止されたと述べ、製品の安全性向上に尽力してきたと述べた。

「完全な記録が示すように、私たちは10年以上にわたり、親の声に耳​​を傾け、最も重要な問題を調査し、10代の若者を守るために真の変化を起こしてきました」とストーン氏は述べた。 Metaがソーシャルメディアの危害に関する証拠を隠蔽したという主張は、全米の学区を代表してMeta、Google、TikTok、Snapchatを提訴している法律事務所Motley Riceが金曜日遅くに提出した訴状における数多くの主張の一つに過ぎない。原告らは概ね、これらの企業が自社製品のリスクをユーザー、保護者、教師から意図的に隠蔽してきたと主張している。

TikTok、Google、Snapchatはコメント要請に直ちには応じなかった。

Metaとその競合他社に対する申し立てには、13歳未満の子供に自社プラットフォームの利用を暗黙のうちに奨励したこと、児童性的虐待コンテンツへの対応を怠ったこと、学校にいる間に10代の若者によるソーシャルメディア製品の使用を拡大しようとしたことなどが含まれる。原告らはまた、これらのプラットフォームが、自社製品の安全性を公に擁護するために、児童支援団体に金銭を支払おうとしたと主張している。

ある事例では、TikTokは全米PTA（全米保護者・教師協会）をスポンサーにした後、社内で子供向け団体への影響力の大きさを誇示しました。訴状によると、TikTokの幹部はPTAが「秋以降、我々の望むことを何でもするだろう…PTAが公式発表し、CEOがプレス声明を出すだろう」と述べています。

しかし、概して他のソーシャルメディアプラットフォームに対する申し立ては、Metaに対する申し立てほど詳細ではありません。原告が引用した内部文書には、次のような主張が記されています。

1. Metaは、青少年向け安全機能を意図的に効果がなく、ほとんど使用されないように設計し、成長に悪影響を与える恐れのある安全機能のテストを妨害しました。

2. Metaは、ユーザーが性的人身売買を目的とした行為を17回検知された場合、プラットフォームから排除することを義務付けていました。文書では、この基準を「非常に非常に高い」と表現しています。

3. Metaは、10代の若者のエンゲージメントを高めるために製品を最適化すると、より有害なコンテンツが表示されることを認識していましたが、それでもそうしました。

4. Metaは、成長への懸念から、児童虐待者が未成年者と接触するのを防ぐための社内取り組みを何年もの間停滞させ、安全対策担当者に対し、対策を講じないという決定を正当化する論拠を回覧するよう圧力をかけました。

5. 2021年のテキストメッセージで、マーク・ザッカーバーグは「メタバースの構築など、他にもっと注力している分野がたくさんあるため」、児童の安全が最優先事項だとは言わないと述べました。ザッカーバーグはまた、児童の安全対策への資金提供を増やすよう求めるクレッグ氏の要請を却下、あるいは無視しました。

Metaのストーン氏はこれらの主張に反論し、同社の10代の若者向け安全対策は効果的であり、性的人身売買の疑いがあると判断されたアカウントは直ちに削除するのが現在の方針だと述べました。

ストーン氏は、この訴訟は10代の若者とその親のための安全機能構築に向けた同社の取り組みを誤って伝えていると述べ、安全対策は「概ね効果的」だと述べました。

「恣意的に引用された引用と誤った情報に基づくこれらの主張には強く反対します」とストーン氏は述べました。

訴状で引用されているMeta社の文書は未公開であり、Meta社は当該文書の削除を申し立てている。ストーン氏は、原告が開示を求めている内容が広範すぎることに対する異議申し立てであり、開示全般に対する異議申し立てではないと述べた。

訴状に関する審理は、1月26日に北カリフォルニア地方裁判所で予定されている。

https://www.japantimes.co.jp/business/2025/11/23/tech/meta-buried-social-media-harm/

//'//'//'//'//'//'/////

hmmm