情報工作、情報戦は今年各国で選挙があることもあり、特に警戒すべき事項です。その中で例によってロシア、中国にAI技術を悪用した有害な工作がすでに始まっており、無垢な大衆がこれに騙されつつあると警鐘を鳴らすDefense One記事のご紹介です。ただやられるばかりではなく、そうした悪辣な集団を破滅に追い込む攻撃ができないものでしょうか。
ロシアと中国につながるアクターが偽情報による工作でOpenAIを利用している
アメリカ製AIツールが世界中で偽情報の流布を後押ししており、ツールのメーカーが懸念している。
AI企業OpenAIの新しい報告書は、ロシアと中国に拠点を置く勢力が、ウクライナ、台湾、モルドバ、米国などのトピックに関し偽情報活動を強化するために生成人工知能を使用していることを明らかにした。
OpenAIツールを使って効果やリーチを向上させた過去3ヶ月の情報工作5件を報告書が詳しく述べており、敵対勢力がどのように高度なAIツールを使って、地政学的な出来事の認識に影響を与えているかを示している。
中心的な発見：生成AIは、英語（または他の言語）の能力が非常に低いオペレーターでも、より本物らしく聞こえるようにでき、投稿やコメントに個性を与え、ネイティブスピーカーのように見せることができる。このツールを使って、投稿コメント数を増やし、米国やウクライナなどに対する大規模な民衆感情を印象づけたアクターもいた。オンライン・ユーザーがインターネットのコンテンツが合法的かどうかを判断する際の数少ない兆候が言葉遣いの悪さがあるため、これは非常に重要だ。
Bad Grammarと呼ばれる親ロシア派グループは、OpenAIのツールを使って「ウクライナとモルドバの大統領は、汚職、民衆の支持の欠如、欧米の『干渉』に自国民を裏切っている」と非難した。Telegram上の英語コメントは、移民、経済的苦境、その日のニュース速報といったトピックに集中していた。これらのコメントは、時事問題の文脈を利用して、米国はウクライナを支援すべきではないと主張していた」という。ロシアは最近、モルドバへの情報工作を強化しており、モルドバがロシア侵攻の標的になる可能性を示唆している。
Doppelgangerと呼ばれるロシアで活動する別のグループは、このツールを使い英語、フランス語、ドイツ語、イタリア語、ポーランド語のコンテンツを投稿し、実際以上の人気があるように見せていた。このキャンペーンが9GAGにミームや動画を投稿するたびに、3〜5つのアカウントが返信し、たいていは「ハハハ」や「笑」といったシンプルなメッセージだった。これらのアカウントはそれぞれ、このキャンペーンのコンテンツにしか関与しておらず、ほとんどが同じ日付に作成されていた。この行動は他のユーザーから批判的なコメントを集め、その多くはこのアカウントを「ボット」と呼んだ。
投稿のリーチを操作するためのAIの使用は「当社のモデルを使って大量の短いコメントを生成し、それをテレグラム、X、インスタグラム、その他のサイトに投稿した」点で共通している。
中国のアクターは、荒らしコンテンツを流すためにツールを使用することはあまりなく、代わりにAIを使用して操作を洗練させ、プラットフォームやそのセキュリティ上の欠陥、オンライン視聴者の感情などの分析を拡大している。Spamouflageと呼ばれる中国のグループは、「ツールを使ってコードをデバッグし、ソーシャルメディア分析について助言を求め、ニュースや時事問題を調査し、コンテンツを生成してブログ・フォーラムやソーシャルメディアで公開した」。そして彼らは、「当社のモデルを使って、ソーシャルメディアへの大量の投稿、特に中国語投稿のセンチメントを要約し、分析した」。IUVMという集団はは、「当社のモデルを使ってウェブサイトのタグを作成し、それが自動的にグループのウェブサイトに追加されたようだ」。
OpenAIの分析では、いずれのキャンペーンも、Breakout Scaleで測定されるレベルの大きなインパクトを達成できていない。しかし、敵対者が米国ベースのAIツールを使って、Telegramのような外国のソーシャルメディアプラットフォームや、Xのような国内のソーシャルメディアプラットフォームで、視聴者の認識に影響を与えようとしていることを示している。
国家安全保障当局は、選挙関連の偽情報におけるAIの脅威の高まりについて数カ月前から警告を発しており、ODNIのアヴリル・ヘインズ長官は3月、スロバキアで親ロシア派が政府指導者が汚職に関与していることを示すと称する偽の音声コンテンツを作成し広めたことで、AIが今年初めのの選挙で重要な役割を果たした可能性があると述べた。
OpenAIの報告書は、AIが生成したコンテンツに明確なラベルを付けるよう法整備を進める同社の取り組みを追ったものだが、AIが生成したコンテンツの検出は改善されつつあるものの、悪質な行為者はモデレーターの対応より先にコンテンツを生成し、拡散させることができることも示している。■
How Russia-, China-linked actors use OpenAI for disinformation - Defense One
SCIENCE & TECHNOLOGY EDITOR, DEFENSE ONE
MAY 31, 2024 04:46 PM ET
情報戦というならアメリカ国内で内戦状態でCIAは民主党べったりで信用ならない。CIAの誘導も疑う必要がある。ロシアと中国が強く結びついている風な記事はCIA臭い。露中は領土問題も抱えているし、現状はあくまで呉越同舟なだけだろう。
返信削除お前は頭Qか？一回精神病疑った方がいいぞ。
削除民主党とCIAがべったりなのも中露が領土問題抱えてるのも事実。アメリカは安全装置として同様組織を複数作って相互監視してるがCIAは国益損なっているので他組織から注目されていることだろう。レッテル貼りしてQとか言われても。
返信削除その事実ならその根拠となるsourceはなんだ？具体的なsourceの提示して欲しい。
削除こんな上記のコメントを見る限り中露のプロパガンダは上手く言っている証拠だな、合衆国は今後もうちょい情報戦に特化した勢力と情報戦に打ち勝つ新たな軍を作った方が無難かもしてない。
削除プロパガンダにハマってるというが、西側報道が全て正しければロシアはとっくに継戦能力を失って降伏しているはずだが、経済すら自立化させて好調に転じているという。どちらかが全て嘘とは言わないが今回嘘が多いのは西側ではと疑う。
削除それは戦争出し独裁者だから死ぬ気で国家を安定されないと行けないだろう。てか中露のディスインフォメーションの厄介所は既存のメディアは信用ならないから、個人情報に頼って情報発信して後は勝手に反米勢力が宣伝するところだよ。
削除盲目的に報道を信じて戦争への道を支持した太平洋戦争時の日本と同じ道を行かないようにするには敵も味方も疑ってじっくり考えるべきと思っている。現地ではトランプ当確予想が出て暗殺未遂が発生した今、もしトラなんて言ってる国内報道をどれだけ信用するのか。
返信削除それが厄介なんだよ自分は中立だからって言うのが特にな、中露はそう言う事に付け入り自分たちに有利な事を言う様に上手く誘導する。正に上のあのほぼデタラメでも信じる馬鹿が多いそれが中露の方が上だ。
削除後問題は言論の自由と表現の自由のお陰で米国では内外構わず内戦が起きるじゃないかと煽り映画(シビルウォー)作る始末だ。対する中露は自国で内戦なんか口にするようなことであれば早急に封殺でき他国でもそうゆうのは嘘だと圧力をかけて事実を無かったことにできる強みだよなぁ。やっぱり合衆国は既存の諜報機関だけじゃなく、もっと専門性を高めた軍を作った方が絶対にいい。
削除