クリミア東部のフェオドシア港でロシアのロプチャ級揚陸艦が攻撃されたと報道されたMaxarの「AFTER」衛星画像。 衛星画像 (C) 2023 MAXAR TECHNOLOGIES
ホットな市場での競争激化と、境界線を決めるのは国防総省だけだという明白な事実
グーグルは、AIの軍事利用の禁止社内取り決めを破棄した。この措置は、賞賛と批判を集めると同時に、ホットな分野への新規参入を示し、米軍が戦闘でAIをどのように使用するかについて、一企業ではなく国防総省が主要な規制機関として行動しなければならないことを強調している。
火曜日、グーグルはAI倫理原則から、危害を与える可能性のある方法でのAI使用を禁止する2018年の禁止事項を削除する決定をした。
「複雑化を深める地政学的状況の中で、AIのリーダーシップをめぐって世界的な競争が起きている。 自由、平等、人権の尊重といった核となる価値観に導かれ、民主主義国家がAI開発をリードすべきであると私たちは信じています」と書かれている。
同社の意思決定プロセスに詳しい人物は、本誌取材に対し、「この動きは、行き過ぎた修正に対する、長年の懸案への修正だ」と語った。
その「過剰修正」とは、グーグルが2018年にAIrフォースのメイブン・プロジェクトに取り組む契約を更新しない決定を下したことだ。 当時、同ブロジェクトは国防総省を代表したAIの取り組みであり、何時間にも及ぶドローン映像から有用なインテリジェンスを見つけ出すのに必要な時間を大幅に短縮するツールだった。 国防関係者間でこのプログラムはまったく物議を醸さなかった。 このプログラムについて説明する軍関係者は常に、主な目的は、特に膨大な量のデータを理解するために、膨大な認知的負担の下で時間的制約のあるタスクを遂行する人間のオペレーターを可能にすることだと述べていた。この取り組みが他のAIを搭載した意思決定支援への道を指し示していると多くの人々は賞賛した。
しかし、グーグルはこのプロジェクト、特に従業員との関わりについて、完璧な透明性を保っていたとは言い難く、その結果、大量の辞職と抗議という形で従業員の反乱を招いた。 同社はすぐにこの契約を取り下げたが、その代償として、国防総省の他の重要なIT契約をめぐって競合することになった。
このエピソードは、2019年に国防総省が独自のAI倫理原則を起草するきっかけとなった。 この原則は、米国防総省が戦闘におけるAIの倫理的利用を主導できることを、アメリカのハイテク業界や国際的なパートナーに安心させることを目的としていた。
グーグルの意思決定プロセスに詳しい人物によると、今週の発表は、AIの軍事利用をめぐる状況での急速な変化が背景にあるという。
「この決定の主な原動力は、グーグルが責任あるAIの主導的な発言者であり続けることだった。 テクノロジーのフロンティアとビジネスの状況は2018年以降完全に変化しており、メイヴンのページをきっぱりとめくる時が来たのです」とその人物は語った。
一部のグーグル従業員や人権団体を含め、誰もが喜んでいるわけではない。
しかし、戦略国際問題研究センター（Center for Strategic and International Studies）のワドワニAIセンター（Wadhwani AI Center）所長のグレッグ・アレン（Greg Allen）は、本誌に対し、「これは素晴らしい決断で、グーグルは何年も前に決断すべきだった。 アメリカを守る手助けをすることは倫理的なことです」。
グーグルは、国防総省のAI利用を形成するためにますます協力的になっているAIに焦点を当てた企業の混雑した分野に加わることになる。 しかし、グーグルには独自のクラウドとAIの能力があり、それがそもそもプロジェクト・メイブンに選ばれた理由の一部でもある。 グーグルの決断と、AI防衛分野における他のライバル企業の出現は、シリコンバレーにおける軍との協業を容認する感情の変化を示している。
人工知能の倫理と政治哲学を研究し、『Oxford Handbook of AI Governance』を共同編集しているシラキュース大学のヨハネス・ヒンメルライヒ教授は、電子メールで次のように述べた。 「むしろ、国家安全保障を支援し、正しい方法でそれを行うことは非常に重要です。そして、国家安全保障をサポートすることは、実際、間違いなく倫理的なことなのです」。
グーグルの当初の禁止令は、「おそらく、そもそも過度に熱心だったのだろう」とヒンメルライヒは言う。
しかし、グーグルの決定は、国防総省がAIを戦争にどのように利用するかの最終的な監視役としての重要性を浮き彫りにしている。 新政権下でAI倫理原則が変更されるのか、あるいは中国やロシアが急速に能力を向上させるのかは未知数だ。
あるAI企業家は、中国はすでに先行していると指摘する。健康アプリメーカーJanuary AIのCEOであるNoosheen Hashemiは、木曜日に開催されたGlobsec Transatlantic Forumで次のように語った。 「そしてもちろん、（中国の）AIはすべて軍事に使われている。 彼らはAI軍事ドクトリンを持ち、少なくとも300の異なるプログラムにAIを組み込んでいる。 なぜなら、官僚主義が多く、承認サイクルに時間がかかるからだ。 だから彼らは、より高速な自律型戦争へ準備を整えているのだ」。■
What Google’s return to defense AI means
More competition in a hot market—and the plain fact that only the Pentagon will set boundaries.
SCIENCE & TECHNOLOGY EDITOR
FEBRUARY 6, 2025
コメント
コメントを投稿
コメントをどうぞ。