【AI/アメリカ外交】米国のAIに関する国家安全保障委の報告書

2021年12月30日2024年7月6日

アメリカの人工知能（AI）に関する国家安全保障委員会（NSCAI）が下記の報告書をを2021年3月1日に米国議会と大統領に提出しています。

National Security Commission on Artificial Intelligence Final Report（人工知能（AI）に関する国家安全保障委員会最終報告書）こちらから

私はイアン・ブレマー氏の論考「地政学パワーとしてのビッグテック―米中対立と世界秩序を左右するプレイヤー」（フォーリン・アフェアーズ・リポート 2021 No.12）の中の「この有識者諮問委員会は2021年初めに詳細な報告書を発表し、アメリカのAI戦略の今後に強い影響を与えている」（同 p. 15）との件を読むまで、この報告書の存在を知りませんでした。

そこで、遅ればせながらもこの最終報告書のエグゼクティブサマリーを読み、そのサマリーの前文に訳を付けてみることにしました。

AIの動向に明るくない私のような者でも、このサマリーを読むことで、AIをめぐる競争が「新冷戦」とも言われる「大国間競争」の時代における主戦場の1つに位置付けられていることが理解できます。

また、サマリーの中に「人とAIのチーム化（human-AI teaming）」という概念が出てきます（第Ⅰ部 AI時代のアメリカ防衛-AIシステムへの信頼/英語原文 p. 11）。

外交や国際関係における主要アクターの1つが主権国家であるとしても、その行動は「人とAIのチーム化」によって支えられる時代が到来しているということでしょうか。

※訳出にあたっては、読みやすさを考慮して適宜改行を施し、英語の原文にない小見出しを付けています。

人工知能（AI）に関する国家安全保障委員会最終報告書エグゼクティブサマリー

AIのインパクト

安全保障に人工知能（AI）が与えるインパクトについて十分に説明した歴史的文献はない。AIはこうもりの翼をもつステルス爆撃機のようなある1つの技術の飛躍的な進歩ではない。

AIの優位性をめぐる競争は月へと向かう宇宙競争とも異なる。AIは電気のような汎用技術に相当するものでさえない。

だが、トーマス・エジソンが電気についいて述べたことはAIの未来にも重なる。「電気は世界を再構成する鍵となる領域の1つである」。

電気の領域についてのエジソンの驚くべき評価は謙虚さから発せられたものだった。彼が発見したものは「そこに現れている可能性と比較すると非常に小さな」ものであった。

2つの確信

人工知能に関する国家安全保障委員会（NSCAI）は、AIとその将来のアプリケーションについて未知のものがどれだけ残されているかについて控えめに理解している。とはいえ、NSCAIは今日において、AIについて2つの確信を持っている。

1つは、人間の知性を必要とし、場合によっては人間の能力が及ばないであろう問題の解決やタスクの処理において、コンピュータの能力が急速に向上し、世界的な変化となっていることである。

AI技術は知識の拡大、繁栄の増進、人類の経験の質の向上において、何世代にもわたる最も強力な手段となる。

AIはまた、典型的な「デュアルユース」技術である。人間よりも迅速かつ正確に認識し、評価し、行動する機械の能力は、市民生活と軍事面のいかなる分野においても、相当な優位性を示している。

AI技術はそれを利用する企業や国にとって巨大な力の源泉となる。

2つめは、AIが、米国が既にはまり込んでいるぜい弱さの扉を広げていることだ。

第2次世界大戦以降初めて、アメリカの技術的優位性が―それは米国の経済的・軍事的パワーの背骨にあたるものなのだが―脅威にさらされている。

現在の潮流が変わらなければ、中国は次の10年におけるAIの世界的リーダーとして米国を凌駕する力、才能、野望を持っている。

同時に、AIによって、ロシアや中国、その他の国がわれわれの社会に侵入し、われわれのデータを盗み、われわれの民主主義に介入するために用いているサイバー攻撃や偽情報の宣伝活動の脅威が深刻化する。

今日までのAIによって可能となった攻撃は、抑制的なものであり、氷山の一角に過ぎない。

一方、新型コロナウイルスの感染拡大と気候変動によって示された世界的な脅威は、安全保障の概念の拡大とAIによって可能とされる革新的な解決策を見出すことの必要性を強調している。

システムの確立とイノベーションへの投資

この2つの確信を踏まえ、NSCAIは、米国が米国の安全を確保し、米国の繁栄を促進し、民主主義の将来を守るために、AIシステムの確立とAIイノベーションへの大幅な資源の投資に向けて今すぐ行動しなければならないと結論づける。

現在、米国政府は、関係する競争相手との技術競争に勝つための組織化や投資を行っていないばかりか、AIによってもたらされる脅威に備える準備や、国家の安全保障を目的とするAIアプリケーションを迅速に採用する用意もしていない。

これは、連邦の研究予算の増額に向けた留め具や、シリコンバレーの技術者のために国防総省にいつくかの新しいポジションを加えるための機会ではない。

これは、多額の費用を必要とし、考え方の重大な変化を求めるものなのだ。

アメリカはAI時代に勝利するために、ホワイトハウスのリーダーシップ、閣僚の行動、議会の超党派による支援を必要としている。

2つのアプローチ

NSCAIの最終報告は、来るべきAIによって加速する競争と対立の時代における防衛と競争のために、政府組織を再構成し、国の進路を方向付け直し、同盟国とパートナーを結集するための統合的な国家戦略を提示するものである。

これには、2つの柱からなるアプローチがある。

第Ⅰ部「AI時代のアメリカの防衛」では、その取り組みの概要を示し、AI関連の脅威から米国が守らねばならないものを説明し、米国政府がアメリカ国民とアメリカの国益を守るために責任をもってAI技術を用いる方策を提言する。

第Ⅱ部「技術競争での勝利」では、AI競争の重要な要素を取り上げ、米国の競争力の向上を図り、米国にとってきわめて重要な優位性を守るためのAIイノベーションを促進するために政府が取らねばならない行動を提言する。その提言は、総合的に取り組む必要のある行動を組み合わせ、相互に強化し合うよう意図されている。

出典：NSCAI : National Security Commission on Artificial Intelligence Final Report

第Ⅰ部：AI時代のアメリカ防衛（Part I: Defending America in the AI Era.）

新たな対立の時代にあっては、AIによって高められる能力が最も重要な手段となる。

戦略上の競争相手が、軍事や他の悪意をもった利用のためにAIのコンセプトと技術を開発し、「ディープフェイク」から殺傷能力のあるドローンにいたる、安価で市場において手に入るAI応用技術を、ならず者国家、テロリスト、犯罪者が入手できるようになるからだ。

米国は国家安全保障と国防の目的のためにAIを早急かつ確実に採用することにより、脅威への防衛の準備に取り組まなければならない。

AIを用いずに機械の速度に頼って作戦を遂行し、AI能力を備えた敵対者に対する防衛を行うことは惨事を招く。

人間のオペレーターは、AI搭載の機械の支援なしに、AIを用いたサイバー攻撃や偽情報による攻撃、ドローンの一団、ミサイル攻撃に対応したり防御したりすることはできない。

国家安全保障に関わる専門家たちは、自らを守り、使命を実行し、国民を守るために、世界最高の技術にアクセスしなければならない。

人工知能に関する国家安全保障委員会（NSCAI）は、米国政府が以下の行動を取ることを提言する。

AIがもたらす新たな脅威への備え

● アメリカの自由で開かれた社会に対しAIがもたらす新たな脅威を防ぐことが必要である。

生活のあらゆる階層においてデジタルへの依存が広がったことによる個人や市場の脆弱性によって、国の安全保障の潜在的な弱体化がもたらされている。

敵対者は、偽情報による宣伝活動やサイバー攻撃を強化するためにAIシステムを利用する。敵対者は、アメリカ国民のデータを収集しているが、これはアメリカ国民の信条や行動のプロフィールや、個人の操作・支配をもくろむ試みのための生物学的組成に関するプロフィールを作るためである。

外国からの影響と介入の嵐によって、米国は耐性（レジリエンス）を強化する組織的・政治的改革を求められている。政府はデジタル偽情報に立ち向かうためのタスクフォースや常時稼働するオペレーションセンターを立ち上げる必要がある。

政府は自らのデータベースをより安全に確保する必要があり、外国からの投資に対するスクリーニングやサプライチェーンのリスク管理を行い、国家データ保護法制においてデータの安全を優先することが必要である。

政府はAIが用いられたサイバー攻撃に対処するために、AIによるサイバー防衛を利用すべきだ。また、バイオセキュリティを国家安全保障政策の最上位の優先課題に位置付けなければならない。

将来の戦争への備え

● 将来の戦争に備えることが必要である。

他に負けない米軍の軍事技術の優位性は、米軍がミッションにおけるAIの採用を促進しなければ、今後10年以内に失われる可能性がある。

したがって、作戦に関連するAI応用技術を整備するために、トップダウンのリーダーシップとボトムアップのイノベーションを組み合わせることが必要だ。国防総省が取り組むべきことは以下のとおりである。

第1に、2025年までにAI技術の広範囲な統合のための基盤を整備することだ。

これには、共通のデジタルインフラの整備、デジタルに精通した労働力の育成、機動的な取得（acquisition）・予算・管理プロセスの設立が含まれる。

これにはまた、戦略上AIのもとでの戦争にそぐわない装備を軍事システムから廃棄し、代わりに次世代の能力に投資することも含まれる。

第2に、2025年までに軍事的なAI技術の準備を整えることだ。

国防総省のリーダーシップにより、組織改革の加速化、革新的な戦闘の概念の設計、AIとデジタルに関する準備実行目標の設定、統合的な戦闘ネットワークの構造の定義のために、ただちに行動しなければならない。

国防総省はまた、AIの研究開発ポートフォリオの増強に注力しなければならない。AIの軍事的準備にはまた、同盟国やパートナーとのAI技術に関する相互のオペレーション能力の増進も求められる。

AI兵器のリスク管理

● AI搭載の自律型兵器に伴うリスクを管理することが必要である。

AIは兵器システムにおいて、新たな段階のパフォーマンスと自律性を可能にする。しかし、AIはまた、その殺傷兵器の使用をめぐる重大な法的・倫理的・戦略的問題を生じさせる。

これらの武器の使用は人間の司令官やオペレーターによって承認されることを条件に、適切に設計されテストを受けたAI搭載の自律型兵器システムとして、国際人道法にのっとって使用可能になる。

自律型兵器システムのための専用のプロトコルや厳しいAI倫理原則への責任などを含め、国防総省における現行の厳格な武器審査と攻撃目標の設定手続きは、米国が、安全で信頼のおけるAI搭載の自律型兵器システムを出動させ、法にのっとってそれを使用する能力を持つことを示している。

AI搭載の自律型兵器システムの世界的な禁止を求めることは実行可能なことでもなければ、今日において米国の国益に見合うものでもない。

他方で、このようなシステムの世界的に歯止めの利かない利用は、予期せぬ対立の高まりや危機の不安定化のリスクを増大させるものだ。

そのリスクを減らすために米国がとるべきことは、（1）人間だけが核兵器の使用を承認できるという米国の現行の政策を明確かつ公に確認し、ロシアと中国に同様の義務を求めること、（2）危機の安定化にAIが与える影響について競争相手と話し合う場を設けること、（3）AI搭載の自律型兵器システムの開発・テスト・使用のための慣行に関する国際基準の策定を推進すること。

インテリジェンスの転換

● 米国のインテリジェンスの転換を図ることが必要である。

インテリジェンス・コミュニティは、情報の収集から分析に至る任務のあらゆる面でAIが可能とする能力を採用し統合すべきだ。

インテリジェンスは他のいかなる国家安全保障のミッションよりも、AIの利益を受けることになる。AIを活用するためには、国家情報長官室は科学と技術のリーダーたちに権限と資金を与える必要がある。

インテリジェンス・コミュニティ全体が、分析作業においてオープンソースや公に入手可能な情報を活用すべきであり、科学と技術によって得られる情報の収集に優先的に取り組むべきだ。

より良い洞察に向けて、インテリジェンス機関は人間による判断力を高めるためにも、AIを用いた人間と機械のチーム化に関する革新的な応用技術を開発する必要がある。

デジタル人材の育成と確保

● 政府のデジタル人材を拡大することが必要である。

国家安全保障機関は現在において多くのデジタルン専門家を必要とする。そうでなければ、AIや関連技術を購入し、立ち上げ、使用するのに十分とはいえない状態が続くことになる。

国防総省とインテリジェンス・コミュニティの人材不足が続けば、2025年までのAIの準備に対する重大な障害になる。

政府は現在と将来の人材を訓練するための米国デジタル・サービス・アカデミー（U.S. Digital Service Academy）を含め、新たな人材確保のパイプラインを必要とする。

政府は産業専門家、学者、近年の大学卒業生など、適切な技能を持つ人材を採用するために、市民による国家デジタル予備隊（National Digital Reserve Corps）を必要とする。

また、政府は既に政府で働く技術者を組織するために、軍医療部隊（Army Medical Corps）をモデルとしたデジタル部隊（Digital Corps）を必要とする。

AIシステムへの信頼

● AIシステムへの正当な信頼を作り上げることが必要である。

AIシステムが常時設計どおりに機能せず、重大な否定的結果をもたらしうるような予測不可能な状態であるならは、リーダーたちはこれを採用せず、オペレーターも使わず、議会は予算をつけず、アメリカ国民はこれを支持しないだろう。

正統な信頼を作り上げるためには、AIセキュリティへの研究・開発投資、国の研究所による継続的なイニシアティブを通じた先進的な人とAIのチーム化の取り組みなどを通じ、政府はAIシステムを堅牢で信頼性のあるものとして保証できるよう注力すべきである。

政府はまた、AI搭載のシステムがその数や領域、複雑性を増すことに伴い、国防総省のテスト・評価能力を高める必要がある。

幹部のリーダーシップと政策監視を強化するために、AIに関する高官レベルの責任ある指導層は政府全体から横断的に登用されるべきである。

AIに関わる民主主義モデルの確立

● 国家安全保障のために、AIに関わる民主主義モデルを提示することが必要である。

AI技術は米国のインテリジェンス機関、国土安全保障機関、法執行機関にとって極めて重要である。国民の信頼は政府によるAIの利用がプライバシー・市民の自由・市民の権利を尊重するという確かな保証があってこそ得られるものである。

政府は信頼を獲得し、AI技術の利用が効果的で、正当かつ合法であることを確実なものとしなければならない。こうした責務においては、監視と監査を強化するためのAI技術を開発し、AIの利用について公の透明性を高め、プライバシー保護と公正さを推進するAIシステムを構築することが必要だ。

こうした責務にはまた、AIに関わる政府の活動の影響を被った人びとが、救済と適正な手続きを請求することができるようにすることも必要である。

政府は監視と統治の仕組みを強化し、AIとプライバシー・市民の自由・市民の権利との間に生じる懸案事項を精査するために、特別委員会を立ち上げるべきである。

出典：NSCAI : National Security Commission on Artificial Intelligence Final Report

第Ⅱ部：技術競争での勝利（Part II: Winning the Technology Competition.）

AIや関連する技術の研究・開発・配備をめぐっては、広範な戦略的競争を支える技術競争が高まっている。

中国はこの競争に勝つための組織化や資源の調達を行い、決意を固めている。米国は重要な領域で優位性を維持しているが、現在の状況には懸念も生じている。

競争的な取り組みが学問の領域と市場の間の密接な相互関係を伴って複雑化する中で、米国はイノベーションのリーダーシップと世界における地位を維持するために必要となるものに取り組まなければならない。

政府はAI競争を受容し、米国の強みを結集・連携させることで、競争に勝つための取り組みを進めなければならない。

ホワイトハウス主導の技術競争

● 技術競争にあたっては、ホワイトハウス主導の戦略をもって取り組むことが必要である。

米国はAIの検討を、技術レベルから戦略レベルへと引き上げなければならない。今日、AIによって可能となる新たな技術は米国の経済的繁栄、安全保障、幸福を支えるものだ。

ホワイトハウスは安全保障、経済、科学において課題となる事柄を統合するために、副大統領が統括する新たな技術競争会議を創設すべきだ。この会議は包括的な技術戦略を立ち上げ、その実施を監督するものだ。

国際的なAI人材獲得競争に勝つ

● 国際的な人材獲得競争に勝つことが必要である。

国内における潜在的な人材の育成を行わず、また海外から多くの人材を受け入ることができなければ、米国は専門的な知識・技能の不足により、世界的な競争に敗北する危険がある。

米国は人材の確保に向けて、国内外で積極的な取り組みを進めなければならない。議会はアメリカの教育制度の課題に取り組むための第2次国家防衛教育法を制定すべきである。それは、幼稚園児から12年生（高校1年生）までの教育、就職支援の技術教育、AIの将来に向けて重要となる分野での学部レベル・大学院レベルでの多数の奨学金に投資することを含むものだ。

同時に、議会は高い技能をもつ移民のための包括的な移民戦略に取り組み、新たな経済的インセンティブとビザ、グリーンカード（永住ビザ）、ジョブ・ポータビリティ改革を通じ、より多くのAI人材が米国で学習し、働き、滞在するよう促すことが必要だ。

国内のAIイノベーションの加速化

● 国内におけるAIイノベーションの加速化が必要である。

政府はAIの研究・開発における大規模な新しい投資に取り組み、資源へのアクセスを公開することで国全体でのAI開発を刺激する国のAI研究インフラを創設しなければならない。そのために、政府は以下のことに取り組むべきである。

（1）AIの研究・開発のための防衛外の予算を毎年倍増することで2026年までに年間320憶ドルのレベルに引き上げ、国立技術財団を創設し、国立AI研究所の数を3倍に増加すべきである。

（2）国立AI研究インフラを創設し、クラウドコンピューティング資源、試験台、大規模な公開訓練データを備えるとともに、AIへのアクセスを拡大し、科学と工学の新たな領域での実験を支える公開された知識ネットワークを構築すべきである。

（3）AIのための市場を生み出し、地域ごとのイノベーションクラスターのネットワークを形成することによって、市場競争力を強化すべきである。

知的財産の政策と管理の実行

● 知的財産の政策と管理の実行が必要である。

米国は知的財産の政策をAIと新たな技術分野でのアメリカのリーダーシップを守るために重要となる国家安全保障の優先事項として位置づけなければならない。これは知的財産の政策を利用して利益を得ようとする中国の行動を踏まえるならば、特に重要となる。

米国にはAI時代に必要な包括的な知的財産の政策が欠けており、また、現行の米国における特許資格と特許要件原則の法的な不備による弊害もある。

米国政府は国家安全保障の優先事項をさらに推し進めることをめざし、知的財産の政策と管理を改革する計画を持たなければならない。

マイクロエレクトロニクスの基盤

● マイクロエレクトロニクスの設計と組み立てのために耐性のある国内基盤を築くことが必要である。

米国は数十年にわたりマイクロエレクトロニクス業界をリードしたが、今では防衛システムや他のすべてのものに重要となるすべてのAIアルゴリズムを駆動する最先端の半導体生産をほぼ完全に外国資源に依存している。

つまり、次のとおりだ。先進的な半導体における米国のサプライチェーンは政府の組織的な取り組みなしではリスクにさらされる。国内の半導体製造の再構築は高くつくが、行動するなら今だ。

米国は最先端の半導体に関して、少なくとも中国より2世代先を行く戦略に取り組むべきであり、米国での最先端のマイクロエレクトロニクスの組み立てに関しては、複数の資源を維持するための資金と経済的インセンティブについて責任を持つべきである。

アメリカの技術的優位性

● アメリカの技術的優位性を守ることが必要である。

米国と他国との間の技術的優位性の差が縮まり、アメリカの持つ専門知識や軍民両用のデュアルユースの技術を手に入れようとする外国の活動が増大する中で、米国はイノベーションを過度に妨げることなく、発想・技術・企業を最大限に守る方法を再検討する必要がある。

そのためには、米国は次のことに取り組まなければならない。第1に、デュアルユースの重要な技術を守るために、輸出管理と外国投資のスクリーニングを現代化しなければならない。

これには、規制能力の構築および近年の法改革を完全に実行し、先進的な半導体製造装置について同盟国と協調的な輸出管理を実行し、競争相手となる国の投資家の開示要件を拡大することが含まれる。

第2に、米国の研究事業を国の資産として保護しなければならない。これには、政府機関・法執行機関・研究所に対する細やかなリスク評価の実施や特定の脅威・戦術の情報を共有するための手段と資源を提供すること、同盟国やパートナーと研究防衛活動の調整を図ること、研究機構のサイバーセキュリティの支援を強化すること、問題のある研究協力を制限するためのビザ審査の強化を図ることが含まれる。

国際的な技術秩序の構築

● 望ましい国際的な技術秩序を築くことが必要である。

米国は民主主義の慣行と価値を強化するための新たな技術の利用を促進し、デジタルインフラとデジタル技術の世界的な採用を進める政策と投資を調整し、国際的な技術基準の規範を守り、AIイノベーションの進展に協力し、技術の悪用や民主主義社会での権威主義国家による影響を防止する実践と資源を共有するために、同盟国やパートナーと手を携えて取り組まなければならない。

米国はこうした目的を達成するために新たな技術提携をリードし、新たな技術研究の中核としての米国の地位を強化するために多国間のAI研究機構を創設すべきである。

国務省には、新たな技術の時代にあって、外交をリードするために新しい方向性が設定され、組織が再編成され、資源が与えられるべきである。