国家科学技術会議が発表した報告書『人工知能の未来に備えて』の概要
2016年10月24日
NEDOワシントン事務所
人工知能（AI）に関する省庁間調整を進め、産業界・研究コミュニティ・連邦政府で行われているAI技術開発を促進するため、2016年5月、国家科学技術会議（National Science and Technology Council =NSTC）の下に、機械学習・人工知能（Machine Learning and Artificial Intelligence =MLAI）に関する小委員会が設置された。同小委員会の設置以来、ホワイトハウス科学技術政策局（OSTP）は、①「AIと法律とガバナンス」；②「社会的利益の為のAI」； ③「AIの未来」；④「AI技術、安全性、及び管理」；⑤「AIの社会・経済的影響」というテーマ別ワークショップを開催したほか、6月にはパブリックコメントを要請。AIアウトリーチ活動には、総計で2,000人以上が参加し、161件のパブリックコメントが提出された。
NSTCは、2016年10月12日、上記活動に基いて策定した報告書『人工知能の未来に備えて（Preparing for the Future of Artificial Intelligence）』を発表。AIの現状； AIの現在及び将来の潜在的な用途； AIの進展が引き起こす社会政策・公共政策上の問題を取り上げているほか、連邦省庁等が取るべき具体的な取組みについて提言を行っている。同報告書に提示された23項目の提言、及び同報告書結論は以下の通り。
- 公益目的のAI利用
人々の生活向上に貢献する可能性を持つAIの基礎・応用研究開発（R&D）に対する公共・民間投資は既に、医療や運輸、環境やクリミナル・ジャスティス（刑事司法）等の様々な分野で大きな恩恵を生み始めている。連邦省庁が自省ミッションのより迅速かつ効率的な実行を目指してAIの利用能力を構築していくにつれ、政府の実効力が高まることになる。
提言1： 民間機関と公共機関は、社会に利益をもたらす方法でAIや機械学習をレスポンシブルに活用することの可否、及び、その方法について考察する。
・ ソーシャル・ジャスティス（社会正義）や公共政策に従事し、通常は先進技術やデータサイエンスに関与していない連邦省庁は、自らの取組む広範な社会問題へAIを適用するために、AI研究者やAI実践者（practitioner）との提携を考慮。
公益目的のAI利用はほとんどの場合、機械学習モデルの訓練やAIシステムの性能実験に利用できるデータのアベイラビリティに左右される。連邦省庁や公共機関は研究者に対して、個人のプライバシーや企業秘密を含まない開示可能データを提供することによってAIの開発を促進することができる。
提言2： 連邦省庁は、AIのオープン訓練データやオープンデータ基準を開示する。
・連邦政府は、社会的課題への取組みにAIを活用できるようにデータセットを公開。AI研究の促進、及び、オープンデータ基準やベストプラクティスの利用を産学官で活性化するため、政府所有の大量なデータセットを公開する「AI用オープンデータ（Open Data for AI）」イニシアティブを策定。
- 連邦政府のAI
サービス向上におけるAI利用の課題の一つは、連邦省庁のイノベーション育成・活用能力が省庁毎に大きく異なる点である。国防省やエネルギー省、国立衛生研究所のように大規模なR&D予算を持ち、イノベーションの文化を有し、イノベーターとの強い協力関係を持つ省庁もあれば、労働省のようにR&D予算が僅か1,400万ドルで、AI応用方法を探索する能力を持たない省庁もある。また、デジタルトレーニングの開発コストが高く、有効なデジタルトレーニングの開発に繰り返し使える方法論がない。
提言3： 連邦政府は、主要省庁がAIを自省ミッションに適用する能力を改善する方法を検討する。
・連邦省庁は、高リスクで高リワードなAI研究とその応用を支援するため、DARPAに類似した組織の設置可能性を検討。
提言4： NSTCのMLAI小委員会は、政府全体のAI実践者用に実践コミュニティ（community of practice）を構築する。
・連邦省庁は、政府活動へのAI利用に対する基準とベストプラクティスの策定・共有で協力するほか、連邦政府職員訓練プログラムに業務関連のAI利用を学ぶ機会を追加。
- AIと規制
a. 自動車や航空機といった製品は、市民を危険から守り、経済競争における公平性を確保する目的で策定された規制の対象となるため、これら製品にAIを統合することは、関連する規制アプローチに影響をもたらす可能性がある。
提言5： 連邦省庁は、AI対応製品（AI-enabled products）の規制設定において、シニアレベルの技術的専門知識を活用する。
・AI対応製品に関する有効な規制設定には、省内リーダーシップ、既存の規制枠組みと規制実施に精通するスタッフ及びAIに詳しい技術専門家の協力が必要。各省庁指導層は、必要な技術人材の募集や省内現スタッフの技術人材確認を行い、規制政策討議の際には技術者を十分に確保。
b. 連邦省庁がAIのような技術を有効に規制するためには、意思決定を支援する省内技術専門家が必要。
提言6： 連邦省庁は、テクノロジーの現況に関して多様な視点をもった連邦職員を育成するために、要員配置や人事交流等を利用する。
c. 道路や高速での死亡事故を削減する余地がある一方で、現在は走行台距離1億マイル当たり約1名の死亡者が出ている。自動走行技術の恩恵に期待がかかる一方、セーフティクリティカルな環境へのAI技術応用には幾つかの課題が伴う。
提言7： 運輸省（DOT）は、安全、研究、及び、その他目的のためのデータ・シェアリングを拡大する方法について産業界や研究者と協力する。
・将来の陸空におけるAIの重要性を踏まえて、連邦政府当事者は近いうちに、消費者のプライバシーを侵害することなく、AI技術の成熟に伴ってその情報を政策策定者によりよく提供することが出来る一連のデータセットを開発。
d. 自律航空機と自動走行車に関しては、連邦航空局（FAA）と国家道路交通安全局（NHTSA）が、イノベーションを促進しつつ安全性を確保するという柔軟な枠組みの策定に尽力している。
提言8： 米国政府は、高度にスケーラブルで、自律航空機にも有人航空機にも対応可能な新型の自動航空交通管理システム（automated air traffic management system）の開発・導入に投資。
提言 9： DOTは、完全自動走行車とドローン（UAS）を輸送システムへ安全に統合することを可能にする規制枠組みの策定を継続する。
- リサーチと労働力
政府はAI分野の進展に関して、R&Dへの投資； 多様化した（性別・人種面で）熟練労働者の育成； それら技術が発展するに伴って経済にもたらす影響の管理、という重要な役割を担う。
a. 競争の激化が民間研究所を秘密固守へと駆り立てることになれば、AIの進捗状況をモニターすることが困難となり、人々の不安が増大する可能性がある。また、世界各地で起こるAI分野の変化が米国の政策変更を必要にする場合に備えて、米国政府が他国におけるAI進展状況を監視することは妥当である。
提言10： NSTCのMLAI小委員会は、AIの進行状況を監視し、AIの状況、特にマイルストーンに関して行政府指導層に定期的に報告する。
・MLAI小委員会は、時間とともに知識が前進し、専門家のコンセンサスが変化することに応じて、マイルストーンのリストを更新し、AI進展状況を適宜、国民へ報告することを検討。
提言11： 米国政府は、他国のAI状況、特にマイルストーンをモニターする。
提言12： 産業界は政府に、業界のAI進捗状況（近々達成のマイルストーンを含む）に関する最新情報を提供する。
b. AIのトップ研究者はAIとその応用が急速な発展を持続すると楽観視。他方で、未回答の問題が多数残っていること； 汎用AI（General AI）への明白な道がないこと； AI研究への熱意や投資がここ数十年変動していること； 基礎研究への投資が不足していること、を強調し、持続的投資、特に民間にとって困難な基礎研究投資が重要であると主張している。
提言13： 連邦政府はAIの基礎研究と長期的研究の優先順位を設定する。
・連邦政府と民間部門のAI R&Dの着実な拡大、特に基礎研究と高リスクの長期的研究に重点を置くAI R&Dの拡大からは、米国全体が恩恵を享受。基礎研究と長期的研究に対しては民間部門が投資を行う可能性が低いため、連邦政府の投資が重要。
c. AIの急速な成長により、AI分野の支援・発展に必要な技能を有する労働者ニーズが増大。AIの時代には、データを読解・利用・伝達でき、AIの影響を受ける問題に関する政策討議に参加できるデータ言語知識人が必要となる。
提言14： NSTCのMLAI小委員会とネットワーキング・情報技術研究開発（NITRD）小委員会はNSTCの科学・技術・工学・教育委員会（CoSTEM）と協力して、AIに従事する研究者・専門家・ユーザー等の労働規模拡大、質向上、及び多様化を確実にする施策を策定するために、AI労働者育成ルートに関する調査を開始する。
- AI、自動化、及び、経済
短期的に見たAIの経済効果は作業の自動化。これによりAI関連技能者の重要が拡大する一方、自動化される技能に従事する労働者の需要が減少。ホワイトハウス経済諮問委員会（Council of Economic Advisors）は、自動化のマイナス効果が大きいのは低賃金職であるため、AIによる自動化は教育水準の低い労働者と教育水準の高い労働者との間の賃金格差を広げ、経済的不平等を拡大するリスクがあると分析。
提言15： 大統領府は2016年末までに、AIや自動化が米国の雇用市場に及ぼす影響を調査し、対応策提言を説明する追加報告書を発表する。
- 公平性、安全性、及びガバナンス
人々に関する重大な決定（刑事司法上の決定や就職志望者の選抜等）を、人主導の決定過程ではなくAIを利用して行うことに対して、技術専門家や政策アナリスト及び倫理学者は、意図せぬ結果が出るのではないかという懸念、及び、正当性や公正性や説明責任をどのように保証するかという懸念を提起している。
AIの安全性面での大きな課題は、実験室の「閉ざされた世界」から、予想不可能な事態が発生する「実世界」へと安全に移行可能なシステムを構築することであり、この実現には、予見出来ない状況に優雅に対応することが、安全運用のための不可欠要素となる。
また、AI実践者や学生の倫理教育も重要な解決策の一つであるため、AIやコンピューターサイエンスやデータサイエンスを学ぶ学生全員が、関連する倫理学や安全問題のカリキュラムを受け、更には、善意（good intentions）を実践する技術的ツールや方法を使ってこの倫理教育を増強することが理想的な解決策となる。
提言16： AIシステムを利用して個人を判断する連邦省庁は、証拠に基いた検証と確認を行い、AIシステムの有効性と公平性を保障するために格別の注意を払うべきである。
提言17： AIシステムを利用して個人を判断することを支援する為に州・地方政府へグラントを提供する連邦省庁は、連邦グラントで調達されたAIベースの製品やサービスが十分に明白な方法で成果を生み出し、有効性と公平性の証拠によって支えられていることを保証するため、グラントの条件を再検討する。
提言18： 学校や大学は、倫理学や危機管理・プライバシー・安全性の関連トピックを、AIや機械学習、コンピューターサイエンスやデータサイエンスに関するカリキュラムの一環として追加する。
提言19： AI専門家や安全専門家及びそれら専門家協会は、AI安全工学の熟成に向けて協力する。
- 国際的な配慮と安全保障
a. 各国政府や国際機関等がAIの利益や課題を査定し始めたことに伴い、最近の国際会議ではAIが関心の的になっている。世界各国は、AI R&D促進・関連課題対応を助長する協力の機会確認、及び、国際枠組みの策定で協力する必要がある。
提言20： 米国政府は、AIに関する国際的取組みについての政府全体戦略を策定し、国際的な対応・監視を必要とするAIトピックの一覧表を作成する。
提言21： 米国政府は、主要な外国利害関係者（外国政府、国際機関、産業界、学界、その他）との関りを深め、AI研究開発に関する情報交換と協力促進に尽力する。
b. AIのサイバーセキュリティ利用は、絶え間なく進化するサイバー攻撃の脅威の感知・対応に必要な即応能力の維持に役立ち、膨大なデータの解釈・脆弱性の事前な割り出し・将来の攻撃を回避又は軽減する対策の施行で最も効果のあるアプローチとなる。他方、AIシステムにもサイバーセキュリティ面で独自ニーズがあり、AI利用システムはデータの整合性（integrity）や機能性の保証、及びプライバシーと機密性を保護できる健全なサイバーセキュリティ管理を実施する必要がある。
提言22： 連邦省庁の計画や戦略の中で、AIがサイバーセキュリティに及ぼす影響、及び、サイバーセキュリティがAIに及ぼす影響を説明する。
・AI問題に携わる連邦省庁は政府・民間で働くサイバーセキュリティの仲間に、AIシステムとAIエコシステムを敵のスパイ攻撃から守り、安全確保する方法について意見提供を要請し、サイバーセキュリティに携わる連邦省庁は政府・民間で働くAIの同僚に、サイバーセキュリティにAIを効果的かつ効率的に適用する革新的方法の検討を要請。
c. 自律及び半自律稼動型の兵器を国防計画に統合するためには、政府機関が常時、国際人道法（International Humanitarian Law）に則して行動し、これら兵器拡散を制御する適切な対策を講じ、これら兵器システムの開発・利用に係る基準の策定で同盟国やパートナーと協力することが鍵となる。
提言23： 米国政府は、国際人道法に準じて、自律稼動型兵器や半自律稼動型兵器に関する政府全体の単一政策を策定する。
結論（未来に備えて）
- AIは経済成長及び社会発展の重要な推進力となる得る。これには、産官民がその潜在能力とリスク管理に十分注意を払いつつ、技術開発支援で協力する必要がある。
- 連邦政府は、①重要事項に関する討議の開催とそのアジェンダ設定；②AIの開発に伴いその用途の安全性と公平性の監視、及び規制枠組みをイノベーション推進目的に合わせた改良；③基礎研究・AI応用の支援、及び多様化した熟練労働者の養成、を行うべきである。
- AIの発展に伴って多く公共政策（教育、経済的セーフティネット、国防、環境保護、刑事司法）分野で機会や課題が生じるため、政府はこうした変化を理解し、対応するキャパシティを継続的に構築する必要がある。
- AI技術の引き続く発展に伴い、実践者はAI対応システムが管理可能であり、人間と共に効率的に働くこと等を確認する必要がある。
- AIの開発・研究が人間の知性に対する理解・評価を深めることを助長し、AIを慎重に利用することで、人間の知性を増強し、より良く賢明な将来像を描くことが可能になる。
