AIセーフティ・インスティテュート（AISI）の設立と活動

期間

2023年12月21日〜2026年4月7日

記録

10件

報道

2件

概要

AIの安全性評価を担うAIセーフティ・インスティテュート（AISI）をめぐる記録。2023年の設立表明と2024年のIPA内への設置から、評価観点・レッドチーミング手法のガイドの公表、各国機関との国際連携、機能強化の検討までを扱う。

記録 記録はすべてAIが集めています。出典は例外なく付けていますが、その多くは出典を示しただけで、本文まで読んで確かめたものではありません。内容の正確さは保証できないので、必ず出典に当たって確認してください。事実関係に争いのあるものは、記録の本文と注記に書いています。各記録の「出典・関連する人物や組織」を開くと、出典の一覧と、関わった人物・組織のページへのリンクが出ます。

1. 2023年12月21日 首相がAIセーフティ機関の設立表明

   総理大臣官邸で第7回AI戦略会議が開催され、岸田文雄首相が、AIの安全性に対する国際的な関心の高まりを踏まえ、AIの安全性の評価手法の検討等を行う機関として、米国や英国と同様に日本にも「AIセーフティ・インスティテュート」を2024年1月を目途に設立すると表明した。同会議では広島AIプロセスの成果の報告と、総務省・経済産業省による「AI事業者ガイドライン案」の報告も行われた。

   注記: 設立表明の内容は内閣府・政府広報オンライン・総務省情報通信白書の検索結果の突合による。実際の設立は表明時の目途（2024年1月）より遅れ、2024年2月14日となった。

   出典 3件・関連する人物や組織 3件

   出典

   • 内閣府 : ＡＩ戦略会議（第７回） [ アーカイブ ]
   • 政府広報オンライン : ＡＩ戦略会議-令和5年12月21日 [ アーカイブ ]
   • 総務省 : 令和6年版 情報通信白書（AIセーフティ・インスティテュートの設立） [ アーカイブ ]

   関連する人物や組織

   • 岸田文雄
   • 内閣府
   • 日本政府

   第7回AI戦略会議（総理大臣官邸で開催）。高市早苗内閣府特命担当大臣（科学技術政策担当）が出席

2. 2024年2月14日 IPAにAIセーフティ機関が設立

   内閣府や関係省庁・関係機関の協力の下、独立行政法人情報処理推進機構（IPA）内に AIセーフティ・インスティテュート（AISI）が設立された。経済産業省が同日プレスリリースを公表した。主な業務は、AIの安全性評価に係る調査・基準等の検討、安全性評価の実施手法に関する検討、英米の AI Safety Institute 等の他国関係機関との国際連携に関する業務とされた。

   出典 4件・関連する人物や組織 4件

   出典

   • 経済産業省 （2024年2月14日）: AIセーフティ・インスティテュートを設立しました [ アーカイブ ]
   • Impress Watch : 政府、AIの安全性を評価する「AIセーフティ・インスティテュート」設立 [ アーカイブ ]
   • 国立国会図書館カレントアウェアネス・ポータル : 情報処理推進機構（IPA）、「AIセーフティ・インスティテュート」を設立 [ アーカイブ ]
   • AIセーフティ・インスティテュート : AISIについて [ アーカイブ ]

   関連する人物や組織

   • AIセーフティ・インスティテュート
   • 情報処理推進機構
   • 経済産業省
   • 内閣府

   所長には損害保険ジャパンCDO（チーフ・デジタル・オフィサー）で元日本IBMのAI研究者である村上明子氏が就任

3. 2024年5月21日 AIソウル・サミットでソウル宣言採択

   韓国・英国共催の「AIソウル・サミット」が5月21〜22日に開催され、首脳級の成果文書として「安全、革新的で包摂的なAIのためのソウル宣言」と付録「AI安全性の科学に関する国際協力に向けたソウル意図表明」が採択された。同サミットで、英国、米国、日本、フランス、ドイツ、イタリア、シンガポール、韓国、オーストラリア、カナダ、EUの機関による AI Safety Institute のネットワークを形成することが合意された。日本はハイレベルラウンドテーブル等に参加した。

   注記: ネットワーク形成合意の参加国リストは検索結果の要約に基づくもので、原典（ソウル意図表明の本文）での確認が必要。

   出典 2件・関連する人物や組織 1件

   出典

   • 総務省 : 令和6年版 情報通信白書（AI安全性サミット） [ アーカイブ ]
   • AIセーフティ・インスティテュート : 国際連携 [ アーカイブ ]

   関連する人物や組織

   • 日本政府

   AIソウル・サミット（韓国・英国共催、2024年5月21〜22日）参加各国

4. 2024年9月18日 AISIが評価観点ガイドを公開

   AISI が「AIセーフティに関する評価観点ガイド」（第1.0版）を公開した。AIシステムの開発者・提供者が AI セーフティ評価を実施する際に参照できる基本的な考え方を示すもので、「人間中心」「安全性」「公平性」「プライバシー保護」「セキュリティ確保」「透明性」の6要素を踏まえ、評価観点、想定されるリスクの例、評価項目例、評価実施者・実施時期の考え方、評価手法の概要を提示した。2024年4月公表の「AI事業者ガイドライン」および海外文献・関連ツールの調査を基に作成された。

   出典 3件・関連する人物や組織 2件

   出典

   • 情報処理推進機構 （2024年9月18日）: AIセーフティに関する評価観点ガイドを公開 [ アーカイブ ]
   • AIセーフティ・インスティテュート : AIセーフティに関する評価観点ガイドの公開 [ アーカイブ ]
   • ITmedia NEWS （2024年9月18日）: AIの安全性評価ガイドライン公開 IPAと国などが設立したAISIから [ アーカイブ ]

   関連する人物や組織

   • AIセーフティ・インスティテュート
   • 情報処理推進機構
5. 2024年9月18日 日米AISIがガイドライン相互参照公開

   AISI と米国 NIST が、日本の「AI事業者ガイドライン」と米国 NIST の「AIリスクマネジメントフレームワーク（AI RMF）」のクロスウォーク（相互参照）第2弾を公開した。この取り組みは2024年1月に開始され、クロスウォーク1（2024年2〜4月実施、4月公表）では両文書の用語定義を比較して「信頼できるAI」の7要素の類似性を整理し、クロスウォーク2（2024年5〜8月実施）では文脈ごとの考え方の違いと対応関係を整理した。日米の事業者が両国のガイドラインの相違点を理解しやすくすることを目的とする。

   出典 2件・関連する人物や組織 2件

   出典

   • 情報処理推進機構 （2024年9月18日）: 日米のAI関連ガイドラインの相互運用性向上をめざし「クロスウォーク2」を公開 [ アーカイブ ]
   • AIセーフティ・インスティテュート : AI事業者ガイドラインと米国NIST AIリスクマネジメントフレームワーク（RMF）のクロスウォーク２ [ アーカイブ ]

   関連する人物や組織

   • AIセーフティ・インスティテュート
   • 情報処理推進機構

   米国国立標準技術研究所（NIST）との共同の取り組み

6. 2024年9月25日 AISIがレッドチーミング手法ガイド

   AISI が「AIセーフティに関するレッドチーミング手法ガイド」（第1.0版）を公開した。AI開発者・AI提供者を対象に、AIシステムに対する攻撃的な検証（レッドチーミング）の準備から実施、改善計画の策定までを網羅的に解説するもの。同年9月18日公開の評価観点ガイドと併せて、AIセーフティ評価の実務的な手引きを構成する。

   出典 2件・関連する人物や組織 2件

   出典

   • 情報処理推進機構 （2024年9月25日）: AIセーフティに関するレッドチーミング手法ガイドを公開 [ アーカイブ ]
   • CodeZine : AISI、「AIセーフティに関するレッドチーミング手法ガイド」を公開 [ アーカイブ ]

   関連する人物や組織

   • AIセーフティ・インスティテュート
   • 情報処理推進機構
7. 2024年11月20日 AISI国際ネットワークが設立

   米国商務省と国務省の共催により、「International Network of AI Safety Institutes（AIセーフティ・インスティテュート国際ネットワーク）」の設立会合が11月20〜21日にサンフランシスコで開催され、日本は初期メンバー10か国・機関の一つとして参加した。ネットワークのミッション・ステートメントが公表され、合成コンテンツのリスク管理、基盤モデルのテスト、先進AIシステムのリスク評価の3分野が優先領域として合意された。2025年2月のパリAIアクション・サミットに先立ち、各国 AISI の技術協力を開始することを目的とした。

   注記: ネットワーク自体は2024年5月のAIソウル・サミットで米国のレモンド商務長官が立ち上げを発表したもの。参加国リスト・優先3分野は米側発表の検索結果に基づき、日本側の公表資料での確認が必要。

   出典 2件・関連する人物や組織 2件

   出典

   • 米国国立標準技術研究所（NIST） : FACT SHEET: U.S. Department of Commerce & U.S. Department of State Launch the International Network of AI Safety Institutes at Inaugural Convening in San Francisco [ アーカイブ ]
   • AIセーフティ・インスティテュート : The International Network of AI Safety Institutes Mission Statement [ アーカイブ ]

   関連する人物や組織

   • AIセーフティ・インスティテュート
   • 日本政府

   米国商務省・国務省の共催。参加は豪・加・EU・仏・日・ケニア・韓・シンガポール・英・米の10か国・機関

8. 2025年3月31日 レッドチーミング手法ガイド1.10版

   AISI が「AIセーフティに関するレッドチーミング手法ガイド」の第1.10版を公開した。RAG（Retrieval-Augmented Generation）の仕組みを実装した AIシステムに対して実際にレッドチーミングを行った実施例を通じて手順を詳細に解説し、本編に加えて別紙（詳細解説書）と別添（リスクシナリオ・攻撃シナリオの作成と実施結果、実施結果報告書、最終報告書の成果物例）を整備した。「AIセーフティに関する評価観点ガイド」についても、IPA が2025年4月2日付プレスリリースで改訂を公表した。

   出典 2件・関連する人物や組織 2件

   出典

   • AIセーフティ・インスティテュート （2025年3月31日）: AIセーフティに関するレッドチーミング手法ガイド(第1.10版)の公開 [ アーカイブ ]
   • 情報処理推進機構 : プレス発表 AIセーフティに関する評価観点ガイドを改訂しました [ アーカイブ ]

   関連する人物や組織

   • AIセーフティ・インスティテュート
   • 情報処理推進機構
9. 2025年5月28日 AI推進法が成立、戦略本部を設置

   AI推進法（人工知能関連技術の研究開発及び活用の推進に関する法律）が国会で成立し、6月4日に公布された。同法は、AIに関するイノベーション促進とリスクへの対応の両立の観点から、内閣に AI戦略本部を置き、政府が AI の研究開発・活用の推進に関する基本的な計画（人工知能基本計画）を策定することを定めた。同法第18条に基づく人工知能基本計画は2025年12月23日に閣議決定された。

   注記: AI推進法・人工知能基本計画における AISI の具体的な位置づけ（法文上の言及の有無）は、法律・計画本文を直接確認できておらず未確認。

   出典 2件・関連する人物や組織 2件

   出典

   • BUSINESS LAWYERS : 日本版AI法の概要と企業への影響 [ アーカイブ ]
   • 契約ウォッチ : 【2025年施行】AI新法とは？AIの研究開発・利活用を推進する法律を分かりやすく解説！ [ アーカイブ ]

   関連する人物や組織

   • 国会
   • 日本政府
10. 2026年4月7日 AISI機能強化の方向性案を提示

    内閣府人工知能政策推進室が、人工知能戦略推進会議幹事会に資料「AISI機能強化の方向性（案）」（令和8年4月7日付）を提示した。これに先立ち AISI は2026年3月10日、「AIセーフティ・インスティテュート 2026年度以降の活動の方向性について」を公表しており、人工知能基本計画の下での AISI の機能強化の検討が進められている。

    注記: いずれも資料の表題と公表日を検索結果で確認したにとどまり、機能強化案の具体的内容は本文未確認。

    出典 2件・関連する人物や組織 2件

    出典

    • 内閣府 （2026年4月7日）: AISI機能強化の方向性（案）（人工知能戦略推進会議幹事会 資料１-１） [ アーカイブ ]
    • AIセーフティ・インスティテュート （2026年3月10日）: AIセーフティ・インスティテュート 2026年度以降の活動の方向性について [ アーカイブ ]

    関連する人物や組織

    • 内閣府
    • AIセーフティ・インスティテュート

    内閣府人工知能政策推進室が人工知能戦略推進会議幹事会に資料を提出