このサイトは現在開発中です

JapanTracker AIセーフティ・インスティテュート

AIセーフティ・インスティテュート

記録
8件（2件の経緯）
注記
2024年2月14日に情報処理推進機構（IPA）内に設置された、AIの安全性評価に関する調査・基準検討等を行う機関。英語名 Japan AI Safety Institute（AISI）。

このページは、この人物・組織が記録されている項目を全体から集めて時系列に並べたものです。個々の記録は、属する経緯のページの文脈（「今後わかること」や前後の記録）の中で確認してください。

  1. 2024年2月14日 IPAにAIセーフティ機関が設立

    内閣府や関係省庁・関係機関の協力の下、独立行政法人情報処理推進機構（IPA）内に AIセーフティ・インスティテュート（AISI）が設立された。経済産業省が同日プレスリリースを公表した。主な業務は、AIの安全性評価に係る調査・基準等の検討、安全性評価の実施手法に関する検討、英米の AI Safety Institute 等の他国関係機関との国際連携に関する業務とされた。

    出典 4件・関連する経緯 1件

    出典

    関連する経緯

  2. 2024年9月18日 AISIが評価観点ガイドを公開

    AISI が「AIセーフティに関する評価観点ガイド」（第1.0版）を公開した。AIシステムの開発者・提供者が AI セーフティ評価を実施する際に参照できる基本的な考え方を示すもので、「人間中心」「安全性」「公平性」「プライバシー保護」「セキュリティ確保」「透明性」の6要素を踏まえ、評価観点、想定されるリスクの例、評価項目例、評価実施者・実施時期の考え方、評価手法の概要を提示した。2024年4月公表の「AI事業者ガイドライン」および海外文献・関連ツールの調査を基に作成された。

    出典 3件・関連する経緯 1件

    出典

    関連する経緯

  3. 2024年9月18日 日米AISIがガイドライン相互参照公開

    AISI と米国 NIST が、日本の「AI事業者ガイドライン」と米国 NIST の「AIリスクマネジメントフレームワーク（AI RMF）」のクロスウォーク（相互参照）第2弾を公開した。この取り組みは2024年1月に開始され、クロスウォーク1（2024年2〜4月実施、4月公表）では両文書の用語定義を比較して「信頼できるAI」の7要素の類似性を整理し、クロスウォーク2（2024年5〜8月実施）では文脈ごとの考え方の違いと対応関係を整理した。日米の事業者が両国のガイドラインの相違点を理解しやすくすることを目的とする。

    出典 2件・関連する経緯 1件

    出典

    関連する経緯

  4. 2024年9月25日 AISIがレッドチーミング手法ガイド

    AISI が「AIセーフティに関するレッドチーミング手法ガイド」（第1.0版）を公開した。AI開発者・AI提供者を対象に、AIシステムに対する攻撃的な検証（レッドチーミング）の準備から実施、改善計画の策定までを網羅的に解説するもの。同年9月18日公開の評価観点ガイドと併せて、AIセーフティ評価の実務的な手引きを構成する。

    出典 2件・関連する経緯 1件

    出典

    関連する経緯

  5. 2024年11月20日 AISI国際ネットワークが設立

    米国商務省と国務省の共催により、「International Network of AI Safety Institutes（AIセーフティ・インスティテュート国際ネットワーク）」の設立会合が11月20〜21日にサンフランシスコで開催され、日本は初期メンバー10か国・機関の一つとして参加した。ネットワークのミッション・ステートメントが公表され、合成コンテンツのリスク管理、基盤モデルのテスト、先進AIシステムのリスク評価の3分野が優先領域として合意された。2025年2月のパリAIアクション・サミットに先立ち、各国 AISI の技術協力を開始することを目的とした。

    注記: ネットワーク自体は2024年5月のAIソウル・サミットで米国のレモンド商務長官が立ち上げを発表したもの。参加国リスト・優先3分野は米側発表の検索結果に基づき、日本側の公表資料での確認が必要。

    出典 2件・関連する経緯 1件

    出典

    関連する経緯

  6. 2025年3月31日 レッドチーミング手法ガイド1.10版

    AISI が「AIセーフティに関するレッドチーミング手法ガイド」の第1.10版を公開した。RAG（Retrieval-Augmented Generation）の仕組みを実装した AIシステムに対して実際にレッドチーミングを行った実施例を通じて手順を詳細に解説し、本編に加えて別紙（詳細解説書）と別添（リスクシナリオ・攻撃シナリオの作成と実施結果、実施結果報告書、最終報告書の成果物例）を整備した。「AIセーフティに関する評価観点ガイド」についても、IPA が2025年4月2日付プレスリリースで改訂を公表した。

    出典 2件・関連する経緯 1件

    出典

    関連する経緯

  7. 2025年10月29日 Anthropicが東京オフィスを開設

    Anthropicは、アジア太平洋地域で初となる拠点として東京オフィスを正式に開設したと発表した。CEOが来日して高市早苗内閣総理大臣と会談したほか、AIセーフティ・インスティテュート（AISI）との間でAI評価手法の科学的知見の向上等に関する研究・評価推進の協力覚書（MOC）に署名した。MOCは、企業がAIモデルの能力・限界・リスクを評価する手法についての情報交換とベストプラクティスの共有を目的とする。

    出典 4件・関連する経緯 1件

    出典

    関連する経緯

  8. 2026年4月7日 AISI機能強化の方向性案を提示

    内閣府人工知能政策推進室が、人工知能戦略推進会議幹事会に資料「AISI機能強化の方向性（案）」（令和8年4月7日付）を提示した。これに先立ち AISI は2026年3月10日、「AIセーフティ・インスティテュート 2026年度以降の活動の方向性について」を公表しており、人工知能基本計画の下での AISI の機能強化の検討が進められている。

    注記: いずれも資料の表題と公表日を検索結果で確認したにとどまり、機能強化案の具体的内容は本文未確認。

    出典 2件・関連する経緯 1件

    出典

    関連する経緯

このページを読んで…