最低限の対策示す「豆知識」作成

近年、生成ＡＩをはじめとする高度なＡＩ技術の実用化が急速に進む一方で、ＡＩの悪用や脆弱性（ぜいじゃくせい）を狙った攻撃など、セキュリティ上の課題が顕在化しており、独立行政法人情報処理推進機構（ＩＰＡ）が２０２６年１月に公開した「情報セキュリティ10大脅威２０２６」では、「組織」向け脅威の第３位に「ＡＩの利用をめぐるサイバーリスク」がランクインしている。ＡＩの利活用が進む中、ＡＩの利用者と開発者の双方に向けた一層のセキュリティ対策の強化とその普及・啓発が求められている。

こうした中、ＩＰＡおよびＡＩセーフティ・インスティテュート（ＡＩＳＩ）は、安心・安全なＡＩ利用の推進を目的に、25年より有識者や業界団体と共にＡＩセキュリティに関する検討を重ねてきた。その活動の成果として、ＡＩセキュリティ啓発を目的とした「ＡＩ利用者のためのセキュリティ豆知識」を公表した。

ＡＩ利用者のためのセキュリティ豆知識は、ＡＩやセキュリティの基本を理解したい利用者を対象に、ＡＩを利用する際に最低限実施すべきセキュリティ対策を分かりやすくまとめたものである。

ＡＩセキュリティ対策として、次の五つの対策を挙げている。

実施すべき五つの対策

①クラウドＡＩに営業秘密は教えない
②ＡＩブラウザは社内用と社外用を分ける
③ＲＡＧ（Ｒｅｔｒｉｅｖａｌ Ａｕｇｍｅｎｔｅｄ Ｇｅｎｅｒａｔｉｏｎ＝検索拡張生成）使用時は「混ぜるな危険」にご用心
④外見では詐欺師を見破れないと心得る
⑤ＡＩ仕込みのサイバー攻撃も撃退法は従来通り

③のＲＡＧは、生成ＡＩが検索で知識を補う仕組みのこと。ＲＡＧを使うことで自社の社内情報に即した回答を生成ＡＩから得られるようになる一方で、どのデータをＲＡＧの検索対象にするかどうかはセキュリティも考慮して決める必要がある。

ＡＩ利用者のためのセキュリティ豆知識は、社内研修などでそのまま利用できるプレゼンテーションスライド形式で提供しており、今後のＡＩ利用ケースの拡大に合わせて継続的に更新していく予定となっている。

開発者向け情報「短信」も公開

また、ＩＰＡではＡＩシステム開発者やセキュリティ担当者を対象に、ＡＩセキュリティに関する最新のトレンドや事例を紹介した「ＡＩセキュリティ短信」を公開した。日々発信される膨大な情報をＡＩセキュリティの観点で整理しており、これまでは有識者や業界団体向けに不定期で配信してきたが、より多くのＡＩ・セキュリティ担当者に知っていただきたいとの業界団体からのご意見を受けて、最新号（26年３月号）およびこれまで作成した３号分を公開した。

ＡＩやセキュリティそれぞれの専門家はいても両分野に精通した人材はまだ多くないという現状を鑑み、啓発への一助となることを期待している。

ＡＩを活用することで業務の効率化が図られるとともに、生産性の向上を期待することができる。一方で、セキュリティに留意する必要もある。ＩＰＡとＡＩＳＩでは、今後もＡＩの利活用とＡＩセキュリティに関する情報を発信していくので活用いただきたい。

（独立行政法人情報処理推進機構・江島将和）

「ＩＰＡのＡＩセキュリティへの取り組み」についてはこちらを参照