Column
生成AIのリスクとは？会社で使う前に知っておく注意点と対策
『社員が仕事でChatGPTを使い始めたが、顧客の情報を入れていないか心配だ』
『AIの答えをそのまま資料に使って、間違いが見つかったことがある』
どこまで使ってよいかが決まっていないと、不安を抱えたまま使い続けることになります。
生成AIのリスクは、入れた情報が外に出ること、出てきた答えが間違っていたり他人の権利に触れたりすること、会社が知らないところで使われることから生まれ、使ってよいツール、入れてよい情報、答えの確かめ方を先に決めておけば減らせます。
本記事では、会社で起きやすいリスク、個人情報を入れるときの注意点、会社で決めておく対策を解説します。
株式会社INFLUは情報セキュリティの認証（ISMS）を受け、エンジニアが日々の業務でAIを使いながら企業のAI活用（AX）を支援しています。
AX支援の内容は、下記のページをご覧ください。
生成AIのリスクとは
生成AIのリスクとは、会社が生成AIを使うことで、情報が外に出たり、間違った内容や他人の権利に触れる内容を使ってしまったりするおそれのことです。
こうしたリスクは、生成AIの仕組みから生まれます。
ChatGPTのようなサービスでは、入力した文章がAIを提供する会社のサーバーに送られて処理されます。社内の情報であっても、入れた時点で社外の会社に渡ることになります。
また、AIは学んだ文章をもとに、もっともらしい続きを作る仕組みなので、事実と違う答えをそれらしく出すことがあるのです。
そのため、リスクは「何を入れるか」「出てきたものをどう使うか」「誰がどこで使うか」の3か所で起きます。
次の章で、この3か所のリスクを具体的に見ていきましょう。
会社で起きやすい生成AIのリスク
会社で生成AIを使うときに起きやすいリスクは、以下の5つです。
- 入力した情報の漏洩
- 事実と違う答え（ハルシネーション）
- 著作権などの権利侵害
- 会社が把握していない利用（シャドーAI）
- 外からの指示による誤動作
どれも、生成AIを使うのをやめなくても、使い方を決めておけば減らせるリスクです。
5つのそれぞれで何が起きるのかを、順に説明します。
入力した情報の漏洩
顧客の情報や社外秘の資料を生成AIに入れると、AIを提供する会社に情報が渡り、設定によってはAIの学習に使われます。
学習に使うかどうかの扱いは個人向けのプランと法人向けのプランで異なります。
たとえばOpenAIhelp.openai.comは個人向けのChatGPT（Free、Plus、Pro）では入力した内容を学習に使うことがあり、設定で止められるとしています。
一方で、ChatGPT BusinessやChatGPT Enterpriseでは、初期設定で学習に使わない扱いです。
Is my data used for model training? | Anthropic Privacy Centerprivacy.claude.comも、法人向けなどの商用の製品に入れた内容は、初期設定では学習に使わないとしています。
そのため、社員がどのプランのどの設定で使っているかが分からないと、入れた情報がどう扱われるかも会社には分からなくなります。
事実と違う答え（ハルシネーション）
ハルシネーションとは、AIが事実と違う内容を、正しいことのように答えることです。
存在しない数字や出典を答えることがあり、文章が整っているだけに、見た目だけでは間違いに気づきにくくなります。
確かめずに資料やメール、ホームページに使うと、会社として間違った情報を外に出してしまいます。
著作権などの権利侵害
AIが作った文章や画像が、既にある作品に似てしまうこともあり得ます。
似たものを会社の広告やホームページに使うと、権利を持つ人とのトラブルにつながりかねません。
文化庁が公開している「AIと著作権に関する考え方について」bunka.go.jpでは、AIで作ったものでも、既にある作品に似ていて、その作品をもとにしていると認められれば、著作権の侵害を問われることがあると整理されています。
会社が把握していない利用（シャドーAI）
シャドーAIとは、会社が認めていないAIツールを、社員が自分の判断で仕事に使うことです。
会社はどのツールに何が入ったかを把握できないので、漏洩が起きても気づけず、対応が遅れます。
実際に、2023年にはサムスン電子で、社員が半導体設備のプログラムのソースコードや、スマートフォンで録音した会議の内容をChatGPTに入力していたと報じられました。
GIGAZINEgigazine.netの報道では、サムスンは入力できる量を1,024バイトに制限しました。入力したデータは外部のサーバーに保存されて回収できなくなると、社内にも注意を呼びかけています。
何を入れたかを会社が事前に把握していないと、起きたあとに対応することになる点は、シャドーAIでも同じです。
外からの指示による誤動作
AIに読ませたメールやWebページの中にAIへの指示が隠されていて、AIが意図しない動きをすることがあり、これをプロンプトインジェクションと呼びます。
メールの送信やファイルの操作まで人の代わりに行うAIエージェントでは、誤った動きがそのまま実際の操作になります。
5つのうち、情報を入れる場面のリスク（漏洩とシャドーAI）と、出てきたものを使う場面のリスク（ハルシネーションと権利侵害）は、社内のルールで減らせます。
個人情報を入れるときの注意点
顧客や社員の個人情報を生成AIに入れるときは、使う目的の範囲に入っているか、入れた情報がAIの学習に使われない設定かを、入れる前に確かめます。
個人情報保護委員会ppc.go.jpは2023年6月に生成AIサービスの利用について注意を呼びかけ、個人情報を入力するときは利用目的の達成に必要な範囲かを十分に確認するよう、事業者に求めています。
あわせて、本人の同意なく個人データを入力し、そのデータが回答を出す以外の目的で扱われると、個人情報保護法に違反する可能性があるとして、提供会社が機械学習に使わないことなどの確認も求めています。
入れる前に確かめることは、以下の3つです。
- 個人情報を集めたときに伝えた利用目的の範囲で使うか
- 入れた情報を学習に使わない契約や設定になっているか
- 名前や連絡先を消すなど、個人を特定できない形にしてから入れられないか
確かめられないうちは、個人情報は入れないと社内で決めておくのが安全です。
リスクを減らすために会社で決めておくこと
生成AIのリスクは使うのをやめるよりも、使い方を先に決めることで減らせます。
会社が使用を止めても、社員が個人のアカウントで使い続ければ、会社からは見えなくなってしまうためです。
決めておくことは、以下の4つです。
- 使ってよいツールと契約
- 入れてよい情報と入れない情報
- 出てきた答えを確かめる手順
- 社員への説明と見直し
4つとも、技術の設定より先に、誰が何をしてよいかを決める話なので、経営者と現場の担当者で話し合うと決めやすくなります。
使ってよいツールと契約
会社として使ってよいAIツールを決め、入れた情報を学習に使わない法人向けのプランや設定で契約します。
決めておくことは、以下の3つです。
- 使ってよいツールの一覧: 「ChatGPT」のようなツール名だけでなく、「ChatGPT Business」のようにプランまで決めます。個人向けと法人向けでは、入れた内容の扱いが違うためです。
- 会社の契約で使うこと: 社員が個人のアカウントで仕事に使うことは認めないと決めます。
- 設定の確認: 契約したあとも、入れた情報が学習に使われない設定になっているかを、担当者が確認します。
どのプランを契約するかで、入れた情報の扱いが変わります。
決めたツール以外は仕事で使わないとしておくと、シャドーAIを減らせます。
入れてよい情報と入れない情報
入れてよい情報と入れない情報は、言葉だけでは人によって判断が分かれるため、例をつけて決めておきます。
たとえば、入れてよい情報は公開済みの情報や社内の一般的な資料など、入れない情報は顧客の個人情報や契約前の取引の情報などです。
入れない情報の例として、公的な注意喚起や報じられた事例で取り上げられているのは、以下の3つです。
- 顧客や社員の個人情報: 個人情報保護委員会が、利用目的の範囲に入っているかを確かめるよう注意を呼びかけています。
- 社内のプログラムのソースコード: サムスン電子の事例で、社員が入力したと報じられました。
- 会議の録音や議事録の内容: 同じくサムスン電子の事例で、会議の録音内容の入力が報じられました。
迷ったときに誰に聞くかも決めておくと、社員が自分だけの判断で入れてしまうことを防ぎやすくなります。
出てきた答えを確かめる手順
社外に出す文章や数字は、AIの答えのまま使わず、人が出典を確かめてから使います。
AIが作った画像や文章を広告やホームページに使うときは、既にある作品に似ていないかも、公開の前に確かめます。
社員への説明と見直し
決めたルールは社員に説明し、新しく入った社員にも同じ説明をします。
AIツールの機能や規約は変わるので、決めたルールは定期的に見直します。
見直すときは、デジタル庁のテキスト生成AI利活用におけるリスクへの対策ガイドブックdigital.go.jpや、総務省と経済産業省の�����ȁbAI�l�b�g���[�N�Љ�i��c�b�uAI���Ǝ҃K�C�h���C���v�f�ڃy�[�Wsoumu.go.jpを参考にできます。
4つを1枚の社内ルールにまとめ、まず1つの業務で試しながら直していくと、社員が迷わず使えるようになります。
ルールを決めたあと、どの業務から試して広げていくかは、下記の記事で解説しています。
中小企業のAI活用において考えるべきこと。始める前に知る具体例・進め方・注意点influhp.com
まとめ
生成AIのリスクは、入れる情報、出てきたものの使い方、誰がどこで使うかの3か所で起きます。
会社で起きやすいのは漏洩、ハルシネーション、権利侵害、シャドーAI、外からの指示による誤動作の5つです。
使ってよいツール、入れてよい情報、答えの確かめ方、社員への説明を先に決めておけば、リスクを減らしながら生成AIを使えます。
生成AIを社内で安全に使うためのルール作りや、どの業務から使うかで迷っている方は、INFLUのAX支援にご相談ください。
株式会社INFLUは大阪市西区を拠点に、情報セキュリティの認証（ISMS）を受け、エンジニアが日々の業務でAIを使いながら、企業のAI活用を課題の整理から社内に残る運用づくりまで支援しています。
AX支援の内容は、下記のページをご覧ください。
