生成AIを利用するリスクとは？5つの危険性と事例

生成AIは、ツールに指示を入力するだけで文章や画像などを生成してくれます。

近年では、生成コンテンツの品質も格段に向上しており、その手軽さと実用性から幅広いビジネスシーンで活用されています。

しかし、生成AIを活用する際は、以下5つのリスクに注意しなければなりません。

1. 誤った情報を生成してしまう（ハルシネーション）
2. ディープフェイクによる嘘情報を鵜呑みにしてしまう
3. 個人情報や機密情報が流出してしまう
4. 著作権や肖像権などの法的権利を侵害してしまう
5. 出力結果に偏りが生まれてしまう

上記のリスクは、実際にトラブルに発展した過去があります。その事例とともに詳しく見ていきましょう。

 

1.誤った情報を生成してしまう（ハルシネーション）

まず挙げられるのは、誤情報を生成してしまうリスクです。これは「ハルシネーション（幻覚）」と呼ばれる現象で広く認識されています。

生成AIが誤情報を出力してしまうのは、学習データにWeb上のさまざまな情報が含まれているためです。Web上には誤った内容やデータを発信している記事も無数に存在します。

生成AIがそういった誤情報を学習していると、架空の人物や企業を生み出したり、事実に基づかない統計データや報告書を生成したりする可能性があります。

実際、2024年5月にGoogleが発表した生成AIを活用した検索サービス「AIオーバービュー」では多くのハルシネーションが発生して波紋を呼びました。

同ツールは、文章で質問や悩みを入力すると、生成AIが回答をまとめてくれます。

しかし、ピザにチーズをくっつける方法として接着剤を勧めてきたり、キリスト教徒であるオバマ元大統領をイスラム教徒と紹介したり……と誤った情報ばかりが表示されたとのことです。

参考：グーグル 生成AI活用した新たな検索サービスで誤情報が表示｜NHK

また、対話型の生成AIツールChatGPTを開発するOpenAI社に対して、ユーザーが名誉毀損で訴訟を起こした事例もあります。自分が”詐欺と横領の罪を犯した人物”としてデタラメな情報を生成されたとのことです。

参考：ChatGPTが告訴状を「偽造」 米男性、名誉毀損でオープンAI提訴｜Forbes
JAPAN

このように、生成AIの出力情報は100％正しいとは言い切れません。

誤情報をそのまま資料や記事に載せてしまうと、企業や個人の信頼を大きく損ねる原因になります。出力結果には常に疑いの目を持つことが大切です。

 

2.ディープフェイクによる偽情報を鵜呑みにしてしまう

生成AIの出力結果に疑いの目を向けるべきなのは、ツールの利用者だけに限った話ではありません。

生成AIの出力結果にハルシーネーション（誤情報生成）の可能性がある以上、情報を受け取る側の人間もコンテンツに対して疑問を持つ必要があります。

中でも、実在する人物や風景にそっくりな画像を生成する「ディープフェイク」には注意しなければなりません。近年の生成AIは技術が発展しすぎたゆえに、悪用されるケースも増えています。

例えば、2022年9月26日、Twitter（現：X）に突然「水害」の画像が投稿されました。画像は衝撃的な場面として瞬時に拡散されたのですが、実際は生成AIで作られた巧妙な偽画像だったようです。

参考：「マジで悲惨すぎる…」被災の画像、実はディープフェイクだった 高まる生成AIの悪用懸念にどう向き合う？｜Yahoo!ニュース

また、ディープフェイク技術を活用した詐欺事件も増えています。

香港では、会計担当者がビデオ会議で最高責任者（CFO）を装った人物に騙されて、約38億円を詐欺グループに送金した事例があります。

会計担当者は当初、極秘送金が必要と告げられたことに詐欺の疑いを持っていました。しかし、ビデオ会議に出席する数人が声も顔も知っている同僚そのものであったことから、詐欺に対する疑念を捨てたとのことです。

参考：会計担当が３８億円を詐欺グループに送金、ビデオ会議のCFOは偽物
香港｜CNN.co.jp

このように、生成AIの技術を悪用する事例は世界各国で広まっています。自身が活用するだけでなく、日頃の情報収集においても警戒心を持つことが重要です。

 

3.個人情報や機密情報が流出してしまう

生成AIを活用する際は、セキュリティリスクにも気をつける必要があります。というのも、生成AIツールは、入力した情報を学習データとして利用する・履歴として一定期間保存する場合があるからです。

つまり、以下のような情報漏えいのリスクがあります。

• 入力情報が第三者の出力結果に表示される場合がある
• サイバー攻撃によって情報を抜かれる場合がある

実際、2023年3月に、ChatGPTで一部のユーザーに他人のチャット履歴が表示されるといったバグが発生しています。

参考：ChatGPTで個人情報漏えい OpenAIが原因と対策を説明｜ITmedia NEWS

また、サムスン電子では、従業員が社内の機密コードをChatGPTに誤ってアップロードし、情報を流出させてしまった事例もあります。

参考：サムスン、ChatGPTの社内使用禁止 機密コードの流出受け｜Forbes JAPAN

最近は「入力データを学習させない設定」「チャット履歴を保存しない設定」ができるサービスも増えていますが、すべての生成AIサービスが対応しているわけではありません。

さらに、誤って情報をアップロードしてしまってから「履歴の保存を無効」に設定しても、古い履歴まで削除されるかは不透明です。

企業の機密情報や顧客の個人情報などが流出すると、ビジネスにおいて甚大な被害となります。大きく信頼を失うことになるため、情報の管理は徹底しましょう。

 

4.著作権や肖像権などの法的権利を侵害してしまう

生成AIの学習データには、著作物や人物が写ったコンテンツが含まれていることが多いです。そのため、意図せずに類似コンテンツを生成してしまい、著作権や肖像権などの権利侵害となる可能性があります。

実際、米国ではニューヨーク・タイムズが「自社の記事を許可なく学習に使用された」として、生成AIを開発するOpenAIとマイクロソフトの2社を著作権侵害で提訴しました。

参考：米NYタイムズ、OpenAIを提訴 記事流用で数千億円損害｜日本経済新聞

また、OpenAIの開発するChatGPTが、人気作家の著作物を許可なく学習に使用したとして、原作者が訴訟を起こした事例もあります。

参考：『ゲーム・オブ・スローンズ』原作者らがOpenAIを著作権侵害で提訴｜Forbes
JAPAN

これらは、生成AIを開発する企業に対する訴訟事例ではありますが、ツールによっては「権利侵害について責任は負わない」と明記している場合もあります。

つまり、生成AIによる権利侵害で訴訟を起こされた場合、そのツールを使用した企業・個人が訴えられる可能性もゼロではありません。

よって、生成AIによって作られたコンテンツを商用利用する場合には、権利侵害に気をつける必要があります。

 

5.出力結果に偏りが生まれてしまう

生成AIは、蓄積された学習データに基づいて最適解を導き出す仕組みです。そのため、学習データに偏りがあると、出力結果にも偏りが生まれてしまいます。

このデータの偏りによる失敗は、アマゾン社の事例が有名です。

同社では採用活動を効率化させるために、生成AIを用いた採用システムを導入していました。システムに過去10年分の履歴書を学習させることで、応募者を自動振り分ける仕組みです。一見、有効な手法に思えるでしょう。

しかし、実際に使用したところ、欠陥が判明したことにより運用停止となりました。なぜなら、女性差別を生んでしまったからです。

過去10年間にわたって提出された履歴書のほとんどが男性だったため、生成AIは「男性を採用するのが好ましい」と認識してしまったのです。

参考：焦点：アマゾンがAI採用打ち切り、「女性差別」の欠陥露呈で｜Reuters

他にも、Apple社が自社ブランドのクレジットカード作成をしたところ、ユーザーから「男女で利用限度額が異なる」と指摘された事例もあります。

ユーザーの指摘によると、夫妻で同じ口座・クレジットカードを使用しているにもかかわらず、夫が妻よりも利用限度額を高く設定されたとのことです。

これは生成AIの学習プログラムに、性別による偏見が反映されたものと考えられています。

参考：アップルのクレジットカードが「性差別」か 米当局が調査｜BBC NEWS

このように生成AIに学習させるデータに偏りがあると、出力結果にも偏りが生まれてしまいます。生成AIの出力データを過信するのは禁物です。

 

生成AIの利用で気をつけたいリスク対策7選

生成AIにはさまざまなリスクが存在するため、利用する際はリスクマネジメントをしなければなりません。

ここからは、生成AIの利用で気をつけたいリスク対策を7つ紹介します。

1. 出力結果の事実確認を徹底する
2. AIで生成されている旨を明記する
3. 個人情報や機密情報の入力は避ける
4. 入力データを学習させない設定をする
5. セキュリティ強度の高いツールを利用する
6. 権利侵害における責任の所在を確認する
7. 従業員のAIリテラシー教育を整備する

 

1.出力結果の事実確認を徹底する

生成AIの出力結果をそのまま使用すると、誤情報の拡散や権利侵害のリスクがあります。そのため、生成AIで作成したコンテンツは、必ず人間の目で事実確認をしましょう。

具体的には、以下の通りです。

• 情報のソースを特定する
• 信頼できる情報サイトと照らし合わせる
• 複数人で二重チェックをする
• 専門家に監修を依頼する

最近では「出力結果の情報源を明記する」「指定した情報源だけを参考にして回答する」といった生成AIも登場してきています。

そういった信頼性の高いツールを活用しながら、誤情報のないコンテンツを生成していきましょう。

 

2.AIで生成されている旨を明記する

ハルシネーションや権利侵害のリスクは、人間の目によるチェックで防げます。

とはいえ、人間のチェックにも限界があります。完全にすべての誤りを正せているかの判断は難しいでしょう。

そのため、生成AIによってコンテンツ作成をした場合は、その旨を注意書きとして明記するのがおすすめです。

「生成AIにより作成」などと記載することで、読み手にどのような手法で作成したコンテンツであるかを伝えられます。

大前提として、注意書きをしているからと言って、誤情報を発信してはいけません。生成AIの明記は、最低限の対策としては有効です。

 

3.個人情報や機密情報の入力は避ける

生成AIには、情報漏えいのリスクがあります。

入力情報を学習させない設定ができるツールも増えていますが、外部ツールに個人情報や機密情報を入力するのは危険です。

また、利用履歴を削除する機能を設けるツールも増えていますが、これも安心はできません。多くの場合、不正利用の有無を調べるために「一定期間保存した後に削除する」という仕様になっているからです。

このように、ツール側の設定で対策していても情報漏えいのリスクは少なからずあります。したがって、万が一でも漏れて困る情報の入力は避けましょう。

 

4.入力データを学習させない設定をする

先ほどお伝えしたように、生成AIには「入力データを学習させない設定」を備えているツールもあります。

生成AIに入力データを学習されると、第三者の出力結果に反映されるリスクがあるため、学習機能は無効化しましょう。

完全に情報漏えいのリスクが消えるわけではありませんが、最低限のセキュリティ管理として重要な行動です。

 

5.セキュリティ強度の高いツールを利用する

生成AIの情報漏えいを防ぐには、セキュリティ強度の高いツール選定も大切です。

具体的には、以下の項目に目を向けましょう。

• データの暗号化
• アクセス制御
• プライバシー保護
• オプトアウト（学習の無効化）

近年は無料ツールも増えていますが、セキュリティ機能が制限されているのが一般的です。よって、重要な業務でAIを活用するのなら、有料ツールをおすすめします。

 

6.権利侵害における責任の所在を確認する

生成AIツールを選ぶ際は、権利侵害における責任の所在を確認することも重要です。

多くの生成AIツールでは、著作権や商標権などの権利侵害で訴えられた際に、開発者側で法的責任を負うことを明記しています。

しかし中には、利用者の自己責任と記載されていたり、商用利用の範囲が指定されていたりする場合もあります。

トラブルが発生してから「知らなかった」では許されないため、権利侵害の責任はどこにあるのかは確認しておきましょう。

 

7.従業員のAIリテラシー教育を整備する

企業が生成AIを導入する際は、組織全体で使い方やリスクを共有する必要があります。

そのためには、従業員のAIリテラシー教育を整備することが大切です。特にDX化を進める企業は、社員全員が生成AIを正しく活用できないと業務効率化を実現できません。

近年は、政府もAIリテラシー教育の重要性を説いており、eラーニングコンテンツを提供する企業も増加しています。教育コンテンツを活用することで、社内に効率よく知識を広められるでしょう。

また、リスクを軽減するには、社内でガイドラインを策定するのも効果的です。「入力してはいけない情報」や「出力結果の取り扱い方法」などを記載することで、どの従業員が対応してもリスクを最小限に抑えられます。

生成AIのガイドラインは、日本ディープラーニング協会が公開する「生成AIの利用ガイドライン」を確認しながら制作するとよいでしょう。

 

生成AIはリスクだけじゃない！適切に活用する3つのメリット

生成AIにはさまざまなリスクが存在するため、活用に尻込みする方も多いかもしれません。

しかし、生成AIはリスクマネジメントさえ徹底すれば、ビジネスシーンに革新をもたらす存在になります。

ここからは、生成AIを活用するメリットをあらためて確認していきましょう。

1. 作業時間を大幅に削減できる
2. より優れたアイデア創出につながる
3. 人手不足や属人化を解消できる

 

1.作業時間を大幅に削減できる

生成AIは、文章・画像・音声・動画など、さまざまなコンテンツを自動生成できます。

技術が発展した昨今では、人間が生み出したコンテンツと見分けがつかないほどの品質で生成可能です。よって従来の作業時間を大幅に削減できるでしょう。

もちろん、ハルシネーションや権利侵害などのリスクがあるため、出力結果をそのまま使用するのはおすすめしません。とはいえ、人間は多少の修正や確認をするだけで済みます。

業務の自動化で浮いた時間を他の業務にあてれば、さらなる生産性向上が期待できるでしょう。また残業時間が減ることで、ワークライフバランスの維持もできます。

なお、以下の記事では、生成AIで効率化できる業務や成功事例を詳しく紹介しています。興味のある方は、ぜひ参考にしてみてください。

内部リンク

AIで業務効率化を実現！短縮できる業務や成功事例・代表的なツールを紹介

 

2.より優れたアイデア創出につながる

生成AIは、人間が処理しきれないほど膨大なデータ量を蓄えています。質問や相談をすることで、自分ひとりでは考えつかないアイデアを提供してくれるかもしれません。

例えば、新商品の企画をする際、対話型の生成AIにキーワードを伝えれば、市場状況や過去の成功パターンなどからニーズを分析・予測して、いくつかの提案をしてくれます。

「AIに頼る必要はない」と感じる方もいるかもしれません。とはいえ、斬新なアイデアは、思い込みや先入観があると生まれにくいものです。

子供や別業界の人物からの言葉にハッとさせられることが多いように、思考の偏りがない客観的なアドバイスを受けることで、スムーズにアイデアを生み出せるでしょう。

 

3.人手不足や属人化を解消できる

生成AIは、データ入力や決まった回答をする問い合わせ対応など、パターン化された業務を自動化できます。

そういった自動化できる業務を生成AIに代替することで、人手不足の解消が可能です。

これまで担当していた従業員は、アイデア創出や高度なコミュニケーション業務に時間をあてられるため、少人数でも生産性アップが期待できるでしょう。

また、優れたノウハウを持つ熟練社員のスキルを生成AIに学習させることで、業務の属人化解消にもつながります。営業活動の戦略立案や製造業の検査工程など、属人化しやすい仕事にこそ生成AIの導入は有効です。

 

まとめ：生成AIはリスクを理解して適切に活用しよう

生成AIは便利な存在ではありますが、ハルシネーション（誤情報生成）や権利侵害など、さまざまなリスクが存在します。

とはいえ、ビジネスにおいて業務効率化やアイデア創出に役立つのは間違いありません。人手不足が叫ばれる昨今、生成AIを適切に活用できるかどうかが、将来の明暗を分けるといっても過言ではないでしょう。

生成AIはリスクを理解して活用すれば、強力なビジネスサポートツールになります。ぜひこの機会に生成AIの活用を検討してみてください。