『この1冊でしっかりわかる Geminiの教科書』 佐倉井 理冴 著
[Reading Journal 2nd：読書日誌]
Appendix：安全なAI利用のために知っておきたいこと
本書の最後にAppendixとして、GeminiなどのＡIを安全に使うための注意点（権利侵害・情報漏洩・バイアス・ハレーションなど）が述べられている。それでは読み始めよう。
生成AIを安全に使うためのポイント
生成AIを利用する際には、いくつか注意を払わないといけないリスクがぞんざいする。まずは、そのリスクについて概説する
- ライセンス：ITツールには、ユーザーが守らなければならいライセンスや利用規約が設定されている。
- 入力データの取り扱い：Webを介して利用できるITツールには、ユーザーからの情報流出リスクがある。
- 著作権：意図せずに生成したものでも既存の著作物に類似したものは、著作権侵害の可能性が出てくる。そしてＡＩ出力における責任は、主にユーザー側となる。
- バイアスとハルシネーション：ＡＩ出力にはバイアス（偏り）やハルシネーション（幻覚）がある。
生成AIサービスのライセンス
Googleでは、すべての生成ＡＩ機能に共通する「禁止事項」（違法行為の助長、危険行為や詐欺、差別・憎悪表現、著作物侵害、誤情報拡散など）を定めている。また、「個人向けGemini」「Ｇｏｏｇｌｅ Workspace版Gemini」「Labs」では異なるライセンス条項を定めていて、それぞれ
- 個人向けGemini：ユーザーの操作内容や履歴が保存され、一定条件下でモデル改善や品質評価に利用される。
- Workspace版Gemini：組織データが学習や入手レビューに使われないことが名言されている。
- Labs：実験的サービスの位置づけであるため、保存期間・機能・学習利用方針が変動しやすい
生成AIサービスへの入力情報の取り扱い
生成AIサービスでは、たとえ学習対象にならない場合でも、入力データは社外に送信される。そのため思わぬ形で社外へデータを流出させるリスクがある。
このようなリスクは、Google AIの場合、Google Workspace版のGeminiを使用することでライセンス限定（学習に利用されない）となり、流出リスクを下げられる。さらに、ユーザーができる対策として、入力情報のマスキングがある。
AIと法的リスク
AIの利用に関しても、従来の法律との関係がある。特に注目されるのが著作権法である。日本の著作権法では、「類似性」と「依拠性」が著作権侵害を判断する２つの柱とされる。生成AIの出力が偶然既存の著作物に似通ったとしても、それだけで直ちに侵害と判断されるわけではない。また、依拠性（既存の著作物をどの程度参照しているか）については、AI事態に意図や判断がないため、AIを操作しているユーザーの行為とみなされる。
AIを使用する場合の法律的問題は、著作権だけでなく、「著作権法上の翻案権・複製権」、「商標の侵害」、「不正競争防止法」などがある。
AIを使うこと自体が新たな法的リスクを生むわけでありませんが、その使い方次第で既存法に抵触する可能性が高まるという点を理解しておくことが重要です。（抜粋）
バイアスとハルシネーションの対策
バイアス（偏り）の問題は、ユーザー気づかないうちにもっともらしい偏った情報が出力されることである。これらは、AIモデルの学習データの偏りや、AIが参照する情報源が特定の言語や文化に偏っていることが原因である。
このバイアスは、ユーザーの文化的背景とのギャップから生まれるが、一方、その文化圏のユーザーにとっては自然で使いやすいものになる。大切なことは、複数の視点や情報源かを照らし合わせ、なぜその答えになったのかを考える習慣を持つことである。
ハルシネーション（幻覚）は、AIが実在しない情報を事実のように語ってしまう現象である。これは、質問があいまいな場合や、AIの学習範囲外に関する内容を尋ねた場合に発生しやすくなる。そのため、ハルシネーションを防ぐには、できるだけ具体的に質問することが大切である。また、ＡＩの回答をそのまま信用せず一次情報で確認することが重要である。
正しい情報にたどり着くために
ＡＩサービスに関するさまざまな情報がＷｅｂやＳＮＳ上で話題となっているが、正しい情報を得るためには、各サービスの公式ドキュメントを確認した方がよい。また、生成ＡＩの活用について、どのように考えて利用すべきかを示した資料も省庁から公開されている。そのようなものも参考にするとよい。
[完了] 全10回
コメント