生成AIとは

生成AIは、大量のデータから学習したパターンをもとに、文章・画像・音声・動画・プログラムのコードなどを新しく作り出す AI のことです。文章を扱う生成AIの多くは、LLM（大規模言語モデル）を使っています。

主な使われ方

• 文章の作成・要約・翻訳、問い合わせへの回答
• プログラムのコードの作成やレビュー、不具合の調査
• 画像やイラストの生成
• 社内の文書を検索して答える仕組み（RAG）
• 作業を自律的に進める AIエージェント

使うときの注意点

• 事実と違う内容をもっともらしく出力することがある（ハルシネーション）。重要な内容は一次情報で確かめる
• 入力した情報が、サービスの学習やログに使われることがある。機密情報や個人情報を入力してよいか、利用規約や設定を確認する
• 会社が把握していない生成AIの利用（シャドーAI）が、情報漏えいのきっかけになることがある
• 生成AIを組み込んだアプリケーションでは、プロンプトインジェクション などの新しいリスクへの対策が必要になる

関連用語

LLM、プロンプト、RAG、AIエージェント、ハルシネーション