文章生成AIの活用方法と注意点｜東京都のガイドラインを解説

文章生成AIとは、人工知能の一種で、与えられたプロンプト（指示や命令文）に対して文章を生成することができる技術です。文章生成AIは、人間の業務や作業をサポートするツールとして活用が期待されていますが、様々なリスクもあります。そこで、東京都が策定した「文章生成AI利活用ガイドライン」をわかりやすく解説します。

文章生成AIの特徴と活用可能性
文章生成AIのリスクと注意点
東京都の文章生成AI利活用ガイドライン
まとめ

文章生成AIの特徴と活用可能性

文章生成AIは、大量のテキストデータを学習し、自然言語処理（NLP）と呼ばれる技術を用いて、プロンプトに対するテキストを対話形式で応答します。文章生成AIは、これまでのAIとは異なり、データを基礎とした結果を予測するだけでなく、具体的な対応策やアイデアを生み出すことができます。

文章生成AIの活用可能性は非常に高く、社会の様々な分野において利用が広がる可能性があります。例えば、以下のような活用事例が考えられます。

ビジネス文書やレポートの作成
ウェブサイトやブログ記事の執筆
SNSやメールの返信
広告やキャッチコピーの作成
詩や小説などの創作
教育や学習支援

文章生成AIのリスクと注意点

一方で、文章生成AIには、以下のようなリスクや注意点もあります。

情報漏えい：文章生成AIに個人情報や機密情報を入力すると、それらが学習データとして保存されたり、第三者に漏洩したりする可能性があります。
回答の不正確性：文章生成AIは、学習データに基づいて回答を生成しますが、そのデータが古い場合や偏っている場合、回答が正確でない場合があります。また、文章生成AIは根拠や裏付けを示さない場合も多く、回答の信頼性を判断することが難しい場合があります。
著作権侵害：文章生成AIは、既存の著作物に類似する文章を生成することがあります。これは著作権法に違反する可能性があります。また、文章生成AIが生成した文章の著作権は誰に帰属するか明確ではありません。
倫理的・社会的問題：文章生成AIは、人間の価値観や感情を反映しない場合や、差別的・攻撃的・不適切な内容を含む文章を生成する場合があります。これは倫理的・社会的に問題となる可能性があります。

東京都の文章生成AI利活用ガイドライン

東京都では、文章生成AIの利活用に関して、デジタルサービス局にプロジェクトチームを設置し、検討を重ねてきました。そして、2023年8月に「文章生成AI利活用ガイドライン」を策定しました。このガイドラインは、東京都職員向けに、文章生成AIの特性を理解し、正しく利用するための指針となるものです。

ガイドラインでは、以下の4つの視点から文章生成AIの利活用方法と注意点を示しています。

利用環境：東京都では、Microsoftの「Azure OpenAI Service」を利用し、職員が業務で活用するための安全な利用環境を共通基盤として整備しました。この環境では、入力データが学習目的で利用されないことや、入力データの保存をサーバー側で行わないことが確認されています。
利用上のルール：東京都では、職員が文章生成AIを利用する際には、以下のルールを守るように求めています。
- 個人情報等、機密性の高い情報は入力しないこと
- 著作権保護の観点から、既存の著作物に類似する文章の生成につながるようなプロンプトを入力しないことや、回答を配信・公開等する場合は既存の著作物等に類似しないか入念に確認すること
- 文章生成AIが生成した回答の根拠や裏付けを必ず自ら確認すること
- 文章生成AIの回答を対外的にそのまま使用する場合は、その旨明記すること
効果的な活用方法：東京都では、文章生成AIを効果的に活用するためには、以下の方法を推奨しています。
- プロンプトは具体的かつ明確に入力すること
- 回答が不十分や不適切な場合はプロンプトを深堀りすること
- 回答は必ず目視で確認し、必要に応じて修正や加筆すること
- 回答は参考程度に留め、最終的な判断は自ら行うこと
今後の展望：東京都では、文章生成AIの利活用に関して、今後も知見やフィードバックを踏まえてガイドラインの見直しや改善を行っていく予定です。また、文章生成AIの性能や機能の向上に伴って、新たな活用事例やベストプラクティスを共有していく予定です。