ChatGPT
ChatGPTは従来のチャットボットとは異なり、人間に近い話し言葉での自然な会話が可能なOpenAI社によるAIチャットサービスです。
主に文書の要約や計算、ソースコードの生成といった定型的なタスクの高速処理を得意としています。一方で、参考にしているデータや回答の正確性、プライバシー・セキュリティ面に関しては、使い方次第でリスクとなるケースも少なくありません。
そこで本記事では、ChatGPTの危険性や問題点、メリット・デメリット、注意点などを中心に詳しく解説しています。すでにChatGPTを業務で活用されていたり、ChatGPTの導入をご検討されている方はぜひご一読ください。
新卒でITエンジニアとして3年ほど勤務した後、現在はフリーエンジニアの傍、IT分野を中心にライターとしても活動中です。歴代のクライアント様からは癖が無く読みやすい文章であると評価をいただいております。
社内でChatGPTに関する調査をした結果
ソフトウェア開発のプロセスを自動化する開発プラットフォーム「Jitera」を提供する株式会社Jitera（本社：東京都渋谷区、代表取締役：栁澤 直）は、20~50代のエンジニアを対象に「ChatGPTに関する調査」を実施し、529名に回答いただきました。
本セクションでは、さまざまな企業で働くエンジニアのChatGPTの活用・連携の状況や、生成AIを導入する際の課題に関するアンケートの調査結果を紹介していきます。
現場のITエンジニアのChatGPTに対する認識の度合いや活用の実態を把握できますので、ChatGPTをこれから業務の中に組み込んでいきたい方はぜひお役立てください。
7割以上が自社サービスとChatGPTを連携させたいと回答
自社サービスにChatGPTやその他LLM、生成AIと呼ばれる技術を連携及び活用したいか尋ねたところ、7割以上が連携させたいと考えていることがわかりました（n=282 / ChatGPTが関与しうるサービスに携わっているエンジニア）
サービス連携で心配なこと 1位「セキュリティやプライバシーの問題」2位「開発予算」3位「コーディングの工数」
自社サービスにChatGPTやその他LLM、生成AIと呼ばれる技術を連携及び活用する際にどのようなことが心配か尋ねたところ、「セキュリティやプライバシーの問題」が66.1%で最も多く、「開発にかかる予算」が41.0%、「コーディングの工数」が38.3%と続きました（n=227 / 自社サービスとChatGPTを連携させたいエンジニア）
＜自社サービスとChatGPTを連携させたくないと回答した理由＞（n=55）
・セキュリティ面が不安：47.3%
・精度が不安：36.4％
・費用がかかるため：16.4%
・開発工数がかかるため：5.5%
・必要性を感じない：30.9%
サービス連携の課題は「セキュリティ面」「精度の向上」など
自社サービスにChatGPTやその他LLM、生成AIと呼ばれる技術を連携及び活用する際にどんな課題があるか尋ねたところ、「セキュリティ面」が43.9%で最も多く、「精度の向上」が41.6%と続きました（n=529）
＜ChatGPTやその他LLM、生成AIの活用メリット＞（n=529）
コスト削減：47.6%
ユーザーエクスペリエンスの向上：33.3%
顧客満足度の向上：20.8%
その他：2.1%
メリットはない：32.5%
【調査概要】
調査名称：ChatGPTに関する調査
調査機関：FASTASK
調査対象：全国の20~50代のエンジニア
調査方法： Webアンケート
調査期間：2023年3月20日〜2023年3月23日
有効回答数：529件
各回答項目の割合（%）は、端数処理の関係上、合計が100%にならない場合があります。
■調査結果の引用時のお願い
本調査内容を転載・ご利用いただく場合は、出典元の表記をお願いします。
例：「Jiteraの調査によると」「Jitera調べ」など
サービス連携の課題は「セキュリティ面」「精度の向上」などが挙げられ、ChatGPTや、その他LLM、生成AIの活用メリットは「コスト削減」「ユーザーエクスペリエンスの向上」などという結果が出ました。
やはり、セキュリティ面で不安を感じる人が多くいるようです。
そこでここからは、ChatGPTの危険性・デメリットについて見ていきましょう。
ChatGPTの危険性・デメリットとは？
ChatGPTは学習済みのデータを基に自然な文章で回答を生成できるので、実際のビジネスシーンでも情報収集や業務の効率化を目的として活用され始めています。
しかし、違和感のない日本語であったとしても、ChatGPTが返す内容をそのまま鵜呑みにしてはいけません。必ずしも正しいデータや解釈を基にして回答しているとは限らないためです。ChatGPTを正しく使えるようになる第一歩として、ChatGPTの危険性や問題点を知っておく必要があるでしょう。
そこで本セクションでは、ChatGPTの回答内容の妥当性や信頼性を中心に、ChatGPTを使用する際の危険性について詳細に解説していきます。
同じ質問でも回答内容が異なる場合がある
ChatGPTに対して一字一句同じ質問を何回行っても、全く同じ回答は返ってきません。原因の一つとしては、多くの可能性を考慮して会話を生成するという生成AIの特性が挙げられるでしょう。
ChatGPTは前後の文脈から次に続く単語や文章が出現する確率を推測して、その確率に基づいて質問の度に選択肢を変えています。
たとえば、「朝食のメニューを考えてください」と聞くと、その質問の前にダイエットの話をしていたら健康的なメニューが、筋トレの話をしていたらタンパク質の多いメニューが優先的に提示されるようになります。
また、同じ文脈での質問でも、文章の表現を変えたり別の視点からアプローチをした回答を行う場合もあるので、本当に欲しい回答がいつでも得られるとは限りません。
巧妙な不正メールの作成が懸念される
日本語や英語の自然な文章の生成やソースコードの生成が可能であることを悪用する例が増加しています。特に、信頼できる組織や個人を装って送信されるメールには注意が必要です。
手口としては、AmazonやAppleといった大企業を装って、ユーザー情報の変更やアンケート回答を求めるメールが届き、メール内のリンクを踏むと本物そっくりの偽サイトに飛びます。
そのサイトでログイン情報やカード情報を入力すると情報を何者かに盗まれて、不正利用などの被害を受けるという流れです。
今まではメールの文面の不自然さがありましたが、ChatGPTでは上記のような本物と見分けがつかないフィッシングメールを簡単に生成できてしまうので、悪用のリスクが懸念されています。
個人情報の取扱に注意
人間と違ってChatGPTは指示内容の善悪を判断できません。指示さえ行えば、先述したようなフィッシングメールや偽サイトの文章やコードを生成してしまうので、ChatGPTが犯罪行為に使われる可能性があります。
また、ChatGPTはユーザーから与えられた情報を蓄積して学習を行います。つまり入力された情報は一旦データベースに保存されるため、機密情報や個人情報を書き込むと第三者に漏洩するリスクも少なくありません。
さらに、ChatGPTはインターネット上に公開されているコンテンツを基に学習しているため、無意識のうちに著作権で保護された作品を模倣する可能性があります。そのため、生成されたコンテンツがなんらかの権利を侵害していないかチェックする必要があるでしょう。
情報が正確ではない危険性がある
ChatGPTは人間を超える処理能力で回答を弾き出せますが、生成した回答の内容が常に正しいとは限りません。
無料版(CPT-3.5)のモデルは2021年9月、有料版(GPT-4)のモデルは2023年4月までのデータを学習して回答しています。しかし、ChatGPTはあたかも最新かつ正しい情報であるかのように回答を行う場合もあるため注意が必要です。
有料版の方はWebブラウジングを行いながら回答できる機能が現在は搭載されているので、ある程度情報の正確性がありますが、読み込んだWebページの情報が誤っている可能性もあります。
そのため、ChatGPTから得られる回答は鵜呑みにせず、あくまでも参考程度の情報として扱いましょう。
法律相談や税務相談など専門家でも意見が別れる分野は回答できない
AIは大量のデータからパターンを学習して回答を生成するため、特定の事例に対する微妙なニュアンスや最新の法律改正、裁判例などに基づく専門的判断を提供することは困難です。
法律や税務といった専門分野は、地域や時間、個々の置かれている状況によって適切なアドバイスが大きく変わります。
仮に質問を行う現時点での最新情報を学習できたとしても、国家資格を持つような専門家の間でも意見が分かれる事象は、インターネット上の情報を広く浅く学習する現在のChatGPTには難しいでしょう。
ChatGPTを情報収集の出発点として利用するのは有益ですが、最終的にアドバイスが必要な場合には実際の専門家への相談が必要になります。
プログラムコードを全て任せて良いかは疑問がある
ChatGPTの有料版には「Code Interpreter」という機能が搭載されており、ソースコードの生成・実行が可能です。そのため、プログラミング知識が無くてもコードを生成できますが、生成されたコードの品質や適切さを評価するためにはある程度の知識や経験が必要になります。
プログラミング未経験者や開発経験が不十分な方が、ChatGPTが生成したコードをそのまま使用すると予期しないバグやセキュリティの脆弱性が生じるリスクがあります。
したがって、ChatGPTのコード生成の機能は学習ツールとして利用したり、経験者のレビューを受けながらコードをブラッシュアップしていくことが重要です。
ChatGPTのメリット
ChatGPTは回答内容の正確性やプライバシー面を始めとするデメリットだけではなく、メリットも数多く存在しています。事務作業や情報収集など、一定のルールに基づいて決まった作業を継続的に行うことは人間にとって苦痛になりがちな業務ですが、ChatGPTが最も得意とするタスクの一つです。
「データが古いから使えない」、「思い通りの回答が出ないから使えない」と決めつけずにデメリットとメリットのバランスを考えて、結果としてメリットをより多く享受できるように活用していく必要があります。
本セクションでは、ChatGPTのメリットや強みを中心に、実際の用途についても詳しく解説していきます。
事務作業を効率化できる
ChatGPTは時間を要する定型的な作業を自動化できるので、作業の速度と精度が向上します。メールの返信や定型文の作成、文章の要約、顧客サポートやFAQ作成など、活用できる範囲は多岐に渡っています。
従来は手作業で行っていた業務を自動化できれば、人手不足の解消につながります。ChatGPTの導入で時間の余裕が生まれることで生産性の高い業務やスキルアップにリソースを割けるようになり、従業員の成長と企業の競争力の両方を高められるでしょう。
さらに、コスト面でも経費削減が可能になるので、他の事業投資や福利厚生に追加で予算を割り当てれば、企業そのものの市場価値が急激に高まります。
情報収集するツール
ChatGPTはインターネット上に存在する膨大なデータを学習しているため、幅広い分野の知識を持っています。特に、一般的な知識の概要を得たい場合や、あるトピックに関する基本的な背景情報を集める際に強みが発揮されるでしょう。
たとえば、特定の歴史的事件についての概要や数学の公式の説明、プログラミング言語の基本的な文法、一般的に販売されているツールの使い方に関しては、正確で迅速な回答が可能です。
上記のように、より一般的で普遍的な情報は学習済みデータに含まれているので、学習やビジネスの情報収集の初期段階としてのChatGPTは非常に有用なツールです。
プログラミング支援やコーディングツール
プログラマーとしてコードを書いた経験があれば、ChatGPTはプログラミングを支援するツールとして非常に役立ちます。
プログラミングの知識が無くてもプロンプトは書けますが、生成されたコードの品質やセキュリティ面は担保できないため、問題点を見抜いて開発環境に合った適切なコードに修正することが求められます。
そもそもプログラミングを始めるためには開発環境の構築も必要なので、未経験者がChatGPTをプログラミングのツールとして利用するのは難しいでしょう。
プログラミングやAI開発の知識がある方はChatGPTをはじめとするAIの性能を意図的に高めることも可能です。詳細な方法については以下のリンク内の記事をご参照ください。
ChatGPTの危険性・デメリットの解決方法は？
回答内容の正確性や妥当性、セキュリティ・プライバシー面での危険性はありますが、それらを解決できる方法はいくつか存在します。
ChatGPTはすでに学習済みのデータだけではなく、ユーザーのプロンプトやインターネット上の最新情報を与えたときも学習を行って、自らの回答の精度を上げていきます。
しかし、ただ闇雲に情報を与えれば良いのではありません。ChatGPTが回答を生成しやすいように、与える情報のジャンルや行わせるタスクの範囲を絞る必要があります。そして、回答を得た時は内容を人間の目でチェックすることも大切です。
そこで本セクションでは、ChatGPTの能力を安全かつ最大限に引き出す方法について詳しく紹介していきます。
ほかの情報も参考にする
ChatGPTから得られた回答は最新の情報に基づいていない可能性もあるので、必ず他の情報源とも照らし合わせてチェックすることが重要です。
最新の論文や公式ドキュメント、専門家が出版する書籍など、さまざまなデータや実績を基に公的機関が発表している情報は一般的に信頼性が高いと考えられています。
たとえば、ChatGPTが提供したある医療情報について確認する際には、まず最新の医療研究論文、医療専門家のブログ、公的機関のガイドラインを参照するという形です。
複数の情報源から得られた情報に一貫性があり、ChatGPTによる回答も一致している場合は、その回答内容の信憑性も高いと言って良いでしょう。
個人情報や機密情報を入力しない
ChatGPTを使用する際には個人情報や機密情報を入力しないよう心がけましょう。入力した情報は特定のセキュリティのルールに従ってある程度の保護はされますが、完全な安全性の保証は困難です。
ChatGPTはOpenAIというアメリカの民間企業が運営するサービスなので、ChatGPTに入力するプロンプトの情報はOpenAIに無償で情報を渡すことを意味すると言っても過言ではありません。
そのため、ChatGPTでは情報の特定化を避けて一般的な表現を使った文章を入力しましょう。たとえば、特定のプロジェクトに関連するコードやエラーメッセージの詳細を書かずに、エラーの種類や一般的な原因を質問すると、情報漏洩リスクを抑えつつ有益な回答を得られます。
人の目でチェックする
100%正しい回答をChatGPTに出力させることに時間を割かずに、生成された回答を人間の目で改めてチェックするという方法も有効です。
特に、最新情報かどうか、文脈や倫理の観点で問題ないかどうかを判定する際は、現在のChatGPTよりも人間の方がはるかに優れています。
たとえば、コードを生成させたときは先輩や上司に、インターネット上に公開する記事の文章を生成させたときは自分自身で何回もチェックするなどして、複数人または複数回によるチェックを習慣化させるという形です。
ChatGPTは大まかな内容や土台を作る叩き台としては非常に優秀ですが、細部は人間の手による修正がまだまだ必要になってきます。
活用方法を限定する
ChatGPTは狭い範囲よりも広く一般的な内容の回答を生成させる方が精度が高いですが、プロンプトの中で行わせるタスクを限定させるとより効果を発揮します。
たとえば、SEO記事の作成で文章の生成をすべて任せるのではなく、自分で書いた文章の誤字・脱字が無いかどうかチェックさせるという形です。
他にも、コンテンツのアイデア出しや翻訳、キーワード調査、他ツールとの連携による業務効率化を任せることも有効です。
また、「GPTストア」から特定の用途に向けて作成されたプラグインをダウンロードすることで、指定したURLやPDFファイルの読み込みなど、通常のChatGPTではこなせない作業を遂行してくれます。
ChatGPTに仕事が奪われる危険性は？
先述のとおり、ChatGPTは定型的なタスクが得意なので、決まった手順に沿った作業を繰り返し行うような業務が中心の仕事はあと数年でChatGPTに置き換わってしまう可能性は少なくありません。
一方で、今後さらにChatGPTの性能が進化したとしても、人間にしかできない業務を行う仕事も数多くあります。そのため、ChatGPTに代替できない部分を持っている職業は、ChatGPTに任せられる業務と任せられない業務を切り分けることで、より生産性の高い業務に集中できるでしょう。
本セクションでは、ChatGPTに奪われる可能性がある職種と奪われない職種の例やその理由について解説していきます。
仕事が奪われる可能性がある職種
ChatGPTはマニュアルに沿って作業できる定型的なタスクを得意としているため、カスタマーサポート、翻訳、データ入力をはじめとする仕事はその大部分を今後奪われてしまう可能性が少なくありません。
カスタマーサポートでは、よくある質問への回答の提供や初歩的な問題の解決方法の提示についてはすでにChatGPTによって行われ始めています。翻訳に関しても、一般的な文書やシンプルな会話を大量かつ高精度で自動的に翻訳したり、データ入力業務でも同様に大量の情報を入力・反映させる部分はAIが担うようになります。
上記のような職種がChatGPTに代替されていくと、人間はより創造的な仕事やAIを管理する業務にシフトしていくでしょう。
奪われない仕事
一方で、ChatGPTがビジネスシーンで普及しても奪われない仕事は存在しています。代表的な職種としては、カウンセラーや医師が挙げられます。
カウンセラーは相談者の人間関係や深い感情に関する悩みの解決を導いていきますが、現在のChatGPTはテキストベースで与えられたデータに基づいて回答するだけなので、人の感情を推しはかる能力はありません。
医師は人体についての膨大な知識と経験から、患者に対して適切な治療法を施す仕事です。ChatGPTは病気そのものに対する一般的な説明は可能ですが、患者に手術や薬の処方を直接行うことはできません。
人間の感情が複雑に絡み合ったり、国家資格レベルの知識と経験を要する職種がChatGPTに置き換わる可能性は非常に低いと言って良いでしょう。
ChatGPTの危険性・デメリットまとめ
ChatGPTは自然な文章での会話が可能で、定型的な作業を大量かつ高速に行える便利なツールです。しかし、使い方によっては希望通りの回答がなかなか得られなかったり、個人情報の漏洩のリスクも少なくありません。
そのため、ChatGPTの得意・不得意を把握してすべてのタスクを任せるのではなく、あくまでも一部分に限定して活用していきましょう。
また、普段からコードを書くエンジニアを抱えるIT企業でも、ChatGPTを自社サービスと連携している会社は全体の1割にも満たず、セキュリティ面での懸念が多いようでした。
それでも生成AIで生産性を上げたいと考えている企業は多く、専門家に相談しながら導入していくことが重要です。
ChatGPTのようにAIを使ったプログラミングに関してご不明点やお困りのこと、ご依頼等がございましたら実績豊富な株式会社Jiteraに一度以下のリンクからご相談ください。
貴社の要件に対する的確なアドバイスが提供されると期待できます。
