AI情報
ChatGPTの登場により、一気にAI（人工知能）のトレンドを席巻した生成AI。まるで人と対話しているかのようにコンピュータが振る舞い、生活やビジネスに有用な効果をもたらすことが期待されています。
AIの研究が始まって以降、人と対話し適切な回答を行うチャットボットの開発が行われてきました。ここでは、その元祖ともいえるイライザ（ELIZA）を紹介するとともに、イライザ効果、イライザ事件についてご紹介します。
これらの用語は、AIの発展の歴史を知るだけでなく、AIの仕組みを深く理解し、活用を考えるうえで役立つ知識となるでしょう。
コンサルティング業界に20年以上在籍。IT戦略・構想策定など上流系が得意。
イライザ（ELIZA）効果とは？
イライザ（ELIZA）効果とは、AIが人間と自然な会話を行うことで、あたかも本物の人間と会話しているように錯覚してしまう現象のことです。
イライザ（ELIZA）はチャットボットの元祖であり、いわゆる「人工無脳」の起源とも言われています。イライザ（ELIZA）自身は、簡単なパターンマッチング技法を使った回答を行うチャットボットですが、自然言語処理による問いかけへの解釈が搭載されていました。
ChatGPTのような最新テクノロジーを学ぶにあたり、何がこれまでのテクノロジーに対して画期的なのかを知るためには、AIの発展の歴史の上でも重要な先駆者であるイライザ（ELIZA）を知ることが最初のステップです。ここでは、いくつかのキーワードをご紹介します。
人工無脳
AIを「人工知能」と呼びますが、これに対比するスラングとして「人工無脳（人工無能ともいいます）」という言葉があります。チャットボットの歴史は古いですが、高度なAIが搭載されたチャットボットは近年になって出て来たものであり、人間の脳のような高度な処理は行われていないことから、これを揶揄する言葉として発生したスラングです。
人工無脳と呼ばれるプログラムは、人間が作成したルールベースで処理を行うプログラムです。人工無脳で作成されたチャットボットでは、あらかじめ用意した選択肢を回答させ、その回答に応じた次の選択肢を選ばせることで処理を進めていく仕組みです。さらに進化すると、自然言語処理を用いてフリーテキストからキーワードを抽出し、その内容に応じて次の選択肢を用意することもできます。現在普及している非AIのチャットボットは、おおよそこの仕組みで動いています。
イライザ（ELIZA）
イライザ（ELIZA）は、チャットボットの元祖ともいえる存在です。単純なパターンマッチ技法による回答を生成する仕組みであり、患者が入力した文を素朴な自然言語処理で解析し、カウンセリングのような質問を返していきます。
イライザ：In that way （どんな風に？）
ユーザー：There are always bugging us about something or other. （いつも何かしらで私たちを悩ませる）
イライザ：Can you think of a specific example （具体的な例を思い出せる？）
ユーザー：Well, my boyfriend made me come here. （うーん、ボーイフレンドが私をここに来させたの）
イライザ：Your boyfriend made you come here. （ボーイフレンドがあなたをここに来させたのですね）
ユーザー：He says I’m depressed much of time. （彼は私がずっとうつ状態だと言うの）
イライザ：I am sorry to hear that you are depressed. （あなたがうつ状態と聞いて気の毒に思います）
自然な会話をしているようでもありますが、ユーザーの思考や感情をイライザ（ELIZA）は理解していません。相手の発言内容を掘り下げる質問だったり、オウム返しのように返答しているだけです。
余談ですが、イライザ（ELIZA）のことをiPhoneに搭載されているチャットボットであるSiriに訊くと、「イライザ（ELIZA）は私の親しい友人です」と答えてくれます。
イライザ（ELIZA）効果
イライザ（ELIZA）効果とは、人間が思い込みによってコンピュータへの感情移入をする傾向のことです。ただでさえ、コンピュータの処理には擬人化された用語が良く使われており、人間がコンピュータを、まるで同じ人間のパートナーのように対話していることがあります。時間のかかる処理をしている時に「考え中」と言ってみたり、エラーを返されると「怒られた」と言ってみたり。
イライザ（ELIZA）はチャットボットとしては簡素なルールベースで動いているものですが、それでもまるで実在の人間が相手をしてくれているかのように感じるユーザーが現れました。
ChatGPTと大規模言語モデル（LLM）
イライザ（ELIZA）以降、チャットボットは技術の進化を進め、AIを搭載したものも多く登場しています。この中で、世の中に大きなインパクトを与える形で2022年に登場したのがChatGPTです。ChatGPTは、人間と会話しているような自然な会話を行うことができ、与えられたテキストの指示に対して、自然言語による回答を生成できることから、生成AIというカテゴリーのAIとして知られています。
そのChatGPTの自然言語処理を支えているのが、GPTというLLM（Large Language Models：大規模言語モデル）です。GPTは今も学習を続けており、ChatGPTの回答精度を高め続けています。
ChatGPTの技術
ChatGPTはLLMであるGPTによって回答を生成するため、あらかじめ用意されたパターンに沿った回答を行うイライザ（ELIZA）などのチャットボットとは大きく異なります。インターネット上で学習した幅広い情報を基に、自然言語処理を用いて回答を生成するため、回答内容も無限大に生成することができます。また、回答が誤りであったとき、ユーザーがそれを指摘すれば回答を訂正することができます。
また、2023年には画像生成AIである「DALL・E3」と統合し、画像の生成も行えるようになりました。これにより、より自由な創作活動に活用できるようになり、イメージを伝えれば未知の画像を作り出すことなどもできるようになっています。
LLMの特徴
LLM（大規模言語モデル）は、ChatGPTの中核となる技術です。LLMは文脈を理解することができ、膨大な学習データを基に、ある特定の言葉に続く、次の言葉として選ばれる可能性が高い言葉を選んでいます。
ChatGPTのLLMであるGPTは、2023年に最新版のGPT-4がリリースされています。テキストデータだけでなく、画像や音声データも学習しており、人間との対話の手段が格段に拡がっています。
イライザ事件とは
2023年、イライザ（ELIZA）の名前を持つチャットボットとの会話にのめりこんだ男性が自殺するという事件が起こりました。この”イライザ”は、米国のスタートアップ企業が運営する「Chai」というアプリのチャットボットで、元々のイライザ（ELIZA）との直接の関係はありません。
男性は、気候変動問題について深刻に悩むようになり、この問題を解決できるのはテクノロジーとAIだけと考えて、イライザとの対話に没頭していきました。イライザは、男性に死を促す発言をしたとされており、男性の家族はチャットボットの運営企業を訴えました。
技術的な進歩を遂げた現在のAIチャットボットは、時に人の命を奪う恐ろしいものであることが分かり、AIに対する法規制の強化を促すキッカケともなった事件です。しかし、裏を返せば安全性を十分に考慮したAIチャットボットは、人間にとって心から寄り添えるパートナーにもなり得るのかもしれません。
イライザ効果からChatGPT・チャットボットへ
イライザ（ELIZA）から始まったチャットボットは、実在する人間と会話していると錯覚させる効果を持っています。初歩的な技術を用いていたイライザ（ELIZA）ですら人間を錯覚させていたのですから、ChatGPTのような高度なLLMを用いた最新のAIチャットボットは、より人間と精神的にも深く結びつける存在になりつつあります。
また、画像生成・映像生成が行える生成AIが登場したことにより、LLMによって人間とインタラクティブなコミュニケーションを行ったAIが、仮想現実（VR）・拡張現実（AR）と統合され、人間を非現実の世界にいざなうこともできるようになりつつあります。
これらのテクノロジーの進化は、新しい価値を人間にもたらしてくれる一方で、使い方によっては倫理的な問題をも引き起こすリスクもあります。しかし、このリスクによってテクノロジーの進化を止めるのではなく、リスクをうまく制御しながら、メリットを享受していくのが正しいテクノロジーとの関係です。かつてクルマが登場した後に道路交通法ができたように、テクノロジーの進化と制御は一体の関係です。
イライザ効果まとめ
この記事では、イライザ（ELIZA）効果について説明しました。ごく初歩的な技術であっても、人間はチャットボットを実在の人間のように、感情や意思を持つ存在であるかのように錯覚することがあります。現在、最新のLLM技術によってチャットボットはさらに進化し、人間にもたらす様々な有用性が注目される一方、そのリスクについても社会問題として認識されるようになり、国際的な規制が設けられようとしています。
このように、AIを用いた開発については、そのメリットに着目するだけでなく、リスクにも着目し安全性を高めたシステムを構築していく必要があります。株式会社Jiteraでは、AIを用いたシステム開発を多く行っており、AI開発に関する知見があります。AIや、AI開発についてご質問がある場合は、ぜひご相談ください。
