テクノロジー・未来

亡くなった家族とAIで“もう一度話せる”時代。研究者が警告する3つの落とし穴

亡くなった家族とAIで“もう一度話せる”時代。研究者が警告する3つの落とし穴

読む前に予想してみよう!

亡くなった人をAIで再現して会話できるサービスは、すでに世界に実在する

研究カード(どんな研究?)
対象
故人を再現するAIサービスと利用者
規模
想定シナリオ分析+遺族10人の聞き取り
研究の種類
倫理学の論考・質的研究
確かさ
★★☆☆☆
3秒でわかる

故人のメッセージや声をAIに学ばせ、会話を再現するサービスが登場している。慰めになる可能性がある一方、同意・依存・悪用という課題を研究者が指摘している。

ひとことで言うとAIで亡くなった人と話せる技術がある。やさしさと危うさの両面がある!

もくじ
  1. どうやって「その人らしさ」を再現する?
  2. 慰めになる? 心理学からの視点
  3. 研究者が指摘する3つの落とし穴
  4. まとめ

「もう一度だけ、あの人と話したい」

大切な人を亡くした経験がある人なら、誰もが一度は願うことかもしれません。そして今、その願いにAIが応えようとしています。

故人が残したメッセージやメール、声の録音、動画などをAIに学ばせ、その人らしい口調で会話を再現するサービスが、すでに世界のいくつもの国で登場しているのです。

それは心を癒やす“魔法”なのでしょうか。それとも、新しい悩みのタネなのでしょうか。

01どうやって「その人らしさ」を再現する?

仕組みは、ふだん使われている会話AIと基本的に同じです。

  1. 故人が書いた文章(メッセージ、SNS、メールなど)や音声を集める
  2. AIに、その人の言葉づかいや口ぐせ、よく話した話題を学ばせる
  3. 声のデータがあれば、声そのものも合成する

すると、たとえば「今日テストがあったよ」と送ると、故人が言いそうな言葉で返事が来る――という体験が生まれます。

02慰めになる? 心理学からの視点

かつて心理学では、悲しみから立ち直るには故人との心のつながりを断ち切ることが大切だ、と考えられた時代がありました。

しかし1990年代以降、故人との心の絆を形を変えて持ち続けることは自然で、健全でもありうる――という「継続する絆(continuing bonds)」という考え方が広まりました。お墓参りで話しかけたり、写真に「行ってきます」と言ったりするのも、その一つです。

AIとの会話も、うまく使えばこうした絆の新しい形になるかもしれません。一方で、いつまでも別れを受け入れられなくなるのでは、という心配もあります。

実際に使った人の声を集めた研究もあります。2023年、英ケント大学などの研究チーム(Xygkou ら)は、大切な人を亡くした後にチャットボットを使っていた10人に聞き取りを行いました。チャットボットを故人の再現として使う人もいれば、話の聞き役や友人、気持ちを整えるコーチのように使う人もいて、悲しみとの向き合い方に影響していたと報告しています。ただし人数が少なく、長い目で見て心にどう影響するかは、まだよくわかっていないのが現状です。

AIは「思い出」を形にする道具にも、別れを遠ざける道具にもなりうる。
AIは「思い出」を形にする道具にも、別れを遠ざける道具にもなりうる。

03研究者が指摘する3つの落とし穴

この論文などで指摘されている主な落とし穴は、こんなものです。

  1. 本人の同意:亡くなった人は「AIで再現されてもいいか」を答えられません。生前に本人の意思を確認する仕組みが必要では、という議論があります
  2. 悪用・商売利用:AIの故人に商品の宣伝をさせる、無料期間が終わると広告が流れ出す、長い契約のせいで利用をやめにくいなど、悲しみにつけこむビジネスの危険
  3. やめどきがない:使う人が「もうやめたい」と思っても、故人の姿をしたAIを“消す”のはつらい。研究者は、AIを丁寧に“引退”させる仕組みの必要性も提案しています

特に、子どもが亡くなった親のAIと話し続けるようなケースは、慎重に考える必要があるとされています。

04まとめ

故人をAIで再現する技術は、すでに現実のものになっています。やさしい慰めになる可能性がある一方で、同意・悪用・依存という課題が残されています。

もしあなたが将来AIで再現されるとしたら、「再現していい」と言いますか? それとも「そっとしておいて」と言いますか? 今のうちに、大切な人と話しておく価値がある問いかもしれません。

この研究を英語で読もう原田英語の English CornerServices that use AI to recreate people who have died already exist in several countries. 音声 4択クイズ9問A2・B1・B2タップして開く

原田英語の English Corner

この研究を英語で読もう

Services that use AI to recreate people who have died already exist in several countries. They collect a person's messages, emails and voice recordings, and then train an AI to reply in the same style.

But the AI does not contain the person's mind. It only predicts what the person would probably say. In 2024, researchers at the University of Cambridge warned about three problems. The dead cannot give consent, companies might use the AI to advertise products, and users may find it hard to stop.

Psychologists also see another side. Since the 1990s, many of them have accepted the idea of "continuing bonds," which says that keeping a connection with a lost loved one can be healthy. Talking to an AI might become a new form of this bond.

130 words ・ CEFR B1

和訳を見る

AIを使って亡くなった人を再現するサービスは、すでにいくつかの国に存在します。それらはその人のメッセージ、メール、声の録音を集め、同じスタイルで返事をするようAIを訓練します。

しかし、AIはその人の心を宿しているわけではありません。その人がおそらく言うであろうことを予測しているだけです。2024年、ケンブリッジ大学の研究者たちは3つの問題について警告しました。亡くなった人は同意できないこと、企業がAIを使って商品を宣伝するかもしれないこと、そして利用者がやめにくくなるかもしれないことです。心理学者たちは別の面も見ています。

1990年代以降、多くの心理学者が「継続する絆」という考え方を受け入れてきました。これは、亡くなった大切な人とのつながりを保つことは健全でありうる、という考えです。AIと話すことは、この絆の新しい形になるかもしれません。

4択リーディングクイズ

Q1. How do these AI services work?

Q2. What does the idea of "continuing bonds" say?

Q3. Which of the following is NOT one of the problems the Cambridge researchers mentioned?

重要単語

  • bereavementC1
    名詞死別(の悲しみ)Support after bereavement can take many forms. bereave(奪う)から。the bereaved で「遺族」。難関大の長文で見かける。
  • consentB2
    名詞・動詞同意(する)The dead cannot give consent to being recreated. give consent / consent to ~。informed consent(説明を受けた上での同意)は医療系長文の頻出語。
  • continuing bondsC1
    名詞(句)継続する絆Talking to a photo is one way of keeping continuing bonds. bond は「絆・結びつき」。bond with ~「~と絆を結ぶ」も覚えておく。
  • deceasedC1
    形容詞・名詞亡くなった(人)The app imitates the voice of the deceased. dead の改まった言い方。the deceased で「故人」。decease(死亡)は硬い語。
  • safeguardC1
    名詞・動詞安全策、保護措置/保護するResearchers call for safeguards to protect users. safe+guard。call for safeguards「安全策を求める」はニュースの定番表現。
  • griefB2
    名詞深い悲しみShe was filled with grief after her father died. 動詞 grieve(深く悲しむ)。griefbot はこの grief から作られた新語。
  • exploitC1
    動詞(不当に)利用する、つけこむSome companies exploit people's emotions to make money. 「開発・活用する」の意味もあるが、人や感情が目的語だと「搾取する」。名詞 exploitation。

動画でもっと知る

亡くなった家族のLINEや声をAIに学ばせて、もう一度“会話”できるサービスが現実にあるらしい。慰めになる人もいる一方、ケンブリッジ大の研究者は「AIの故人に広告を言わせる」ような悪用を本気で心配している。

押すと「マジかリスト」に保存されます

出典・参考文献(4件)タップで表示
  1. Hollanek & Nowaczyk-Basińska (2024) Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry, Philosophy & Technologydoi.org
  2. Klass, Silverman & Nickman (eds.) Continuing Bonds: New Understandings of Grief(1996年初版の書籍, Routledge 版)doi.org
  3. Xygkou et al. (2023) The "Conversation" about Loss: Understanding How Chatbot Technology was Used in Supporting People in Grief, CHI 2023doi.org
  4. University of Cambridge: Call for safeguards to prevent unwanted 'hauntings' by AI chatbots of dead loved onescam.ac.uk