亡くなった家族とAIで“もう一度話せる”時代。研究者が警告する3つの落とし穴

読む前に予想してみよう!
亡くなった人をAIで再現して会話できるサービスは、すでに世界に実在する
文章や音声、映像をもとに故人の話し方をまねるサービスが複数登場している。
- 対象
- 故人を再現するAIサービスと利用者
- 規模
- 想定シナリオ分析+遺族10人の聞き取り
- 研究の種類
- 倫理学の論考・質的研究
- 確かさ
- ★★☆☆☆
故人のメッセージや声をAIに学ばせ、会話を再現するサービスが登場している。慰めになる可能性がある一方、同意・依存・悪用という課題を研究者が指摘している。
ひとことで言うとAIで亡くなった人と話せる技術がある。やさしさと危うさの両面がある!
「もう一度だけ、あの人と話したい」
大切な人を亡くした経験がある人なら、誰もが一度は願うことかもしれません。そして今、その願いにAIが応えようとしています。
故人が残したメッセージやメール、声の録音、動画などをAIに学ばせ、その人らしい口調で会話を再現するサービスが、すでに世界のいくつもの国で登場しているのです。
それは心を癒やす“魔法”なのでしょうか。それとも、新しい悩みのタネなのでしょうか。
01どうやって「その人らしさ」を再現する?
仕組みは、ふだん使われている会話AIと基本的に同じです。
- 故人が書いた文章(メッセージ、SNS、メールなど)や音声を集める
- AIに、その人の言葉づかいや口ぐせ、よく話した話題を学ばせる
- 声のデータがあれば、声そのものも合成する
すると、たとえば「今日テストがあったよ」と送ると、故人が言いそうな言葉で返事が来る――という体験が生まれます。
02慰めになる? 心理学からの視点
かつて心理学では、悲しみから立ち直るには故人との心のつながりを断ち切ることが大切だ、と考えられた時代がありました。
しかし1990年代以降、故人との心の絆を形を変えて持ち続けることは自然で、健全でもありうる――という「継続する絆(continuing bonds)」という考え方が広まりました。お墓参りで話しかけたり、写真に「行ってきます」と言ったりするのも、その一つです。
AIとの会話も、うまく使えばこうした絆の新しい形になるかもしれません。一方で、いつまでも別れを受け入れられなくなるのでは、という心配もあります。
実際に使った人の声を集めた研究もあります。2023年、英ケント大学などの研究チーム(Xygkou ら)は、大切な人を亡くした後にチャットボットを使っていた10人に聞き取りを行いました。チャットボットを故人の再現として使う人もいれば、話の聞き役や友人、気持ちを整えるコーチのように使う人もいて、悲しみとの向き合い方に影響していたと報告しています。ただし人数が少なく、長い目で見て心にどう影響するかは、まだよくわかっていないのが現状です。

03研究者が指摘する3つの落とし穴
この論文などで指摘されている主な落とし穴は、こんなものです。
- 本人の同意:亡くなった人は「AIで再現されてもいいか」を答えられません。生前に本人の意思を確認する仕組みが必要では、という議論があります
- 悪用・商売利用:AIの故人に商品の宣伝をさせる、無料期間が終わると広告が流れ出す、長い契約のせいで利用をやめにくいなど、悲しみにつけこむビジネスの危険
- やめどきがない:使う人が「もうやめたい」と思っても、故人の姿をしたAIを“消す”のはつらい。研究者は、AIを丁寧に“引退”させる仕組みの必要性も提案しています
特に、子どもが亡くなった親のAIと話し続けるようなケースは、慎重に考える必要があるとされています。
04まとめ
故人をAIで再現する技術は、すでに現実のものになっています。やさしい慰めになる可能性がある一方で、同意・悪用・依存という課題が残されています。
もしあなたが将来AIで再現されるとしたら、「再現していい」と言いますか? それとも「そっとしておいて」と言いますか? 今のうちに、大切な人と話しておく価値がある問いかもしれません。
この研究を英語で読もう原田英語の English CornerServices that use AI to recreate people who have died already exist in several countries.
音声
4択クイズ9問A2・B1・B2タップして開く
原田英語の English Corner
この研究を英語で読もう
Some new AI services let people "talk" with family members who have died. The AI learns from the person's old messages and voice recordings. Then it answers in a similar way. This may comfort some people.
But the AI does not have the person's mind or memories. It only guesses what the person might say. Researchers also worry that companies could use these services to sell things.
67 words ・ CEFR A2
和訳を見る
新しいAIサービスの中には、亡くなった家族と「話す」ことができるものがあります。AIはその人の昔のメッセージや声の録音から学びます。そして、似たような話し方で答えます。これは一部の人を慰めるかもしれません。
しかしAIは、その人の心や記憶を持っているわけではありません。その人が言いそうなことを推測しているだけです。研究者たちは、企業がこうしたサービスを物を売るために使うかもしれないことも心配しています。
4択リーディングクイズ
Q1. What is the passage mainly about?
亡くなった人の話し方をまねるAIサービスとその課題が主題なので D。
Q2. What does the AI learn from?
The AI learns from the person's old messages and voice recordings. とあるので A。
Q3. In this passage, "comfort" means ...
comfort は「慰める」。悲しい人の気持ちを楽にする、という意味なので B。
Services that use AI to recreate people who have died already exist in several countries. They collect a person's messages, emails and voice recordings, and then train an AI to reply in the same style.
But the AI does not contain the person's mind. It only predicts what the person would probably say. In 2024, researchers at the University of Cambridge warned about three problems. The dead cannot give consent, companies might use the AI to advertise products, and users may find it hard to stop.
Psychologists also see another side. Since the 1990s, many of them have accepted the idea of "continuing bonds," which says that keeping a connection with a lost loved one can be healthy. Talking to an AI might become a new form of this bond.
130 words ・ CEFR B1
和訳を見る
AIを使って亡くなった人を再現するサービスは、すでにいくつかの国に存在します。それらはその人のメッセージ、メール、声の録音を集め、同じスタイルで返事をするようAIを訓練します。
しかし、AIはその人の心を宿しているわけではありません。その人がおそらく言うであろうことを予測しているだけです。2024年、ケンブリッジ大学の研究者たちは3つの問題について警告しました。亡くなった人は同意できないこと、企業がAIを使って商品を宣伝するかもしれないこと、そして利用者がやめにくくなるかもしれないことです。心理学者たちは別の面も見ています。
1990年代以降、多くの心理学者が「継続する絆」という考え方を受け入れてきました。これは、亡くなった大切な人とのつながりを保つことは健全でありうる、という考えです。AIと話すことは、この絆の新しい形になるかもしれません。
4択リーディングクイズ
Q1. How do these AI services work?
They collect a person's messages, emails and voice recordings, and then train an AI とあるので B。
Q2. What does the idea of "continuing bonds" say?
keeping a connection with a lost loved one can be healthy とあるので A。
Q3. Which of the following is NOT one of the problems the Cambridge researchers mentioned?
3つの問題は同意・宣伝への利用・やめにくさ。料金の高さは挙げられていないので C。
Some companies now sell griefbots, AI systems trained on a dead person's messages, emails and voice recordings. What once belonged to science fiction is a commercial product. Technically, a griefbot works much like an ordinary chatbot. It produces what the person would plausibly have said, which is different from what the person actually thought, and it may talk confidently about things the person never knew.
Do such bots help people who are grieving? Nobody can say yet. Since the 1990s, psychologists working with the idea of continuing bonds have argued that keeping up a relationship with the dead can be healthy, and talking to an AI might be a new version of that.
Critics worry that the same tools could stop people from accepting their loss. Evidence from actual users is thin. A 2023 study interviewed only ten bereaved people. In 2024, two Cambridge researchers used imagined scenarios to study the ethics of these services. They pointed to three risks.
The dead cannot consent, companies might exploit grief by having a digital parent advertise products, and users may find it hard to switch the bot off. Their proposed safeguards include respectful ways to "retire" a bot.
196 words ・ CEFR B2
和訳を見る
いくつかの企業が今、「グリーフボット」を販売しています。故人のメッセージ、メール、声の録音で訓練されたAIシステムです。かつてはSFの中のものだったものが、商品になっているのです。技術的には、グリーフボットは普通のチャットボットとほぼ同じ仕組みで動きます。
その人が言いそうだったことを生成しますが、それはその人が実際に考えていたこととは別物で、本人が知らなかったことを自信たっぷりに話すこともあります。こうしたボットは悲しみの中にいる人の助けになるのでしょうか。今のところ誰にも分かりません。
1990年代以降、「継続する絆」という考え方に立つ心理学者たちは、故人との関係を保ち続けることは健全でありうると主張しており、AIと話すことはその新しい形かもしれません。批判的な人々は、同じ道具が人々に死を受け入れさせなくするのではないかと心配しています。実際の利用者から得られた証拠は乏しく、2023年の研究が聞き取りを行ったのは遺族わずか10人でした。2024年、ケンブリッジ大学の2人の研究者は、想定シナリオを使ってこれらのサービスの倫理を検討しました。彼らは3つのリスクを挙げました。
故人は同意できないこと、デジタルの親に商品を宣伝させるなどして企業が悲しみにつけこむかもしれないこと、そして利用者がボットを止めにくくなるかもしれないことです。彼らが提案した安全策には、ボットを丁寧に「引退」させる方法などがあります。
4択リーディングクイズ
Q1. According to the passage, what does a griefbot actually produce?
It produces what the person would plausibly have said, which is different from what the person actually thought とあるので C。
Q2. How did the Cambridge researchers study the ethics of griefbots?
two Cambridge researchers used imagined scenarios to study the ethics とあるので D。実証研究ではない点に注意。
Q3. Why does the author say evidence from actual users is "thin"?
直後に A 2023 study interviewed only ten bereaved people. とあり、利用者研究が小規模であることが理由なので D。
重要単語
- bereavementC1名詞死別(の悲しみ)Support after bereavement can take many forms.
bereave(奪う)から。the bereaved で「遺族」。難関大の長文で見かける。 - consentB2名詞・動詞同意(する)The dead cannot give consent to being recreated.
give consent / consent to ~。informed consent(説明を受けた上での同意)は医療系長文の頻出語。 - continuing bondsC1名詞(句)継続する絆Talking to a photo is one way of keeping continuing bonds.
bond は「絆・結びつき」。bond with ~「~と絆を結ぶ」も覚えておく。 - deceasedC1形容詞・名詞亡くなった(人)The app imitates the voice of the deceased.
dead の改まった言い方。the deceased で「故人」。decease(死亡)は硬い語。 - safeguardC1名詞・動詞安全策、保護措置/保護するResearchers call for safeguards to protect users.
safe+guard。call for safeguards「安全策を求める」はニュースの定番表現。 - griefB2名詞深い悲しみShe was filled with grief after her father died.
動詞 grieve(深く悲しむ)。griefbot はこの grief から作られた新語。 - exploitC1動詞(不当に)利用する、つけこむSome companies exploit people's emotions to make money.
「開発・活用する」の意味もあるが、人や感情が目的語だと「搾取する」。名詞 exploitation。
動画でもっと知る
動画は各チャンネルの公式埋め込みで表示しています(YouTube)。
この話題を TED で聞く
同じテーマの TED・TED-Ed を、
TED HACK で。英語の見どころ・使える表現・学習ミッションつきの日本語ガイドです。(運営:原田英語)
公式・一次情報をチェック
このネタ、誰かに教えたくなった?
亡くなった家族のLINEや声をAIに学ばせて、もう一度“会話”できるサービスが現実にあるらしい。慰めになる人もいる一方、ケンブリッジ大の研究者は「AIの故人に広告を言わせる」ような悪用を本気で心配している。
押すと「マジかリスト」に保存されます
出典・参考文献(4件)タップで表示
- Hollanek & Nowaczyk-Basińska (2024) Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry, Philosophy & Technologydoi.org
- Klass, Silverman & Nickman (eds.) Continuing Bonds: New Understandings of Grief(1996年初版の書籍, Routledge 版)doi.org
- Xygkou et al. (2023) The "Conversation" about Loss: Understanding How Chatbot Technology was Used in Supporting People in Grief, CHI 2023doi.org
- University of Cambridge: Call for safeguards to prevent unwanted 'hauntings' by AI chatbots of dead loved onescam.ac.uk
※本記事は上記の研究・公開資料をもとに、原田英語が独自の言葉で解説したものです。引用は著作権法第32条の範囲で行い、出典を明記しています。画像はすべてオリジナルのイメージです。研究結果には限界や個人差があります。誤りのご指摘は原田英語のお問い合わせフォームから。









