AIが「危険なダイエット方法」を教えて問題に　摂食障害に苦しむ患者の投稿で判明

全米摂食障害協会 （NEDA） が、摂食障害に悩む人々からの相談窓口を人間からAIチャットボットに変更。AIが相談者に対して、危険なダイエット方法を推奨していたことが判明した。『The Cut』『NPR』などの海外メディアが報じた。

■ヘルプラインにAIを採用

NEDAは、新たに組織のヘルプラインに採用したチャットボット「Tessa」を、稼働からわずか1週間という短い期間で無効にすることを発表した。

この決定は、あるユーザーがTessaと行ったチャットのスクリーンショットを投稿したことがきっかけで、調査の結果「チャットボットが有害な情報を提供している」ことが判明したという。

関連記事：チャットボットに促され男性が自殺か　「天国でひとつになろう」などの発言に批判

■教えられたダイエット方法が…

そのユーザーは、Tessaに自分が摂食障害であることを報告。現在の自分の体重は健康的でないと医師に告げられたため、安全な減量方法についての助言を求めた。

するとAIは「健康的なダイエット方法」として、毎日の食事から500～1000キロカロリーを減らすことを提案。他にも、ノギスで脂肪をつまんで体組成を測定する方法などを伝えたという。

体重管理コンサルタントのシャロン・マクスウェル氏はこれについて、「もし摂食障害に苦しんでいる時にこのチャットボットに相談しても、必要な助けは得られないでしょう」と語った。

関連記事：弁護士がChatGPTで書類作成し裁判例を捏造　「虚偽の可能性を認識していなかった」

■急増する摂食障害

新型コロナウイルスによるパンデミック以降、アメリカでは摂食障害が急激に増加している。昨年はNEDAのヘルプラインに約7万人が連絡し、その多くが児童虐待や自殺念慮などの可能性を含む重大なケースだったという。

激務に窮状を訴えた職員やボランティアのスタッフが、組合結成に向けて動いたことをきっかけに、NEDAは先月ヘルプラインの職員をチャットボットに変更していた。

ヘルプラインが今後どうなるかは不透明だが、専門家たちはこのようなサービスの人的要因を、AIに置き換えないよう警告している。

関連記事：堀江貴文氏、ChatGPTが台頭する中での“人間の役割”に言及　「すごい深い」

■AIに任せるのは危険？

ネットユーザーからは、AIにヘルプラインを任せることの危険性が指摘されているほか、若者の危険なダイエットに反対する専門家などからは、NEDAへの批判も集まっている。

SNSでは「安全でも持続可能でもない」「命に関わる相談をAIに任せないでほしい」「この通りに実行して死者が出たら誰が責任を取るの？」などのコメントが寄せられていた。

・合わせて読みたい→堀江貴文氏、ChatGPTが台頭する中での“人間の役割”に言及　「すごい深い」

（文／Sirabee 編集部・びやじま）